OpenAIのtextGrainとは？ EU向け生成文の透かし、その対象と検出の限界

OpenAIは10月5日、EUのテキスト来歴ルールへの対応として、生成文に機械で検出できる信号を持たせる「textGrain」を発表しました。今後数週間にわたり、EUのChatGPTとCodexの対象テキスト出力へ導入します。ただし、AIが書いた文章を必ず見抜ける仕組みではありません。

見えない文字を入れるのではなく、単語の選び方に信号を持たせる

textGrainは、文章を生成するときの単語選択に統計的なパターンを加える仕組みです。読者に見えない文字や空白を挿入したり、文面の末尾に印を付けたりする説明とは異なります。人が読むときの自然さを保ちつつ、対応する検出器が生成の由来を確かめる手掛かりにします。

導入先としてChatGPTとCodexが挙げられていますが、これは両製品のあらゆる出力や、生成コードのすべてに透かしが付くという意味ではありません。公式Helpでは、200トークン未満の文章やコード片などは、EUのCode of Practiceにおける透かしの必須対象から除かれると説明しています。

EUで順次導入。APIでは任意に有効化

ChatGPTとCodexではEUの対象テキスト出力への導入を進め、APIでは一部の対応モデルで、地域を問わず任意に有効化する選択肢を用意します。既定では無効です。日本の一般ユーザーが作る文章に、発表当日から一律に付くと決まったわけではありません。

また、検出ツールは当面、承認された研究者や専門組織への提供に限る方針です。誰でも任意の文章を貼って正確に判定できる一般公開サービスが、この発表と同時に始まったわけではありません。

書き換えで検出が難しくなる

OpenAIの評価では、400トークンの英語の説明文を使った試験で、単語の25％を同義語へ置き換えると検出率が約92％から17％まで下がりました。これは特定の試験条件での結果であり、日本語やすべての文書に当てはまる精度保証ではありません。

文章の長さ、言語、書き換えなどによって検出のしやすさは変わります。透かしが見つからないことを「人間が書いた証拠」にしたり、検出結果だけで作者を断定したりする使い方には限界があります。来歴を確認する手掛かりと、内容が正しいかどうかの判断も別です。

画像には別の来歴確認の仕組みがある

OpenAIは画像について、Content CredentialsやSynthIDによる来歴の表示・検出にも取り組んでいます。今回テキスト用の仕組みが発表されたからといって、画像への対策がまだないわけではありません。

来歴を示す仕組みがあっても、画像や文章の内容そのものが事実かを保証するものではありません。何によって作られたかを確かめる材料を増やしながら、元の情報や文脈も確認する必要があります。