AIの偽映像が裁判の証拠になったら。OpenAI・Metaが語る真偽確認の難しさ

写真や音声、映像があれば、何が起きたのか分かる。生成AIの進歩は、そんな感覚を揺さぶっています。Investing.comは、OpenAIとMetaの担当者が米国の証拠規則委員会で、精巧なAI生成メディアと、見分ける技術の限界について警告したと報じました。

証拠を扱う場で、AI生成メディアを議論

米国裁判所の公式資料には、10月15日にボストンで開かれる会合と、ディープフェイクに関するパネルが掲載されています。登壇者にはOpenAIの政策担当弁護士Shira Anderson氏と、Metaの製品管理担当Devin Norder氏が含まれます。

当日の発言を伝えたInvesting.comによると、両社の担当者は、合成されたメディアが本物らしくなる一方、検出や来歴確認の仕組みも完全ではないと指摘しました。将来の見分けにくさについての見通しは、登壇者の評価です。あらゆる偽映像がすでに判定不能になった、という実証結果ではありません。

「AIの印がない」だけでは、本物と断定できない

AI生成物の確認には、生成時の情報や電子的な来歴を調べる方法と、内容そのものから生成された可能性を推定する方法があります。どの仕組みも、対応する形式やサービスなどの条件があります。

たとえばOpenAIの来歴確認は、対応する同社の生成物の信号を調べるものです。信号が見つからないことだけで、人が撮影したと証明できるわけではありません。逆に生成の来歴が分かっても、映っている出来事が事実か、説明された文脈が正しいかまで自動的に確定するものではありません。

生成方法の手掛かりと、出来事の真実性は別の問題です。検出ツールの結果だけで「本物」「偽物」を決められるとは限りません。

調査の「15人」は、偽物を確認した人数ではない

背景として、Federal Judicial Centerの裁判官調査があります。回答者全体は931人で、証拠がディープフェイクではないかという訴訟当事者の異議に接したと答えたのは15人。この設問への回答者は929人でした。

これは15件の偽映像が裁判で確認されたという数字ではありません。15人の裁判官がだまされた、という意味でもありません。本物の証拠がAIによる偽物だと疑われる可能性も含め、真偽を争う場面が生じていることを示します。

この調査は5月の資料に収録されており、10月に初めて実施された調査ではありません。

作る技術と、確かめる仕組みの両方が必要

証拠を扱う場では、検出結果に加え、入手元、作成や保管の経緯、ほかの資料との整合性などを確かめる重要性が増しています。精巧な生成物を見抜くことだけでなく、本物を本物として説明できる仕組みも問われます。

今回の会合は、AIによる映像生成を止めるという話ではなく、証拠の信頼性をどう扱うかという議論です。技術の進歩に合わせて、確認方法と手続きを整えることが求められています。