校長ブログ
偽動画を見破るAI
2022.08.25
トレンド情報
8月25日
ディープフェイクという偽動画への対策が進められています。米国ではIT大手が大学と連携して検出ソフトを、日本では、先般、東京大学がAIを訓練し、９割近く偽動画を見破る手法を開発しています。
中心になったのは東京大学准教授である山崎俊彦氏ら。検出技術は９割前後の精度を示し、最も判別が難しい指標でも７割以上とか...。具体的には、顔写真の色や画像のサイズを変えた画像を２枚作り、これを混ぜ合わせて見分けが難しい偽画像を合成。そして、AIに学習させることによって世界最高水準の検出を可能にしたのです。
米国では、メタがミシガン州立大学と協力し、100種類にも及ぶ作成手法から10万の偽画像を作り、有効性を確かめています。ディープフェイクでつくられた偽動画は、つなぎ目など不自然な点が残っていることが多いようですが、AIを検出技術にも活用することによってその対策も進化しています。また、最近ではITテクノロジーを駆使してビジネスを行なっている、いわゆるテック企業が連携して、偽動画の検出を競うコンテストなどが開催されています。
ディープフェイクは、通例、AI技術であるディープラーニング（深層学習）を使って作成されます。有名人などの顔が写った画像などを他人の顔に入れ替えることで、まるで本人が話しているような偽物の動画などを作成できるのです。
今、世界中で規制の動きが拡がっています。中国は顔や声などを編集する場合、対象となる人に通知し、同意を得ることを義務付ける規制案を公表しました。米国は用途を区切り、州単位で規制しています。EUは昨年、AIに関する規制案で、偽動画などを使う場合は人工的につくられたものであることを開示しなければならないとしています。
社会問題になる事例も増えています。米国では昨年、チアリーダーをする娘のライバルを陥れるため、飲酒や喫煙をしている偽動画をつくり、コーチらに送った女が逮捕されました。日本でも昨年、当時の官房長官が地震に関する記者会見で笑みを浮かべる偽画像がツイッターで拡散しました。
ディープフェイクは誰でも簡単に作成できるようになり、検知される偽動画は約数万件にのぼると言われます。見破る技術が上がれば、当然、作る側はそれを上回る技術を考えます。表裏一体の関係なのです。