校長ブログ
AIを考える②
2021.12.21
トレンド情報
12月21日
対話アプリLINEは、便利な面もある一方、チャットによるいじめなど、深刻な問題につながるケースが多いのもまた事実。プライバシー保護のため、メッセージのやりとりが暗号化され、外から把握できない仕組みになってはいるものの、実態として、内容確認は通報がある時の場合だけであり、不適切な投稿も表面化しにくくなっています。
現在、LINEではAIを使ったシステムに誹謗中傷などの禁止用語を登録しており、通報で禁止用語が確認されると投稿を自動的に非表示にする仕組みになっています。また、AIが判別できない場合には規約や法令違反を担当者が確認しています。
痛ましい事案としては、2018年、インドでチャットアプリ「ワッツアップ」に流れたデマが原因で殺人事件が起きました。インド政府はメッセージの発信源を調べるツールの開発を求め、新たなIT規制を設定、発信者の追跡を義務づけています。
近年、SNSやネット上の掲示板が普及した結果、見知らぬ者との対話が容易になったものの、個人情報の流出や不適切発言が増加しており、今、そのような投稿をAIで削除する動きが広がっています。
読者がコメントできるヤフーニュースは、行き過ぎた発言が一定量を超えると、AIが自動的にその投稿を非表示にする仕組みを導入しています。機能的には、AIに過去の投稿データを学習させ、人が不快と感じる投稿データを基に投稿記事を評価させ、グレーな投稿が続くとコメント欄を閉鎖させるというものです。
ヤフーニュースには1日約32万件のコメント投稿が集まるそうです。AIによる投稿監視によって、今年4～6月期には暴力に関連する投稿やヘイトスピーチは97%以上、テロ関連は99%が削除できたとのこと。一方、いじめや嫌がらせについては早期摘発が54%にとどまっているという課題もあります。
ネット企業に対し、投稿へのさらなる規制が求められる中、摘発基準の透明性が課題になっており、中立性を保つのは難しいという声もあります。基準が曖昧なまま閉鎖されれば、表現の自由にも抵触する可能性があります。今後、社会的責任と表現の場を確保するための効果検証がポイントになりそうです。