人々の意見や気持ちを形作る媒体は、マスメディアからSNSへと移行しています。その中で欺瞞・フェイクニュースを検出し、意図的な意見形成への影響を防ぐことは火急の対策を要する状況です。テキストメッセージは作成伝達のコストが低い一方で人々への影響力は大きく、我々の研究では自然言語処理による解析と人物属性の推測を基盤とし、最終的には世論形成過程のシミュレーションを目標としています。こうした取り組みを周辺関連技術の説明を交えてご紹介します。

本講演では、急速に進化するディープフェイクの現状とその社会的影響を解説し、計算社会科学の視点から対策を議論します。まず、最新のAI技術によるディープフェイクの生成とソーシャルメディアでの拡散の様々な事例とその背後にあるメカニズムについて解説します。さらに、ディープフェイクの検出技術の現状と課題、拡散抑止のための多様な介入方法を紹介し、技術的・社会的側面の両面からの対応策を議論します。

近年、自然災害や医療・選挙・経済などさまざまな分野で偽・誤情報がインターネットに流通し、大きな社会問題となっています。本講演では、インターネット上の真偽不明な情報に対処するために、富士通が研究開発に取り組んでいる、多様な根拠情報に基づく真偽判定技術について紹介します。また、2024年7月に「経済安全保障重要技術育成プログラム」に採択された、偽情報対策システムの研究開発について紹介します。

虚偽情報やディスインフォメーションへの対策が各国で急務となっている。国立研究開発法人科学技術振興機構（JST）社会技術開発センター（RISTEX）では、2023年度から「情報社会における社会的側面からのトラスト形成」プログラムを設定し、研究開発プログラムを募集している。デジタルトラスト、デジタル・ソーシャルトラストという概念自体に明確な定義や一般的な理解が存在するわけではなく、本プログラムでは、高度情報社会の進展が生む市民の不安や不利益等の社会問題について情報の受け手側と発信側、あるいは情報との間の「トラスト」形成の在り方の問題と捉えている。本稿では、デジタルトラスト、デジタル・ソーシャルトラストをめぐる近時の問題の中から、その一端である選挙に関連する問題を紹介し、米国等におけるディスインフォメーションやAI利用に関する法規制の動きについて検討する。