深刻な社会問題となっている「フェイクニュース」

2022年10月、米TeslaやSpace XのCEOとして知られるイーロン・マスク氏によるTwitterの買収が大きな話題を呼んだ。その後、Twitter社の従業員の大量解雇などが報じられ世間を騒がせ続けているが、中でも懸念の声が上がっているのが、経営方針の転換に伴うTwitter上での「フェイクニュース（真実に見せかけた虚偽情報）」の蔓延だ。以前からTwitter上では虚偽情報・デマや真偽不明な言説が拡散されやすく、その危険性が問題視されてきたが、この度の人員削減によりコンテンツのチェック体制が脆弱になり、より一層フェイクニュースの温床となってしまう可能性が指摘されている。 Twitter上に限らず、フェイクニュースの蔓延は今や深刻な社会問題の一つだ。

特に新型コロナウイルス感染症の流行以降は、「インフォデミック」の危険性も多く指摘されてきた。インフォデミックとは「情報の急速な伝染（Information Epidemic）」を意味する造語で、「信頼性の高い情報とそうではない情報が不安や恐怖と共に拡散され、人々が必要なときに信頼性の高い情報が見つけられなくなること」を指す。新型コロナウイルスを巡るデマや確証のない情報が世界中のブログやSNSで拡散され混乱を巻き起こしたことを受け、WHOは2020年に発行したレポートの中で、インフォデミックに対する警鐘を鳴らしている。 インターネット及びSNSの普及に伴い、誰もが大量の情報にアクセスしやすくなった一方、フェイクニュースや捏造されたコンテンツも爆発的に拡散しやすくなっているのが現状だ。AI技術の進化に伴い、「ディープフェイク」と呼ばれる非常に高精度な捏造動画も出回り始めている。 こうした状況下で、もちろん国家や企業もただ手を拱いているわけではない。フェイクニュースの蔓延を防ぐための国際的なルール形成が官民の双方で進みつつある。 

欧州では政府主導の下で法規制が進む

政府主導の法制化に関しては、多くの他分野と同様、やはり欧州が世界を先導している。EU理事会は、昨年10月に「デジタルサービス法案（DSA）」を正式に採択した。SNSや検索エンジン、オンラインのマーケットプレイスなど、EU域内でオンライン上の仲介サービスを提供する全事業者を規制対象とする枠組みだ。「オフラインで違法なものはオンラインでも違法であるべきだ」という考えに基づき、利用者を偽情報やヘイトスピーチ等の違法なコンテンツから保護するため、事業者の説明責任や対応義務を強化する内容になっている。EU域内の利用者が月間平均4,500万人以上の超大型プラットフォーマーにあたる事業者には最も厳しいルールが適用され、違反時には全世界の年間売上高の最大6％が罰金として科される可能性がある。

また昨年6月には、欧州委員会が「偽情報に関する行動規範（Code of Practice on disinformation）」の改訂版を発表し、Microsoft、Meta、Google、Twitter、Adobe等の大手プラットフォーマーを含む34の企業・団体が署名を行った（図1参照）。この行動規範は、企業や業界関係者が偽情報に対抗するための自主規制基準として2018年に初めて制定されたものであり、この度、より強化された改訂版が公表された形だ。新規範には、偽情報による被害を防ぐための44項目の取り組みが含まれており、署名した企業はその遵守に努めることになる。フェイクニュースサイトの廃止、フェイクニュースサイトからの広告収入の排除、偽アカウント数の削減等が求められる取り組みの一部だ。この規範は前述のデジタルサービス法に紐づくものであるため、違反企業には同法に基づく罰則が科される可能性もある。欧州委員会の担当者は、「繰り返し規範を破りリスク軽減策を実行しない超大型プラットフォーマーは、全世界売上高の最大6％の罰金を科されるリスクがある」とプレスリリース内で明言している。

欧州におけるこうした法制化の動きが、大手プラットフォーマーをはじめ、世界各国のIT及びメディア業界全体に緊張感をもたらしている。罰則を伴うルールが施行されたことで、フェイクニュース等への対策姿勢を見直さざるをえない企業が一挙に増えるだろう。 

民間ではコンテンツの捏造・改竄を防ぐ標準化が進展

法制化と並行して、民間企業が主導する標準化やルール形成の動きも活発化している。 代表的なイニシアチブの例が、Adobe、Intel、Microsoft等が2021年に立ち上げた標準化団体「Coalition for Content Provenance and Authenticity（C2PA：コンテンツ来歴および信頼性のための連合）」だ。メディアコンテンツの出所や来歴を認証する同名の技術規格「C2PA」を開発して普及させることで、偽情報や捏造コンテンツの蔓延を防ぐことを目的としている。元々Adobeが2019年に立ち上げていたデジタルコンテンツの捏造に対抗するためのネットワーク「Content Authenticity Initiative（CAI：コンテンツ認証イニシアチブ）」と、同様の目的でMicrosoftやBBCが2020年にスタートさせていた「Project Origin」が合流して創設に至った背景がある。

類似技術の重複を避けつつソリューションの相互運用性を確保するため、業界大手が手を組んで規格開発を急いだ形だ。日本からはSony、Nikon等が参画を表明している。 C2PAの規格に対応したファイルには、「いつ・誰が・どのように」作成（撮影）し編集したかを示す来歴情報が改竄不可能な形で付与されるため、コンテンツの偽造・捏造を抑止することができる。昨年1月に規格のバージョン1.0が発表されて注目を集めた後、現在はバージョン1.2が公開されており、実際の製品への導入も進みつつある。昨年10月に開催されたカンファレンス「Adobe MAX 2022」の日本会場では、同規格に基づく「来歴記録機能」を初めて搭載したカメラであるNikonの製品・Nikon Z9が参考展示された。同機能を持つカメラで撮影された画像はC2PA規格に準拠しており、撮影者・編集者の情報などを含む来歴記録が自動的に付与される。もし画像が権利者に断りなく改竄されたり、AI等を用いた高精度なフェイク加工が施されたりした場合でも、来歴記録と照らし合わせればその真贋が検証可能になるという。

Adobeは、2021年にPhotoshop等の自社製品にC2PA規格に基づく仕様を実装しているほか、昨年6月には「コンテンツ認証情報を実装するためのオープンソースツール」を発表する等、普及活動に力を入れている。前述したNikonとのパートナーシップ等、他社との連携にも積極的に取り組んでおり、標準化に向けた熱意が窺える。画像ファイルの共通規格を策定するJPEG（Joint Photographic Experts Group：ISO/IEC JTC 1/SC 29/WG 1）委員会でも、今後策定される「JPEG Fake Media」規格（改竄等を防ぐため、コンテンツの作成・変更履歴を参照可能にする規格）の候補の一つとしてC2PAが提案されている。画像・動画等のデジタルコンテンツに関わる企業にとっては決して無視できない動きだ。 

重要性を増す「ファクトチェック」とその基本原則

他方、フェイクニュースには画像や動画の形式をとらず、テキスト（文字）中心で構成されたものも多く存在する。画像等の捏造を防ぐ技術だけでなく、そもそもの情報の真実性・正確性を検証する「ファクトチェック」の重要性が急速に高まっているのが現状だ。 国内では、ヤフーやZホールディングス等のIT企業が参画する一般社団法人セーファーインターネット協会が、昨年10月に「日本ファクトチェックセンター」を立ち上げて注目を集めている。ネット上で拡散している不確かな言説の真偽を検証し、SNSやニュースサイトを通じて発信する専門機関だ。

今後は検証実績を重ね、各国のファクトチェック団体の連合組織である国際ファクトチェックネットワーク（International Fact-Checking Network：以下IFCN）から、国内初の認証取得を目指すという。 IFCNには、現在100を超えるファクトチェック関連団体が加盟している。加盟に際しては、同団体が定めるファクトチェック活動の原則についての綱領 “Code of Principles”に沿った活動をしていると認められる必要があり、審査に通過して公認を得られた団体だけがIFCNのエンブレムを表示することができる。このCode of Principlesは世界各国のファクトチェッカーによる議論を経て2016年に制定されたもので、国際的なファクトチェックの原則として認知されている。IFCNは2017年から同コードに基づいて加盟団体の審査を始め、2020年にはより詳細な基準を盛り込んだ改訂版およびガイドラインを公表した。Code of Principlesは、以下の5つの原則で構成されている（図2参照）。 

　
　
前述の日本ファクトチェックセンターをはじめ、今後IFCNへの加盟を目指す団体やメディアは、これらの原則を遵守しながら活動することとなる。今後、世界各国でファクトチェックに取り組む団体が増えるに従い、国際的なコンセンサスとしてのCode of Principlesの重要性がさらに増していく見込みだ。 

国内ではファクトチェック専門機関の不足が課題

このように官民双方からのルール形成が進みつつある中、一部の日本企業は前述のC2PA規格開発への参画など積極的な動きを見せているが、ファクトチェックの領域に関しては国全体の対応の遅れを指摘する声もある。 昨秋に設立された日本ファクトチェックセンターは「国内初のIFCN加盟団体となることを目指す」としているが、昨年4月の段階で、既に台湾・香港・フィリピンではそれぞれ2団体、インドネシアでは5団体、韓国では1団体がIFCNに加盟していることが確認されている。

アジア各国の中でもやや遅れをとっているのが現状だ。ファクトチェックの国内普及活動を行う特定非営利活動法人ファクトチェック・イニシアティブによれば、日本で発表されたファクトチェック記事の本数は2022年に過去最多（10月末までに192本）となったが、韓国や台湾に比べればまだ大幅に少ないという。専門性を持ち、恒常的にファクトチェックを実施できる体制を持った団体やメディアの少なさが課題と見られている。

現在日本はTwitterの利用者数で米国に次ぐ世界2位となっており、イーロン・マスク氏が社内会議で「Twitterは米国中心のように見えるかもしれないが、むしろ日本中心だ」と語ったとの報道もある。TwitterをはじめとしたSNSへの熱量が高ければ高いほど、フェイクニュースに翻弄される危険性も高い。ネット時代の新たな社会課題に対応するため、政府・企業をはじめとする各ステークホルダーが相互に連携し、より取り組みを加速する必要があるだろう。

株式会社オウルズコンサルティンググループ
プリンシパル
矢守　亜夕美

関連サービス