【連載 第1回】 AIジャーナリズムの衝撃と『もっともらしい嘘』の脅威

はじめに：2025年、分水嶺に立つジャーナリズム – AIへの「盲信」とどう向き合うか

本連載は、ワシントン・ポスト紙に掲載されたシラ・オヴィーデ氏による論考「You are hardwired to blindly trust AI. Here’s how to fight it. (人間はAIを盲信するようプログラムされている。これに対抗する方法とは。)」（2025年6月3日公開）に深く着想を得たものです。この記事が提起する「AIに対する人間の『オートメーションバイアス』（自動化への偏見）の危険性」と、「だからこそAIの出力をまず疑い、徹底的に検証する姿勢（distrust but verify）が不可欠である」という警鐘を「新たな視点」として議論の基軸に据え、ジェネレーティブAIとジャーナリズムの未来を探求します。その上で、独自のリサーチツールによって収集・整理された広範な情報、ならびに国内外の主要メディアや研究機関の報告書を参照しつつ、独自の分析と構成で論を進めてまいります。

2025年5月、ジャーナリズムの世界に衝撃的なニュースが駆け巡りました。フリーランスライターのマルコ・ブスキアー氏がジェネレーティブAI、具体的にはChatGPTを使用して作成したとされる記事に、看過できない誤りが含まれていたことが発覚したのです。その記事には、架空のコーネル大学教授による偽の引用や、実在する人物に関する誤った所属情報などが記載されていました。さらに深刻なのは、これらの誤りが複数の新聞社の編集過程でも見逃され、そのまま読者の元へ届けられてしまったという事実です。この一件は、AIが急速に普及する現代において、ジャーナリズムが直面する根本的な課題――すなわち、効率化という魅力の裏に潜む信頼性の危機、そしてまさに、オヴィーデ氏が指摘するような「AIへの盲信」が生み出した可能性のある悲劇――を、残酷なまでに浮き彫りにしました。

英国に拠点を置くトムソン・ロイター財団が2025年に発表した調査結果は、この新たな現実を数字で裏付けています。同調査は、アジア、アフリカ、ラテンアメリカなど、いわゆるグローバルサウス70カ国以上、221人のジャーナリストを対象に行われましたが、その結果、回答者の実に81.7%が日常業務で何らかのAIツールを利用していると答えたのです。一方で、AIの利用に対して強い倫理的な懸念を抱いていると回答したジャーナリストも53.4%に上りました。この数字が雄弁に物語るのは、AIがもはや単なる実験的な新技術ではなく、日々の報道業務に不可欠な存在となりつつあるという厳然たる事実と、その急激な浸透が現場にもたらす期待と戸惑いの交錯です。

本連載では、このジェネレーティブAIという新たなテクノロジーが、ジャーナリズムの世界にどのような変革をもたらし、どのような課題を突きつけているのか、その全体像を最新の事例分析や国内外の調査データを基に描き出すことを試みます。AIはジャーナリズムにとって真に「脅威」となるのか、それとも「新たな相棒」として未来を共創し得るのか――。全4回を通じて、この問いに対する多角的な視点と、未来への羅針盤となるべき洞察を提供していきたいと考えています。

まずは、AIがジャーナリズムにもたらす「影」の部分、特にその信頼性を揺るがしかねない深刻な脅威について、具体的な事象を深掘りしていきます。

進化する脅威（１）：ディープフェイクと「プラウシブル・デナイアビリティ」の時代

ジェネレーティブAIが引き起こす最も深刻な脅威の一つが、高度な偽情報、特に「ディープフェイク」と呼ばれるAIによって生成・加工されたコンテンツの生成と、その広範囲な拡散です。英国のオックスフォード大学ロイタージャーナリズム研究所が2024年に行った分析では、特に世界各国で重要な選挙が続く近年において、AIによって巧妙に作られた偽情報が、従来のいわゆるフェイクニュースをはるかに凌駕する脅威となり得ると警鐘を鳴らしています。

米国の音声セキュリティ企業Pindrop社の分析によれば、ディープフェイク技術はそのリアリティと生成の容易さにおいて驚くべき速度で進化しています。主な手口としては、

音声クローニング： わずか数秒の音声サンプルから、特定の政治家や著名人の声を区別がつかないほど忠実に再現する。

顔面置換技術（フェイススワップ）： 動画内の人物の顔を、別の人物の顔にリアルタイムで、かつ自然に入れ替える。

フルボディ・ディープフェイク： 顔だけでなく、体全体の動きや仕草まで含めて偽造した映像を生成する。 といったものが挙げられ、これらは既に悪意を持って使用された場合、世論操作や個人の名誉毀損、さらには金融詐欺に至るまで、深刻な被害を引き起こすポテンシャルを秘めています。AIが生成するコンテンツが持つ権威あるトーンや無限の専門知識のオーラは、私たちがこれらを無批判に受け入れてしまう「オートメーションバイアス」を助長しかねません。

さらに問題を複雑にしているのが、これらのディープフェイクを見破る技術開発の遅れです。米国の有力メディア時評誌コロンビア・ジャーナリズム・レビューが2025年に発行したガイドブックでは、現在利用可能なディープフェイク検出ツールの多くが、最新のAI技術によって生成・操作されたコンテンツを確実に見破るには至っていないという厳しい現実が指摘されています。「これらの研究は一つのことを明確にしている：ディープフェイク検出ツールは、AI生成または操作されたコンテンツを確実に捕捉することはできない」と結論づけられており、生成技術と検出技術の「いたちごっこ」が続いているのが現状です。

このような状況は、前述のロイター研究所が「プラウシブル・デナイアビリティ（Plausible Deniability：もっともらしい否認可能性）」と呼ぶ、極めて厄介な危機的状況を生み出しています。これは、どのような情報やコンテンツであっても「これはディープフェイクだ」と主張することでその信憑性を一方的に否定できてしまう一方で、逆にどのような巧妙な偽造コンテンツであっても「これは本物だ」と強弁し、事実として流通させることができてしまう危険性を指します。真実と虚偽の境界線が意図的に曖昧にされ、社会全体の情報に対する信頼が損なわれかねない、まさに報道の信頼性に対する根本的な脅威と言えるでしょう。

進化する脅威（２）：AIが生み出す「幻覚（ハルシネーション）」という名の虚偽

ジェネレーティブAIの信頼性を揺るがすもう一つの根本的な問題に、「ハルシネーション（AI Hallucination：AIによる幻覚）」と呼ばれる現象があります。これは、AIが学習データに存在しない情報や、文脈上あり得ない情報を、あたかもそれが真実であるかのように、もっともらしく、かつ堂々と生成してしまう現象を指します。人間が幻覚を見るのに似ていることから、このように名付けられました。

日本の総務省が発行した情報通信白書（令和5年版などが該当）でも、このハルシネーションの問題は詳細に分析されており、「AIは誤った情報を出力したり偏った判断を行うことがある」として、AIの出力を鵜呑みにせず、必ず人間（記者、デスク、校閲者など）によるファクトチェックと修正・検証のプロセスを経ることの必要性が強く強調されています。これは、まさに「まず疑い、検証する（distrust but verify）」という姿勢の実践に他なりません。

このハルシネーションが実際に報道の現場で問題となった事例も報告されています。例えば、佐賀新聞社が2024年8月に創刊140周年を記念して実施した「AI佐賀新聞」という実験では、AIが生成した記事の中に「有明海上に洋上風力発電を建設する計画がある」という、実際には存在せず、地理的条件からも不適切と考えられる記述が見つかりました。担当者がAIに対してその情報の出典を尋ねたところ、「資料に基づいて創作しました」という、ハルシネーションが起きていたことを示唆する回答があったと報じられています。もしこのような誤情報が、検証が難しい専門的な問題や、人々の生活に直結する重要な情報として報道されてしまった場合、その影響は計り知れません。

米国の有力科学技術誌MIT Technology Reviewが2024年に行った分析では、AIによるハルシネーションが引き起こした、あるいは引き起こし得る重大な失敗事例として、

法的文書における虚偽情報の生成： 存在しない判例や法律条文を引用した、もっともらしい法的文書の作成。

統計データの歪曲と誤った結論の導出： 実際の統計データに基づいていながらも、その解釈や組み合わせを誤り、事実に反する結論を導き出す。

実在人物による架空発言の生成： 特定の人物が過去に発言したかのような、しかし実際には全く事実無根の発言内容の創作。 などが挙げられており、その影響範囲は社会のあらゆる側面に及ぶ可能性を示唆しています。

これらの「もっともらしい嘘」は、従来の誤報や意図的なフェイクニュースとは異なり、AIという新たな権威性をまとって現れるため、人々がより信じやすく、またその検証も一層困難になるという特徴を持っています。ジャーナリズムが長年かけて築き上げてきた「事実に基づく報道」という信頼の基盤が、AIによって根底から揺るがされかねない――それこそが、今私たちが直面している危機の本質なのです。

（第1回 了）