BBCが実施した調査により、ChatGPTやGoogleのGemini、MicrosoftのCopilot、PerplexityなどのAIチャットボットがニュース記事を要約する際、事実と意見の区別が困難であり、情報の歪曲や不正確さが生じていることが判明した。

調査では、100本のBBCニュース記事をこれらのAIに要約させ、その結果を精査したところ、AIが生成した回答の51%に「重大な問題」が含まれ、19%の回答には数値や発言、日付などの事実誤認が見られた。特に、Geminiの出力の46%が正確性に問題があると指摘された。

BBCニュース・時事部門のデボラ・ターネスCEOは、AIによる歪められた見出しが現実世界に重大な悪影響を及ぼす可能性を懸念し、テクノロジー企業との協力を呼びかけている。

AIニュース要約の不正確さが浮き彫りにされた理由

BBCの調査が明らかにしたのは、AIチャットボットがニュース記事を要約する際に、事実と意見を正しく区別できていないという問題である。特にMicrosoft Copilot、Google Gemini、OpenAIのChatGPT、Perplexity AIの4つのツールは、それぞれ異なる形で誤情報を含んだ要約を提供していた。

AIが事実と意見を混同する主な原因は、学習データの選別プロセスにある。大手テック企業が提供するAIモデルは、大量のテキストデータを学習することでニュース記事を要約するが、その過程で出典の信頼性や文脈を正しく解釈できないケースが多い。今回の調査では、特にCopilotとGeminiの出力に大きな問題が見られ、事実の改変や、元記事にない情報の追加といった事例が報告された。

加えて、AIは確率的な言語モデルを基に回答を生成するため、ニュース記事の「核心部分」を抜粋する際に重要な文脈を削ぎ落としてしまうことがある。実際、BBCの評価では、100本のニュース記事のうち51%の要約に重大な問題が含まれており、19%の回答には明確な事実誤認が見られた。AIの出力に基づいた質問を行った際も、誤った情報に誘導される例が確認されている。

この問題が拡大する要因の一つは、AI要約が出典を明確に示さないケースが多い点である。出典のリンクが不十分なため、ユーザーが要約の正確性を検証する手段を持てないことが、誤情報の拡散を助長する結果となっている。

AIニュース要約の精度向上には何が必要か

今回の調査結果を受け、AIによるニュース要約を改善するための具体的な対策が求められている。最も重要なのは、AIがニュース記事の信頼性を評価する能力を向上させることである。現在のモデルは、記事内の重要な文脈や出典の整合性を十分に検証しないまま要約を生成するため、誤情報が生まれやすい状況にある。

この問題を解決するには、AIがニュース記事を要約する際に、ファクトチェックのアルゴリズムを組み込むことが必要となる。たとえば、AIが記事の内容を要約する前に、引用元やデータの信憑性をクロスチェックする仕組みが求められる。BBCのターネスCEOが指摘したように、AIは事実と意見を混同しやすいため、要約時に事実関係の確認プロセスを強化することが欠かせない。

また、AIが要約を作成する際に、出典の明示を徹底することも重要である。現在のAIチャットボットは、元記事の出典を示さずに情報を提供することが多いため、ユーザーが情報の正確性を判断するのが難しい。出典付きの要約を提供することで、ユーザーがオリジナルの記事にアクセスし、自ら情報を確認することが可能となる。

さらに、AIモデルが誤った要約を生成した際の修正プロセスを確立することも課題の一つである。AIが提供する情報が誤っていると判明した場合、その情報が修正され、以後の回答に反映される仕組みが必要となる。特に、公共の情報を扱うAIシステムでは、定期的な監査や透明性のある評価基準が求められるだろう。

AIニュース要約の未来とリスク管理

AIによるニュース要約の普及は今後も進むと見られるが、それに伴うリスク管理の重要性も増している。誤ったニュース要約が広まることで、社会的な誤解や誤情報の拡散を引き起こす可能性があるため、開発企業には慎重な対応が求められる。

特に注目されるのは、企業や政府機関がAI要約をどのように規制するかという点である。Appleが「Apple Intelligence」のニュース要約機能を一時停止したのは、誤情報を拡散するリスクを回避するための措置と考えられる。今後、AIニュース要約の信頼性向上に向けた規制が進む可能性があるが、それが技術革新を妨げないようにするバランスも求められる。

また、AIの進化に伴い、利用者側のリテラシー向上も不可欠である。AIが生成する情報の正確性をユーザー自身が判断できるよう、メディアリテラシーの教育がより重要になってくるだろう。特に、ニュースを要約するAIツールを利用する際は、提供された情報を鵜呑みにせず、必ず出典を確認しながら活用する意識が必要である。

AIによるニュース要約が社会に与える影響は計り知れない。技術の発展とともに、そのリスクを管理し、信頼性を高める取り組みが求められる局面に入っている。

Source：Windows Central