ChatGPTで作る偽情報　新聞社は見抜けず掲載、謝罪に追い込まれる

3,581 YOU

J-CAST ニュース
2023年5月18日18時30分

人工知能（AI）で作成された偽情報が、実際に新聞や雑誌に掲載され、発行元が謝罪に追い込まれるケースが海外で続いている。AIを使うと、本物のような原稿の作成が可能になるためだ。一方で、人に代わって合法的にAIに文章を作ってもらう形のビジネス利用も進んでおり、さまざまな影響が出ている。

実在しないエクアドル人作家の署名入り

アイルランドの日刊紙アイリッシュ・タイムズ（Irish Times）は2023年5月12日、AIで作成された投稿記事を掲載してしまった。

AFP＝時事によると、実在しないエクアドル人作家、アドリアナ・アコスタコルテスの署名入り。アイルランド人女性が「フェイクタン」と呼ばれる塗料で肌の色を濃くしているのは文化の盗用だと主張する内容の意見記事だった。

その後、この架空の作家名と同じ名前のツイッターアカウントのユーザーが英紙ガーディアンに対し、記事の約80％はChatGPTの最新版「GPT-4」で作成したと明かした。

このユーザーは、自分たちはアイルランドの大学生で、意見記事を送ったのは、ジェンダーや人種、性的指向など特定のアイデンティティーに基づく集団の利益を追求する政治活動をめぐる極端な言説への議論を起こすためだと語った。

同紙は、「読者との信頼関係を損なった」と謝罪、記事を削除した。投稿の場合は、どうやって作成されたか分かりにくいので、報道機関が事前チェックする難しさを見せつけた。

シューマッハの偽インタビュー

BBCによると、ドイツの週刊誌「ディ・アクトゥエル」は4月15日発行号で、自動車レーサーのミハエル・シューマッハ氏のインタビュー記事を掲載した。しかし、これは、AIが作成した架空のインタビューだった。

シューマッハ氏は、自動車レース、フォーミュラワン（F1）で7回の個人総合優勝を果たした後、2013年にスキー事故で負傷。それ以降は表舞台に出てないため、近況を知ることができる貴重な記事として評判になった。

ところが、この記事は「Character.AI」というAIプログラムを使い、シューマッハ氏の健康状態や家族に関する「発言」を人工的に作成したものだった。

ディ・アクトゥエルを発行するフンケ・メディアグループ社は4月22日、シューマッハ氏の家族に謝罪し、同週刊誌の編集長は解雇された。

詳細は明らかになっていないが、これは編集部が勝手に作ったインタビューだったようだ。

市場規模は16兆円に

本物と思われる文章を、自在に作り上げてしまう生成AI。文章を書くことを本業としている職業人にとっては、仕事を奪われるリスクもあり、心配な存在だ。

読売新聞によると、米ハリウッドでは脚本家たちが、生成AIが、脚本家らの著作権を無視して学習し、創作分野にまで入り込みかねないと危機感を強めている。

全米脚本家組合は、ウォルト・ディズニーやネットフリックスなどが加盟する業界団体「全米映画テレビ製作者協会」に対し、AIに脚本を書かせたり、過去の作品を学習させて新たな作品作りに利用したりしないよう求めているという。

同紙によると、製作者側にとって、生成AIの活用は製作費の削減につながる可能性がある。カリフォルニア州の映画製作会社「ワンドア・スタジオ」はすでに、ChatGPTなどを使って脚本や絵コンテを作成し、人気小説の映画化に取り組んでいるという。

生成AIをビジネスに利用する動きは急速に拡大している。2027年には世界の市場規模が16兆円になると見込まれている。すでに多数の問題点が指摘されており、対応や規制方針は主要国でも異なる。5月19日から21日に、広島市で開催される広島サミット（先進国首脳会議）でも、生成AIにどう対処するかは最重要課題の一つになっている。

日本では5月17日、国内123の新聞社、通信社、放送局が加盟する日本新聞協会（会長=丸山昌宏・毎日新聞社会長）が、ChatGPTなど生成AIによる報道関連コンテンツの利用に対する見解を公表した。

朝日新聞によると、記事や写真が無断でAIに利用されたり、AIがつくる偽情報や世論を誘導する情報がインターネット上に拡散したりすれば、民主主義を支える健全な言論空間を混乱させると警鐘を鳴らしている。＜J-CASTトレンド＞