イノベーションズアイ BtoBビジネスメディア

IoTキュレーション

第5回

フェイクニュースの機械化がもたらすもの

ピーエムグローバル株式会社  執筆

 

 会員型交流サイト(SNS)を中心に発信され、不正確な事実や嘘に基づいた虚偽情報「フェイクニュース」の危険性が指摘される中、そうしたニュースを人工知能(AI)に作成させる研究が進んでいる。今年2月、AIを研究する非営利団体の米OpenAIは、自然な文章(英語)を作成する言語モデル「GPT-2」を発表した。これは人間が冒頭の文を入力すると、それに続く文章をAIが自動で生成するプログラム。文法の間違いや言い回しの違和感もない。ただ、一見自然に見える文章だが、前後関係や文脈は無視されているため、よく読むと矛盾に気づく。

書きぶりも再現

 米国のアレンAI研究所が開発する「Glover(グローバー)」は、フェイクニュース製造プログラムだ。架空の記事タイトルや導入文などを入力した後、「Generate(作成)」ボタンを押せば、あっという間に「偽記事」が現れる。試しに「日本初の音速列車がお披露目される」という英語タイトルと一文を入れたところ、数秒で記事が出来上がった。(画像1) 


画像1 グローバーで作成したフェイクニュース(一部)


 Gloverにはもうひとつの特長として、文章が機械によって作成されたかどうかを判定する「フェイクニュース検出機能」もある。先ほどの偽記事で実験したところ、機械が作ったものとの判定が出た。興味のある方はこちらで試すことができる。


 ジャーナリストのトリスタン・グリーン氏はIT系ネットニュースサイトの記事‘This terrifying AI generates fake articles from any news site’でグローバーの使いやすさを評価する一方、自身の書きぶりに似た文章が出来上がってしまうほどの性能に当惑を隠さない。グローバーの開発側はフェイクニュースの見極めを意図したものであることを強調するほか、検出正解率は92%に上ることにも言及している。

傾向を色分け

 ジャーナリストのラビー・ラクシュマン氏は記事‘This AI tool is smart enough to spot AI-generated articles and tweets’で、マサチューセッツ工科大学と米IBMのAI研究所と米ハーバード大による「GLTR(グリッター)」を紹介する。グリッターは単語の配列を統計的に利用したもので、文章の構成要素を色で示すのが特徴。文を入力すると、直前の単語に対して統計的に最も使用されやすい単語を緑色で表し、頻度順に黄、赤となり、最も使われにくい単語を紫色で表示する仕組みだ。ラクシュマン氏によると、機械が作る文には想定可能な単語の羅列やフレーズが人間の文章よりも現れやすい傾向があり、グリッターを使うと、機械が作った文章はほとんど緑や黄色で表示される一方、人間が考えた文章には適度に赤や紫も混ざるという。試したい方はこちらから。

過大評価 ?

 機械が文章を作ることは危険か──。2月に発表されたGPT-2をめぐっては、開発者がプログラムの一部のみの公開する方針を取ったため、多くの批判が寄せられた。前出のグリーン氏はIT系ネットニュースサイトに記事‘Who’s afraid of OpenAI’s big, bad text generator?’でその性能を称賛する一方、報道解禁日を事前に決めるなどの情報統制を行ったOpenAIを批判。彼らが期待していた「最新技術のメリットと倫理」や「フェイクニュースの見つけ方」といったテーマでの議論はできず、「AI業界は大げさなメディア報道に巻き込まれた」と指摘する。GPT-2そのものは危険ではないにもかかわらず、概要やプログラムコードの公表を制限したことで、読者にはAIは危険なものという印象を与えてしまったと指弾している。

機械化の意味

 AIがフェイクニュースを見極めることができるようになるには時間を要するだろう。実際、グローバーで作成したさきほどの音速列車の偽記事をグリッターに分析させたところ、文章には黄色や緑色以外の単語も混ざった(画像2)。赤や紫が多いかどうかの評価は人によって分かれるだろう。


画像2 グリッターによる文章の色判定

 機械によるニュース生成化の意義は、その技術力を知らしめたことだ。人間以外もニュースが作れるという認識が広まることで、受け手の態度に変化が期待できる。写真加工ソフトの誕生によって、人々はネット上にあふれる写真の信頼性に疑問を持つ態度を備えた。ニュースについても同じことが言える。

   

 将来的にAIが完璧にフェイクニュースかを判定できるようになったとしても、ニュースの真偽を全て機械に任せてしまう態度は危険だ。判断するのをやめたり、放棄したりすることは人間の存在意義に関わるように感じる。ニュースはねつ造できる──。情報は加工され得ることを念頭に、常に疑いの目を向け、真偽を自ら確かめる態度がさらに求められるだろう。

 

プロフィール

ピーエムグローバル株式会社

グローバルなビジネス環境で今まで以上に高品質なプロジェクトマネジメントを必要とされる全てのお客様のために、プロジェクトを推進し成功させるための環境づくりを総合的にサポートします。また、マネジメントのパートナーとして現場の視点と経営の視点を併せ持った課題の発見、およびその対策としての戦略策定をご提案します。
【サービスメニュー】
プロジェクトのマネジメント支援(PMO)
プロジェクトマネージャーのトレーニング

グローバル人材の育成
海外拠点の現地社員育成

インドニュースの配信・出版
ニュース配信サイトの運営
海外進出コンサルティング


Webサイト :ピーエムグローバル株式会社

IoTキュレーション

同じカテゴリのコラム

イノベーションズアイに掲載しませんか?

  • ビジネスパーソンが集まるSEO効果の高いメディアへの掲載
  • 商品・サービスが掲載できるbizDBでビジネスマッチング
  • 低価格で利用できるプレスリリース
  • 経済ジャーナリストによるインタビュー取材
  • 専門知識、ビジネス経験・考え方などのコラムを執筆

詳しくはこちら

お役立ちコンテンツ

  • 弁理士の著作権情報室

    弁理士の著作権情報室

    著作権など知的財産権の専門家である弁理士が、ビジネスや生活に役立つ、様々な著作権に関する情報をお伝えします。

  • 産学連携情報

    産学連携情報

    企業と大学の連携を推進する支援機関:一般社団法人産学連携推進協会が、産学連携に関する情報をお伝えします。

  • コンサルタント経営ノウハウ

    コンサルタント経営ノウハウ

    コーチ・コンサルタント起業して成功するノウハウのほか、テクニック、マインド、ナレッジなどを、3~5分間程度のTikTok動画でまとめています。

  • 補助金活用Q&A

    補助金活用Q&A

    ものづくり補助金、事業再構築補助金、IT導入補助金、小規模事業者持続化補助金及び事業承継・引継ぎ補助金に関する内容を前提として回答しています。

  • M&Aに関するQ&A

    M&Aに関するQ&A

    M&Aを専門とする株式会社M&Aコンサルティング(イノベーションズアイ支援機関)が、M&Aについての基本的な内容をQ&A形式でお答えします。

おすすめコンテンツ

商品・サービスのビジネスデータベース

bizDB

あなたのビジネスを「円滑にする・強化する・飛躍させる」商品・サービスが見つかるコンテンツ

新聞社が教える

プレスリリースの書き方

記者はどのような視点でプレスリリースに目を通し、新聞に掲載するまでに至るのでしょうか? 新聞社の目線で、プレスリリースの書き方をお教えします。