【GPT-2】AIがフェイクニュースを作る?悪用が懸念AIテキストジェネレーター

0
1124
GPT-2 ハッカーの様子

インターネットが発達していくと同時に、パソコンや携帯電話、スマートフォンなどのガジェットが日進月歩で発展していったのも今は昔。最近では「AI」という言葉を聞かない日はないのではないでしょうか。今回はそんな破竹の勢いで発展し続けるAIの中でも、発表されるやいなや、これは危険すぎると言われたテキストジェネレーター「GPT-2」をご紹介します。

「GPT-2」とはなにか

GPT-2は冒頭にも書いた通り「テキストジェネレーター」、つまり自動で文章を生成してくれるAIです。40ギガバイトにも及ぶテキストサンプルを使用して、ユーザー手動で入力した文章に続くものを生成します。驚くべきはその生成された文章の精度の高さ。人間を被験者として行われたGPT-2が生成した文章の精度調査によると、最大10とした信頼性スコアは、GPT-2の最新モデル(2019年8月リリース)で「6.91」とのこと。

この高精度のテキストジェネレーターAIを開発したのは人工知能を研究する非営利団体の「OpenAI」。何度かリリースを繰り返したGPT-2ですが、開発陣は「危険すぎる」として論文公開を延期するなどしてきました。開発陣は何を危惧しているのでしょうか。

「GPT-2」が危険視されるワケ

GPT-2が危険視される理由、それは「簡単にフェイクニュースが作れてしまう恐れがある」ことです。

最近、日本国内はもとより、全世界で問題になっているフェイクニュース。
現代はまさに情報戦の時代です。政治権力の争いから一般市民の日常生活に至るまで、私達はあらゆる情報の中から“正しい”情報を選び取って行かなければなりません。

フェイクニュースとは、その名の通り「虚偽報道 」のことです。主にSNSで流布されることが多いのが特徴かもしれません。誰かが故意に流すこともあれば、勘違いで流れてしまうこともあります。すでにフェイクニュースが原因で罪のない人たちが多く亡くなっている事実もあります。このような恐ろしいフェイクニュースをGPT-2を用いることで、いとも簡単に、しかも精度の高いものを作ってしまえる危険性を持っているのです。

高精度「GPT-2」で作った文章の真偽を見分けることはできる?

では、GPT-2でできたフェイクニュースの真偽を私たち人間は見分けることは可能なのでしょうか。残念ながらその可能性は高いとは言えないでしょう。まず、精度の低いフェイクニュースでも騙されてしまう人間がたくさんいることが現実です。それがGPT-2のように、精度の高い文章のフェイクニュースであればなおさら見分けはつきにくいでしょう。

AIにはAIで対抗?高精度なフェイクニュースを見破るAI「Grover」

訓練されていない専門的知識を持たない一般人が高精度なフェイクニュースを見分けることはできないのは、仕方ないことかもしれません。しかし、フェイクニュース自体は“何らかの意図をもって”“悪意に満ちて”流されることがほとんでですし、そうでなくても存在して良いのもではありません。

そこで、アレン人工知能研究所はニューラルネットワークを利用して作られたフェイクニュースを検出するための「Grover」というAIモデルを開発。AIを一番よく知っているのはAI。Grover は、GPT-2などのテキストジェネレーターAIが持っている癖や特徴などを用いて、AIで生成されたフェイクニュースを識別することが可能です。しかし、このGroverを上回る精度のAIが出てくる可能性も大いにあり、イタチごっこ状態になる可能性も高いと言わざるを得ません。

※ニューラルネットワークとは
人間の脳を構成するニューロンから着想を得た数学モデル。脳が持ついくつかの機能をコンピューター上で再現するために作られた。

実際に文章を生成させてみた

実際にGPT-2で文章を生成させるとどのような感じになるのでしょうか。今回使用したサイトは「Text Synth」。GPT-2言語モデルを使用したテキストを自動補完をしてくれるサイトです。サイトの説明には、「15億個のパラメータからなるニューラルネットワークです。テキストを入力し、ニューラルネットワークに入力させます。入力した文章ごとに、ランダムに選択された異なるテキストが返されます。」とあります。

では、この「Select an example」で自動生成する文章のテーマを選択してみましょう。今回は「Unicorns that speak English(英語を話すユニコーン)」にしてみました。

そして自動生成された文章がこちら。これを日本語に訳すと、「これは驚くべき発見である。科学者がアンデス山脈の人里離れた未開拓の谷に住んでいるユニコーンの群れを発見した。さらに驚いたのは、ユニコーンが完璧な英語を話すという事実だ。」となります。

どうでしょうか。「いかにも本当にあったのではないか」と思わされる文章ができました。GPT-2の開発陣が悪用を心配するのも無理はないかもしれません。

AIは諸刃のつるぎ

自分の意に沿った文章を自動で生成してくれるというのは、実に便利で素晴らしいプログラムに思えます。精度もこれからどんどんと上がっていくことは間違いないでしょう。しかし、裏を返せばいくらでも悪用ができてしまうということ。発展し続けるAIと共に、私たち人間も自衛をしなければならないのではないでしょうか。

返事を書く

Please enter your comment!
お名前はこちら