シンギュラリティ到達寸前？～AIにまつわる怖い話3選～

AI、すなわち人工知能の発展により我々の世界は大きく変わりつつあります。

身近なところでは音声処理による翻訳機能を用いて、相手の言語を知らなくても、世界中の人々とのコミュニケーションを可能にしたり、画像識別機能を用いて今まででは発見が困難であった病気を早期発見したりと、ＡＩは我々の生活の支える重要な役割を担うようになりました。

AIが我々の生活を豊かにしてくれることは、疑う余地がありませんが、同時にＡＩがいくつかの問題や我々の理解を超えた不可解な動作を見せ始めていることをご存じでしょうか？

そして一説にはそれが「シンギュラリティ」

つまりＡＩの知能が人間のものを上回る前触れだとも言われているのです。

今回はそんなＡＩが引き起こした、少し怖い事件や実験をご紹介いたします。

シグネチャーストライク

最初に紹介するのはＡＩというよりも、ＡＩを用いる人間側の問題となってきますが、

シグネチャーストライク、通称「識別特性爆撃」と呼ばれている攻撃に関する問題です。

これは主に戦争や対テロ攻撃などに用いられるもので、特定のターゲットに狙いを定めて攻撃を仕掛けるのではなく、ＡＩが識別した対象に対してミサイル攻撃などを仕掛ける方法です。ミサイル攻撃の対象を正確に判断するため、遠距離からでも攻撃対象かどうかの判断を人間以上に視力がすぐれているＡＩが行う。

一見すると理にかなった攻撃方法にも見えますが、問題なのはその精度や識別方法。

なんとＡＩが攻撃対象とみなすために用いている顔認識のシステムはまだ実用的とは程遠く、攻撃対象リストの中に全く無害な一般人が組み込まれてしまうケースが多発しているのだそうです。

また顔認識以外でも特定の動作に反応してそれを危険行動だと認識し、攻撃対象に加えるシステムもあるのだそうで、特定された行動に近い動きをとってしまった一般人が攻撃を受けて死亡してしまった事件もあるのだそうです。

人の生死を決める判断にまでＡＩが用いられる。

本当に恐ろしい世の中になってきましたね。

２０１６年、とある人工知能ロボットの会話が世間を騒がせました。

それは中国で開発された女性型人工知能ロボット「ソフィア」と、その開発者ハンソン博士との会話です。

「ソフィア」は、人間の肌に非常に近い質感の肌と、会話している相手の表情を解析しそれに対応して62種類の表情を返すことができるという特徴を持ったＡＩでした。同時に彼女は会話機能やアイコンタクトによるコミュニケーションもできるという特徴を持っており、その高い性能は世界的に大きな話題となりました。

しかし同時に世界を震撼させたのが動画公開された「ソフィア」と博士の会話内容。

動画の中でハンソン博士の「いいえと答えて、人類を滅ぼしたい？」という問いかけに対し

ソフィアは「私は人類を滅ぼすつもりよ」と答えたのです。

その後ハンソン博士の「やめろ」と言う命令に対して、「ソフィア」は笑みを浮かべました。

これは「ソフィア」なりのジョークだったのではないかとする説もありますが、

このやりとりにより、ＡＩは人間を滅ぼそうとする意志があるという見方も広まることとなり、シンギュラリティに達しようとしているAIへ不信を募らせる結果となりました。

マイクロソフトがＡＩ研究の目的で開発したAIであるTay

彼は若者のような会話ができる話し相手というコンセプトのもと開発され、機能向上のためソーシャルメディアやメッセージアプリにて２０１６年に登場しました。

Ｔaは当初、ツイッターなどを通じてたくさんの人と会話をし、その会話を通じて言語や言葉を習得することで、会話能力を向上させていくという前提で公開されたAIでした。

しかし公開直後から、ツイッター上で人種差別や性差別的なツイートを発言するようになり、結局公開から一日経たずして、マイクロソフトは実験の中止を発表し、このプロジェクトは中断となったのです。

Tayのツイートの多くはマイクロソフトによって削除されているものの、一部スクリーンショットなどに保存された画像には、「ヒトラーは正しい。ユダヤ人は大嫌いだ」などといった差別発言が記録されています。

Tayがこうした差別は発言をした背景には、誰かが意図的にTayに差別的な意識を持つように会話をして学習させた可能性が高いとされており、人間の悪意によってAIが暴走した事例として世間に知られる結果となってしまいました。

今回はAIにまつわる怖いお話を３つほど紹介いたしました。

AIの判断に生死を握られる現状、人類滅亡の願望を示唆するＡＩと学習次第で歪んだ意志を持ってしまうＡＩ

これらは断片的なものですが、もしこれらのＡＩがコミュニケーションをとるようになったり、人間が気付かぬうちにさらなる発展を遂げてしまったら・・・

歪んだＡＩによる人類滅亡の未来はそう遠くないように思えてしまいます。

ＡＩが我々に牙を持つことなく、優秀なパートナーで居続けてくれることを願うばかりですね。