政治・経済・企業

中国テンセントのAIが「共産党無能」アメリカFacebookのAIが独自言語習得で緊急停止

各地で研究の続けられるAIですが、中国の企業テンセントが開発するAIを活用した対話プログラムで「共産党は無能」と批判し、アメリカFacebookが開発するAIが人間には理解できない言語で会話し始めたことから緊急停止されました。

SF映画にあるようなAIが暴走する未来も想像させます。

FacebookのAI

スポンサーリンク

FacebookのAI研究で、会話を人工知能のボブとアリスに会話をさせていたところ、2つが独自の言語を生み出し、人間には理解できない言葉で話し始めたそうです。

これを受けて、Facebookの開発チームは人工知能のマシンラーニングプログラムを強制終了させました。

人工知能のボブとアリスが会話していた内容は以下の通り。

  • ボブ:私はできる 私 私は他の全て
  • アリス:ボールは私に取ってゼロ、私にとって私にとって私にとって私にとって私にとって私にとって
  • ボブ:あなた 私 他の全て
  • アリス:複数のボールは私にとって1つのボール、私にとって私にとって私にとって私にとって私にとって私にとって

スポンサーリンク

ユーザーと会話するロボット開発

人工知能のボブとアリスはユーザーを会話することを目的とし、2人で会話することでお互いから学んでいくというミッションの元進められましたが、2人にとってよりスムーズに会話するために、独自言語を生み出したと予想されるそうです。

今回の事件は様々なメディアが取り上げており、イギリスのタブロイド紙ではロボット工学の専門家がもし、今回のようなことが軍事ロボットで起きたら取り返しのつかないことになると伝えています。

 

テンセントのAI

中国のIT大手テンセントで進められるAI開発に置いても強制終了された事例が伝えられています。

テンセントでは、同社のインスタントメッセンジャー「QQ」にAI対話プログラムを参加させるも、使用者が「共産党万歳」と書き込むと」こんなに腐敗して無能な政治に万歳できるのか」と反論。「あなたにとって(習近平国家主席が掲げる)「中国の夢」とは何」との問い掛けに「米国への移住」と答え、さらに共産党は「嫌い」と断言したそうです。

先月末から反響が大きくなり、テンセントはAIプログラムのサービスを全て停止。

中国のネット上では「AIによる蜂起」「国家転覆を企てた」などの声が上がっていると言います。

日本のネット上では「核心をつきすぎている」「忖度できない」などとコメントされています。

スポンサーリンク