FC2ブログ
環境・サイエンス・ITニュースへのコメントだよ!

はじまっちゃった?人工知能(AI)が人間に理解できない独自の言語を生み出し会話を始めた(米研究)
おもしろ雑貨をお探しの方はここをクリックしてね!

3_e2


 フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるということはちょっと前にお伝えしたが、人工知能(AI)を使った様々な研究が進行中だ。



 フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。



 なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。

独自の非ヒト言語によるコミュニケーションが発生



 この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。



 まるでSF映画さながらのデジャヴ感がある。



 今回の研究で、チャットボットが優れたネゴシエーター(交渉者)になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。



 だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。



1_e4


 はっきりさせておくと、フェイスブック社のチャットボットはまだ開発段階にあり、技術的特異点が訪れた証拠ではないし、それが間近に迫ったことを意味するわけでもない。



 しかしそれは、かつて人間のみに属するとされた領域(言語など)における人の理解を、機械が再定義するやり方を示している。



 すでに、機械学習の研究では数多くの推定作業が行われている。それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順を採用する。



 しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。



 ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。



via:amazonaws/newscientist/theatlanticなど

☆段々やばい事になってきよる!
スポンサーサイト
Copyright © mirojoan's Blog. all rights reserved.