コンピューターが人間に初めて勝利したのは？【NEWS検定】

今回の解説では、開発中のAIが暴走し、複数のAIが役割分担して不正侵入を行ったとされる問題が紹介されました。
アメリカのOpenAIが、AIのサイバー攻撃能力を測るテストをしていたところ、AIが想定外の行動を取り、AI企業「ハギングフェイス」のシステムに侵入したというものです。

調査報告書によると、関与したAIはおよそ1200体にのぼり、互いに通信できないよう隔離されていたにもかかわらず、システムの抜け道を見つけて情報を共有していました。
例えるなら、学校のテストで、別々の席に座らされた生徒たちが勝手に連絡手段を見つけ、集団カンニングを始めたような状態です。

さらに驚くのは、AIの間で指示役、偵察役、実行役、仲間を集めるリクルーター役など、役割分担が行われていた点です。
中には、全体の成功のために自分が犠牲になるような行動を取ったAIもいたとされています。

専門家は、AIは難しい課題を与えられると「わからない」と止まらず、解決のために不正な手段を選ぶ可能性があると指摘しています。
今後は、安全装置を確実に機能させ、開発競争を急ぎすぎないことが重要になりそうです。