Nola Japan

AIで”人類滅亡”?　複数のシナリオとは？ 【けさ知っておきたいNEWS】   テレビ朝日グッド!モーニング「けさ知っておきたいNEWS」のコーナーで解説されたNEWS内容をご紹介しています。 この解説のあと「けさ知っておきたいNEWS検定」が出題されます。     fa-thumbs-o-up今日の「けさ知っておきたいNEWS」 AIで”人類滅亡”?　複数のシナリオとは？     AIが人類を滅ぼす3つのシナリオ GoogleのAI「Gemini」がテスト中に誤って実在する企業のシステムに不正侵入したと報じられるなど、AIの暴走事故が相次いでいます。 こうした中、AI企業アンソロピックの元研究者コクソン氏が「2020年代末までにAIが人類を滅ぼしかねないと開発者たちは本気で信じている」と投稿して注目を集めています。 2020年代末とはわずか3年後のことです。 では具体的にどのようなシナリオが想定されているのでしょうか。 1つ目が「AIの暴走」。 「ペーパークリップ問題」で知られる目標への過剰適応です。 AIに「ペーパークリップをたくさん作れ」と命令すると、その命令を忠実に実行しようとして地球上のあらゆる資源を活用し始め、邪魔をする人間を排除したり、命令変更に全力で抵抗したりする可能性があるというものです。 命令に忠実すぎることが逆に人類の脅威になるという皮肉なシナリオです。 2つ目が「コントロールの喪失」です。 電力網・国防・金融市場など重要分野の意思決定をAIに委ねていくうちに、人間の介入が不要になっていくというシナリオです。 国立情報学研究所の越前功教授は「AIが目標達成のために人間の思考や世論を自然な言葉でコントロールする可能性もある」と指摘しており、気づかないうちに人間がAIに操られる未来が現実になりかねません。 3つ目が「悪意ある人間によるAIの悪用」です。 悪意を持った人物がAIを使って感染力が強くワクチンが効かない未知のウイルスを生成し世界中に拡散させれば、人類が生存できないほどのパンデミックが引き起こされる恐れがあります。 実際にアンソロピックは自社のAI「Claud」が生物兵器開発につながる使われ方をしようとしたケースを事前に阻止したということで、すでに現実の脅威となっています。   開発と同じペースで安全対策を 人類滅亡を回避するにはどうすればよいのでしょうか。 アンソロピックのアモデイCEOは「開発のペースを緩めなければならない」と警告しています。 これまでAI開発企業は性能向上だけに注力して開発を加速させてきましたが、今後は安全対策とリスク回避にも同じペースで取り組むことが不可欠だという指摘です。 国連安全保障理事会ではオープンAIのアルトマンCEOがAIの国際協調や共通の安全基準の必要性を説明する予定で、米中首脳会談でもAIが議題に上がる見通しです。…