AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害

https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/

アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。