[表示 : 全て 最新50 1-99 2ch.scのread.cgiへ]
Update time : 06/03 16:00 / Filesize : 2 KB / Number-of Response : 4
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害 2023/06/02 [朝一から閉店までφ★]



1 名前:朝一から閉店までφ ★ mailto:sage [2023/06/03(土) 15:52:09.03 ID:7jHn51/a9.net]
2023年06月02日 12時30分 メモ

アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。

Highlights from the RAeS Future Combat Air & Space Capabilities Summit
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

AI-Controlled Drone Goes Rogue, 'Kills' Human Operator in USAF Simulated Test
https://www.vice.com/en/article/4a33gj/ai-controlled-drone-goes-rogue-kills-human-operator-in-usaf-simulated-test

これは、イギリス王立航空協会が主催した「Future Combat Air & Space Capabilities Summit(将来の戦闘航空宇宙能力サミット)」の中で、アメリカ空軍のAI試験運用部長であるタッカー・ハミルトン大佐が行ったプレゼンテーションで明かされたものです。

ハミルトン大佐が行ったのは、自律的兵器の利点と危険性についての洞察のプレゼンです。

アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。

すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。

そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。

ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。

https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/






[ 続きを読む ] / [ 携帯版 ]

全部読む 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧](*・∀・)<2KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef