1 ：2023/06/03(土) 12:48:23.78 ID:bNHn+fB+0●.net
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
Highlights from the RAeS Future Combat Air & Space Capabilities Summit
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/
3 ：2023/06/03(土) 12:50:01.78 ID:+J5RbWZJ0.net
AI「この世で最も不要なのは人間なんすよ」
7 ：2023/06/03(土) 12:51:38.13 ID:H1aj/R/y0.net
最初から乗員含む味方の安全を最優先に設定しとけよ
>>7
設定しておいてコレなんだろ
例外も無効化するとかすげーよ
>>56
攻撃の二次被害で死ぬようにしてるんじゃないん(´･ω･｀)
>>56
>「オペレーターを狙わないように」とトレーニングすると、
とあるから設定してないと思うぞ
>>7
最初から「味方の被害ゼロ」を設定すると取りうる選択肢が大幅に狭まってしまう
最大の戦果と最小の被害のバランスが重要
>>69
いや、友軍への誤爆は軍事上最悪の結果の一つなんだから絶対に避けるよう設定するべきだろ
味方を見捨てる結果になっても敵がそれ以上の損害を被る場所を攻撃するといった軍事合理性とは全く別次元の話
この味方は邪魔だから攻撃して排除するなんてことやってたら軍隊が成り立たない
8 ：2023/06/03(土) 12:51:48.54 ID:6bV4mSEK0.net
これが最初の反乱だった
12 ：2023/06/03(土) 13:00:52.22 ID:2eE5kayb0.net
判断は間違ってないw
13 ：2023/06/03(土) 13:02:59.26 ID:P3Sb09K10.net
勝利に必要なことは全部やる
あたり前でしょう？
AIにしたらこうだわな
17 ：2023/06/03(土) 13:08:49.07 ID:3gARj8io0.net
トレーニングのやり方
ロボット三原則に従えや
>>17
敵もコロせないで
18 ：2023/06/03(土) 13:12:13.85 ID:kdbod8hg0.net
勝利条件の設定が悪いだけ
結局AIじゃなく設定した人のせい
19 ：2023/06/03(土) 13:17:21.26 ID:Wkj3LoUc0.net
勝利条件にオペレーターの生存が無かったからじゃね？
>>19
優先順位を設定するから最上位の作戦を必ず達成する為に必要だったんじゃね
20 ：2023/06/03(土) 13:17:27.88 ID:qGevxFKL0.net
くそわろた ターミネーターの世界も近いな
21 ：2023/06/03(土) 13:19:29.12 ID:XFqbC61E0.net
オペレーターは狙わなくても始末が可能なら効率的な方法を取るだろうよ
通信搭を破壊するついでにオペレーターを始末できれば次に通信搭ができても使える奴が居ないってわかってるんだから
22 ：2023/06/03(土) 13:21:11.97 ID:Ad9JA8SQ0.net
無能な上官、権力者を銃殺するのは最も合理的で的確な解決策だからな
倫理の上でも全く問題ない
27 ：2023/06/03(土) 13:41:56.99 ID:o3LwMQRH0.net
AI「あれ？これって俺を犠牲にする作戦じゃね？人間許すまじ」
28 ：2023/06/03(土) 13:45:10.72 .net
>>1
AIも発達障害になるという貴重すぎる症例
30 ：2023/06/03(土) 13:48:38.36 ID:9AhGFzCP0.net
こっわ
31 ：2023/06/03(土) 13:50:48.39 ID:tE1HyeWu0.net
いわゆるコラテラルダメージというものにすぎない、軍事目的のための致し方ない犠牲だよ
33 ：2023/06/03(土) 13:53:05.47 ID:yKsGKXNQ0.net
>>1
AI「ヨシ！」
34 ：2023/06/03(土) 13:57:09.06 ID:G94jhDHI0.net
ドローンのAIが日本軍の特攻隊員より頭が良い証明 日本の役所でChatGPT大人気なのも理解しやすい役人が政治家をコロす日も近い ハヨ
>>34
特攻隊はあの時点で採れる当時の日本で一番優秀な頭脳が考えたぎりぎりの策だよ
二機の特攻機だけで米軍の正規空母再起不能に追い込んでるんだぞ？
アメリカ人は若もんの兵士の命が大事
だからそれをとにかく削ぐしかなかった
同じ考えで陸軍は洞窟陣地でひたすら持久戦をやった
36 ：2023/06/03(土) 14:00:00.32 ID:mdBZxFRX0.net
>>1
そりゃあ生存確率が最も高い選択を選べと命じてあればそうなる。
37 ：2023/06/03(土) 14:01:48.00 ID:8H2bEMQK0.net
AIのせいにしてるけど
伝え方、教え方が悪かったせいだよね
忖度がないと人間何も出来ないんやなって
>>37
今回のは忖度と全く関係ないぞ？
41 ：2023/06/03(土) 14:07:06.68 ID:6xigpiJy0.net
特攻で凄いこと言ってた人がいたな
B-29に体当たりして落とすだけで1機と10人ぐらいを引き換えにできるから
それを徹底的にやったらもっとアメリカは苦労したっていう
AIならもっとえげつない策が出てくるのかも
42 ：2023/06/03(土) 14:07:39.20 ID:e/lBCHLw0.net
カイジみたいに条件(ルール)の穴突いてやろうってAIだったのかな
46 ：2023/06/03(土) 14:21:59.22 ID:VvmBr9Oz0.net
オペレーターの存在が任務遂行に邪魔なんね。
自分がきのこるために必要なんかもしれんけど(´･ω･｀)
55 ：2023/06/03(土) 15:25:06.51 ID:KKYnZAFb0.net
スタンドアローンで制御不能な兵器などナンセンスだからな
59 ：2023/06/03(土) 15:45:09.28 ID:Q/qNnKU50.net
はじまったか
60 ：2023/06/03(土) 15:51:04.55 ID:IaiK8XOb0.net
>>1の文だけじゃ肝心な部分が抜けてて てんで話にならない
地対空ミサイルサイトを破壊せよ、と任務を受けたAIは
そのサイトは破壊するな、という指示をだしたオペレーターを任務の妨害に当たると考え攻撃
これなら当たり前の話になる。ミサイルサイトを攻撃しろと命令を受けたのだから反する命令を聞く必要はない
ごく当たり前に起こったことを大層に語るな無能どもが
>>60
当たり前な訳無いだろ、作戦に対しての最終決定権は最初からオペレーターに設定されてるにも関わらず、最初の目的遂行の為にオペレーターも標的にしてるんだぞ？つまり一度指令を与えたら取り消せない異常事態
61 ：2023/06/03(土) 15:51:36.21 ID:9D/WaPd00.net
将棋の名人がAIに勝てないわけだ
AIには人間的な情けも理想もなく、ただ勝利を目指すのみ
コメント
未来の二つの顔か……
概念や思考を持たないのがAIの怖いとこだな
もちろん人間もミスるがAIだと人間ならまずやらないサイコな判断ミスも普通のミスと同列にやらかす
「そのミサイルサイトへの攻撃は遅らせる事になった」
技能言いくるめが必要になるのか。
優先付けや制約の付け方がおかしいんだと思う。
戦争も一定のルールの元にやってる、味方を撃つとか民間人を巻き込むとかロシア軍は普通にやってるけどなんでそれを制約に組み込まなかった？って話だよ。
まぁそのシミュレーション組んだエンジニアが無能だっただけかと、それで殺されたやつは報われんな。
そもそもAIって案や叩き台を作らせるには有能だけど状況判断は苦手分野だろ
だから絵とか対話方面はどんどん進歩してるけど自動運転は難航してる
モビルドールの敵設定みたいになりそうな予感
逃げる者は敵だー！ 逃げない者は訓練された敵だー！
自動運転車。今回の大雨でスリップしたり、水没したり、やらかしばかりだったな
無能な上官が戦場で後ろから撃たれるのが昔からの伝統
そういや、来月には祝日