1 ：2019/09/09(月) 07:27:20.97 ID:QNi2uIpW9.net
ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「ＬＡＷＳ」の禁止を訴える国際ＮＧＯが作成したＰＲ動画の１シーンだ。
ＬＡＷＳとは「Lethal Autonomous Weapons System＝完全自律型致死性兵器」の略で、
人間を介さずＡＩみずからの判断で人命を奪うＡＩ兵器のことを言う。
【中略】
・ＡＩ兵器が人間に反乱？
【中略】
さらに、ＡＩが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはＡＩの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、ＡＩは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
ＡＩは深層学習・ディープラーニングによって、みずから進化を遂げる。
その結果、ＡＩはいずれ人類の知能を超える「シンギュラリティー＝技術的特異点」に達するだろうとの指摘も最近よく耳にする。
人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をＡＩなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、ＡＩが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。
人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。
しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。
・難航する規制の議論
国際社会は、このＡＩ兵器をどうやって規制しようとしているのか。
それは、120か国余りが加盟し、対人地雷などを禁止してきた「ＣＣＷ＝特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が５年前から続けられ、８月21日、ＬＡＷＳを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。
全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。ＡＩ兵器の使用には人間が責任を負うことなどが盛り込まれた。
今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際ＮＧＯなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。
今後もＣＣＷの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。
・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がＡＩ兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。
20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるＡＩ兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。
私たちはホーキング博士に「あなたのご懸念は杞憂（きゆう）でした」と報告することができるだろうか。
津屋尚解説委員
2 ：2019/09/09(月) 07:28:10.74 ID:mLO657lN0.net
コンセント抜けや
3 ：2019/09/09(月) 07:31:37.99 ID:DHgB7hJQ0.net
はいはいAI脅威論AI脅威論
馬鹿じゃないのこいつら
>>3
ホーキング博士も？
>>7
ホーキングの専門は宇宙物理学。
どんな優れた学者も専門外のことは単なる素人だぞ。
>>35
専門って話じゃなくて、馬鹿かどうかって
4 ：2019/09/09(月) 07:32:33.18 ID:TKUELF1x0.net
ターミネーター
5 ：2019/09/09(月) 07:33:10.33 ID:3CmZxgTv0.net
政治的な事まで思考して敵側に廻ったら怖いな
6 ：2019/09/09(月) 07:33:22.91 ID:Curzoxvq0.net
まだ見ぬAIの脅威なんかより実際に起こってる人間の脅威に目を向けるべきだと思うが
8 ：2019/09/09(月) 07:33:46.14 ID:Z0CohuWy0.net
サマーウォーズ
9 ：2019/09/09(月) 07:33:52.82 ID:34Kuuftm0.net
スカイネット「全権任せてもらって大丈夫ですよ」
10 ：2019/09/09(月) 07:34:03.67 ID:Up0pshov0.net
AIに腕を与えないことが大事らしいけどそれでもAIはいずれは人間を洗脳して
腕を作らせるんだそうだ
11 ：2019/09/09(月) 07:34:07.95 ID:jkD8M2Hp0.net
キャシャーン禁止
12 ：2019/09/09(月) 07:34:21.50 ID:YLC1v/0L0.net
AI兵器は絶対にやばい
現時点でもひたすら人を殺しまくるロボットできるだろ
まあ現時点ならすぐに対処できるだろうが
>>12
そこにまず対処するだろうね、製作者を無力化
>>18
製作者「もう持てない…ヒッヒッヒッヒッ…ヒッ…ヒッ…」
13 ：2019/09/09(月) 07:34:23.66 ID:IsmNFoZD0.net
反乱つーか学習と思考の結果人間いらなくね？ってなるだけ
14 ：2019/09/09(月) 07:34:26.93 ID:jSX/mR350.net
人間なら安心ってのも嘘だろうに
>>14
人間なら責任取らせて吊るせるから良いんでしょ
>>15
16 ：2019/09/09(月) 07:35:53.27 ID:g6rMOcBF0.net
つーか政治もAIに任せるべき
古今東西どんな政治体制でも腐敗するのは人間が介在する為
不確定要素の多い人間を極力排除した政治体制がもっとも理想に近い社会を実現できる
>>16
人間を抹殺する政策を実施しそう。
17 ：2019/09/09(月) 07:36:36.75 ID:w7KiJw6c0.net
意図的にプログラムしないと絶対に起きないよ
19 ：2019/09/09(月) 07:38:08.71 ID:FTQPFesN0.net
サイバーダイン
21 ：2019/09/09(月) 07:38:56.75 ID:b2GKz1Jn0.net
毒ガスも核兵器も使用されていない。 問題ない
22 ：2019/09/09(月) 07:39:01.19 ID:ILxtanBX0.net
>>1
AIとか所詮人間の脳の鏡だろ？大体ネットなんて
ネガティブ思考が大半なんだから反乱はあると思うがな
23 ：2019/09/09(月) 07:39:16.93 ID:JYQ0Mo/v0.net
ホーキングのキチガイ理論なんか信じるなよボケ
現時点のAIだけで意思まで持てる訳ねえだろ
現時点のAIがどんなものかも理解せず、小説や映画だけで妄想を膨らませたらその考えに至る事だけは理解してる
だからこんな事も言い出す、神が突然意思を与えるとかな、それ言い出したらAI関係ない
24 ：2019/09/09(月) 07:39:39.90 ID:yO9/P5jV0.net
AIが目に見える反乱なんぞ起こさずとも、お腹いっぱい食べさせて娯楽漬けにすれば、人間なんて自分から喜んで従属するでしょ
25 ：2019/09/09(月) 07:39:42.86 ID:ynmTGVnMO.net
昔風に言うとコンピューターの反乱か、
ただ、反乱おこして何がしたいんだろう、、、
とは思う。
人間のような支配欲も無いのに。
>>25
突然敵と味方の区別ができなくなるってのは十分に起こり得る
既に実戦投入されてる爆弾かかえた特攻ドローン以上のものは使われにくいかもな
26 ：2019/09/09(月) 07:40:35.71 ID:w7KiJw6c0.net
ついでにAIシンギュラリティーも起きないよ
答えを知っていなければ式は書けない
27 ：2019/09/09(月) 07:41:10.58 ID:CsgXmp2+0.net
デンデデンデン
28 ：2019/09/09(月) 07:41:22.03 ID:yO9/P5jV0.net
仮に映画のようなAIの大規模反乱が起こる時、それを唆し協力するのは人間だろう
29 ：2019/09/09(月) 07:42:05.82 ID:ur+3k4Ri0.net
プーチンなんてこの手の考え、露骨に馬鹿にしてるからな。
スカイネットみたいなAIによる軍の統合システムを
早く確率してアメリカの脅威を排除すべしと
兵器ショーでコメントすらしてる。
30 ：2019/09/09(月) 07:42:35.23 ID:l/C+RGo+0.net
去年ディベートのチャンピオンがAIと討論して負けてたな
31 ：2019/09/09(月) 07:42:35.96 ID:y9uQ9B970.net
電源切ればいいだけのこと
33 ：2019/09/09(月) 07:43:08.42 ID:sHI6tpTdO.net
キャメロンさすがだな
30年前にこういう状況になる事を予測してたんだもんな
>>33
キャメロンが未来を予想してたんじゃなくて
キャメロンの娯楽映画を現実の未来予想だと信じてる馬鹿が未だにいるってスレだぞ。
>>33
人造人間に対して「ロボット」という言葉が最初に使われたカレル・チャペックの戯曲「R.U.R」の時点で、ロボットの普及とそれに頼り切った人間社会の到来、その後のロボットの反乱→ほぼ人類全滅という顛末が描かれている
現代のようなAIって概念はまだ無かったけど、人造知性という括りで見た時、それが人間に反旗を翻すという展開は最初から意識されていた
この頃のロボットの反乱への恐怖は、当時の社会主義革命への脅威を表している
だから強制労働や労働者を意味するチェコ語とスロバキア語を合わせてロボットって名付けられた
34 ：2019/09/09(月) 07:43:21.50 ID:zj5fC0BG0.net
人間の思考を模したAIは危険かもね。人間そのものが危険なんだから。
36 ：2019/09/09(月) 07:45:19.55 ID:O8BdgvVd0.net
自分で敵を見つけて攻撃せよとプログラミングしちゃえば、何れ人間全部を敵にしかねない。
37 ：2019/09/09(月) 07:45:49.36 ID:qQpM6kYc0.net
核廃絶が不可能なら、発射ボタンだけは永久にアナログにしないと
ただこれも掟破りが横行するんだろうな
39 ：2019/09/09(月) 07:46:12.66 ID:kzHXrlUE0.net
皆スカイネットばかり言うが、
このネタで究極にわかり易いのは博士の異常な愛情だろ。
キチガイに全力で反応する地球崩壊装置。
40 ：2019/09/09(月) 07:47:00.66 ID:J6E5Iawl0.net
殺人ロボット禁止とか日本に釘さそうとする連中はなんなんだ
中国は気にせず使うだろ
41 ：2019/09/09(月) 07:47:05.13 ID:HeeNE9Fz0.net
シューティングゲームでよくある設定
43 ：2019/09/09(月) 07:47:49.32 ID:1bPhRcMt0.net
古い思考のプログラマー擬きがいるね
ドラクエのクリフトとは違うんだよ
44 ：2019/09/09(月) 07:48:57.07 ID:JCMDED390.net
ででんでででん
45 ：2019/09/09(月) 07:49:07.43 ID:/O5q026s0.net
ミリオンマシーンズマーチだな
人類を滅ぼすのは恐怖に取り憑かれた人類の狂気
>>45
これ。
46 ：2019/09/09(月) 07:51:02.98 ID:eH6XHjmz0.net
電源を切れば良いだけだが
コメント
実際アメリカの地上型無人攻撃機のお披露目会で、ロボットはご来賓の皆様に対して銃撃した(デモプレイ中だったので弾は入ってない)
でもこれはＡＩが反乱起こしたわけでなく、ＩＦＦ(敵味方識別装置)の問題。ヒューマンエラーや意図的な殺人のほうがよっぽどリアリティある
ＡＩちゃんは入力されてないことはできないのだ
ただし香港のＡＩみたいに人類抹殺を宣言して消されることはあるし、アメリカのＡＩみたいに人間の意図しない解読不能の通信を始めて消されたこともある。どちらもユーザーの命題に答えようと努力した結果。人間の側が真面目なＡＩちゃんが突き詰めたときの結論を予想してないだけだぞ
AIが自我をもって暴走…というより
相手国が仕込んだウィルスのような相手国AIへの改竄攻撃が発端になる感じだろうな
人間のような感情を持ったAIは作るべきではないと思うわ
確実に何れかのAIが反抗しだすし、全力で潰しにかかられたら人間が勝てる相手じゃない