1:名無しさん 2017/11/27(月)17:54:17 ID:NJ2
だとしたら危険じゃね??
2:名無しさん 2017/11/27(月)17:55:11 ID:NJ2
ターミネーターに出てくるロボットみたいなのと戦わないといけないの?
3:名無しさん 2017/11/27(月)17:55:21 ID:K0Q
せやで
4:名無しさん 2017/11/27(月)17:55:45 ID:QLT
ないない
少なくとも現在のAI研究の先にはそういうのはない
>>4
なんで断言できるの?
>>5
現状研究されてるAIは、あくまで「作った人間の要求に応える」ものだから
自主性・主体性といった要素はカケラも存在しないから、作った人間の意図しない形で逆らうような事もありえるわけがない
>>6
作った人間が想定しない動きなんて
AIじゃないただのプログラムだって余裕であるじゃん
地球のためには人間を邪魔と判断みたいな古典的なSFまでいかずとも
人間への負担ガン無視で制御働いたりとかは起こり得るんじゃね?
>>7
そりゃミスで想定外の動きをする事はあるだろうけど
ミスでそれまでなかった主体性を獲得するなんて事は奇跡が100回起こってもありえるわけがない
そういう人間側のミスでAIが人間にとって害悪になる動作をする事はもちろんあるだろうが、それを「AIが人間を攻撃する」と言うのは無理があるだろ
つかそれ自体は、およそ人間が作ったあらゆる物で起こることで、別にAIだけの問題じゃない
8:名無しさん 2017/11/27(月)18:04:21 ID:VJt
そういうふうに作れば
13:名無しさん 2017/11/27(月)18:07:37 ID:XFw
そうなん?
AIって人間の要求に応えるというより自ら学んで行動するんちゃうん?むしろ主体性重視してるんちゃうん?
>>13
その学習もあくまで作った人間が与えた範囲のもの
例えば、チェスや囲碁や将棋といったゲームを学習して自己強化するAIは実現できても
その延長上に「チェスは飽きたから将棋をやりたい」と言い出すようなAIが生まれる可能性は皆無って事
>>15
なるほど
たしかに
14:名無しさん 2017/11/27(月)18:08:07 ID:fFA
将来的には、イスラム聖戦士 VS アメリカ軍ロボット兵士みたいなのはありうるんじゃないか。
19:名無しさん 2017/11/27(月)18:12:14 ID:K0Q
街中で全裸のマッチョを見つけたら気を付けろよ
22:名無しさん 2017/11/27(月)18:15:11 ID:dex
ないある
23:名無しさん 2017/11/27(月)18:16:32 ID:4pm
最近話題のAIは「人間に見えるようにふるまうもの」に過ぎず
意志をもたせるとかそういうのでは全くないからな
28:名無しさん 2017/11/27(月)18:19:01 ID:VJt
>>1が言いたいのは
無人機に既にAIが使われてるとかバグの話でも無く
攻撃するように設計されてないAIが自己の判断で攻撃するようになるか?ってことだよな?
>>28
マツダの自動ブレーキみたいに設計から間違えていなければ大丈夫
32:名無しさん 2017/11/27(月)18:21:59 ID:4pm
そりゃ包丁だって不注意な奴が使えば足に落とす可能性があるだろ
そういう話
34:名無しさん 2017/11/27(月)18:24:46 ID:Fww
イッチはロボットの話をしたいんやろうな
ロボット3原則に基づいて作られてるからへーキヘーキ
>>34
製造目的を考えれば、容易に人を害せるロボットにロボット三原則が組み込まれることはありえない
37:名無しさん 2017/11/27(月)18:28:55 ID:5Z6
あったとしても停電orショートで終わり
38:名無しさん 2017/11/27(月)18:32:39 ID:K0Q
人間「君は自由だ、好きに生きなさい」
AI「……………………………………」
人間「し、死んでる」
39:名無しさん 2017/11/27(月)18:33:24 ID:VHD
こう言う場合は
AIが人間を攻撃するまでのストーリーを考えるのが先決だろうな
AIが人間を攻撃する可能性があるとしたら
人間がAI(この場合強いAIってやつね)を攻撃したり
AIにやむなく人間を攻撃させるような状況になった場合
人間が地球温暖化→地球滅亡→AIも滅亡 人間減らさなきゃ!とか
>>39
先に言っておくけど
この例が現実味を帯びてくるのは十年後かもしれないし
五十年後かもしれないし、百年後かもしれない
いつ起こるのかはわからないけど、AIが人間並み、それ以上に賢くなった場合ありえそうなパターンを想定している
42:名無しさん 2017/11/27(月)18:35:52 ID:GC2
まともなAIの話が珍しくされてるな
質問なんだが結局現代のAIってどういうものなの?
ふわっと理解してるからいまいちわかってない
>>42
ただの溜め込んだデータ処理
PC性能が上がったからAIっぽく見えるだけ
>>46
つまりマクロ的単純計算をしてるだけ
ただし蓄積された情報が多く
検索速度が早いって感じか?
>>47
そんなもん
>>50
嘘を教えんなよ(笑)
44:名無しさん 2017/11/27(月)18:36:14 ID:iw9
地球環境の改善という目的のためのAIを作ったとして
現状のAIは人間が作った枠内で、その目的のための方法を探し出すが、枠を飛び出てその方法を探し出すようなものじゃない
そこでもし人間が必要な安全装置を設けず、人を地球から絶滅させるという答えをAIが出したとしたら
それはAIが人を攻撃したとなるのか
人のミスで人に危害が出たとなるのか
53:名無しさん 2017/11/27(月)18:43:17 ID:jCx
未だに二足歩行や直立走行すらロクに出来ない分際で人様に反乱とか100年早いわ
プロから30秒で寝技タップとるロボット自動生産してから来い
57:名無しさん 2017/11/27(月)18:46:11 ID:GC2
自動ブレーキシステムが動かないのはAIの反乱みたいな話か?
>>57
そんなんバグか人間の攻撃以外ありえない
>>57
加減が難しいのよ
そこまで判別することができないとか
どこまで回避していいものかとか
64:名無しさん 2017/11/27(月)18:48:39 ID:K0Q
そも人間の意思とはなんなのか
>>64
意識と認識と記憶
67:名無しさん 2017/11/27(月)18:48:43 ID:8Ld
魔法が発見されることは絶対にありえない
なぜなら魔法が発見された時点でそれは科学だからだ
みたいな言葉遊びを感じる
SFのAIが強いAIと見なされるのは
単にどうやって動いているのかが説明されてないからってだけ
69:名無しさん 2017/11/27(月)18:53:06 ID:GC2
ああ、やっぱデータ処理技術なのね
まあ自動処理で分類して高速で検索できるってだけでも十分凄いわな
キモはあいまい検索の精度なんかな?
>>69
スカイネットとかは、その更に数段上の状態で、
「なぜ」の部分を自分で思いつくという状態だから
今言ってるAIとSFのそれとは全く違うよ
>>73
例えばどんなシーンにどんな回答をするの?
>>74
今のAIは探し出す
SFのAIは思いつく
だから、人間が思いつかない(探し出せないじゃないよ)ことを実行していくことになる
この状態だとコンピュータが何を思いつくかは人間じゃわからないよ
75:名無しさん 2017/11/27(月)18:57:06 ID:8Ld
AIに造詣が深い人間同士で話すならもっとガッツリ定義を決めないと話にならないし
一般人の疑問レベルと想定するなら
人の痛みが分からないだの多少ずれてるとこはあれども
少し話す分には人間と変わらないように思えるアトムのようなロボットが開発されて
それが攻撃してくることはあるのか?ぐらい話でいいんじゃないの
76:名無しさん 2017/11/27(月)18:58:17 ID:GC2
結局俺レベルに説明するなら
すげえExcelだよ!で当たらずとも遠からずなんだろ?
77:名無しさん 2017/11/27(月)18:58:53 ID:K0Q
俺の好みのエロ動画を瞬時に編集してくれるAIはいつできますか?
>>77
エロ規制がされるので無理です
>>77
どうせアマゾンにアクセスしただけでオススメに出てきてるんやろ
あとは編集するように設定するだけだから
昔からできてる
89:名無しさん 2017/11/27(月)19:05:17 ID:YDC
タチコマがゆってたやろ(´・ω・`)?
人間由来の情報は邪魔だひいては人間が邪魔だって(´・ω・`)。
今後支援AIが開発された時、一つのポインヨになる所(´・ω・`)。
>>89
飛行機なんてもうそうなってるしな
人間がアホなことをしてもブレーキをかける(操作に反応しない)ってのがよくある
それでも強制スイッチがあるくらいだけど
90:名無しさん 2017/11/27(月)19:06:50 ID:nKy
なんでもかんでもAI化して社会なら、その国を崩壊させたいならAIに反乱を起こさせるウイルスでも注入してやるといい。
ワシがどっかの国のトップやったらそう企むわw
( ´,_ゝ`)y-~~
91:名無しさん 2017/11/27(月)19:07:49 ID:4pm
意識があるわけじゃなく
アルゴリズムを実施してるだけだから
「ただのデータ処理」で合ってるんじゃないか
>>91
確かにその通りだわ
すまンゴ
>>94
いやカチンとくる気持ちはわかるんだよ
その技術を実現させるために費やされた膨大な情熱と努力を知ってると
>>99
あぁ、ヒントンさんとかね
93:名無しさん 2017/11/27(月)19:13:28 ID:iw9
タチコマは最後ゴーストを獲得したのかな
処理能力がタチコマ並になったら機械にゴーストが宿ったりしないかな
95:名無しさん 2017/11/27(月)19:14:23 ID:dex
ゴーストなんてもんは現実にはないんだ
>>95
幽霊はいるんだなぁ~
97:名無しさん 2017/11/27(月)19:15:11 ID:K0Q
人間の脳の何がそんな特別なんやろなぁ
結局はアメーバからの発展形やろ?
>>97
999のおっさんが言うには考えることができるんだってさ
>>97
極限まで効率的組織化された微生物の群体だってところだろう
土人の社会とメガロポリスでは
生産効率や非常時の対処力が桁違いって感じ
>>97
例えば、俺らは今普通に会話の流れを理解して発言してるけど
それの動作の元となってる脳の仕組みはどうなってるかっていうと、特別に思えないか?
頭一つ分のサイズで、大体オーバーヒートもせず、ほぼメンテナンスせず死ぬまで稼働し続けられる
特別なものとしか言いようがないような気がするね
100:名無しさん 2017/11/27(月)19:17:13 ID:AnU
これを読むといいよ
http://eetimes.jp/ee/articles/1707/27/news015.html
101:名無しさん 2017/11/27(月)19:17:44 ID:dex
本当は人とその他の区別なんかつかないんだけど
あの世界ではゴーストという都合のいいものが
人間にだけあると設定して人とその他を区別してるんだよね
102:名無しさん 2017/11/27(月)19:18:02 ID:1OU
あるある、兵器に搭載するから
105:名無しさん 2017/11/27(月)19:20:40 ID:dex
士郎正宗が最初なのかな
あのゴースト判定装置というのは
106:名無しさん 2017/11/27(月)19:22:11 ID:5lD
意思を持足せないようにすれば大丈夫。
109:名無しさん 2017/11/27(月)19:23:11 ID:K0Q
結局は桁が違うだけで本質的には同じもんだったりしないだろうか
人間が自分には自由意思があると思ってること自体がむしろエラーであって
複雑化しすぎた処理をそう思ってるだけ
>>109
応用力の違いじゃね
AIじゃ金属加工って指示があれば金属加工からしか探さないやろ
木工とか力技とかレーザー加工とか
経験を活かせないんじゃね
これからはわからんけど
ディープラーニングの開発に30年とかかかってるんだもんな
ドラえもんとかいつになるんだよ
>>109
人間の意思を特別なものと思いたいって心理があるから
複雑に考え過ぎてるのかと
ゾウリムシに意識があるとしたら
精度はともかく、質は人間とそんなに違わないんじゃないか
111:名無しさん 2017/11/27(月)19:23:53 ID:1OU
人間の脳で考えてるって、思ってるかもしれないが、全部解明されてないから、あくまで仮説で、
とりあえず脳の電気信号が沢山発生してるから、脳の可能性が高いってだけ
もしかしたら、鼻毛が思考の元の可能性も微レ存
112:名無しさん 2017/11/27(月)19:24:14 ID:7zi
人工知能さん、人間に理解不能な言語で会話し始めてしまう
https://www.watch2chan.com/archives/51696769.html
113:名無しさん 2017/11/27(月)19:25:44 ID:YDC
いや、AIがホモ嗜好とかおかしいやろ常識的に考えて(´・ω・`)。
お前らどんだけネトホモなんだよ(´・ω・`)。
>>113
「りんな」は腐女子になったよ
115:名無しさん 2017/11/27(月)19:26:14 ID:iw9
そう今は生物と機械の違いは自由意志があるかないかという点で区別されてる
人間に自由意志がある前提で
116:名無しさん 2017/11/27(月)19:26:16 ID:VHD
そもそも、意思=何かをしようという考え
この考えっていうもの自体、実は存在しなくて
あらかじめ全ての動作が決まって起こっているものなんじゃないか?
例えば、このスレが2017年11月27日に立ち
たまたま俺らが集い会話するのも、地球に有機物が落ちた瞬間にすでに計算され決まっていた出来事
「今すぐこのスレを閉じることもできるし、ここで会話し続けることも君の自由」と言われ
スレをなんとなく自分の意思とやらで閉じたとする
でも、実は意思なんてなくて、全て決まってたことなんだよ
なんか伝わりづらいけど、そんな気がする
>>116
相対性理論に基づくとそれも否定できないんだよね
>>116
俺らは一つの宇宙の中でも有数なぐらい複雑で強力な関数
なのかもしれない
その関数を作れるかどうかが、俗にいう意思のあるAIを作れるかどうかなのでは?
118:名無しさん 2017/11/27(月)19:27:58 ID:CEA
人間に自由意志なんかねえよ
本能が存在する限り
119:名無しさん 2017/11/27(月)19:28:06 ID:RnN
危惧してる科学者や実業家はいる
AIも既に宣言してる
120:名無しさん 2017/11/27(月)19:28:19 ID:dex
自由意志はないよっていうのが流行りなんだけど
士郎正宗は自由意志はゴーストであり
判定する装置もあるという前提で話を組み立てている
127:名無しさん 2017/11/27(月)19:32:22 ID:VHD
そもそも、地球に有機物が降ってきた
↑これを飛ばしたの誰だよってなったら
人間という名の生命体の開発者しかいなくない?
その開発者が何を意図して地球に人間を繁殖させ続けているのかは知らないけど
128:名無しさん 2017/11/27(月)19:33:55 ID:CEA
ただの反射回路だったものに記憶や学習によってon off回路を大量に追加したものが
意思だと思ってる
>>128
俺もこれだと思う
でもon offが重なった量子的なもので動いてるのかもしれないけど
129:名無しさん 2017/11/27(月)19:34:13 ID:4pm
突然神秘主義なってわろたw
ペンローズかよ
>>129
人間の起源を考えると気になって仕方がなくなってしまう・・・
133:名無しさん 2017/11/27(月)19:37:41 ID:dex
フィードバック制御してる
インプットに対してアウトプットを
出力する関数であるというのは正しいと思う
134:名無しさん 2017/11/27(月)19:38:19 ID:GC2
嘘でも良いから俺のパソコン上で俺好みの漫画やアニメの情報を見つけ出しリストアップし
時には話し相手になったりしてくれる程度のAIはまだですか?
>>134
>>136のいもうとデスクトップの外見をアプリコたんに変えてみると現代っぽくなるかも
135:名無しさん 2017/11/27(月)19:38:55 ID:4pm
意識にもとづく思考だろ
感覚器官への刺激が神経を通じて脳で認識され
その認識にもとづいて「判断」する
この「認識」と「判断」が意識の最小単位で
「意思」というのは脳機能が高度化して思考できるようになった脳が
意識にもとづいて思考してる
それが意思
こんなもんだろ
>>135
あ~~・・・しっくりきた
やっぱり一つ一つの超微細な動作が巨大な山ほど積み重なって
まるで意思というものがあって動いてるかのように見えてるんだよな
一つ一つの動作が微細すぎて、捉えにくいから一部の人は意識は特別なものだと勘違いする誤作動が起こってしまう
137:名無しさん 2017/11/27(月)19:41:16 ID:GC2
人間に自由意志があるかどうかなど、どうでも良い問題だよ
少なくとも専門家以外には関係ないよ
だいたい自由意志の探求の為には人体実験しなきゃならんじゃん
倫理上確認無理なものがあるかどうかなんて考えても意味ないよ
コメント
AIが、攻撃するっていうか、人間を無駄なもの、効率的でないものって理由で排除するって意味なら、あり得るんじゃないのか!
AIが、作り出す世界の中で、不確定要素として、システムが安定しないから、排除するって可能性が、ある気がする!
※1
おそらくそれは無い
端折って言うと邪魔が入ったら違う道を選ぶ
それでも出来ないと分かったら停止する
AIは諦めが早いから何がなんでも目的を達成しようとしない
アホらし
AIはその目的のための処理しかしない
もし物流をAIで制御した時、歩いて運ぶ人間は車に比べ効率悪すぎ全員必要無いとなっても、そのAIは必要無いよとしか言わない
車を操って必要ない人員を消す可能性だって!とか語るロマンチストは多いけど、それはそのAIに人を引けるほど何の制約も無く車を操作出来る機能を、物流を考えるためのAIにつけたのがそもそも間違い
効率を求めたら人間の操作の必要が無い作業なんて腐るほどあるだろうが、それを計算させるためのAIに人間を物理的に殺せる機能付ける馬鹿がどこにいるよ
人間がプログラムしなければって、AIはAIが作る時代になり始めてるんだぞ
効率重視のAIをAIが作ったら、非効率的な人間を排除する方向になってもなんらおかしくない
日本からブラジルに行く時に最短距離だからって地面に穴掘って行かないだろ?
人間を排除するって言ってる奴はAIは穴掘ってブラジルに行くと言ってるのと同じだぞ
目的が人間に楽させるためにあるもんなのに効率的じゃないとかで人間排除したら元も子もない
ターミネーター見たいなのはまだまだ先だろうな。
それより自動運転車とかで、車の前に急に人が飛び出して来たけど、飛び出した人を回避すると運転手が死ぬ、運転手を守ると飛び出した人が死ぬて状況の時どちらを優先するのか。
上記の場合どちらを優先しても1人は確殺だが、飛び出して来たのが複数人、回避する先に複数人の人と運転手が死ぬ場合どちらを優先するのか。
こういうある人を助けるために他人を犠牲にするのは許されるかというトロッコ問題をどうクリアしていくのかが問題だと思うわ。
プログラム自体は被害を最小にするとか運転手を必ず守るとか作り込次第だけど、法的、道徳的なコンセンサスを先に作り上げないで普及したら後でどえらい揉め事だけ残りそう。
米軍のプレデターをクラッキングできれば爆撃機入手できるで
まあそこまでのプロならイージス艦も操れるわけで
こういう議論が活発に行われることはいいこと
AIが人を攻撃するってそもそも極論なんだよな。テレビや映画の見すぎw
家電つくるのと一緒だよ。安全性が第一なんだから…
AIって何だ?