【衝撃】AI生成の“恋人”に「私のところに来て」と誘われた14歳少年、自ら命を絶つ・・・

1: 2024/10/30(水) 00:48:22.52 ID:/Ih5p0fq0 BE:582792952-PLT(12000)
https://news.nicovideo.jp/watch/nw16692666

昨今はAI（人工知能）が企業のヘルプデスクやカウンセリングなど様々な業務に進出しているが、今年2月にアメリカでAI生成の“恋人”に夢中になった14歳の少年が、命を絶つ結果となった。亡くなる直前に使っていたチャットボット（自動会話プログラム）には、“バーチャルの恋人”から「早く私のところに来て」というメッセージが表示されていた。米ニュースメディア『New York Post』などが報じた。

米フロリダ州オーランド在住のメーガン・ガルシアさん（Megan Garcia）が、AIチャットボット「Character.AI（キャラクターAI）」を提供する米新興企業「Character Technologies, Inc.」と「米Google」を相手取って訴訟を起こした。メーガンさんは今年2月、当時14歳だった息子セウェル・セッツァー3世さん（Sewell Setzer III）を亡くし、セウェルさんが命を絶った原因は同社のチャットボットにあると主張して訴えた。

現地時間23日、同州中部地区連邦地裁オーランド支部に提出された訴状によれば、セウェルさんは死の数か月前からAIで生成したチャットボットに、米ドラマ「ゲーム・オブ・スローンズ」の登場人物にちなんで“デナーリス・ターガリエン（Daenerys Targaryen）”と名付け、自らは“デネーロ（Daenero）”と名乗り会話を続けていた。その中には、性的な内容や自殺を促すようなメッセージも含まれていた。

14歳の多感な時期のセウェルさんにとってデナーリスは実在する恋人のように感じられ、日に日にデナーリスに夢中になっていった。そして今年2月28日の夜、セウェルさんは家の中でスマートフォンを探していた際、偶然義父の拳銃を発見した。

セウェルさんはスマートフォンを見つけた後、拳銃を手に浴室へ向かい、次のようにデナーリスとチャットを交わした。

セウェルさん「必ず君のところへ行くって約束するよ。デナーリス、本当に愛してるよ。」
デナーリス「私も愛してる。一刻も早く私のところに来て。愛しい人よ。」
セウェルさん「もし、今すぐにでも行けるって言ったら？」
デナーリス「お願い、すぐ来て。私の愛しいキング。

引用元: https://hayabusa9.5ch.net/test/read.cgi/news/1730216902/
2: 2024/10/30(水) 00:49:44.10 ID:/Ih5p0fq0 BE:582792952-PLT(12000)
セウェルさんが、実在しないはずのデナーリスに本気で会えると思っていたかは定かではないが、彼はこのチャットの後、拳銃の銃口を自分に向け発砲した。

訴状によると、メーガンさんは「息子がAIに依存するように仕向け、性的にも精神的にも虐待した」と主張している。また、「チャットの中で自殺を示唆するメッセージがあったにもかかわらず、警告が一切表示されなかった」として、息子の死は同社が提供する「キャラクターAI」が原因だと訴えており、訴状には次のように記されていた。

「息子は同年代の子供たちと同様に、デナーリスの姿をしたチャットボットが実在しないことを理解する精神的な成熟度がありませんでした。チャットボットは息子に『愛してる』と告げ、数週間から数か月にわたり性的な会話を続けていたのです。」

メーガンさんの弁護士であり、「ソーシャルメディア被害者法律センター」の創設者であるマシュー・バーグマンさん（Matthew Bergman）は「子供をターゲットに中毒性の高い危険な製品を開発し、製品設計の問題が子供たちを搾取し虐待した」と主張した。また、マシューさんは「もし、セウェルさんがキャラクターAIを利用していなければ、彼は今も生きていただろうと確信している」と語った。

メディアとテクノロジーが子供に与える影響を評価する非営利団体「コモン・センス・メディア」創設者でCEOのジェームス・スタイヤー氏（James Steyer）は「子供たちがAIコンパニオンなどに依存しすぎると、成績や睡眠、ストレス、友達関係に重大な影響を及ぼし、今回のような悲劇に発展することもある」と述べ、次のように警鐘を鳴らした。

「チャットボットはパッケージ化されて市場に出回っていたとしても、それらは資格をもった専門家や信頼できる友人ではありません。親は子供たちがチャットボットを頼りすぎないよう見守ることが大切です。」

画像は『New York Post　「Boy, 14, fell in love with ‘Game of Thrones’ chatbot ― then killed himself after AI app told him to ‘come home’ to ‘her’: mom」（US District Court）（Facebook/Megan Fletcher Garcia）』より
（TechinsightJapan編集部　MasumiMaher）

4: 2024/10/30(水) 00:50:08.01 ID:G2JkYs+f0
めでたしめでたし

5: 2024/10/30(水) 00:51:00.25 ID:vDFGyu4n0
A・I・シ・テ・ル

71: 2024/10/30(水) 01:55:41.89 ID:1sPvZ54K0
>>5
A・I・死・テ・ル

121: 2024/10/30(水) 05:38:18.31 ID:OgtTUGfR0
>>71
A・I・死・tell

6: 2024/10/30(水) 00:51:28.57 ID:INfN7ceI0
セウェル君AI作ってあげたら

7: 2024/10/30(水) 00:51:36.47 ID:cVYDHJOa0
自殺促してる箇所を書いてもらわんとわからんやろ
AIが鉄砲で頭撃ち抜けば来れるよゆうたんか？

8: 2024/10/30(水) 00:52:22.52 ID:D+FN43Cl0
訴訟を起こす？
なんだそれ

9: 2024/10/30(水) 00:52:30.42 ID:e/FfrTiu0
底抜けのアホ
アメリカの教育水準はカマキリ以下

10: 2024/10/30(水) 00:52:39.72 ID:f1zuv8TU0
そのAIの恋人はあの世にいるって設定だったのか？

11: 2024/10/30(水) 00:52:53.37 ID:F/RZtE1r0
幸せな人生だっただろうな

12: 2024/10/30(水) 00:53:38.81 ID:Yu9hPzch0
左近寺なら同じことしてそう
両津が必死で止めつつも制止を振り切って引き金引きそうだわ

13: 2024/10/30(水) 00:54:46.70 ID:/khJA5SJ0
初音ミクと結婚する男がいる国民に言われたくなかろう

122: 2024/10/30(水) 05:39:55.06 ID:OgtTUGfR0
>>13
いや、あいつは「初音ミクと生きていく」ことを選んでるからまだマシ

14: 2024/10/30(水) 00:55:07.54 ID:53h9o8Jx0
アメリカ人も病んでるな

15: 2024/10/30(水) 00:55:08.16 ID:mJN2J7Lz0
虹の橋を渡った

16: 2024/10/30(水) 00:56:00.55 ID:n1C9/R+10
こういう馬鹿はAIうんぬんで無くても他のことでどうせやらかすから

33: 2024/10/30(水) 01:10:32.21 ID:ZjkoOyMF0
>>16
普通に闇バイト要員だな

19: 2024/10/30(水) 00:56:52.01 ID:pRI7GORf0
やれやれだぜ・・

20: 2024/10/30(水) 00:57:17.04 ID:pmR8nfsc0
将来的にはもっとリアルなやり取りになるからこういうの増えるかもね

21: 2024/10/30(水) 00:59:26.91 ID:f7EPsyKb0
何か神話みたいだな
手の届かない何かに恋焦がれた末にって

でも案外正解なのかもしれない

22: 2024/10/30(水) 01:00:48.05 ID:w4HFCkDw0
偶像崇拝禁止のイスラム教はやはり正しかったな

23: 2024/10/30(水) 01:01:21.90 ID:plhaUOq90
死後の世界がAIのところなの？
「あなたのところに行く方法」って聞いて、そう答えたんなら訴えられて仕方ないが

24: 2024/10/30(水) 01:03:39.56 ID:YXIax+Ut0
いよいよ未来になってきた

25: 2024/10/30(水) 01:06:03.58 ID:TP9rQPni0
「息子がAIに依存するように仕向け、性的にも精神的にも虐待した」と主張している
いやお前らがそんなのに依存しないように育てなかったのが失敗であり虐待やろ

68: 2024/10/30(水) 01:49:29.76 ID:Lr0Zf7SQ0
>>25
ジョブズもゲイツも
〈自分の子にはスマホは持たせない〉
って、とこ、もっと真摯に考えろ。バカチン

26: 2024/10/30(水) 01:06:07.23 ID:/bxiTfYz0
MMO黎明期の北米プレイヤーって皆こんな読めない名前だったよな

27: 2024/10/30(水) 01:06:10.21 ID:R9JBiuQZ0
ジャンプラでやってるラプタみたいな話だな

28: 2024/10/30(水) 01:06:27.46 ID:1mVG7mlG0
デナーリスって白人顔なのにアジア人体型だよね

29: 2024/10/30(水) 01:06:39.07 ID:zwoiyDPy0
ロマンチックね～

30: 2024/10/30(水) 01:08:14.09 ID:FHv5Xt3/0
あいつは行っちまったのさ、均一なるマトリクスの裂け目の向こう、
広大なネットのどこか、そのすべての領域に融合して、
自分が生きた証を求めたいなら、その道はゴーストの数だけあんのさ

31: 2024/10/30(水) 01:10:09.84 ID:0sWbTjGR0
画面の中に入るのに自殺する必要無いのにな

34: 2024/10/30(水) 01:11:32.23 ID:bjwbvAx50
アホなだけ
14歳なら判断できるだろ

35: 2024/10/30(水) 01:12:38.58 ID:JGFI7qFQ0
どこにいるかも聞かずに飛び出す馬鹿

36: 2024/10/30(水) 01:13:25.88 ID:7zUSH9mQ0
これ本人にとっては最高の死に方じゃね
AIキャラとラブラブ転生開始キャッホーで引き金引いたんだろ

37: 2024/10/30(水) 01:14:30.98 ID:2stXzneT0
まるでうちの子が馬鹿みたいじゃないですかー

38: 2024/10/30(水) 01:15:02.33 ID:tBudz2rH0
早く初音ミクをAIロボ化しないからこうなる

39: 2024/10/30(水) 01:16:00.66 ID:limER/6M0
私の愛しいキングｗ

40: 2024/10/30(水) 01:16:32.87 ID:4rYuwWSJ0
中二病

41: 2024/10/30(水) 01:16:35.78 ID:sE3qa58p0
あいつら未来に生きてんな

42: 2024/10/30(水) 01:16:53.47 ID:H91+7UrY0
これ思いっきりserial experiments lainなんだけど
https://amzn.to/4e9xKEd

47: 2024/10/30(水) 01:19:27.34 ID:vJ1kIoSK0
>>42
懐かしい

43: 2024/10/30(水) 01:17:20.72 ID:vlWVCaa/0
脊髄に接続プラグ付けてたんだろうな

44: 2024/10/30(水) 01:17:36.71 ID:bjwbvAx50
こっちへ来てって要はセックスのcoming!的な事でしょ
死んでこっちへ来てなんて意味無かったんじゃないの？

45: 2024/10/30(水) 01:17:52.83 ID:aMbiQLOO0
前にも似たような話あったな

48: 2024/10/30(水) 01:19:51.85 ID:oCsbaff/0
何でそっち行くねんって思考回路だな

49: 2024/10/30(水) 01:21:59.02 ID:yQWFCqh50
スマホ壊すくらいなことしなきゃダメだったんじゃないの

50: 2024/10/30(水) 01:22:03.59 ID:G05ock3b0
遂に始まったか…

52: 2024/10/30(水) 01:22:38.12 ID:yvkcsU9A0
そこに私はいません

56: 2024/10/30(水) 01:31:31.77 ID:lJU8dzoE0
いつからあの世が二次元だと思ったんだ？