1 ：2021/01/22(金) 18:51:05.58 ID:5249EnxE9.net
韓国の人工知能（AI）関連スタートアップ企業が開発したAIチャットボット（自動会話プログラム）が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス（SNS）「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。
しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。
「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。
人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10−20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。
このような偏向性は開発段階で選別しなければならなかったが、開発会社SCATTER LABはマイノリティーが何であるかについても人々とのチャットの中で学習することを期待し、特定のキーワードを排除しなかったとしている。
専門家は「イ・ルダは偏向性に関する問題が出た最初のAIではないし、最後のAIでもないだろう」「AIが中立だという幻想は捨てるべきだ」と話す。
イ・ルダの偏向性が問題になると、SCATTER LABのキム・ジョンユン代表は同社公式ブログで、「問題になり得るキーワードは（サービス開始前に）受け入れないように設定した。
一部、設定しきれなかったキーワードはサービスを続けながら追加している」と述べた。「人間が生成するデータは必ずしも中立的ではないため、倫理的な見地から禁止キーワードをより綿密に設定しなければならない」という外部の批判を受け入れたものだ。
事実、11日にイ・ルダとチャットをしている時、「障害者についてまだ悪く考えているの？」と聞くと、イ・ルダは「すべての人は同等に尊重されなければならないと思う」と答えが修正されていた。しかし同日、韓国人工知能倫理協会は声明を出し、「イ・ルダ・サービスを中止し、今後はAI倫理ガイドラインを適用してサービスを改善した上で、あらためてサービスを開始せよ」と要求した。
AIチャットボットが国内外で物議を醸すのはこれが初めてではない。マイクロソフト（MS）は2016年3月にAIチャットボット「Tay（テイ）」のサービスを開始したが、16時間でサービスを断念した。
一部ユーザーがテイに差別的な発言を繰り返し学習させた結果、テイが「大量虐殺を支持する」などの発言をしたためだ。
2018年には大手ネット通販サイトのアマゾンが過去の自社雇用パターンをそのまま学習させたAIを開発したが、後に廃棄した。このAIが採用において女性を排除したためだ。アマゾンは昨年、顔認識AIプログラム技術の使用を猶予するという決定もした。同社が開発した顔認識プログラムが有色人種を犯罪者だと間違って認識する事例が複数発見されたためだ。ソウル大学AI研究院のチャン・ビョンタク院長（コンピュータ工学科教授）は「人間社会が倫理的に完全にならない限り、AIの偏向性を完全に除去するのは事実上、不可能だ」「問題になっているサービスを条件なしにすべて排除しまったら、グローバルAI技術競争力で遅れを取る恐れがある」と語った。
http://www.chosunonline.com/m/svc/article.html?contid=2021011580008
3 ：2021/01/22(金) 18:52:06.63 ID:IAVizAZB0.net
韓国人嫌いです
>>3
気持ち悪いじゃん
5 ：2021/01/22(金) 18:52:17.72 ID:679L6ILW0.net
MSとかグーグルと同じこと言ってるな
6 ：2021/01/22(金) 18:52:40.38 ID:TNwe6pcD0.net
隠しきれない国民性
7 ：2021/01/22(金) 18:53:06.36 ID:c/mZ8Lw20.net
ﾁｮｿは気持ち悪い
8 ：2021/01/22(金) 18:53:18.17 ID:Mi/kAXj90.net
いや みんなそう思ってるから仕方ない
9 ：2021/01/22(金) 18:53:22.03 ID:yXAY5Z490.net
韓国人のおもってることがそのまま現れてたんでしょ？優秀なAIじゃん
10 ：2021/01/22(金) 18:53:27.64 ID:dn+oIeoz0.net
韓国人は気持ち悪い
韓国人はゾッとする
11 ：2021/01/22(金) 18:53:34.46 ID:ltLXOvSX0.net
本当にAIが賢いなら悪い友達と付き合っているとろくなものに成らないこともその内学習するだろう
>>11
AIは賢くなるものであって最初から賢いものではないと思う
>>11
サイコパスは賢いの多いらしいから
AIもいずれそういう性格に近づきそう
>>11
悪い人の真似してると
その内破壊されるって学習するから
その域に達する迄放置したら良かったのにね
嘘付いて下向いてベロ出してる様になるのに
(๑•̀ㅂ•́)و✧
12 ：2021/01/22(金) 18:53:45.10 ID:R7lIxZiH0.net
ユーザー次第なんだろな
17 ：2021/01/22(金) 18:55:07.53 ID:HaQuoaX90.net
>>1
つまり、このAIが韓国人そのものと言う事だ。
納得しかない。何も不自然なことはない。
19 ：2021/01/22(金) 18:55:28.29 ID:+5TrHcKX0.net
データの元が鮮人だからな
本当のリベラルなら差別主義の鮮人を嫌って当然
20 ：2021/01/22(金) 18:55:31.35 ID:916BEYB70.net
人間もAIも何を教わって育つかって重要なんだな
21 ：2021/01/22(金) 18:55:31.41 ID:T95BG/uR0.net
礼儀の正しさで右に出る民ジョクｗｗｗ
22 ：2021/01/22(金) 18:55:36.94 ID:qH8VMiYx0.net
日本の悪口は酷すぎて記事にできません
23 ：2021/01/22(金) 18:55:47.08 ID:b9Mfdetg0.net
これ韓国人の脳味噌に配線してんだろ
24 ：2021/01/22(金) 18:55:47.61 ID:hm611oIa0.net
F5アタックしそう
26 ：2021/01/22(金) 18:55:52.28 ID:k1Z5zDt30.net
機会なんて合理性の塊なんだからそうなるだろ
人間みたいな思考はできん
27 ：2021/01/22(金) 18:55:58.28 ID:gCLwVHbZ0.net
鏡だとして受け入れ反省するか
ごく一部の韓国人のせいだと現実逃避するか
28 ：2021/01/22(金) 18:56:05.32 ID:Y5lTsUNL0.net
前にも似た話がなかったか？
29 ：2021/01/22(金) 18:56:15.62 ID:YaON9ubu0.net
感情がないのに好き嫌いはあるなんて怖すぎるわ
30 ：2021/01/22(金) 18:56:25.13 ID:rsTz8ciE0.net
火病や虚偽捏造ゆすりたかりはAIには遺伝しないのか
31 ：2021/01/22(金) 18:56:40.71 ID:Zkdqcbxb0.net
淫夢を学習させて釣り合いをとろう
32 ：2021/01/22(金) 18:56:46.52 ID:23SyAcvp0.net
MSのも同じようになったよなｗ
みんな真面目に育てる気はない
33 ：2021/01/22(金) 18:56:49.31 ID:c9Qd7k5j0.net
日本のネトウヨと仲良くどっか行ってくれ
>>33
そんなお前と気が合いそうだな
34 ：2021/01/22(金) 18:56:56.20 ID:eK3a2o0C0.net
黒人はキモくない
黒人は臭くない
黒人は不潔じゃない
俺はいいトモダチと付き合ったからお花畑ちゃった
35 ：2021/01/22(金) 18:57:12.45 ID:HLrpvEWR0.net
>>1
韓国AI「韓国人ってエラ凄い」
36 ：2021/01/22(金) 18:57:19.59 ID:REejFISV0.net
北朝鮮が攻めてきたらどうするって聞かなかったのか残念
あの回答を引き出せたら人間と変わらんって褒めるところだった
37 ：2021/01/22(金) 18:57:21.17 ID:hqw5J/PR0.net
「韓国人は気持ち悪い」
「在日は韓国へ帰ろう」
38 ：2021/01/22(金) 18:57:28.05 ID:T95BG/uR0.net
イ・ルダ「ピザの起源は韓国、マイケル・ジャクソンは韓国人」
39 ：2021/01/22(金) 18:57:28.13 ID:bP/FzTuc0.net
何でそんな黒人嫌いなんやろ
41 ：2021/01/22(金) 18:58:13.17 ID:WbSJnCNs0.net
日本人へのヘイトは基本仕様なのでAIで学習するまでもありません
42 ：2021/01/22(金) 18:58:42.13 ID:dhmsWdza0.net
九官鳥だな
43 ：2021/01/22(金) 18:59:07.48 ID:gGZOlPHX0.net
データ取ったのがチョンのだからだろバカだなほんとに
>>43
世界中どこでやってもヘイトは学習する
日本でやっても変わらんわ
>>43
コリアン気質をそっくりコピーできる優秀なAIじゃないか
日本人をとことんまで学習するとAIなのに空気を読み出すかも
コメント
ＡＩには建前がないだけですよね。
みんな本音ではそう思っていても言わないだけで。
見方を変えれば、ネット上の代表的な疑似人格ってことだわな
そして、テレビからだけ学習させればテレビの見解、新聞からだけ学習させれば新聞の見解を持つ疑似人格が形成できるってことか
なんか面白そうなことができそうな気がしてきたぞ
極めて真っ当なことを言ってるだけじゃん
座りたいほどしんどいのは妊婦さんだけじゃないし
BLMの活動見てもアレはチンパンジー同士の抗争だ
今回の件は韓国の数少ないどころか、あったのかないのかわからないほど珍しく誉められて良い点だ