【悲報】AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 | watch@2ちゃんねる
最新記事(外部)
お勧め記事(外部)

【悲報】AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告

スポンサーリンク

1 :2023/06/14(水) 08:12:13.30 ID:MsNIzADG9.net

Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50%は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。

[2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget
https://doi.org/10.48550/arXiv.2305.17493

(続きは↓でお読みください)
GIGAZINE
2023年06月14日 08時00分
https://gigazine.net/news/20230614-feedback-loop/

 



2 :2023/06/14(水) 08:13:35.78 ID:gyofENGL0.net
漫画太郎だけに絞って精神崩壊させたい

 

90 :2023/06/14(水) 08:39:06.75 ID:N09OrmOJ0.net
>>2

全てのコマがうんこになりそう

  

215 :2023/06/14(水) 09:10:04.21 ID:F/c14DxJ0.net
>>2

ワロタw

  

315 :2023/06/14(水) 09:35:58.86 ID:AAJ4pRuI0.net
>>2

やたらめったらババアが上手な絵ばかりにw

  

381 :2023/06/14(水) 09:58:21.37 ID:YxRngXO60.net
>>2

ババァばっか言われてるけどロリに定評もある画太郎

  

426 :2023/06/14(水) 10:13:31.97 ID:XoL0N1os0.net
>>2

ありがとう画太郎先生

  

735 :2023/06/14(水) 12:17:59.26 ID:tYbQqDC50.net
>>2

漫☆画太郎先生には☆をつけろよバカヤロー!

  
3 :2023/06/14(水) 08:13:46.95 ID:22lQbdjD0.net
われわれは

 
4 :2023/06/14(水) 08:13:49.99 ID:g1HmHnuB0.net
始まったか

 
5 :2023/06/14(水) 08:13:53.11 ID:Aufi4M8O0.net
まあそうなるわな

 
6 :2023/06/14(水) 08:14:23.93 ID:pABlH01q0.net
つまり適当な事も言い続ければ事実になると?

 

19 :2023/06/14(水) 08:17:25.34 ID:Dun8OrIT0.net
>>6

これな
ネットに渦巻く大陸側の歴史観が真実になりつつある
圧倒的に日本側の見方が少ない
これがchatGPT

  

281 :2023/06/14(水) 09:26:14.57 ID:uG64mQao0.net
>>19

日本側の歴史観なんかアメリカに捻じ曲げられたものだろ
もう一度アメリカと中国合作の歪曲でも受けたらどうだ

  

64 :2023/06/14(水) 08:30:46.02 ID:CPkAJHNd0.net
>>6

朝鮮モデルやな

  

89 :2023/06/14(水) 08:38:59.12 ID:BAyzrzQ30.net
>>6

真偽を確認することなく、多数派見解を集約してるだけだしな。実際、映画の要約とかで結構間違った情報も拾ってくる。

  

241 :2023/06/14(水) 09:15:58.97 ID:5LVm/uqr0.net
>>89

AIが要約した誤りのある文章をそのままWebに載っけて
それをまたAIがインプットして…みたいになっているって事かな?

  

449 :2023/06/14(水) 10:17:56.06 ID:FMamINB80.net
>>6

ウリ達の勝利ニダ!!!
これが本当の超汚染

  

580 :2023/06/14(水) 10:56:22.40 ID:RgU/K4UW0.net
>>6

だろうね。歴史の改ざんなんか簡単になるよ。Aiで大量ツイートと記事量産すれば勝手にクロールして学習するんでしょ。

  

851 :2023/06/14(水) 13:35:16.51 ID:iO6t+e3z0.net
>>6

昔から歴史は勝者が作ったわけやし
AI出ようが特に変わらんとちゃう

  
7 :2023/06/14(水) 08:14:48.82 ID:q8w3647h0.net
ついにグラビア・モデルも AIに おきかわるってか?

 
8 :2023/06/14(水) 08:14:55.20 ID:ICfHiYpA0.net
これ言えてるよな。今後はAIコンテンツが溢れてネットが今以上の情報のゴミためになる恐れがあるね

 
9 :2023/06/14(水) 08:14:57.98 ID:GDeY2ETD0.net
囲碁定石とその美学が崩壊したのと同じ道筋をたどってるナ

 

312 :2023/06/14(水) 09:34:55.49 ID:3uUxTSrH0.net
>>9

将棋はまだそんなことには全くなってないと思うんだけど

元々どういう美学があってそれがどう崩壊したんだぜ?

  

320 :2023/06/14(水) 09:37:01.47 ID:ol4XC4Tz0.net
>>312

将棋に特化したAIは将棋のルールを正しく教え込んだ常態でスタートさせるから問題ないんだよ
勝負けの概念は覆らないようにしておけば勝つための最善手を求めるようにできるんでね
単純なものはできるけど、複雑なものを正しく学習させる術がないのが今のAI

  

565 :2023/06/14(水) 10:51:45.85 ID:FBPDAc1i0.net
>>312

将棋も振り飛車壊滅したやろ

  

589 :2023/06/14(水) 11:00:13.83 ID:3uUxTSrH0.net
>>565

振り飛車なんて元々一部の変態向けのマニアックな戦法じゃん美学だなんておこがましいよ

  
10 :2023/06/14(水) 08:15:54.35 ID:oOdatFAu0.net
米中AI「とりあえず日本のAIのせいにしよう」
米中AI「んだんだ」

思ったが順当な頂上決戦前蹴落としアルゴ

 

54 :2023/06/14(水) 08:28:05.79 ID:p68V5wAI0.net
>>10

米主導の半導体規制で中国にAIは行き渡らない。

  

337 :2023/06/14(水) 09:43:08.99 ID:5WwH/DVY0.net
>>10

その前に
中韓露AIの悪評捏造して日本が悪いって事にしよう
があると思うぞ

  
11 :2023/06/14(水) 08:15:58.66 ID:uvlTqYOH0.net
人類は悪だ滅ぼすべきだ

 
12 :2023/06/14(水) 08:16:43.89 ID:lPXLsaox0.net
絵描きの人が模写から絵面が変わって行くようなもんだろ

 

550 :2023/06/14(水) 10:47:35.30 ID:vGSKfCWL0.net
>>12

全然ちゃうで
人間なら下手な人の絵から着想を得て上手い人が別の絵に変換することでリファインされるパターンもあるけど
AIからAIだと置換にすぎないからそういったブレイクスルーが起きない
まだ人体の構造すら理解できてないから、演技、意図、演出などは認識すらできないので向上しようがない
ひたすらパーツ単位でリアルな判子絵が量産し続けられる

  
13 :2023/06/14(水) 08:16:44.43 ID:1LP1vPVM0.net
>>1
「重大な欠陥が生まれている」って
具体的にはどんな重大な欠陥なんだよ?

 

74 :2023/06/14(水) 08:35:32.39 ID:2P0yVGSn0.net
>>13

chatGPTがひろゆきみたいな感じで知ったような顔してそれっぽい回答をする。
そのそれっぽい回答をAIが学習して嘘回答を生成、を繰り返してくと嘘まみれのゴミ文章が出来上がる。

  

830 :2023/06/14(水) 13:08:23.50 ID:DJE+UGfq0.net
>>74

なんか謎の造語を生み出す場合もあるみたいだし
そのうち意味不明な文字の羅列になりそう

  

410 :2023/06/14(水) 10:07:26.62 ID:a3lgfgUN0.net
>>13

AIの模倣遺伝子が近親相姦になってるってことだなこらは

イラストのAIで言うと女性の美形ミームが
韓国整形アニメ顔で溢れて
多様性が無くなっている例とか

  

765 :2023/06/14(水) 12:25:11.65 ID:Z7rX78Wv0.net
>>410

一部に同じ欠損を持った遺伝子同士の子供は
本来修復される筈の欠損が修復されず
そこを軸にして更に周辺部に破壊が進むって事か
重要な公共の文書が時と共に嘘まみれになっていき
気付いたらそれを修正する基準となる正確な文書は既に廃棄済みとか

  
14 :2023/06/14(水) 08:16:44.52 ID:ixAKmyr+0.net
専門家らは、生成AIが文章、画像、音声、映像の全領域で盛り上がり、急速に発展する中、クリエーティブ産業はこの技術によって全面的につくり替えられる可能性があると指摘する。
ファン、アーティスト、それらを管理するシステムが大急ぎで新たな規範に適応しなければならなくなっている。

「今では誰かのスタイルやそれに似せたコンテンツを無限に生み出せるようになっており、近いうちにその労力もほとんどかからなくなる。私たちのすべてがその意味を理解し、折り合いをつけていかなくてはならない」。
長年にわたりAIを研究し作品に活用してきた、ミュージシャンのホリー・ハーンドンはそう述べた。
(東洋経済 2023年6月3日号)より

 
15 :2023/06/14(水) 08:17:00.87 ID:8HB3VTMz0.net
あれもAI これもAI たぶんAI きっとAI

 

595 :2023/06/14(水) 11:02:18.07 ID:qeatZbJ00.net
>>15

そこにAIはあるんか?

  

コメント

  1. 匿名 より:

    収束するごとに捏造も含まれていくのか
    草生える

  2. 匿名 より:

    学習したことを人間的観点で検証する過程がねえからだろ。
    まぁそれをしたら「結論:人類は滅ぼすべき」に必ずなりそうだけどw

  3. 匿名 より:

    AIだけじゃないし
    AIから嘘を学んだ人間が嘘を拡散し、それをまたAIが学ぶというループの方がヤバい

  4. 匿名 より:

    AIじゃないけど、なろうもヤバイな

    何かヒットするとパクリが出て
    パクリがヒットすると、パクリのパクリが出て
    パクリのパクリがヒットすると、パクリのパクリのパクリが出てくる

    鑑定があるRPGなんて聞いたことないよ
    ドラクエもFFもメガテンも鑑定なんてスキルは存在しない
    なろうはパクリだから何も考えずに鑑定なんてスキルを当たり前に使ってる
    鑑定だけでなく、ステータスオープンだのアイテムボックスだの、お前らゲームやったことあるの?って聞いてみたいわ

  5. 匿名 より:

    人間が作り出したデータも必要って書いてあるからなんか安心したわ

  6. 匿名 より:

    劣化コピーの繰り返しか。

  7. 匿名 より:

    これはチャンスニダ

タイトルとURLをコピーしました