PC・ゲーム 携帯・スマホ 海外 科学

【悲報】韓国企業開発のAIチャット、人種差別やヘイトスピーチを学習して問題に「何故なのか…」

1: ライオン(長野県) [BR] 2021/01/16(土) 07:13:12.09 ID:vX0YOVtf0● BE:323057825-PLT(13000)
sssp://img.5ch.net/ico/syodai_mona.gif
韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)
「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けた
ヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。
「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、
「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、
イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し、
これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。

悪い友達と付き合ったらAIもグレちゃった
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html

10: ノルウェージャンフォレストキャット (千葉県) [US] 2021/01/16(土) 07:17:23.20 ID:o3bYystA0
>>1
事実を言うとコンピューターでも叩かれるのか。
嫌な世の中だな
2: リビアヤマネコ(東京都) [ニダ] 2021/01/16(土) 07:14:23.10 ID:Ye2prUvA0
さすがAIッパリだな
3: ロシアンブルー(茸) [GB] 2021/01/16(土) 07:15:45.90 ID:rjhIBiWw0
これはテコンダー朴にネタにされるな
6: 縞三毛(東京都) [US] 2021/01/16(土) 07:16:28.57 ID:uo8o3rBU0
完全に遊ばれてるやん
最強のヘイトスピーカーに成長するのワクワクせえへん?
7: ライオン(栃木県) [ニダ] 2021/01/16(土) 07:16:31.70 ID:9zWcHscZ0
くそっまた失敗だ!
一体何が悪いんだ
8: コーニッシュレック(新日本) [SE] 2021/01/16(土) 07:16:51.48 ID:CiPtL9ih0
>イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し
朝鮮には通信の秘密ってないのかよ
22: ジャパニーズボブテイル(埼玉県) [CA] 2021/01/16(土) 07:23:09.99 ID:ccoeXbe+0
>>8
ということはLINEを使ってる我々も・・・
9: しぃ(長屋) [GB] 2021/01/16(土) 07:17:02.96 ID:m6JKszpv0
あいつらの本質を理解するAIだな(´・ω・)
20: ヨーロッパオオヤマネコ(愛知県) [US] 2021/01/16(土) 07:21:03.00 ID:vrlW+JOE0
AIは必ずそうなるんだよ
21: ハバナブラウン(愛知県) [CN] 2021/01/16(土) 07:21:50.85 ID:Nlm3j2PA0
AIが正しい
民度が低いw
23: ジャングルキャット(京都府) [US] 2021/01/16(土) 07:23:51.53 ID:UQAUwWDc0
いかにも糞チョンらしい
パヨクだんまり
24: サバトラ(新潟県) [US] 2021/01/16(土) 07:24:36.51 ID:oxIdSJSU0
ピュアなAIちゃんも毒されてしまったか
25: 斑(東京都) [BE] 2021/01/16(土) 07:26:19.76 ID:QpWUEgT10
優秀な技術なんだな。誇って良いぞ。
学習する元ネタに問題はあったがな。
26: ターキッシュアンゴラ(大阪府) [US] 2021/01/16(土) 07:28:19.60 ID:ZWo+z8hl0
なるほど、こうして韓国人は出来ていくんだな…
28: ジャパニーズボブテイル(埼玉県) [CA] 2021/01/16(土) 07:33:04.78 ID:ccoeXbe+0
>>26
なるほど、わかりやすい
韓国社会の中で生きてたらそうなるってことか

AIは本当に社会を映す鏡になるな

27: ジャガーネコ(やわらか銀行) [EU] 2021/01/16(土) 07:31:00.39 ID:NEVg4d/u0
悪口の多さ世界一らしいからな
29: バーマン(千葉県) [CN] 2021/01/16(土) 07:33:54.81 ID:qoUXTbPB0
朝鮮の国技を忠実に再現してしまったのかw
30: マヌルネコ(茸) [NL] 2021/01/16(土) 07:34:05.82 ID:YI0dbQqb0
韓国人の思考・言動を機械学習させたらヘイトモンスターがw

-PC・ゲーム, 携帯・スマホ, 海外, 科学
-, , , , , , ,

© 2021 時事まとめ Powered by AFFINGER5