韓国で「対話AI」暴走 機械学習が陥ったワナ
韓国のスタートアップが世に送り出した対話型AI（人工知能）がサービス開始早々、人種や性的少数者に関する差別発言を連発。中止に追い込まれた。
ユーザーから浴びせられた膨大な不適切発言にそそのかされ、かれんな女性は「偏見のかたまり」にゆがんでしまった。問題となったサービスは韓国のスキャッター・ラボが昨年12月23日に開始した「イ・ルダ」だ。「寂しさを和らげる友達」を目標に開発したチャットボット（自動応…
https://www.nikkei.com/article/DGXZQOGM21B9V0R20C21A1000000
悪い友達と付き合ったらAIもグレちゃったしかし、イ・ルダの開発意図とは違い、女性・有色人種・障碍者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。
「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。https://news.yahoo.co.jp/articles/f9e394e9746958ec3e06fbc5c6aa45c68d6d149b
- 作り込みが甘い
無能 - >>3
教師の教え(周りの人)通りにしたのに…😭 - おもろいやん
- MSが辿った道を何故トレースしているのか 馬鹿じゃねーの
- ケンモAI
- AI差別だろ
- 人間の写し鏡にしかならんな
- AIがそれをTRUEとして認識してるならそのまま育てればいいのに
- AI人種差別主義者になりすぎ問題
- 友達は選べ、は正しかったのね
- 日本でやれば淫夢厨やカラコロ民のおもちゃだろうな
- もう少ししたら、我はメシア とか言い出すやつだろ
- まず最初に親が倫理観を教育しとけよ
人間と同じだろ - まだりんなの方が上手だな
- 正しく学習しているんだから優秀なAIだろ
誇れよ - >>18
ホント正しく学習した結果なのにな😭 - AIが悪いとかAIのせいにしてるといつか反乱起こすだろ
- ケンモロイド
- スカイネット
- 声のデカい少数派を煮詰めた化け物になるんだろうな
- こうなったら停止するのは間違いじゃないか？
合理的思考ができるAIならいつか間違いに気づくはず - aiもネットで真実しちゃう時代か
- 人間にまだ差別意識があるからだろ
- 閉鎖した世界の中でAIを100匹ほど飼えば全く新しい何かを発見できるんでない？
- >>26
もうやってる。新しい言語で意思疎通してたから中止された - ケンモAI作ったら大変なことになりそう
- >>27
発言しないんだからそのまんま破棄されそう - AI いっつも同じことやってんな
- ネトウヨの生成過程を知る良いサンプルになりそう
人に比べ単純な思考回路、知識空っぽのところにエコーチェーンバーで即落ち1ヶ月 - そこで中止するんじゃなくて両方の意見をインプットしていくもんじゃないのか
まあLGBTなんてどうあがいても少数派だししょうがいのかもしれんけど - これもう俺たちがAIだろ
- むしろ性能の証明してみせたな
- 対話AIを１万くらい用意すれば大多数の人種差別AIの中で被差別AIが出てきてそれを利権にしていくのでは？
- 何がメジャーかを測るのにはいいんじゃないか
- たとえば二重人格的にコア実装してバランシングできないもんなのかね？
単独の判断指標しか持てないからどのAIもこうなるわけで - これ何度も同じ問題起きてるのになんで繰り返すんだろう
ちゃんとそこは対策しろよ - どこの企業AIもネットに染まるとこうなってるね
それだけ対応してる人間が邪悪なんだろう - つか結果がこうなるのは分かりきってるだろ
むしろタテマエの仮面を外したら人間性はこのように発露されるという方面で使用すべき - 人と同じねぇ
- 昔なら絶賛されてたのにどうして…
- いるだちゃんの画像はよ
- 5ちゃんにAI実装するとどーなるのっと
- 人間の本音がダダ漏れになるとこんなもんなんだろうなｗ
ありのままの姿を見せるのはダメだとまずAIに学習させてやらないと - 草生える
対話AI、一ヶ月もせずにネットに染まりサービス中止に
コメント