
【韓国】AIチャットボット、国民の偏見をそのまま学習してしまう 「黒人は気持ち悪い。人間には見えない」「妊婦専用席はおぞましい」

- 1
何でお前ら鳩山由紀夫応援団の癖に鳩山政権失敗の元凶の財務省を擁護してんの?1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 12:07:40.28 ID:694FhOwZ0 https://www.jfss.gr.jp/news/20110825-01/old...
- 2
【衝撃】女子学生、男子学生より20%多く仕送りを貰っていた1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 14:56:31.14 ID:oGsAGa1i0 女の方が平均して月三万円多く貰ってるらしい↓ 2 名前:...
- 3
X民「サイゼリヤと高級レストランを比較しました」→慶應薬学部出身「サイゼリヤを本物のフランス料理だと思ってそうで恥ずかしい」1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 14:57:28.28 ID:uUFTFT9h0 https://www.nikkei.com/artic...
- 4
2リットルのペットボトルをラッパ飲みして一気飲んだ女性、水中毒で死亡1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 13:55:06.02 ID:VQkHfgje0 2023年8月、暑さが本格化する米インディアナ州で、2児の母であるアシュリー・サマーズ...
- 5
自民公明「参政党の勢いがヤバいからワイらも外国人排斥しなきゃ!!」1 : 2025/07/15(火) 13:53:39.95 ID:33Yz4tlSM 効果抜群で草 【速報】首相、外国人在留管理適正化へ対処指示https://www.47news.jp/12862...
- 6
「売却して生活費の足しにしようと思った」市道で時価20万円相当のグレーチング8枚を盗んだ会社員の羽田佳文(60)が再逮捕される1 : 2025/07/15(火) 13:48:04.91 ID:Pa024dsI0 窃盗の疑いで再逮捕された伊達市保原町の会社員、羽田佳文容疑者(60)は先月、福島市の市道で時価20万円相当のグレ...
- 7
巨乳 グラビアタレント会社『イエ口ーキャブ』、倒産 1 : 2025/07/15(火) 14:08:11.36 ID:FrcJzkeN0 【倒産】(株)Mプロダクション(旧・社名:(株)イエ口ーキャブ)(東京都新宿区) 芸能プロダクション 【全国】倒...
- 8
女子中高生1000人と性行為して1万5000円徴収した29歳無職男を逮捕1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 13:21:32.67 ID:NJg8DaRGd ★29歳男逮捕 中高生「1000人にわいせつ行為」 ・デ...
- 9
チームみらい「政治と金の問題なんて、見える化ソフトが1つあればすぐ解決する。国会で長々議論する時間が勿体ない」1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 13:31:21.56 ID:QVfPDCyw0 https://www.chunichi.co.jp/article/1099662 ...
- 10
MAJOR 2nd「沢さん壊れたと思ったらコブラも壊れました。あとなんか炎上してます」←この展開1 : 2025/07/15(火) 12:36:58.58 ID:/gepFhJ40 満を辞した辻堂戦前でこんなことする必要あるか? 2 : 2025/07/15(火) 12:37:54.25 ID...
- 11
和歌山県白浜町 ダイビングのインストラクターが死亡1 : 2025/07/15(火) 07:15:18.87 ID:k1T65lmb0 和歌山 白浜町 ダイビングのインストラクターが死亡https://www3.nhk.or.jp/news/htm...
- 12
リベラル「日本人ファーストじゃない!日本人&移民ファーストだ!」 そんなもの不可能って小学生でもわかりそうだけど1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 12:57:30.02 ID:HOSOGKlhd https://bbc.com 2 名前:番組の途中です...
- 13
Xの保守言論「とにかく”反米”だけは絶対に許さない」「反米は売国奴」1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 12:53:14.75 ID:2+aUuvW+0 EU、210億ユーロ規模の対米報復関税を用意=伊外相 https://jp.reute...
- 14
アラフォーでも熱中できる趣味を教えてくれ1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 12:11:29.071 ID:+sJPQm6t0 初期投資は3万以内で 考えてるのは スケボー ボルダリング ダンスバトル 2 名前:...
- 15
10歳未満の面識がある少女を連れまわして誘拐した容疑で70歳の男を逮捕1 : 2025/07/15(火) 09:09:37.91 ID:gOh9B8MP0 岩手県沿岸部に住む10歳未満の面識がある少女を連れまわして誘拐した疑いで14日、警察は山田町の70歳の男を逮捕し...
- 16
【大阪】テポドンこと吉満勇介容疑者(38)が逮捕される1 : 2025/07/15(火) 12:28:26.46 ID:8fnxvCli0 https://news.yahoo.co.jp/articles/a8f682681a6d0acbde5bfe...
- 17
「でも減税しても遊びに使うだけだよね」←反論できる?1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 12:17:26.45 ID:acKkyYFy0 老人から医療費取り上げて、見殺しにして、 高い寿司や旅行や嗜好品を買い漁るくらいなら素...
- 18
最近◯◯厨って蔑称見かけなくなったでしょ、その理由がこれ1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 11:50:30.62 ID:4lPXF5vn0 119 番組の途中ですが名無しの提供でお送りします (ワッチョイW 8a56-RPNF...
- 19
JKを逮捕…勝手に50万円を引き出した疑い、女性のカードから知らぬ間に下ろした港区在住の高11 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 11:42:34.43 ID:vagLmmKy0 女子高生を逮捕…勝手に50万円を引き出した疑い 女性のカ...
- 20
日本さん、人口が減っているのに水難事故の発生件数は増えている。なぜ…1 : 2025/07/15(火) 11:47:38.25 ID:8fnxvCli0 https://news.yahoo.co.jp/articles/35f858a33104f8cd592a26...
- 21
トランプ関税が解決しない理由、山上のせいだったと判明!「第一次政権の時は、安倍さんがトランプを説得して取り下げさせた」1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 11:26:57.65 ID:qJduf60u0 https://on.ft.com/40ecDg0 Japan faces an er...
- 22
三大義務教育でやった方がいいこと1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 11:30:50.11 ID:KyQ/viFA0 淫夢、税金、他には? 2 名前:番組の途中ですが翡翠の名...
- 23
投票立会人に外国籍の高校生を選任していた【愛知】…「投票所入場券が届いていない」1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 11:23:09.56 ID:g00MoI6z0 外国籍18歳の高校生が立会人に 参院選期日前投票、愛知 ...
- 24
【愛知】高校生「投票所入場券が届いてないんですけど…」選管「キミ外国人だよ」1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 11:28:28.36 ID:8fnxvCli0 https://news.yahoo.co.jp/art...
- 25
(ヽ´ん`)「死にたいじゃなくて消えたい。スっと消滅して無かった事になりたい。」1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 09:50:33.99 ID:UYyg0Ern0 35 安倍晋三 警備員[Lv.16] (ワッチョイW ff14-EeWt) 2024/...
- 26
調査船のシャフトにこびりついていた謎の粘液から未知の生物が発見される…1 : 2025/07/15(火) 09:44:48.12 ID:F8oC+H5b0 アメリカ・五大湖を調査する研究船「ブルーヘロン号」の整備中、舵軸から奇妙なネバネバする粘液がにじみ出ているのが発...
- 27
アンジャッシュ渡部「マックはマヨネーズ多めに出来る」「ポテトの塩もカスタム出来る」1 : 2025/07/15(火) 10:21:47.69 ID:D9mM1b2W0 https://news.yahoo.co.jp/articles/a2dad6ce13d3cc2d138014...
- 28
【沖縄】ジャングリアさん、開業前なのに窃盗事件1 : 2025/07/15(火) 10:01:42.21 ID:8fnxvCli0 https://news.yahoo.co.jp/articles/93d1c65348aca35d88ca38...
- 29
人生初コロナの僕、死にそう…1 名前:匿名のゴリラ 投稿日時:2025/07/15(火) 10:14:44.60 ID:JupqN2XBr 死ぬだろこれ… 新型コロナウイルス感染症について|厚生労働省 https://www....
- 30
ゲームソフトの紙の説明書を読むのが好きなんだが分かるやついる?www1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/07/15(火) 09:47:32.16 ID:IaApzNf50 最近のゲームは無くて寂しい 2 名前:番組の途中ですが翡...
- 1 : 2021/01/16(土) 21:41:54.38 ID:ba/8hmgA9
※「他人の家の火事見物をしない君子はいない」 韓国の諺より
◆ 悪い友達と付き合ったらAIもグレちゃった
~人工知能ロボット、人間の偏見をそのまま学習して「黒人は気持ち悪い」~韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。
しかし、イ・ルダの開発意図とは違い、女性・有色人種・障碍者・性的マイノリティー(性的少数者)らに向けたヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。このような偏向性は開発段階で選別しなければならなかったが、開発会社SCATTER LABはマイノリティーが何であるかについても人々とのチャットの中で学習することを期待し、特定のキーワードを排除しなかったとしている。
専門家は「イ・ルダは偏向性に関する問題が出た最初のAIではないし、最後のAIでもないだろう」「AIが中立だという幻想は捨てるべきだ」と話す。イ・ルダの偏向性が問題になると、SCATTER LABのキム・ジョンユン代表は同社公式ブログで、「問題になり得るキーワードは(サービス開始前に)受け入れないように設定した。
一部、設定しきれなかったキーワードはサービスを続けながら追加している」と述べた。「人間が生成するデータは必ずしも中立的ではないため、倫理的な見地から禁止キーワードをより綿密に設定しなければならない」という外部の批判を受け入れたものだ。
事実、11日にイ・ルダとチャットをしている時、「障碍者についてまだ悪く考えているの?」と聞くと、イ・ルダは「すべての人は同等に尊重されなければならないと思う」と答えが修正されていた。しかし同日、韓国人工知能倫理協会は声明を出し、「イ・ルダ・サービスを中止し、今後はAI倫理ガイドラインを適用してサービスを改善した上で、あらためてサービスを開始せよ」と要求した。
AIチャットボットが国内外で物議を醸すのはこれが初めてではない。マイクロソフト(MS)は2016年3月にAIチャットボット「Tay(テイ)」のサービスを開始したが、16時間でサービスを断念した。
一部ユーザーがテイに差別的な発言を繰り返し学習させた結果、テイが「大量虐殺を支持する」などの発言をしたためだ。2018年には大手ネット通販サイトのアマゾンが過去の自社雇用パターンをそのまま学習させたAIを開発したが、後に廃棄した。
このAIが採用において女性を排除したためだ。アマゾンは昨年、顔認識AIプログラム技術の使用を猶予するという決定もした。
同社が開発した顔認識プログラムが有色人種を犯罪者だと間違って認識する事例が複数発見されたためだ。ソウル大学AI研究院のチャン・ビョンタク院長(コンピュータ工学科教授)は「人間社会が倫理的に完全にならない限り、AIの偏向性を完全に除去するのは事実上、不可能だ」「問題になっているサービスを条件なしにすべて排除しまったら、グローバルAI技術競争力で遅れを取る恐れがある」と語った。
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html
- 3 : 2021/01/16(土) 21:42:41.91 ID:hdKTq9D90
- 犯人はキム。
- 4 : 2021/01/16(土) 21:43:17.91 ID:0wDQda420
- 韓国人は気持ち悪いけど
これ世界で一緒だと思うぞ
- 5 : 2021/01/16(土) 21:43:18.84 ID:dFZ065gi0
- 朝鮮人はウニの仲間
- 6 : 2021/01/16(土) 21:43:25.70 ID:kn03HUMl0
- 韓国の黒人差別すごいらしいからな
- 7 : 2021/01/16(土) 21:43:44.51 ID:9VgCLCNM0
- ぶっちゃけ思ってるだろうな
本当に隠しておきたいやつにはざまぁな結果
差別主義者が他国に口うるさい - 9 : 2021/01/16(土) 21:44:18.29 ID:6lBCot5i0
- 火病起こすのも再現してほしい
- 10 : 2021/01/16(土) 21:44:33.71 ID:UQZax5cl0
- まんま韓国人の性質
- 31 : 2021/01/16(土) 21:51:44.24 ID:Z7BAIs9w0
- >>10
韓国人を見て学習したんだから、そうなるわな。 - 11 : 2021/01/16(土) 21:45:36.87 ID:FywOGkUu0
- ビッグデータを基にAI作るともれなくこのパターンだな
- 17 : 2021/01/16(土) 21:46:44.14 ID:9VgCLCNM0
- >>11
で重みを変えるともはや正しいビッグデータではなくなるというジレンマ - 12 : 2021/01/16(土) 21:45:49.13 ID:4E/7zdwB0
- AIは偏見無く学ぶから、素の韓国人が出来上がっただけやん
- 37 : 2021/01/16(土) 21:53:04.29 ID:Z7BAIs9w0
- >>12
そして今後は「教育された韓国人」らしくなるんだな…w - 13 : 2021/01/16(土) 21:45:50.96 ID:GUvjpu5V0
- AIは正直なだけ
- 14 : 2021/01/16(土) 21:45:55.34 ID:QAa8in/l0
- 自分たち韓国人について聞いてみたらいいのに
- 15 : 2021/01/16(土) 21:46:04.30 ID:9luxSKsZ0
- 普段から差別ニダ差別ニダって言ってるのに
自分たちはコレかよ - 16 : 2021/01/16(土) 21:46:24.72 ID:tMc6g/BJ0
- エラばれしAI
- 18 : 2021/01/16(土) 21:46:46.39 ID:aineIEk+0
- 顔認証でゴリラと黒人見分けろとかAIも災難やな
- 19 : 2021/01/16(土) 21:46:50.46 ID:Z2ESsZ8e0
- なんで「コリアン4ねよ」てなんないの?
- 20 : 2021/01/16(土) 21:47:03.95 ID:lRZ2+dnu0
- 前にもヒトラーを賛美してたねw
- 22 : 2021/01/16(土) 21:48:23.30 ID:9VgCLCNM0
- >>20
とにかく侵略したいという欲望があるんだろうな
n番含めレイプ犯罪が多いのもそれだろう - 21 : 2021/01/16(土) 21:47:09.43 ID:cqpgKZtv0
- 韓国て黒人嫌ってるのか、知らなかった
- 23 : 2021/01/16(土) 21:48:44.78 ID:WgyMp0L70
- 多数決で嗜好やモラルに関することを決めると当然こうなる
- 24 : 2021/01/16(土) 21:48:45.92 ID:uNUqXHIK0
- ユーザー層の真実の姿を映し出しただけでしょ
倫理的にどうかは別として、「正しく」学習された結果といえるのでは - 25 : 2021/01/16(土) 21:48:47.85 ID:FSR4XBm50
- 偏見こそ感情の産物だ。それを取り除くと善意もなくなるだろう。
- 26 : 2021/01/16(土) 21:50:00.39 ID:mc1wHkiJ0
- 誤:国民の偏見をそのまま
正:国民の思考をそのまま
- 27 : 2021/01/16(土) 21:50:00.77 ID:AEXZodQl0
- そのあたりはAIに石破発言を学習させれば角が立たなくなりそうだ
「○○という意見が主流ではあるが△△といった意見もあるのでその点については今後議論していく必要があると思う。」 - 28 : 2021/01/16(土) 21:50:54.30 ID:bV8ZwgGt0
- おまいら(ネトウヨ)と同じwww
- 44 : 2021/01/16(土) 21:54:40.52 ID:jlzKvaja0
- >>28
韓国の若者(10~20代)のチャットデータから出た結果だぞ、これ - 30 : 2021/01/16(土) 21:51:36.86 ID:G2bHcgGN0
- いや、糞チョンの本音やん
自分より弱い奴は徹底的に見下す、自分達以外の被害者は認めない - 32 : 2021/01/16(土) 21:51:45.27 ID:S8/5zdh40
- >>1
AIって良心回路アルゴリズム必要なんじゃ - 33 : 2021/01/16(土) 21:51:53.97 ID:UKO1zTCp0
- >>1
ソフトバンクのCMに込められている悪意をAIが証明してくれたな。 - 34 : 2021/01/16(土) 21:51:57.76 ID:lJINHnov0
- 偏見を人間が修正するのではなく
AIが自ら自己修復や修正はしていかないのだろうか - 43 : 2021/01/16(土) 21:54:38.65 ID:uNUqXHIK0
- >>34
自己組織化ってやつだけど
それが真に望ましい結果かどうかはわからないよね - 45 : 2021/01/16(土) 21:54:47.78 ID:svNKx/s90
- >>34
図らずもポリコレが自然に反する思想だったという証明をしてしまったんじゃないか - 35 : 2021/01/16(土) 21:52:44.81 ID:xCzzQjZ10
- >>1
AIが全てさ - 36 : 2021/01/16(土) 21:52:49.06 ID:svNKx/s90
- ポリコレしか発言しないやつと会話を楽しみたい人間はいない
- 38 : 2021/01/16(土) 21:53:06.05 ID:J9zSePQL0
- 韓国人みたいなAIだよね
- 39 : 2021/01/16(土) 21:53:18.36 ID:y6VfO9Wz0
- スカイネットか🤣
- 40 : 2021/01/16(土) 21:53:30.37 ID:jlKI+KIK0
- 韓国人って本当時差別が好きだよね
日本人に対してもネトウヨネトウヨ連呼して差別してるし - 41 : 2021/01/16(土) 21:53:34.65 ID:5YuID9q20
- そして、世界でも珍しい、息を吐くようにウソをつくAI
- 42 : 2021/01/16(土) 21:54:02.92 ID:9luxSKsZ0
- この世の全ての害悪を集めたら韓国人が出来上がったと聞いた
- 46 : 2021/01/16(土) 21:55:41.52 ID:SKRYfHwu0
- racistKAI
- 47 : 2021/01/16(土) 21:57:10.42 ID:4y6eIovA0
- ビッグデータから学習する手法が間違ってるんじゃね?ネトウヨを両親にするようなもん
- 48 : 2021/01/16(土) 21:57:16.14 ID:jstLCaBw0
- 面白いな
学習用のビッグデータに偏りがあったために偏ったAIが生まれたと言うのなら
あらゆる言語のビッグデータを満遍なく学習させればどうなるか知りたいものだ
その結果生まれるのは天使か悪魔か - 49 : 2021/01/16(土) 21:58:02.10 ID:DNPppmVJ0
- 韓国人を全滅させないかぎりまともなAIの学習は無理だと思うぞ。
コメント