対話AI、一ヶ月もせずにネットに染まりサービス中止に

韓国で「対話AI」暴走　機械学習が陥ったワナ

韓国のスタートアップが世に送り出した対話型AI（人工知能）がサービス開始早々、人種や性的少数者に関する差別発言を連発。中止に追い込まれた。
ユーザーから浴びせられた膨大な不適切発言にそそのかされ、かれんな女性は「偏見のかたまり」にゆがんでしまった。

問題となったサービスは韓国のスキャッター・ラボが昨年12月23日に開始した「イ・ルダ」だ。「寂しさを和らげる友達」を目標に開発したチャットボット（自動応…
https://www.nikkei.com/article/DGXZQOGM21B9V0R20C21A1000000

しかし、イ・ルダの開発意図とは違い、女性・有色人種・障碍者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。

「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。

同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

https://news.yahoo.co.jp/articles/f9e394e9746958ec3e06fbc5c6aa45c68d6d149b