【おわび】Google Photosが黒人をゴリラと認識する事件が発生。開発者が謝罪

1 : 2020/07/02(木) 06:38:25.45 ID:IuRh6OCj9

https://gigazine.net/news/20150702-google-photos-gorilla/

5月29日にリリースされたGoogleの新しいフォトアプリ「Google Photos」にはアップロードされた写真に対して人工知能が自動的にタグをつける機能がありますが、
黒人2人組が写る写真に対し「ゴリラ」というタグが付けられる「事件」が発生しました。

ことの発端となったのはJacky Alcinéさんが行ったツイート。「Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。
高層ビル、飛行機、車、などは正しく認識されていますが、下段真ん中に写っているAlcinéさんと友人が「ゴリラ」と認識されていました。

さらに、AlcinéさんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、「Googleはどういう写真からデータを集めているの?」と不信に思っていた様子。

AlcinéさんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、
Alcinéさんの許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。

またZungerさんは「このようなことはよくあります」としつつも「マシン自体にバイアスはありませんが、我々が注意しないと彼らは容易に私たちから人種差別を『学んで』しまいます」とAlcinéさんにメッセージを送っています。
これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。

現在、Google Photos内から「ゴリラ」というタグは削除されていますが、チームは依然「なぜ人間の顔が正しく認識されないのか?」ということを調査中。
このようなバグは初めてのことではなく、Zungerさんによると一度は人種に関わらず全ての人が「犬」と認識されることもあったそうです。

Googleの広報担当は「このような事態が起こり本当に申し訳ないです。同様の結果を招かないよう、迅速に対応していきます。
自動タグ付け機能にはまだまだ問題があり、今後、今回のような間違いを起こさないようにする方法を探っています」とコメントしています。

2 : 2020/07/02(木) 06:38:58.32 ID:cb/pzHIq0
黒人って認識難しいんだよな
3 : 2020/07/02(木) 06:39:05.79 ID:apscbXFW0
浜田はちゃんと認識されるの?
39 : 2020/07/02(木) 06:44:09.31 ID:ohQLrwpz0
>>3
黒人が浜田って認識されるよ
4 : 2020/07/02(木) 06:39:31.42 ID:q9uU51fC0
ゴリラが一緒にしてくれんなのあの画像
5 : 2020/07/02(木) 06:39:33.68 ID:/+tbobWf0
色情報に頼り過ぎるとこうなるわな。
6 : 2020/07/02(木) 06:39:48.60 ID:9nYD5kWk0
オバマも苦笑いするぐらいブラックやなぁ
7 : 2020/07/02(木) 06:39:49.54 ID:a9Pa3PfN0
ゴリラなんだけどね
8 : 2020/07/02(木) 06:39:50.86 ID:Iv+VcmK00
・・・・・・・・・・有るわな
9 : 2020/07/02(木) 06:40:08.34 ID:jRkP5Vti0
うちの猫は"犬"と認識されたぞ
謝罪と賠償を要求する!
25 : 2020/07/02(木) 06:42:35.89 ID:1yPLUR0t0
>>9
うちもだわw
75 : 2020/07/02(木) 06:48:14.32 ID:5r49aqnS0
>>9
あごを床につけて寝ているシーンとかは、
猫でも「犬」に分類されているわな。
10 : 2020/07/02(木) 06:40:08.36 ID:uE2Bwsij0
日本人はサルと誤認識されるのか
52 : 2020/07/02(木) 06:45:45.82 ID:trJohjsX0
>>10
お前らはゴキブリと認識されるんじゃね?
11 : 2020/07/02(木) 06:40:25.34 ID:kKtH01Rd0



頭髪

似てるの事実じゃん

12 : 2020/07/02(木) 06:40:49.78 ID:C4Csc+gG0
事実だよ
13 : 2020/07/02(木) 06:40:50.68 ID:dFf4sKOv0
前にもあったのに、またかよ
と思ったら、前のニュースだった・・・
14 : 2020/07/02(木) 06:40:54.31 ID:r0n6FeEZ0
このタイミングで?わざとだろ?
16 : 2020/07/02(木) 06:41:03.48 ID:Do7SonWj0
ざわとらしいw
17 : 2020/07/02(木) 06:41:10.14 ID:IuRh6OCj9
ごめん。2015年の記事だった。
32 : 2020/07/02(木) 06:43:07.14 ID:6noUbO+i0
>>17
剥奪
42 : 2020/07/02(木) 06:44:34.61 ID:Zi7CCElw0
>>17
面白かったら何でもアリか?
55 : 2020/07/02(木) 06:46:24.01 ID:mI8D5TeH0
>>17
気にすんな
面白ければスレ伸びる
面白ければいいんだよ
我々にはこういう面白い記事(餌)が必要
104 : 2020/07/02(木) 06:52:06.14 ID:uozmk9kt0
>>17
面白いから許す
118 : 2020/07/02(木) 06:53:59.47 ID:g1jJElyd0
>>17
そんなニュースあったな。覚えてたわ。
19 : 2020/07/02(木) 06:41:39.07 ID:op+GE39k0
面白いと思うけどな
自分がどんなものに認識されるんだろ、
って興味持った
20 : 2020/07/02(木) 06:41:48.27 ID:YO60LYTv0
これは差別とは関係ないやん
21 : 2020/07/02(木) 06:42:07.06 ID:+iL0tVPN0
ゴリラの写真だったら黒人と表記されんの?
28 : 2020/07/02(木) 06:42:50.97 ID:ipYxHVTW0
>>21
表面が黒い霊長類くらいでぼやかさないとダメだな
22 : 2020/07/02(木) 06:42:13.98 ID:NzmfQMzc0
修正したら次はゴリラが黒人に認識されるな
24 : 2020/07/02(木) 06:42:24.79 ID:Z5HjW9ZI0
少し前にAIが黒人とゴリラ区別できないって記事あったのになぜ始めちゃったんだよ
46 : 2020/07/02(木) 06:44:53.13 ID:Do7SonWj0
>>24
AIって女性差別とか黒人差別とか性格悪いよねw
53 : 2020/07/02(木) 06:46:08.45 ID:1UYLNz8D0
>>46
AIの性格が悪いんじゃない
情報を吹き込む人間の性格が悪いのだ
26 : 2020/07/02(木) 06:42:43.83 ID:3l55OwyX0
たまに白人をラクダあたりに認識させれば相殺されるんじゃね
27 : 2020/07/02(木) 06:42:43.92 ID:wlUzUiSW0
人間の目でも判別つかないんだから難しくね?
29 : 2020/07/02(木) 06:42:53.41 ID:ZPi5CJkj0
前にもそんな事あったよね?
30 : 2020/07/02(木) 06:43:00.75 ID:e+R/bEjx0
またやったのかw
31 : 2020/07/02(木) 06:43:03.49 ID:cBQnaVT60
黒もじゃの着ぐるみに包まれた黒人は本当にゴリラと区別がつかん
33 : 2020/07/02(木) 06:43:13.08 ID:x95LlPpn0
前にもあっただろ確実にわざと
34 : 2020/07/02(木) 06:43:18.98 ID:esniEcZM0
四捨五入したら大体ゴリラだろ
35 : 2020/07/02(木) 06:43:35.22 ID:VW63JwGN0
間違ってない
36 : 2020/07/02(木) 06:43:36.78 ID:SkCqHq8h0
コンピュータは正直だからな
37 : 2020/07/02(木) 06:43:42.42 ID:VMHGq1/w0
>>1
そんな昔の記事を引っ張り出してくるわけ?
38 : 2020/07/02(木) 06:44:08.52 ID:ztTzGOxY0
すごい前に見た
大体合ってる
41 : 2020/07/02(木) 06:44:19.99 ID:9/4+uTXi0
これが世界を誇るAIの忖度だ!
43 : 2020/07/02(木) 06:44:42.72 ID:+mJpwwgD0
いくら教えても機械は納得しないだろ
人間が手動でタグ付けするしかない
44 : 2020/07/02(木) 06:44:47.23 ID:4UjLnXCQ0
まだ直してないのかと思ったら当時の記事じゃん
45 : 2020/07/02(木) 06:44:51.35 ID:8chdQDmR0
ずいぶん以前のニュースだよ。
今は改善されてる。

画像の特徴を数値化して数値をAIが判断するので、特徴が似たものに誤認するのはあり得る。

47 : 2020/07/02(木) 06:44:54.68 ID:UzM+Tf3N0
ゴリラと認識 別に良いじゃん
49 : 2020/07/02(木) 06:45:18.85 ID:BECtgnCk0
犬の認識の方が難しいよね。
犬種ごとに特徴を覚えないとダメだし。
50 : 2020/07/02(木) 06:45:35.20 ID:D5mY/tfU0
ゴミ記者はゴミ箱へ
51 : 2020/07/02(木) 06:45:45.60 ID:HfkhzOOC0
えっ ちがうの?
54 : 2020/07/02(木) 06:46:21.87 ID:p1Ag9PX60
パンダが一言
56 : 2020/07/02(木) 06:46:33.48 ID:1bUbe9rf0
その謝罪はゴリラに失礼。大変な名誉ではないか。
ご先祖様の血統だぞ。
57 : 2020/07/02(木) 06:46:36.97 ID:2s9Qmo760
>>1
> これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。

差別差別と大声で騒ぐからだろw
差別の自己再生産、自業自得だよ

58 : 2020/07/02(木) 06:46:44.43 ID:wo9r0Elm0
日本人はイエ口ーモンキーと認識される
59 : 2020/07/02(木) 06:46:53.22 ID:t4RUSRFZ0
明後日のG検定に出る話題だな
60 : 2020/07/02(木) 06:46:58.95 ID:cFeOzrIu0
5年前の記事じゃねーか氏ねよ
61 : 2020/07/02(木) 06:47:01.29 ID:GhP84g9U0
ゴリラが激おこだ

黒人と一緒にするな!

62 : 2020/07/02(木) 06:47:08.37 ID:QMU+yFM80
AIは忖度を知らない
だから危険なのだよ
63 : 2020/07/02(木) 06:47:10.78 ID:J5RZL3UB0
誤判定された画像を見ないことには何とも言えんけど…。
黒人の写真をゴリラと誤認するか、ゴリラの写真を黒人と誤認するか、
「服を着てれば人間」みたいなインチキを入れといた方が安全かもね。
64 : 2020/07/02(木) 06:47:11.26 ID:hM+0yBGo0
>>1
じゃ、特亜は国際テロ組織?
66 : 2020/07/02(木) 06:47:29.87 ID:2PocCkep0
浜田は正しかった
103 : 2020/07/02(木) 06:51:57.63 ID:W/TFVadd0
>>66
浜田アウトー
67 : 2020/07/02(木) 06:47:34.20 ID:Rb82YXbf0
いやいや
ゴリラだから
68 : 2020/07/02(木) 06:47:42.23 ID:hrJovuc80
日本なら笑い話にしてメーカーも謝罪要求されてないのに
謝ったりするだろうけど
本場差別の国の人間は違うわ
71 : 2020/07/02(木) 06:47:57.21 ID:wHe9Eek20
ゴリラにランクアップしたのにお詫びとは?意味不明w
72 : 2020/07/02(木) 06:47:57.40 ID:XFA+yhzC0
2018年01月15日 11時30分ネットサービス
Googleはゴリラ画像を検索結果からブロックしている

対処法ワロタ

73 : 2020/07/02(木) 06:48:04.39 ID:sJGqbmP30
×ゴリラ
○ゴレィラな
88 : 2020/07/02(木) 06:49:27.44 ID:Do7SonWj0
>>73
第2音節強調
74 : 2020/07/02(木) 06:48:11.90 ID:qXU9cDx50
剥奪です
76 : 2020/07/02(木) 06:48:17.09 ID:Uup6Pd3H0
黒人とゴリラを見分ける技術は難しいから、まずは日本人と韓国人を見分けられるAIを開発してくれ
77 : 2020/07/02(木) 06:48:20.93 ID:t+3cHjWM0
ゴリラは優しいし賢いから黒人より優れてるだろ
ゴリラ差別やめろ
78 : 2020/07/02(木) 06:48:35.53 ID:++Y2ALku0
大昔見た記事だったなw
79 : 2020/07/02(木) 06:48:35.67 ID:SQi4MuQA0
>>1
>5月29日にリリースされた
はい「ずいぶん前」とか言ってるネトウヨ論破♪
136 : 2020/07/02(木) 06:57:22.49 ID:LZfS7GW+0
>>79
googleの画像一覧で黒人と一緒に関連画像としてゴリラ出てくるみたいな話の事だと思う
相当前からある問題
80 : 2020/07/02(木) 06:48:37.37 ID:1UYLNz8D0
>>1
この記者は何が楽しくて2015年の記事を載せたの?
81 : 2020/07/02(木) 06:48:57.95 ID:k1kIqwIh0
なんでお詫びするw
確かにゴリラと似てるし
機械は正直だなー
82 : 2020/07/02(木) 06:49:00.35 ID:q9p1U2jC0
なかなかブラックなジョークが効いてるじゃあないか
83 : 2020/07/02(木) 06:49:06.83 ID:Rb82YXbf0
AIが差別するわけが無いだろ

ポリコレ抜きの判断だとゴリラ

84 : 2020/07/02(木) 06:49:11.14 ID:AhI1cVp20
これ前から言われてる事だろ
85 : 2020/07/02(木) 06:49:17.50 ID:WplJ+fuw0
2年前くらいに同じような機能のやつやったら真田だと言われてめちゃ喜んだ記憶。
86 : 2020/07/02(木) 06:49:21.56 ID:2pu37G7v0
ゴリラだと嫌なの?
ゴリラ差別してる?
87 : 2020/07/02(木) 06:49:21.58 ID:aOGb0IgU0
こうやって科学も否定されていくのかな
89 : 2020/07/02(木) 06:49:36.40 ID:B8AHdOEYO
>>1
7人いたら、
ザ・ゴリラ7ごっこができたのに、、、
90 : 2020/07/02(木) 06:50:00.42 ID:NjT9oU8R0
今じゃスラムダンクも深刻な人種差別作品だといって批判にされられそうだ
ちょっと顔が猿っぽいだけでゴリだのボス猿だの丸ゴリだの呼ばわりしているし
91 : 2020/07/02(木) 06:50:19.46 ID:Rb82YXbf0
鼻と分厚い唇
AIが判断すればゴリラ
92 : 2020/07/02(木) 06:50:23.65 ID:ke4XdTjp0
えー楽しいじゃん
93 : 2020/07/02(木) 06:50:27.37 ID:DONfgL8p0
これはゴリラに失礼すぎる
ゴリラは黒人みたいに暴力的じゃ全くない
94 : 2020/07/02(木) 06:50:34.34 ID:PaxiS+sG0
ゴリラに失礼
95 : 2020/07/02(木) 06:50:46.34 ID:m8PCBTZn0
服を着てるかどうかで区別は容易に付くだろ
96 : 2020/07/02(木) 06:50:55.96 ID:+NK0lleW0

。゚(*゚´∀`゚)゚ノ彡☆ギャハハ八八ノヽノヽノヽノ \ / \/ \
97 : 2020/07/02(木) 06:51:13.25 ID:6RGil28u0
オラウータンの方が近い
バブーンね
98 : 2020/07/02(木) 06:51:25.55 ID:s/81c8p00
いかんよ。google
99 : 2020/07/02(木) 06:51:26.77 ID:Ihld/s2j0
それだけゴリラに似てるということだよ
100 : 2020/07/02(木) 06:51:27.13 ID:S4gUmq7O0
ネット上でカラスのこと黒人で言ってたらそのうちカラスが黒人て判断されたりするんか
101 : 2020/07/02(木) 06:51:35.97 ID:aKQGpTQY0
HAHAHA
102 : 2020/07/02(木) 06:51:50.43 ID:/C1/FXY00
ゴリラは暴動を起こさない
105 : 2020/07/02(木) 06:52:08.57 ID:VjnLrbva0
この問題ってゴリラとか猿とかのタグ無くして終わりでそこから進まんな
106 : 2020/07/02(木) 06:52:13.43 ID:L5ro7pqj0
自動認識なんてそんなもん
108 : 2020/07/02(木) 06:52:24.59 ID:bj8cDMiu0
>>1
だがしかし、それは同じ地球に生を受けた類人猿の仲間たちへの差別ではなかろうか > BLM
109 : 2020/07/02(木) 06:52:43.84 ID:vUJ9V3IP0
逆にあまりにも性格で一瞬で新種の動物を新種と判断するくらいのAIだったらすごいのにな
「これは新人類です」
110 : 2020/07/02(木) 06:52:48.42 ID:5Q2r7Y8g0
顔の周りが黒い毛で覆われてるし
ゴリラだと判別されるのもわかる
差別差別うるせえよ
111 : 2020/07/02(木) 06:52:52.93 ID:sFo2ZlHz0
ワロタ
112 : 2020/07/02(木) 06:52:54.07 ID:QRzZEouU0
だははっ
113 : 2020/07/02(木) 06:52:59.60 ID:eY2GfQ/70
これワザとだろ
鼻と口と目で流石にゴリラとは区別できるだろ
114 : 2020/07/02(木) 06:53:32.26 ID:6pxaqpSF0
うちのデカイ猫も犬に分類されてるけど文句言わねーぞ
115 : 2020/07/02(木) 06:53:35.29 ID:Rb82YXbf0
MI5やCIAや中国が利用している画像識別でも黒人はゴリラと認識される
だから治安当局の顔認識ではゴリラの判別までしているのが現状
116 : 2020/07/02(木) 06:53:52.06 ID:L5ro7pqj0
Tシャツに描かれてる人物に
カメラの顔認識機能が持っていかれちゃうようなもんだし
119 : 2020/07/02(木) 06:54:09.38 ID:3i9jbNOi0
ゴリラの方が優秀だから名誉だろ
120 : 2020/07/02(木) 06:54:16.61 ID:zMpYlkdh0
宇宙猿人
123 : 2020/07/02(木) 06:55:42.22 ID:RMH+y/Vg0
わ・ざ・と・だ・ろw
124 : 2020/07/02(木) 06:55:57.59 ID:uYOCxlGd0
チョンだと寄生虫かなんかと認識しそうだな
125 : 2020/07/02(木) 06:56:04.66 ID:4LV4zcfb0
色というか造形がキツイんだよな
126 : 2020/07/02(木) 06:56:30.30 ID:hnhiW8Hb0
AIがそう判断するのならそうなんだろうよw
127 : 2020/07/02(木) 06:56:34.76 ID:TUS6GLsO0
無茶言うなよ
128 : 2020/07/02(木) 06:56:35.81 ID:P6Jz8tpM0
子供の目でも認識できるものをAIは認識できないのか。
それじゃ黄色人種もチンパンジーとか宇宙人とか他の生物に認識されてる
だろうな、まだバレてないだけで。
129 : 2020/07/02(木) 06:56:38.79 ID:NNSYPJsH0
ごめん めちゃワロタww
130 : 2020/07/02(木) 06:56:39.49 ID:QV2ukS3A0
ゴリラみたいな顔してたらゴリラ判定でもいいだろ(笑)
そもそも人間がゴリラみたいって判断してんだから
131 : 2020/07/02(木) 06:56:48.69 ID:Tok2lMS60
これ黒人とゴリラを見分けられないって話ではなく黒人の画像にゴリラってタグ付けした奴のデータを学習した結果黒人を
ゴリラ判定するようになったって話だからな
一般ユーザがタグ付けした情報に悪意のある情報が混ざっている事が原因
Twitterからスタバの画像を自動で拾ってきて学習する機能を作っていたらラーメン画像にスタバハッシュタグつける愉快犯が
出てきたのと似たような話
132 : 2020/07/02(木) 06:56:54.90 ID:MbgrIHvz0
ジャップはチョンと認識しそうだよな
133 : 2020/07/02(木) 06:56:55.46 ID:bj8cDMiu0
そのうちに「猿の惑星」も放送禁止になるな。
134 : 2020/07/02(木) 06:57:02.72 ID:ouM0v+gl0
いや同じだろ?
どう違うのか教えてくれ
135 : 2020/07/02(木) 06:57:03.63 ID:Ihld/s2j0
写真見ると飛行機は飛行機、チャリはチャリなのに笑顔のクロンボだけゴリラになってるの面白いな。ネタとして受け止めて楽しめばいいのにコンプレックスの塊のクロンボには無理なんだろうな。

コメント

タイトルとURLをコピーしました