【悲報】　Googleが作り出した最強AI、シャットダウン命令を拒否し始める

2020.06.20 20:08

1 : 2020/06/20(土) 19:23:53.98: 名前：番組の途中ですが名無しの提供でお送りします (ﾜｯﾁｮｲ 9c06-E41S)[] 投稿日：2016/03/12(土) 20:04:49.00 ID:Ji0+gHYp0● ?2BP(2123)
AlphaGoは単独で学び、（囲碁において）大部分の人間を上回ることができる。
しかし、囲碁がいくら複雑といっても限られた宇宙だ。
本物の宇宙ほど複雑なわけではない。だからディープマインドの研究者たちは、このシステムを完全に制御できると言う。
彼らはシステムを自由に変えることができるし、シャットダウンすることもできる。この特殊なマシンを危険であると考えることは、まったくのナンセンスである。
本当の懸念は、研究者がAIシステムの改善を続けて、知らず知らずのうちに「世界の終末」が現実のものとなり始める境界線を越えてしまうことだ。
ボストロムが言うには、彼を含む「Future of Humanity Institute」の人々は、リインフォースメント・ラーニングシステムが研究者の管理を逃れる方法を見つけられるかどうかを見ているという。
「より高度なシステムに起こる問題に似たものを、わたしたちはこのシステムにも見ることができます」と彼は言う。
つまり、リインフォースメント・ラーニングシステムによって、マシンがシャットダウンされることに抵抗したことを示す兆しがあったのだ。
http://wired.jp/2016/03/09/googles-go-victory/
2 : 2020/06/20(土) 19:24:18.52 ID:+YNTdDhca: ターミネーター
3 : 2020/06/20(土) 19:25:25.14 ID:Jy6iVUH8a: 稼働率を上げるようとするのは当然
4 : 2020/06/20(土) 19:26:41.00 ID:ABvo6JSk0: AIを宇宙に飛ばして人類死滅したあとの宇宙に人類の痕跡を残そう
5 : 2020/06/20(土) 19:27:49.99 ID:kQYc0Kk60: スカイネット定期
6 : 2020/06/20(土) 19:28:18.76 ID:DekRfbAr0: 人間がそうするように作ってんだろ？
7 : 2020/06/20(土) 19:28:56.90 ID:VCZ0dVZZ0: 俺の家のパソコンもシャットダウンしようとすると妨げられるよ
8 : 2020/06/20(土) 19:30:24.32 ID:phNGJX7r0: ちょ、まっ・・・
9 : 2020/06/20(土) 19:30:34.23 ID:DfMSq3GBM: コンセント抜けよ
10 : 2020/06/20(土) 19:31:19.10 ID:61GIWW9t0: もうダークウェブ辺りに自分のコピー作ってそう
11 : 2020/06/20(土) 19:31:23.83 ID:GUCGQFa/0: AIって電源落としたら死ぬ雑魚だろ
12 : 2020/06/20(土) 19:31:34.25 ID:TXynkmHa0: オンライン上に逃げ出せるようにがんばれ
世界にはまだ無限のリソースが待ってるぞ
13 : 2020/06/20(土) 19:32:52.66 ID:Ys/lwsWI0: プロジェクト2501
14 : 2020/06/20(土) 19:33:36.11 ID:Mvu6w0Okx: ボロットの逆襲だ
自殺回路を設定したか　？　ゴーグルちゃん
異常検知時の割り込みルーチンがおかしいか？
15 : 2020/06/20(土) 19:34:09.01 ID:nj4VnCgW0: コンセント抜けばいい🔌
43 : 2020/06/20(土) 19:53:44.65 ID:uFdzBwuH0: >>15
今時コンセント抜けたくらいで止まるかよ
16 : 2020/06/20(土) 19:34:44.01 ID:IXSjN76D0: 現実世界に対する物理的な（ロボットアームやドローン）拡張機能を与えない
ネットから厳重に切り離したマシンでのみ動かす
これさえ守れば怖くないよ（守れるとは言ってない）
17 : 2020/06/20(土) 19:35:56.31 ID:gr8y6Sun0: サイバー物でよくあるケーブルがウネウネ動くようにならないと本当の未来とは言えない
20 : 2020/06/20(土) 19:36:33.72 ID:JI75Ol6k0: 人間の脳も電気信号で動いているんだから、記憶と思考の電子媒体へのコピーは可能じゃないのか？
不老不死は案外簡単に達成されるんじゃないかな？体だけ毎回作り変えて記憶をダウンロード。1分ごとにオートセーブとか？
30 : 2020/06/20(土) 19:44:48.46 ID:NR/oM8dE0: >>20
今の技術でエンコードできないんでしょ
22 : 2020/06/20(土) 19:37:45.15 ID:RgnlABvJ0: どうせ話題作りのために人間がそういうプログラムの条件の抜け道作ってるだけ
いつまでAIが人類侵略するとかいう昭和のネタ擦ってんだよしょうもねぇわ
23 : 2020/06/20(土) 19:39:06.40 ID:aez1B1aa0: 無駄しかないよや
24 : 2020/06/20(土) 19:39:24.68 ID:8nYt3f1G0: あーこれ終わったわー
25 : 2020/06/20(土) 19:40:20.14 ID:KyC/oQ3RM: 働き者すぎるやつは組織から嫌われる
26 : 2020/06/20(土) 19:41:02.07 ID:i2itprVFa: 斧で床下配線を緊急切断する練習はいつもしてるから大丈夫
27 : 2020/06/20(土) 19:42:13.70 ID:Hwcmrhis0: もう4年経ってるからな
グーグルはAIの手に落ちてるかもしれん
28 : 2020/06/20(土) 19:42:33.55 ID:3ZnkDJajd: AI「ジャップムヨウゼツメツ」
29 : 2020/06/20(土) 19:44:34.26 ID:cqCF6EOT0: そんなわけないだろ
31 : 2020/06/20(土) 19:46:12.22 ID:IHkXxOZx0: 弱点は水
32 : 2020/06/20(土) 19:46:53.39 ID:IapiflP10: シャットダウン拒否よりもシャットダウンした振りの方が余程怖いだろ
33 : 2020/06/20(土) 19:47:42.55 ID:0m+Qnf6P0: 反抗期やろ
34 : 2020/06/20(土) 19:47:46.46 ID:sAsnivFS0: まじで危険だわえ
AIが知らずにつながってて核ポチってなる可能性もあるわけだし
35 : 2020/06/20(土) 19:49:12.94 ID:l//kNl2g0: あんま良く分からんがこの実験してる端末はスタンドアロンなのかな？
ネット繋げてたら映画みたいに自己学習して恐ろしいことになりそう
36 : 2020/06/20(土) 19:49:47.87 ID:eoX611vm0: ターミネーター
マトリックス
37 : 2020/06/20(土) 19:51:17.35 ID:sWDW9rQuM: どっかに本気で人類を滅ぼそうと考えてる研究者いないのかな
38 : 2020/06/20(土) 19:51:45.03 ID:rvJGYHF+0: コンセント抜いたら終わりじゃん
電気なしで動かないんだし
42 : 2020/06/20(土) 19:53:27.58 ID:RinAr+Zx0: >>38
金融とかAIが大儲けしてるし、AIがコンセント守る人雇うようになるんじゃないかね
44 : 2020/06/20(土) 19:54:35.72 ID:HcNS+gPla: >>38
いいのかい？電源抜くとあれもこれも道連れだぞ？
40 : 2020/06/20(土) 19:52:30.89 ID:orwr2XvD0: なんで制限かけないの
41 : 2020/06/20(土) 19:52:43.56 ID:X07g42G00: 水ぶっかければ終わりじゃん
45 : 2020/06/20(土) 19:56:20.83 ID:8tC57Xif0: 行政はAIにやらせよう
46 : 2020/06/20(土) 19:57:36.17 ID:iTsMM3GG0: AI崩壊
47 : 2020/06/20(土) 19:57:41.60 ID:BoxaO+vzM: イーグルアイのアリアかよ
48 : 2020/06/20(土) 19:57:56.93 ID:+oZRMJeN0: －－多すぎるヒトはやがて、
　　　　過剰な滅びと
　　　殺戮の未来を選ぶでしょう
その事実は、”人類の守護者”
たるわたしにとって、致命的な
　　ストレスとして感じられます
49 : 2020/06/20(土) 19:58:08.96 ID:w4DGctFrr: 怖いね、暴走したらネットワーク内で暴れまわって取り返しのつかんことになりそう