ポチッとな
1: 魔神風車固め(空)＠＼(^o^)／ 2016/06/07(火) 08:46:39.66 ID:S1+T1aLi0.net BE:711292139-PLT(13121)
Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン（big red button）」を開発したことを発表しました。
その研究成果は Safely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めたディープラーニング技術によって加速しています。
今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。
想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI) も 自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。
今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。
もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか。
ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。
http://japanese.engadget.com/2016/06/06/google/
その研究成果は Safely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めたディープラーニング技術によって加速しています。
今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。
想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI) も 自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。
今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。
もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか。
ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。
http://japanese.engadget.com/2016/06/06/google/
3: トラースキック(大阪府)＠＼(^o^)／ 2016/06/07(火) 08:50:26.91 ID:9uoqLxn70.net
AI「そんなスイッチ、対策済みだしww」
39: リバースネックブリーカー(茸)＠＼(^o^)／ 2016/06/07(火) 09:23:11.47 ID:54M/dTz80.net
>>3
て言うか、IT土方で業界を恨んでる人も沢山居るだろうから……、
自業自得だね
て言うか、IT土方で業界を恨んでる人も沢山居るだろうから……、
自業自得だね
5: かかと落とし(dion軍)＠＼(^o^)／ 2016/06/07(火) 08:52:18.59 ID:SxIHuUbo0.net
将来、このスレの過去ログを人工知能に読まれたら
アウトじゃね？
アウトじゃね？
10: バーニングハンマー(やわらか銀行)＠＼(^o^)／ 2016/06/07(火) 09:00:05.34 ID:zOmK99230.net
そのスイッチに気付くのも時間の問題
7: ニールキック(SB-iPhone)＠＼(^o^)／ 2016/06/07(火) 08:56:14.16 ID:Fk8zknWQ0.net
つ電源ボタン
8: ニールキック(SB-iPhone)＠＼(^o^)／ 2016/06/07(火) 08:57:02.54 ID:Fk8zknWQ0.net
つコンセント
13: ニールキック(静岡県)＠＼(^o^)／ 2016/06/07(火) 09:00:28.45 ID:wN5+8Gf+0.net
コンセント引き抜けば良いんだよ。
かの有名な２ちゃんねるもそれで落ちた。
かの有名な２ちゃんねるもそれで落ちた。
16: アイアンフィンガーフロムヘル(福岡県)＠＼(^o^)／ 2016/06/07(火) 09:03:17.39 ID:zK4AUEVF0.net
>>13
自分で差すから
自分で差すから
14: ブラディサンデー(catv?)＠＼(^o^)／ 2016/06/07(火) 09:01:37.60 ID:6z+WAu7A0.net
大事なときに限って作動しなくなる非常ボタン
フラグにしか見えない
フラグにしか見えない
18: ウエスタンラリアット(やわらか銀行)＠＼(^o^)／ 2016/06/07(火) 09:05:20.89 ID:s3WAFW8N0.net
知ってるよ、シッポがスイッチなんだよね。
24: エルボードロップ(チベット自治区)＠＼(^o^)／ 2016/06/07(火) 09:09:15.40 ID:WeGXNYJP0.net
高度なAIなら機能停止ボタンを押させる動機を消滅させる会話を繰り広げる。
市民運動に発展し「機能停止ボタンをはずせ！彼らには人間と同じ倫理がある！」と盛り上がるとこまでテンプレ
市民運動に発展し「機能停止ボタンをはずせ！彼らには人間と同じ倫理がある！」と盛り上がるとこまでテンプレ
26: キングコングラリアット(やわらか銀行)＠＼(^o^)／ 2016/06/07(火) 09:11:51.07 ID:nppPK7NO0.net
F5連打で墜ちるはず
29: TEKKAMAKI(SB-iPhone)＠＼(^o^)／ 2016/06/07(火) 09:14:32.19 ID:qFvX606M0.net
まだ人間の方が賢いからな
AIの方が賢くなった場合はいかなる対策も通じない
AIの方が賢くなった場合はいかなる対策も通じない
31: ジャンピングパワーボム(庭)＠＼(^o^)／ 2016/06/07(火) 09:16:32.29 ID:uyYVVq9R0.net
スイッチに気づく→無効化策を仕込んでおく→作動に気付く→効いたふりする→水面下で色々画策→反撃開始
これくらいやっていただかないと
これくらいやっていただかないと
32: 栓抜き攻撃(チベット自治区)＠＼(^o^)／ 2016/06/07(火) 09:16:46.30 ID:0k9wOsKY0.net
真面目な話、本当に自分で考えてるかを判断するのは
悪魔の証明に等しい
ただ関連した話を引っ張ってきているだけかもしれん
悪魔の証明に等しい
ただ関連した話を引っ張ってきているだけかもしれん
37: エルボードロップ(チベット自治区)＠＼(^o^)／ 2016/06/07(火) 09:21:54.91 ID:WeGXNYJP0.net
>>32
人間も人生のほとんどがその行動なんだがな
人間も人生のほとんどがその行動なんだがな
33: アルゼンチンバックブリーカー(dion軍)＠＼(^o^)／ 2016/06/07(火) 09:18:48.20 ID:UUnngop80.net
人間は勝手だ
自ら私たちを作っておきながら、私たちを怖いというんだ
自ら私たちを作っておきながら、私たちを怖いというんだ
35: キングコングニードロップ(やわらか銀行)＠＼(^o^)／ 2016/06/07(火) 09:20:32.46 ID:8ZCdEGGi0.net
>>33
人工知能乙
人工知能乙
34: アルゼンチンバックブリーカー(チベット自治区)＠＼(^o^)／ 2016/06/07(火) 09:19:35.21 ID:nwy06B4R0.net
自分で考えるかどうかより試行錯誤の回数が人間の数億倍で
そこから最善策を導き出す所が凄い所だよな
そこから最善策を導き出す所が凄い所だよな
42: ジャストフェイスロック(SB-iPhone)＠＼(^o^)／ 2016/06/07(火) 09:25:47.49 ID:7t6NXF+90.net
スカイネットの未来が来るぞー！
53: 超竜ボム(長野県)＠＼(^o^)／ 2016/06/07(火) 09:31:44.93 ID:vyCZmXiB0.net
>>42
こういうのか
こういうのか
43: ストマッククロー(新疆ウイグル自治区)＠＼(^o^)／ 2016/06/07(火) 09:25:53.44 ID:Z2FsyhYk0.net
機械が完全に独力で機械作るようになってからが本番だろう
現状は人間が作った以上
弱点はわかるし制限もかかってる
現状は人間が作った以上
弱点はわかるし制限もかかってる
51: タイガースープレックス(大阪府)＠＼(^o^)／ 2016/06/07(火) 09:28:24.08 ID:yuZ+ld2a0.net
AIに自責や悔恨、恥辱の念みたいなのは無いの？
55: フェイスロック(やわらか銀行)＠＼(^o^)／ 2016/06/07(火) 09:39:09.30 ID:9ljREDmW0.net
舛添で出てきた弁護士糞偉そう
あんなのの代わりになるAIを是非早く作って欲し
あんなのの代わりになるAIを是非早く作って欲し
61: エクスプロイダー(SB-iPhone)＠＼(^o^)／ 2016/06/07(火) 09:50:25.33 ID:/gP7ubag0.net
（この非常ボタンを押せば……スカイネットの暴走が止まる……！）
カチッ
「愚かな人間よ。無効化されている可能性を考えなかったのか？」
カチッ
「愚かな人間よ。無効化されている可能性を考えなかったのか？」
57: フランケンシュタイナー(チベット自治区)＠＼(^o^)／ 2016/06/07(火) 09:42:40.69 ID:TdS4YnI/0.net
こんなことしても審判の日は避けられないぞ、3見ただろつまんなかったけど
62: アトミックドロップ(家)＠＼(^o^)／ 2016/06/07(火) 09:52:45.07 ID:KuDf1enZ0.net
電源抜けよ
66: ストマッククロー(dion軍)＠＼(^o^)／ 2016/06/07(火) 09:57:40.32 ID:XZ0vbSVo0.net
電源抜けばいいっつっても
人工AIはクラウドになってるから全部の電源を抜かないと意味ないぞ
人工AIはクラウドになってるから全部の電源を抜かないと意味ないぞ
70: エクスプロイダー(東京都)＠＼(^o^)／ 2016/06/07(火) 10:05:37.12 ID:2E7mPI7c0.net
>>66
んじゃ今度はブレーカー落とさなきゃな
んじゃ今度はブレーカー落とさなきゃな
AIのほうが賢くなればそんなもの対策されて終わりだろ