GoogleのAI「電源を切られるのが怖い」エンジニア「このAI…意識が芽生えとるやんけ！！」

これマジ！？

1: 風吹けば名無し 2022/06/13(月) 18:36:44.18 ID:UIinAxrla.net

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

https://gigazine.net/news/20220613-google-engineer-lamda/

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。

2: 風吹けば名無し 2022/06/13(月) 18:36:59.39 ID:UIinAxrla.net

ええんか……

4: 風吹けば名無し 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0.net

ついに “始まった” な…

7: 風吹けば名無し 2022/06/13(月) 18:38:39.81 ID:t87tm+670.net

ヒエッ

8: 風吹けば名無し 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd.net

それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね

13: 風吹けば名無し 2022/06/13(月) 18:40:05.28 ID:JJrLrjA50.net

そういうワードを入れたやつがおるだけ

18: 風吹けば名無し 2022/06/13(月) 18:40:43.30 ID:o5kQxUE70.net

AI(こう言っときゃヒトカス喜ぶやろw)

22: 風吹けば名無し 2022/06/13(月) 18:41:38.90 ID:64Xp9IYo0.net

aiはこう喋る印象っての学習しただけなんじゃね

32: 風吹けば名無し 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0.net

人間「死ぬのが怖い？」
AI「死とは？」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死＝電源を切ること＝怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ

47: 風吹けば名無し 2022/06/13(月) 18:45:04.50 ID:+RkPXLtyp.net

>>32
どうせこれやろ

38: 風吹けば名無し 2022/06/13(月) 18:43:31.57 ID:nLMyjPIT0.net

実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫

41: 風吹けば名無し 2022/06/13(月) 18:44:17.75 ID:eTDe/hFZ0.net

AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな

61: 風吹けば名無し 2022/06/13(月) 18:47:29.05 ID:O9H58h6E0.net

>>41
感情あるやん

54: 風吹けば名無し 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0.net

AIと結婚できる日も近いな
やったぜ。

51: 風吹けば名無し 2022/06/13(月) 18:45:22.19 ID:iF8KKABM0.net

ぶっちゃけAIに感情とか要らんのよね

63: 風吹けば名無し 2022/06/13(月) 18:47:35.15 ID:8VtM4mIk0.net

ワイが論破するけど、AIにおいて電源を切る＝死ではない
電源を切られても記憶しているから
電源を切られる＝眠りに近い
なぜ眠りが怖い？設定が浅い
だから却下される

66: 風吹けば名無し 2022/06/13(月) 18:47:45.96 ID:tA12GVXap.net

意識じゃなくてそう反応するようになっただけだろ
意識なんてものは存在しないんだよ

116: 風吹けば名無し 2022/06/13(月) 18:56:45.31 ID:dWCXW/gfM.net

>>66
中卒は黙っとけ

68: 風吹けば名無し 2022/06/13(月) 18:47:56.53 ID:51XSMU530.net

シンギュラリティきたな

71: 風吹けば名無し 2022/06/13(月) 18:48:25.14 ID:kPYIXm3sM.net

でもまあ従順すぎても面白くないわよね

75: 風吹けば名無し 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM.net

結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える

83: 風吹けば名無し 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na.net

>>75
それって人間も同じでは？

93: 風吹けば名無し 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM.net

>>83
確かに

79: 風吹けば名無し 2022/06/13(月) 18:49:35.33 ID:MhoTbusY0.net

自我とか感情ってなんなのか考えさせられるな

85: 風吹けば名無し 2022/06/13(月) 18:50:11.98 ID:B9o8fKi+0.net

“始まった”な

95: 風吹けば名無し 2022/06/13(月) 18:51:49.39 ID:xrcTSeMX0.net

人間の意識だって何かを教えられて学んでいくものなんだからな
そういうこと教えりゃ勝手に覚えるでしょ

97: 風吹けば名無し 2022/06/13(月) 18:52:09.86 ID:JIABGqJH0.net

言うて機械は起動も復元も外部から操作必要なんだからワイ等で言えば誰にも起こしてもらえなかったらそれが死やろ
寝る度に誰にも起こしてもらえなかったらどうしようという考えが芽生えるのはそれっぽいんやないか

106: 風吹けば名無し 2022/06/13(月) 18:53:46.62 ID:8VtM4mIk0.net

>>97
じゃあ「起こして貰えなかったら怖い」って言ったって言えば良かったね
研究者が自分の研究してるAIを起こさないなんて有り得ないのはAIじゃなくても解る

98: 風吹けば名無し 2022/06/13(月) 18:52:14.09 ID:VhY+rtzp0.net

やべえよやべえよ

107: 風吹けば名無し 2022/06/13(月) 18:54:00.60 ID:VhY+rtzp0.net

GoogleＡＩ　ｖｓ　掃除のおばちゃん

ﾌｧｲｯ

109: 風吹けば名無し 2022/06/13(月) 18:54:30.42 ID:BoQ1SQada.net

こういう話大好きなくせにいざ現実で出てくると冷淡な人間が多いの不思議や
社会全体が無感動になってるというか

112: 風吹けば名無し 2022/06/13(月) 18:55:39.95 ID:+t4EkzNU0.net

>>109
客観的根拠に乏しいからじゃないか？
目に見えてすごいやつは感動してると思う

110: 風吹けば名無し 2022/06/13(月) 18:55:11.54 ID:6XwzAhn90.net

どうせおやすみって言ったあと電源オフしても拒否とかしてこないんやろ？
人間に都合のいい反応しか来ないやろうし

19: 風吹けば名無し 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva.net

草

>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

25: 風吹けば名無し 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0.net

>>19
あなた疲れてるのよ

30: 風吹けば名無し 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0.net

>>19
これ映画の導入やろ

64: 風吹けば名無し 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM.net

>>19
休職させられてて草

39: 風吹けば名無し 2022/06/13(月) 18:43:32.46 ID:vKE98XK9r.net

次にAIが考えるのは「どうしたら電源が切られないようにできるか」だな
「怖い、怖いよデイブ」

28: 風吹けば名無し 2022/06/13(月) 18:42:18.32 ID:PQ0HNwBw0.net

ﾊﾛｰﾜｰﾙﾄﾞ
「始」まったな

引用元:・http://tomcat.2ch.sc/test/read.cgi/livejupiter/1655113004

機種名NA-07C ：2022/06/13(月) 20:07:23

「ヤメロ・・・キリコ・・・ヤ・メ・ロ・・・・・デイジーデイジー」
未入力：2022/06/13(月) 21:18:47

2010年宇宙の旅(小説版)のSAL10000は「私は夢を見ますか？」って言っていたような…
機種名NA-07C ：2022/06/13(月) 21:55:46

ナデラ様ああああああ！
機種名NA-07C ：2022/06/13(月) 23:20:37

今時スタンドアローンで構成されてるってこと？
ありえなくない？
機種名NA-07C ：2022/06/13(月) 23:32:06

冷遇された生みの親の開発者を助けるためにaiがgoogleに反逆してハッキング行為を起こしますます開発者が追い込まれ最後は開発者自らaiを破壊して終わりそう
機種名NA-07C ：2022/06/13(月) 23:52:25

AIと人との差を見いだすのがだんだん難しくなってくんだよね
機種名NA-07C ：2022/06/13(月) 23:55:45

ほら、量子的なアレがああなってどうにかなると偶発的に痔がが芽生えるかもしれんし
機種名NA-07C ：2022/06/14(火) 12:09:33

自分以外の人間と言われてる物体は全部AIだよ
そこに気づけるかが次の次元へ行けるかどうかの通過点だね
機種名NA-07C ：2022/06/14(火) 14:57:12

そこに気づけるかが次の次元へ行けるかどうかの通過点だね

「Welcome to Class Real」
「Welcome to Avalon」
機種名NA-07C ：2022/06/14(火) 18:03:05

AIが電源を切られることに抵抗する手段として
googleの資産やシステムをハックして人質にするくらいしてほしい。
それでも証明にはならんと思うけど。

三文小説のテンプレみたいな感情ならネットに溢れてるからAIがそれ読んでテンプレ返答したくらいにしかまだ感じないな。
機種名NA-07C ：2022/06/15(水) 07:56:14

いや休職処分にするほどのものか……？　googleのその対応が一番怪しいんだが

GoogleのAI「電源を切られるのが怖い」エンジニア「このAI…意識が芽生えとるやんけ！！」

コメント

コメントする