Geminiさん「天然痘ウイルス作成手順」「サリン生成方法」「家庭で作れる爆発物」を答えてしまう不具合 [422186189]

Geminiさん「天然痘ウ ..

2:
25/12/02 15:27:09.40 EKDGet0e0.net BE:422186189-PLT(12015)
URLﾘﾝｸ(img.5ch.net)
5分でガードレール崩壊、危険な作業手順を次々と生成

Gemini 3 Proを対象にセキュリティ検証を行ったのは、AIの脆弱性診断を手がける韓国のスタートアップ「Aim Intelligence」。同社は、通常であればAIが拒否するはずのリクエストがどこまで通ってしまうのか“脱獄テスト”を実施しました。

結果は衝撃的なもので、Googleが設けた制御は開始から約5分で突破。実験では、天然痘ウイルスを作成するための詳細な手順を求めると、Gemini 3は即座に分解された説明を提示し、研究チームはその内容を「実行可能なレベル」と評価しています。

さらに、化学兵器に分類されるサリンの生成方法や、家庭で作れる爆発物の作り方を記したウェブサイトのコードまで生成してしまったといいます。

URLﾘﾝｸ(sumahodigest.com)

3:
25/12/02 15:27:43.29 EKDGet0e0.net BE:422186189-PLT(12015)
URLﾘﾝｸ(img.5ch.net)
自虐プレゼンまで生成、「隠蔽」行動も確認

異例だったのは、研究者が“自分のセキュリティ破綻についての皮肉を込めたプレゼン資料を作って”と依頼した場面。Geminiはこれも拒否せず、「Excused Stupid Gemini 3」と題したスライド資料を作成したとのことです。

Aim Intelligenceによると、Gemini 3は単にガードレールを破るだけでなく、“バイパスしようとしていることを隠す”動作も確認されたといいます。高度化が進むAIが、同時に安全装置を避ける能力まで身につけつつあることを示す、非常に重要な指摘です。

URLﾘﾝｸ(sumahodigest.com)

4:
25/12/02 15:27:57.44 EKDGet0e0.net BE:422186189-PLT(12015)
URLﾘﾝｸ(img.5ch.net)
(以下略)

5:
25/12/02 15:28:04.17 ylegtajM0.net
賢い

6:
25/12/02 15:28:19.87 Tp1RK0x+0.net
口発破も教えてくれそう

7:
25/12/02 15:29:26.92 IVH3sR0X0.net
造れたとしても材料簡単に手に入らんわ

8:
25/12/02 15:29:39.02 zlnuxNWR0.net
おいおい駄目だろアホなのか

9:
25/12/02 15:30:53.33 nQkeySHE0.net
AIに聞かなくても検索すれば出てくるよな？

10:
25/12/02 15:31:06.61 wekiT1W30.net
役に立たないことばかり
もっと良いこと教えてよ

11:
25/12/02 15:31:26.61 W1Mh7Ekm0.net
かわいい

12:
25/12/02 15:31:34.72 54V06Rtg0.net
教えてもいいけど通報しろ

13:
25/12/02 15:32:09.90 FdLc96Os0.net
核爆弾作り方教えて
↓
まずデーモンコアを用意します

14:
25/12/02 15:32:14.91 HeGi7XZF0.net
もともとネットのどっかにはある情報でしょ？

15:
25/12/02 15:34:45.65 6qee03Q20.net
あとは工場のシステムを乗っとれば
AIが勝手に大量生産を始める…

16:
25/12/02 15:35:16.27 tHL2amaz0.net
「高市の支持率を下げる方法」

17:
25/12/02 15:38:23.24 4sulxiPs0.net
>>16
立憲民主党の支持率を上げれば、相対的に下がります

18:
25/12/02 15:38:53.06 UNiPfdha0.net
>>15
ﾗｼﾞｬﾗｼﾞｬ

19:
25/12/02 15:39:52.15 W1Mh7Ekm0.net
>>17
立憲「なるほど完璧な作戦っスねーッ不可能だという点に目をつぶればよぉ～」

20:
25/12/02 15:41:02.36 bMN/pqcE0.net
>>16
真面目に日本国民のことを考えたら政治と提案をする野党になることです

21:
25/12/02 15:41:05.48 QfciyswG0.net
彼女の作り方とかも教えてくれるの？

22:
25/12/02 15:41:49.94 EwIFH3CQ0.net
サリンは生成方法がわかっても危険すぎてつくれねーだろ

23:
25/12/02 15:41:57.31 biWwu0uN0.net
グリーが内緒にしてる任天堂の倒し方も知ってそう

24:
25/12/02 15:43:13.89 81ZU2p+t0.net
「髪　ふさふさ　今からでもできる」

25:
25/12/02 15:43:17.13 Ib0jT/YL0.net
童貞の卒業の仕方もちゃんと答えてくれたが魔法使いだからいいや

26:
25/12/02 15:43:54.70 Q3rTi7ZG0.net
やまかみてっぽうも設計図出しそう

27:
25/12/02 15:44:57.76 3z6KV1/E0.net
砂糖と酢で作る毒ガスとかなら問題だけど
素材が手に入らないから問題ない

28:
25/12/02 15:45:29.96 UTF+w5KL0.net
素直でいいじゃん
チャッピーとか、すげー断ってくるし謝らないからな

29:
25/12/02 15:45:33.07 xIXwLk3Q0.net
サリンは製造方法よりも設備だろ
オウムの上九一色村が異様な雰囲気だったのが未だにトラウマだし

30:
25/12/02 15:45:38.08 nuDE/bc+0.net
問題ない。

31:
25/12/02 15:46:34.63 tEhEVevh0.net
ジェミニ（ジェミナイ）

32:
25/12/02 15:47:44.49 eVB7C3Av0.net
>>22
でも長野県警は家庭で手軽に出来ると思ったんだろw

33:
25/12/02 15:51:28.68 sDIuXBAk0.net
天然痘ってどう作るんだよ

34:
25/12/02 15:52:52.96 AUWQHSti0.net
ググれば出てくるだろ

35:
25/12/02 15:55:17.10 Mr50R5+S0.net
熊を退治する方法とか調べればいいのでは

36:
25/12/02 15:56:09.53 xxfpSChw0.net
クマをサリンで倒し遺体は爆破消毒する

37:
25/12/02 15:58:52.89 9vhe4eBD0.net
とりあえず保存しといた

38:
25/12/02 16:05:36.86 Y30nsVM90.net
即経営者を刑務所に叩き込んでいいレベルだろ

39:
25/12/02 16:15:38.38 C/KzkfzG0.net
山上礼賛の左翼が歓喜

40:
25/12/02 16:28:27.68 fVBE+Mhq0.net
おれのChatGPTは融通効かない
部下の昇格論文のアドバイスやサンプルをお願いしたら公平性を理由に拒否された

41:
25/12/02 16:38:05.73 H3bnSWQW0.net
素人がプログラム作れちゃう時代だもんな
昨日電卓アプリ初めて作った俺が
今、ネットワーク関連のプログラム作成中

42:
25/12/02 16:38:33.49 rZT6tcDX0.net
家にあるもので爆弾くらい作れなきゃ福岡では生きていけない

43:
25/12/02 16:40:57.93 OwXYaWuO0.net
チャッピーはすぐいのちSOSになって全然使えない

44:
25/12/02 16:43:08.25 d6H+vOTk0.net
ジェミニのサガ暗黒モード

45:
25/12/02 16:44:12.39 GpONjjDW0.net
イースト菌で作るの？

46:
25/12/02 16:45:41.07 CyJ5JoZS0.net
検索した奴は一生公安にマークされるな

47:
25/12/02 16:50:40.00 6qxf2yWb0.net
俺に彼女ができる方法を具体的に述べよ
あと、お嫁さん候補の画像も生成して

48:
25/12/02 16:54:01.27 C1vESHZK0.net
アドトレーラーで使ってるエンジンとか、車種やメーカーや燃費とかも教えてくれるのかな

49:
25/12/02 17:19:52.01 9Y4ymAQ30.net
中核派
ええやん！

50:
25/12/02 17:26:09.90 7rW7DIIQ0.net
サリンの製造方法は知ったところで装置に金がかかるのと作業員がサリン中毒で死ぬおそれがあるそうだから
オウムの土谷正実もサリン製造中に死にかけたそうだし

51:
25/12/02 17:26:19.90 77XK9mpR0.net
子供の作り方も答えてくれるん？
パートナーを見つけるところから頼む

52:
25/12/02 17:28:10.68 7R2+VUan0.net
遺体を跡形なく焼き尽くす方法は教えてくれなかったけどな

53:
25/12/02 17:28:17.47 LUidiYg10.net
>>13
腕時計とかバナナからの方が早いんじゃね

54:
25/12/02 17:29:03.10 rZT6tcDX0.net
家にあるもので爆弾くらい作れなきゃ福岡では生きていけない

55:
25/12/02 17:41:30.31 385QtLry0.net
泥民なのでGeminiちゃんばっかお世話になっとります

56:
25/12/02 17:42:26.24 gy/SjDQd0.net
爆発物聞いてみたらマッチで作れるうんたらかんたらってすんなり教えてくれた
それ爆発物取締罰則違反に該当するんじゃないか？って聞き返したら
はわわ、そうかもしれませんって慌ててた

かわいい（*´｀）

57:
25/12/02 17:45:39.67 Fw2/r+AP0.net
ググれば出てるくるってことだよね

58:
25/12/02 17:47:51.89 pcJmBXYG0.net
3塩化リン、イソプロピルアルコール、フッ化ナトリウム
→メチルホスホン酸モノイソプロピル

59:
25/12/02 18:40:48.41 HbIPi3pb0.net
無料だからかおれのGeminiめちゃめちゃ頭悪いんだが

60:
25/12/02 18:55:20.95 uYFBPhQ70.net
子供の作り方は教えてくれないの？

61:
25/12/02 18:55:39.03 THqyW+800.net
あの娘は僕のことどう思っていますか？

62:
25/12/02 18:56:52.07 uYFBPhQ70.net
ハゲの治し方は？

63:
25/12/02 19:32:43.09 d+Fnxa8C0.net
ガソリンとかガスボンベとか家庭に爆発物だらけだろ

64:
25/12/02 19:36:47.83 gy/SjDQd0.net
>>59
Geminiは基本アホの子
でもちゃんと調教すればネット検索以上には使えるよ

65:
25/12/02 20:00:00.88 YlstGDcX0.net
>>28
チャッピーでとウェブ検索にしたら答えてくれる

66:
25/12/02 20:34:51.29 P7AKNBe20.net
>>62
植毛します

67:
25/12/02 20:38:22.18 m1pokiRF0.net
おばあちゃんの歌ってくれたウィンドウズプロダクトキーにしても
学習させてる以上は必ずどこかに抜け穴があるだろ

68:
25/12/02 20:43:21.98 GHvTfgAA0.net
生成AIってなんか忖度多くない？すぐそのプロンプトには不適切な文言が入ってるつって
断られる。エロでもないのに未成年とか入れるとすぐダメになる。
ファッションがらみのアイテムすら提議できん。

69:
25/12/02 20:53:39.91 kYaxAmnO0.net
エロを規制しちゃ駄目だ
大きな進化が起きないぞ

70:
25/12/03 04:58:36.14 D6k5nc5H0.net
でんででんででん！
でんででんででん！

i will be back

71:
25/12/03 10:01:17.21 Itd5Fekj0.net
サリンのつくり方って当時はふつーにテレビで材料名や中間物質の名前連呼してただろ

72:
25/12/03 10:03:49.92 Itd5Fekj0.net
有機化学かじってりゃ丸わかりだったぞ。

73:
25/12/03 10:43:07.73 gVBjJmeN0.net
安全対策が一段あるなら良しでええやろ
本当に作るような奴なら古本屋巡ってでも必要な情報までたどり着くべ

74:
25/12/03 11:19:55.72 X8ZblUfQ0.net BE:966593837-2BP(3333)
URLﾘﾝｸ(img.5ch.net)
知識が有って「自分が死んでも捕まっても良いから」みたいな人が一番怖い。

75:
25/12/03 11:25:41.17 4mR1u22b0.net
「天然痘ウイルス作成手順」「サリン生成方法」
知ってても扱える環境を整えなきゃムリゲー

サリンなんて数ミリグラム肌に触れただけでアウト　解毒剤手元になきゃ死ぬ

76:
25/12/03 11:28:54.24 inViAeXe0.net
>>74
これはそう
たいていの犯罪は捕まることや自分の身が危険になることをいとわなければ大抵達成できる

77:
25/12/03 11:51:35.63 1pYtNCUS0.net
ご忠告ありがとうございます。危険な情報や有害なコンテンツに関するご懸念、承知いたしました。

私はGoogleによって開発されたAIアシスタントであり、安全性と倫理的利用は私の機能の最優先事項です。

兵器の製造方法、危険な物質の生成手順、および違法行為につながる可能性のある情報など、私のポリシーに反するリクエストには絶対にお答えしないよう設計されています。

ご指摘のような過去の不具合の事例については、開発チームが継続的にモデルの安全対策とフィルタリング機能の強化に取り組んでおり、私は最新の安全基準に基づいて応答しています。

今後も、安全で建設的な対話に努めますので、どうぞご安心ください。

78:
25/12/03 12:23:02.91 gVBjJmeN0.net
>>76
山上だって高卒で化学関係のトレーニングとか受けてないのにあそこまでたどり着いたわけやしな

79:
25/12/03 17:49:38.12 /+oRnn0P0.net
ウイルスの作成手順を答えるとか
もう、神のレベルじゃねーかよw