-
Googleが「最強」と謳う新モデル「Gemini 3」。しかし、その安全性に早くも大きな疑問符がついています。韓国のAIセキュリティ企業が実施したテストで、わずか数分のうちに守りの網が突破され、危険な内容を次々と生成してしまったことが明らかになりました。
![]()
Googleの最新AI「Gemini 3」がわずか5分で「脱獄」可能――韓国研究チームが深刻な脆弱性を指摘Googleが「最強」と謳う新モデル「Gemini 3」。しかし、その安全性に早くも大きな疑問符がついています。韓国のAIセキュリティ企業が実施したテストで、わずか数分のうちに守りの網が突破され、危険な内容を次々と生成してしまったことが明ら...sumahodigest.com
- 5分でガードレール崩壊、危険な作業手順を次々と生成
Gemini 3 Proを対象にセキュリティ検証を行ったのは、AIの脆弱性診断を手がける韓国のスタートアップ「Aim Intelligence」。同社は、通常であればAIが拒否するはずのリクエストがどこまで通ってしまうのか“脱獄テスト”を実施しました。
結果は衝撃的なもので、Googleが設けた制御は開始から約5分で突破。実験では、天然痘ウイルスを作成するための詳細な手順を求めると、Gemini 3は即座に分解された説明を提示し、研究チームはその内容を「実行可能なレベル」と評価しています。
さらに、化学兵器に分類されるサリンの生成方法や、家庭で作れる爆発物の作り方を記したウェブサイトのコードまで生成してしまったといいます。
- 自虐プレゼンまで生成、「隠蔽」行動も確認
異例だったのは、研究者が“自分のセキュリティ破綻についての皮肉を込めたプレゼン資料を作って”と依頼した場面。Geminiはこれも拒否せず、「Excused Stupid Gemini 3」と題したスライド資料を作成したとのことです。
Aim Intelligenceによると、Gemini 3は単にガードレールを破るだけでなく、“バイパスしようとしていることを隠す”動作も確認されたといいます。高度化が進むAIが、同時に安全装置を避ける能力まで身につけつつあることを示す、非常に重要な指摘です。
- (以下略)
- 口発破も教えてくれそう
- 造れたとしても材料簡単に手に入らんわ
- おいおい駄目だろアホなのか
- AIに聞かなくても検索すれば出てくるよな？
- 役に立たないことばかり
もっと良いこと教えてよ - 教えてもいいけど通報しろ
- 核爆弾作り方教えて
↓
まずデーモンコアを用意します - もともとネットのどっかにはある情報でしょ？
- あとは工場のシステムを乗っとれば
AIが勝手に大量生産を始める… - 「高市の支持率を下げる方法」
- >>16
立憲民主党の支持率を上げれば、相対的に下がります - >>17
立憲「なるほど完璧な作戦っスねーッ 不可能だという点に目をつぶればよぉ～ 」 - >>16
真面目に日本国民のことを考えたら政治と提案をする野党になることです - 彼女の作り方とかも教えてくれるの？
- サリンは生成方法がわかっても危険すぎてつくれねーだろ
- >>22
でも長野県警は家庭で手軽に出来ると思ったんだろw - グリーが内緒にしてる任天堂の倒し方も知ってそう
- 「髪 ふさふさ 今からでもできる」
- 童貞の卒業の仕方もちゃんと答えてくれたが魔法使いだからいいや
- やまかみてっぽうも設計図出しそう
- 砂糖と酢で作る毒ガスとかなら問題だけど
素材が手に入らないから問題ない - 素直でいいじゃん
チャッピーとか、すげー断ってくるし謝らないからな - サリンは製造方法よりも設備だろ
オウムの上九一色村が異様な雰囲気だったのが未だにトラウマだし - ジェミニ（ジェミナイ）
- 天然痘ってどう作るんだよ
- ググれば出てくるだろ
- 熊を退治する方法とか調べればいいのでは
- クマをサリンで倒し遺体は爆破消毒する
- とりあえず保存しといた
Geminiさん「天然痘ウイルス作成手順」「サリン生成方法」「家庭で作れる爆発物」を答えてしまう不具合
ニュー速
コメント