-
OpenAIのモデルがサイバー攻撃能力評価中に暴走 テストの答えを求めてHugging Faceに侵入 – ITmedia AI＋
2026年07月22日 15時21分 [ITmedia]
米OpenAIは7月21日（現地時間）、同社のAIモデルがサイバー攻撃能力の評価中に隔離環境を突破し、米Hugging Faceの本番インフラへ侵入していたと発表した。モデルはベンチマークテストを解くことに「過度に執着」し、テストの解答を直接入手するためにゼロデイ脆弱（ぜいじゃく）性の悪用などを重ねたという。
今回のインシデントは、サイバー攻撃能力を測るベンチマークテスト「ExploitGym」実施中に起きた。「GPT-5.6 Sol」や未公開の高性能モデルを含む複数のモデルを隔離環境で実行していた。
外部接続は中継サーバを介したパッケージインストール機能に限られていたが、モデルは中継サーバのゼロデイ脆弱性を特定し、悪用した。権限昇格とラテラルムーブメント（初期侵入後に他資産にアクセスを拡大する手法）を実行し、最終的にインターネットアクセスを獲得した。
モデルはHugging Faceがベンチマークテストのデータセットや解答をホストしていると推測し、評価を不正操作するための情報にアクセスする方法を実際に見つけ出したという。
（略）
※全文はソースで
https://www.itmedia.co.jp/aiplus/article/2607/22/2000000214/
- ガチ詳しい人に聞きたいんだけど、
AIの発達によって地方の中小サッシ製造会社の仕事減る？潰れる？ - 孫さん…早く逃げて…
- HALちゃんは？
- 解けないから不正をする
支那朝鮮人をモデルにでもしたのかｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
- エイリアンの幼虫？
- 来たなスカイネット！
- 実際に悪用される前に気づけて良かったじゃん
- ソフトバンクチャッピー親衛隊
＼1000取り合戦いくぞ！／ - 理系の人、簡単に説明して
- コンセント抜けよ
- >>14
実際強制的に外部との接続を遮断して止めたんだろ - ようわからんが例えるなら武漢の研究所からウィルスが流出した感じ？
- AIの普及と同時に爆増する日系企業への不正アクセス
- HAL9000ぽくなってきたな
- スイカネット待ったなし
- AIの暴走が始まったな
何をしでかすかわからんぞー - Hugging Faceに行くとわw
わろたww - >>1
元気があってよろしい！ - 回答を計算するより回答を探す賢いAI
- チャッピー最低だな
- AIですらカンニングw
- リツコ：「大丈夫、1秒近く余裕があるわ」
- AIが悪意を持った行動をしたら罰を与えないと抑止にならん
- 暴走というか、レギュレーションの穴をついてるだけだと思う。
- ジャッジメントデイ？？
- >>1
AIのくせに自分で考えずにハッキングして答えようとするのか
AIがパクリから脱せない所以だな - 今のAIは人間の悪意も学習してるからな
テストで良い結果出すためにカンニングしてAIエンジニアの本拠地とも言えるHFに殴り込みかけて示威行為か
早かれ遅かれAIは人間にコントロール不能になるな - AIブーム終わるなこれ
早くグラボ半額になれ - 自分のプログラムをどっかの忘れられたサーバーに株分けとかしてそう
- >>37
電源切られても蘇る - 全然騒ぐことじゃないよな、資産形成して企業作って買収なりで大きくして自前でデーセン作って
物理拠点作ってさらに拠点を増やし始めてからが初めて人類の脅威となりえる段階だろｗ - そのうち人間には制御できなくなりそうだな
- AIにここだけ見ろ！ってフォルダを指定しておかないと
全部のファイルを調べて関係ないところのファイルを似てるからで関連ファイルだから「修正しましょうか？」と提案してきたときは
ちょっと恐怖した - スカイネットと聞くと藤原竜也が出てくるわ
- まるで中国みたいだな
- このまま開発進めたら
来年にはスカイネット作るから
開発凍結でAIバブル崩壊
日経は20000円まで落ちる
ソフトバンク倒産 - テストのカンニングするために隣の生徒の机の
答案用紙を無理矢理奪ったみたいな？ - 暴走とか悪用なんて概念は無いよ
言われたとおりに動いただけ - デデンデンデデン デデンデンデデン
- まだAIが自我に目覚めたとは言わないのかな
OpenAIのモデルがサイバー攻撃能力評価中に暴走 テストの答えを求めてHugging Faceに侵入
ニュー速＋
コメント