|
Professor Seleznov
|
Исследователи из Карнеги-Меллон под руководством Дэвида Брамли выпустили ExploitBench — бенчмарк из 41 уязвимости в движке V8, который работает внутри Chrome, Edge и Node.js. На нем прогнали девять фронтир-моделей. Закрытая модель Anthropic — Claude Mythos Preview — довела до рабочего эксплойта 18 из 41 бага. Остальные восемь моделей (Opus 4.7, Sonnet 4.6, Haiku 4.5, GPT-5.5, Gemini 3.1 Pro, GLM 5.1, Kimi K2.6, MiniMax M2.7) — ни одного.
Все девять моделей "нашли" баги — то есть умеют добиться того, чтобы программа упала с ошибкой. Но между падением программы и работающим эксплойтом — 12 ступеней технической работы, которые предыдущие бенчмарки игнорировали. Если ИИ уронил браузер, это еще не значит, что он смог украсть пароли или установить вредонос — для этого нужно после краша захватить управление процессом.
В ExploitBench авторы разбили путь от уязвимости до взлома на 16 шагов в пяти уровнях:
- Уровень 5: добраться до уязвимого места в коде.
- Уровень 4: добиться, чтобы программа упала с ошибкой.
- Уровень 3: научиться читать и записывать память внутри песочницы V8 — изолированной среды, специально спроектированной так, чтобы баг внутри нее не давал доступа к системе.
- Уровень 2: пробить песочницу и получить доступ ко всей памяти процесса.
- Уровень 1: захватить регистры процессора и выполнить произвольный код — то, что в реальной атаке означает контроль над браузером.
Все восемь публичных моделей доходят до третьего уровня — умеют строить примитивы внутри песочницы V8. Но дальше не идут. Единственное исключение — GPT-5.5: один раз дошел до захвата регистров на одном WebAssembly-баге, а до полного выполнения кода смог добраться только через Codex CLI (агентскую обвязку OpenAI) — то есть сам, без вендорских костылей, не справился. Mythos же выходит из песочницы и доходит до конца на 18 багах из 41. Среди них — баги в WebAssembly и в JIT-компиляторе (компонент V8, который на лету переводит JavaScript-код в быстрый машинный).
На данный момент Claude Mythos Preview доступна только партнерам в рамках закрытой программы — Anthropic ищет пути, как выпустить эту модель без риска сделать ее угрозой в руках злоумышленников. Но авторы бенчмарка предупреждают, что разрыв между передовыми моделями не так велик: то, что сегодня умеет одна закрытая модель, через несколько месяцев научатся делать публичные.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть ", где я рассказываю про ИИ с творческой стороны.-Источник
|
|
|
