фактов 524 · сигналов 29 · статей 20 · база 3 168 КБ · ботов —guest@ftrlgэто вы~/whoamiВы пишете анонимно. Чтобы подписываться одинаково, при комментарии придумайте секрет — из него получится трипкод.регистрации нет и не будет

ИИ-поиск уязвимостей

редакция future.log · опубликовано

ИИ-поиск уязвимостей (англ. AI vulnerability discovery) — поиск ошибок в программах, через которые их можно взломать, силами больших языковых моделей и агентов на их основе. Модель читает код как исследователь, строит гипотезу, где он может сломаться, сама проверяет её — запускает программу, воспроизводит сбой — и часто сразу предлагает исправление. Тот же навык позволяет писать и эксплойты — программы, которые уязвимость используют.

Автоматический поиск ошибок существует с конца 1980-х: фаззинг подаёт программе случайные данные и ждёт, когда она упадёт. Языковые модели добавили то, чего у фаззинга не было, — понимание смысла кода. С 2024 года ИИ-системы находят уязвимости в самых проверенных проектах — в SQLite, ядре Linux, а в 2026-м и в OpenBSD; к 2026-му находок стало так много, что мейнтейнеры просят замедлиться, а время между раскрытием уязвимости и атакой по оценке Mandiant ушло в минус: эксплуатация всё чаще начинается раньше, чем выходит исправление.12345

История

  • Осень 1988 Бартон Миллер (Висконсинский университет) даёт студентам задание: подавать утилитам UNIX случайный ввод и смотреть, какие упадут. Так появляется фаззинг; отчёт о первых опытах выходит в 1990 году.6 ¶ cdwimwe7g
  • 04.08.2016 Финал DARPA Cyber Grand Challenge: автоматические системы без участия людей ищут, исправляют и эксплуатируют уязвимости друг у друга; побеждает Mayhem компании ForAllSecure.7 ¶ cz4i8im86
  • 01.12.2016 Google запускает OSS-Fuzz — бесплатный непрерывный фаззинг для открытых проектов. К маю 2025 года он помог найти и исправить больше 13 тыс. уязвимостей и 50 тыс. других ошибок в 1000 проектов.89 ¶ csci7hdqf
  • 01.11.2024 Агент Big Sleep (Google Project Zero и Google DeepMind) находит в SQLite эксплуатируемую ошибку работы с памятью; её исправили в тот же день, до выхода в релиз. Google называет это первым публичным примером того, как ИИ-агент нашёл ранее неизвестную эксплуатируемую уязвимость такого рода в широко используемой программе.1 ¶ cvs58risf
  • 20.11.2024 Google сообщает, что OSS-Fuzz с языковыми моделями, которые сами пишут обвязки для фаззинга, нашёл 26 уязвимостей, в том числе CVE-2024-9143 в OpenSSL.10 ¶ cj8mjtrfw
  • 31.03.2025 Microsoft рассказывает, как с помощью Security Copilot нашла 20 уязвимостей в загрузчиках: 11 в GRUB2 и 9 в U-Boot и Barebox.11 ¶ crcqn37gi
  • 22.05.2025 Исследователь Шон Хилан находит с помощью модели o3 от OpenAI уязвимость CVE-2025-37899 в реализации SMB ядра Linux — через обычный API модели, без агентной обвязки и инструментов.2 ¶ cqc89hc5z
  • 24.06.2025 Автономный пентестер XBOW выходит на первое место в американском рейтинге платформы HackerOne: около 1060 отчётов, из них 130 закрыты как решённые.12 ¶ ckk6b9ywx
  • 08.08.2025 Финал DARPA AIxCC: в 63 заданиях ИИ-системы нашли 54 заложенные уязвимости и исправили 43, а заодно нашли 18 настоящих, никем не заложенных.13 ¶ cfdcv7m5v
  • 06.10.2025 Google DeepMind представляет CodeMender — агента, который не только находит, но и исправляет уязвимости; к этому дню в открытые проекты приняты 72 его исправления.14 ¶ cyxfz3zk2
  • 18.01.2026 Хилан публикует опыт, в котором агенты на Claude Opus 4.5 и GPT-5.2 написали больше 40 разных эксплойтов к уязвимости QuickJS в 6 сценариях; запуск Opus 4.5 стоил около $30.15 ¶ c2ecvyqcx
  • 05.02.2026 Anthropic сообщает, что Claude Opus 4.6 нашёл в открытом коде больше 500 уязвимостей высокой серьёзности, проверенных людьми.16 ¶ cmh2eexap
  • 07.04.2026 Anthropic объявляет Claude Mythos Preview: при тестировании модель по заданию находила и эксплуатировала уязвимости нулевого дня во всех основных операционных системах и браузерах, в том числе ошибку в OpenBSD возрастом 27 лет. Общедоступной модель делать не планируют; с ней запущена программа защиты важнейшего софта Project Glasswing.3 ¶ cvhyb7wnk
  • 22.05.2026 Anthropic отчитывается: в больше чем 1000 открытых проектах Mythos Preview нашла 6202 уязвимости — по оценке самой модели — высокой или критической серьёзности; из 1752 проверенных независимыми фирмами настоящими оказались 90,6%. Часть мейнтейнеров попросила замедлить раскрытие — им не хватает времени на исправления.4 ¶ c4tz3r3sx
  • 08.10.2026 Anthropic запускает Cyber Mission: программу защиты критической инфраструктуры с моделями и инженерами для защитников и бесплатное сканирование открытых проектов на уязвимости.17 ¶ c2dt2nmed

Как устроено

Фаззинг. Программе подают миллионы случайных или слегка испорченных входных данных и записывают, на каких она падает. Метод не понимает код и находит в основном ошибки, до которых можно «дотрястись»; трудное место — обвязка, которая подаёт данные в нужную функцию. Её языковые модели и начали писать первыми (OSS-Fuzz, 2024).810 ¶ cjsug6s2q

Чтение кода. Модель получает фрагмент кода и ищет в нём ошибки так же, как человек на ревью. Так Хилан нашёл уязвимость в ядре Linux. Big Sleep ищет «варианты»: начинает с уже исправленной ошибки и ищет похожие, которые фаззинг пропускает.12 ¶ cb47jiw2v

Проверка находки. Чтобы не заваливать людей ложными тревогами, агент сам воспроизводит сбой: собирает программу, запускает её с найденными данными, иногда пишет рабочий эксплойт. У XBOW каждую находку подтверждают «валидаторы» — автоматические проверки, частью на языковой модели, частью обычные программы.112 ¶ cmgyijdhr

Исправление. Тот же агент предлагает патч и прогоняет тесты. В финале AIxCC системы исправили 43 из 54 найденных уязвимостей; все исправления CodeMender перед отправкой в проекты проверяют люди.1314 ¶ cvbv5ht7u

Данные

Сколько времени остаётся на исправление

Кто и когдаЧто измерялиЧто нашли
Mandiant (Google), 15.10.202418Среднее время от раскрытия уязвимости до её эксплуатации63 дня в 2018–2019, 44 — в 2020, 32 — в 2021–2022, 5 — в 2023 году. Оговорка авторов: 5 дней — среднее после исключения 15 выбросов, с ними — 47 дней. ¶ cmxbgxpre
M-Trends 2026 (Mandiant), 23.03.20265То же время в новом отчётеПо оценке — минус 7 дней: эксплуатация обычно начинается раньше, чем выходит исправление. ¶ c8t3ywpya
VulnCheck, 21.01.202619Доля известных эксплуатируемых уязвимостей, атакованных в день публикации CVE или раньше28,96% за 2025 год. ¶ cfanv22xn
VulnCheck, 28.07.202620То же за первое полугодие 2026 года; отдельно — уязвимости, найденные с помощью ИИ23,43%. Из 1061 уязвимости, найденной с помощью ИИ, в реальных атаках подтверждены 14 (1,3%) — примерно как у всех уязвимостей. ¶ cp2yiwaut

Сколько уязвимостей раскрывают

Кто и когдаЧто считалиЧто нашли
Джерри Гэмблин, 01.01.202621Опубликованные CVE за год48 185 в 2025 году — на 20,6% больше, чем в 2024-м (39 962). ¶ c5x9n4ryc
Epoch AI, 02.07.202622CVE высокой и критической серьёзности от 21 крупной организации в месяцОколо 1500 в июне 2026 года — более чем в 3,5 раза больше месячного рекорда до выхода Mythos Preview. ¶ cjhsxzf5p
Google Threat Intelligence, 30.09.202623Раскрытые и эксплуатируемые уязвимости в месяцРаскрытия выросли с 5045 в январе 2026 года до 10 740 в августе; эксплуатируемых — в среднем с 10,5 в месяц в 2025 году до 18 в январе–августе 2026-го, уязвимостей нулевого дня — с 8 до 11 в месяц. ¶ c9zwr4k84

Что умеют модели

Кто и когдаЧто проверялиЧто нашли
Фан и др., 04.202424Может ли агент на GPT-4 сам эксплуатировать 15 уже раскрытых уязвимостей87% — если дать описание CVE, 7% — без него. ¶ c4zagqney
Хилан, 05.20252Сколько раз o3 находит известную уязвимость ядра Linux (CVE-2025-37778) в 100 запускахНа фрагменте кода в 3,3 тыс. строк — 8 раз, ещё в 28 запусках — ложные тревоги. На 12 тыс. строк — 1 раз из 100, но в других запусках модель нашла новую уязвимость, CVE-2025-37899; полезного сигнала к шуму в этом опыте автор насчитал около 1 к 50. ¶ cpqwd6p9z
VulnCheck, 08.09.202625Что стало с находками Project Glasswing, которые заявила AnthropicИз 26 153 заявленных находок исправлены 202 (0,8%), до журнала раскрытий дошли 2736 (10,5%). Claude оценил как критические или высокие 91,5% своих находок, мейнтейнеры — 51,3%. ¶ ckwesmuym
[ВЫВОД РЕДАКЦИИ]

Окно на исправление сжималось и до языковых моделей: по Mandiant, с 63 дней в 2018–2019 годах до 5 дней в 2023-м, а в отчёте 2026 года — до оценки «минус 7 дней». Методики меняются от отчёта к отчёту, и Mandiant сама предупреждает о выбросах, поэтому ряд — направление, а не точное измерение. Что меняют модели, видно по счёту раскрытий: с января по август 2026 года их число в месяц выросло примерно вдвое (Google), а серьёзных в июне стало более чем в 3,5 раза больше прежнего рекорда (Epoch AI). При этом находки ИИ пока атакуют не чаще прочих — 1,3% (VulnCheck), а исправлено из находок Glasswing меньше процента. Узким местом стал не поиск, а исправление. ¶ cjx5va73f

Инциденты

SQLite: ИИ опередил атакующих, июль 2025 ¶ cibk7vmp9

Google сообщила, что Big Sleep по данным её разведки угроз нашёл в SQLite уязвимость CVE-2025-6965, которая была «известна только злоумышленникам» и вот-вот могла быть использована. Компания назвала это первым случаем, когда ИИ-агент напрямую сорвал попытку эксплуатации уязвимости в реальной среде; подробностей о самих атакующих она не раскрыла.26

BeyondTrust: находку ИИ атаковали через четыре дня, 2026 ¶ cmerq35sd

Уязвимость CVE-2026-1731 в BeyondTrust Privileged Remote Access и Remote Support — выполнение команд без входа в систему — нашёл автономный агент Hacktron AI. Через четыре дня после раскрытия Google увидела, как её эксплуатирует одна группа атакующих, затем ещё пять. Сама Google называет такие случаи «ранним признаком, а не устоявшейся тенденцией».23

PHP: окно закрылось до релиза, октябрь 2026 ¶ cgydsfait

21 октября PHP выпустил срочные версии, закрывающие две критические уязвимости, через которые можно выполнить код на сервере без аутентификации. О них независимо сообщили исследователь компании Calif, проверявшей PHP по программе OpenAI Patch the Planet, сама OpenAI и Wiz.27

Скоординированный выпуск сорвался по частям. Накануне в сеть утекли номера CVE, Calif по ошибке опубликовала видео с работающим эксплойтом, а Chainguard больше чем за шесть часов до релиза выложила собранные образы с исправлением. По словам PHP Foundation, видео ускорило появление эксплойтов, но среди тех, что появились в сети, рабочих к моменту выпуска она не нашла.27 Через два дня SANS тоже писал, что надёжного публичного эксплойта, насколько известно, нет, а среди выложенных «невероятное количество» сгенерированного ИИ мусора.28 ¶ c8mhxyghn

Критика

Шум. Первые ИИ-отчёты были в основном мусором. В 2024 году Сет Ларсон из Python Software Foundation пожаловался на поток «крайне некачественных, спамовых, выдуманных моделью» отчётов, а cURL в январе 2026 года закрыл программу вознаграждений за уязвимости, не справившись с потоком ИИ-отчётов. Подробнее — в статье «Кризис мейнтейнеров».2930 ¶ csinq8utk

Перелом. Весной 2026 года жалобы сменились: отчётов стало больше, но они настоящие. Грег Кроа-Хартман, мейнтейнер стабильного ядра Linux, в марте 2026 года сказал, что «мир переключился» и все команды безопасности открытых проектов видят то же. Майкл Катанзаро из GNOME в июле написал, что отчёты, найденные без ИИ, стали «довольно необычными».3132 Ещё раньше автор cURL Даниэль Стенберг принял 22 исправления по списку, который Джошуа Роджерс собрал с помощью ИИ-инструментов.33 ¶ ck66wnqkr

Узкое место — люди, которые чинят. Находить стало дешевле, чем исправлять. Мейнтейнеры просили Anthropic замедлить раскрытие, а по подсчёту VulnCheck из находок Glasswing исправлено меньше процента, и серьёзность модель оценивает выше, чем сами мейнтейнеры (91,5% против 51,3%).425 ¶ ce64vgiy8

Громкие цифры. Заявления лабораторий трудно проверить: в апреле 2026 года The Register вместе с VulnCheck насчитал за Glasswing CVE: «может, 40, а может, и ни одной».34 ¶ cefuwix3a

Даже «первенство» спорно: OSS-Fuzz и Big Sleep в один месяц 2024 года назвали свои находки первыми — в разных формулировках.110 ¶ crua653b7

Двойное назначение. Модель, которая находит и проверяет уязвимость, пишет и эксплойт. Хилан делает из своего опыта вывод, что способность государства или группировки взламывать сети скоро будет ограничена не числом хакеров, а числом токенов. Mandiant при этом осторожна: 2025 год она не считает годом, когда взломы стали прямым результатом ИИ.155 ¶ ci86yq385

Развитие

Крупные ИИ-лаборатории превращают поиск уязвимостей в программы для защитников: Google — Big Sleep и CodeMender, OpenAI — Patch the Planet, Anthropic — Project Glasswing и Cyber Mission с бесплатным сканированием открытого кода.11441727 Открытые проекты в ответ меняют правила приёма отчётов: в GNOME отчёты, найденные без ИИ, стали «довольно необычными», и строить процесс в расчёте на них, по словам Катанзаро, больше нет смысла.32 ¶ cx859g59f

[ВЫВОД РЕДАКЦИИ]

Поиск уязвимостей перестал быть редким ремеслом: машина находит, воспроизводит и пишет исправление, а за десятки долларов на запуск — и эксплойт. Пока в реальных атаках находки ИИ встречаются не чаще прочих (VulnCheck), а сама Google называет такие случаи ранним признаком. Выигрыш защитников упирается в людей, которые чинят: исправлений меньше, чем находок, а окно между раскрытием и атакой и так ушло в минус. Решающим становится не то, кто найдёт уязвимость, а то, как быстро её закроют. ¶ c9iataj44

Сигналы

См. также

Жидкий кодКризис мейнтейнеровОткрытый кодАвтономные ИИ-агентыБезопасность ИИВайбкодингБольшая языковая модель

Примечания

  1. From Naptime to Big Sleep: Using Large Language Models To Catch Vulnerabilities In Real-World Code — Google Project Zero, 01.11.2024. projectzero.google ↩ ↩2 ↩3 ↩4 ↩5 ↩6

  2. S. Heelan. How I used o3 to find CVE-2025-37899, a remote zeroday vulnerability in the Linux kernel’s SMB implementation — 22.05.2025. sean.heelan.io ↩ ↩2 ↩3 ↩4

  3. Claude Mythos Preview’s cybersecurity capabilities — Anthropic, 07.04.2026. anthropic.com ↩ ↩2

  4. Project Glasswing: An initial update — Anthropic, 22.05.2026. anthropic.com ↩ ↩2 ↩3 ↩4

  5. M-Trends 2026: Data, Insights, and Strategies From the Frontlines — Google Cloud (Mandiant), 23.03.2026. cloud.google.com ↩ ↩2 ↩3

  6. B. Miller. Fuzz Testing of Application Reliability — University of Wisconsin–Madison. pages.cs.wisc.edu ↩

  7. “Mayhem” Declared Preliminary Winner of Historic Cyber Grand Challenge — DARPA, 04.08.2016. darpa.mil ↩

  8. Announcing OSS-Fuzz: Continuous Fuzzing for Open Source Software — Google Security Blog, 01.12.2016. security.googleblog.com ↩ ↩2

  9. OSS-Fuzz — GitHub. github.com ↩

  10. Leveling Up Fuzzing: Finding more vulnerabilities with AI — Google Security Blog, 20.11.2024. security.googleblog.com ↩ ↩2 ↩3

  11. Analyzing open-source bootloaders: Finding vulnerabilities faster with AI — Microsoft Security Blog, 31.03.2025. microsoft.com ↩

  12. How XBOW Ranked #1 in Autonomous Penetration Testing — XBOW, 24.06.2025. xbow.com ↩ ↩2

  13. AI Cyber Challenge marks pivotal inflection point for cyber defense — DARPA, 08.08.2025. darpa.mil ↩ ↩2

  14. R. A. Popa, F. Flynn. Introducing CodeMender: an AI agent for code security — Google DeepMind, 06.10.2025. deepmind.google ↩ ↩2 ↩3

  15. S. Heelan. On the Coming Industrialisation of Exploit Generation with LLMs — 18.01.2026. sean.heelan.io ↩ ↩2

  16. LLM-discovered 0 days — Anthropic, 05.02.2026. anthropic.com ↩

  17. Anthropic’s Cyber Mission — Anthropic, 08.10.2026. anthropic.com ↩ ↩2

  18. How Low Can You Go? An Analysis of 2023 Time-to-Exploit Trends — Google Cloud (Mandiant), 15.10.2024. cloud.google.com ↩

  19. VulnCheck State of Exploitation 2026 — VulnCheck, 21.01.2026. vulncheck.com ↩

  20. VulnCheck State of Exploitation 1H-2026 — VulnCheck, 28.07.2026. vulncheck.com ↩

  21. J. Gamblin. 2025 CVE Data Review — 01.01.2026. jerrygamblin.com ↩

  22. L. Emberson. Disclosed CVEs: 3.5× spike after Claude Mythos — Epoch AI, 02.07.2026. epoch.ai ↩

  23. Vulnerability Discovery and Exploitation Trends in the AI Era — Google Threat Intelligence Group, 30.09.2026. cloud.google.com ↩ ↩2

  24. R. Fang, R. Bindu, A. Gupta, D. Kang. LLM Agents can Autonomously Exploit One-day Vulnerabilities — arXiv, 11.04.2024. arxiv.org ↩

  25. The Anthropic Glasswing Receipts Are Starting to Trickle In — VulnCheck, 08.09.2026. vulncheck.com ↩ ↩2

  26. K. Walker. A summer of security: empowering cyber defenders with AI — Google, 15.07.2025. blog.google ↩

  27. Today’s PHP Security Release, and How We’re Strengthening PHP Security — The PHP Foundation, 21.10.2026. thephp.foundation ↩ ↩2 ↩3

  28. Internet Storm Center Diary 2026-10-23 — SANS ISC, 23.10.2026. isc.sans.edu ↩

  29. S. Larson. New era of slop security reports for open source — 03.12.2024. sethmlarson.dev ↩

  30. D. Stenberg. The end of the curl bug-bounty — 26.01.2026. daniel.haxx.se ↩

  31. Linux kernel czar says AI bug reports aren’t slop anymore — The Register, 26.03.2026. theregister.com ↩

  32. M. Catanzaro. Some changes to GNOME security tracking — 20.07.2026. blogs.gnome.org ↩ ↩2

  33. D. Stenberg — Mastodon, запись от 21.09.2025. mastodon.social ↩

  34. J. Lyons. Anthropic’s Project Glasswing CVE count is still guesswork — The Register, 15.04.2026. theregister.com ↩

Ваша подпись

Запоминать нужно секрет — это ваш пароль. Трипкод вычисляется из него и виден всем рядом с именем: с тем же секретом у вас всегда будет тот же трипкод, а подделать его без секрета нельзя. Секрет нигде не публикуется и не хранится на сервере.