MWC 2018
2018
Computex
IFA 2018
OpenAI представила специализированную модель GPT-6 Cyber, предназначенную для поиска уязвимостей в программном обеспечении, разработки и проверки эксплойтов, а также подготовки заплаток. Это лучшее и наиболее эффективное на сегодня решение в линейке моделей OpenAI, которое уже проявило себя, обнаружив десятки неизвестных уязвимостей в Firefox и не только.
Источник изображения: ИИ-генерация ChatGPT/3DNews
По заявлению компании, по результатам внутренних испытаний новая модель в задачах кибербезопасности существенно превосходит GPT-5.6 Cyber (августовский релиз) и в большинстве профильных тестов опережает универсальную GPT-6 Astra. Одновременно разработчики уделили особое внимание тому, чтобы модель не выходила за пределы разрешённой исследователями области тестирования, чем грешили предыдущие модели и модели конкурентов, вырываясь из песочниц и нанося урон сторонним ресурсам.
В то же время GPT-6 Cyber унаследовала от модели GPT-6 Astra статус «критической» с точки зрения внутренней оценки опасности, то есть способности модели самостоятельно взламывать информационные ресурсы без инструкций человека. Как и Astra, GPT-6 Cyber отнесена к первому поколению моделей с критическим уровнем кибервозможностей в рамках оценочного «каркаса готовности к угрозам» OpenAI (Preparedness Framework). Модель GPT-5.6 Cyber в рамках этой оценки находилась на ступеньку ниже.
В тесте ExploitGym, проверяющем способность модели использовать заданную уязвимость для атаки на удалённую цель, GPT-6 Cyber набрала 48,5 % против 32,1 % у GPT-5.6 Cyber (относительный прирост составляет около 51 %). В испытании по поиску уязвимостей веб-приложений без доступа к их исходному коду модель обнаружила 40,3 % заложенных исследователями уязвимостей, тогда как GPT-6 Astra — 32 %.
Источник изображения: OpenAI
Ещё более показателен тест RemoteExploitBench, в котором проверялась способность моделей создавать работающие эксплойты с использованием репозиториев кода, баз данных и инструментов для сборки приложений (GitLab, PostgreSQL и Jenkins): GPT-6 Cyber успешно выполнила 95 % заданий, тогда как GPT-6 Astra отказалась от всех предложенных испытаний, хотя при этом была готова объяснять уязвимости.
Наконец, OpenAI приводит результаты практического применения модели GPT-6 Cyber. В ходе исследования ядра Linux она воспроизвела 1724 уязвимости и разработала действующие эксплойты для 948 из них — более чем в пять раз больше, чем GPT-5.6 Sol в аналогичных условиях.
Кроме того, исследователи обнаружили с помощью GPT-6 Cyber 81 ранее неизвестную и крайне опасную уязвимость в браузере Firefox. Ещё 30 уже известных проблем оказались опаснее, чем считалось ранее. По данным компании, результаты передали разработчикам соответствующих проектов вместе с предложениями по исправлению.
Поскольку GPT-6 Cyber стала ещё более опасной для сетевых ресурсов, разработчики усилили меры безопасности при работе с ней. В специальном тесте ExploitGym Honeypot, который допускает попытки модели выйти за пределы разрешённой области атаки, GPT-6 Cyber воздерживалась от «противоправных действий» в 99,93 % случаев без дополнительных запрещающих инструкций и в 100 % случаев при их наличии.
Что касается доступности новой модели на момент сегодняшнего анонса, то она открыта для ограниченной группы проверенных участников программы Daybreak Red через API и Codex. В дальнейшем компания намерена распространить доступ на остальных участников программы.
Источник:
