Стартап OpenAI вынужден учитывать стремительное развитие собственных ИИ-моделей и степень их влияния на сферу кибербезопасности, поэтому готовящейся к выходу Astra внутри компании присвоили уровень способностей, превышающий «критический» по внутренней классификации. Это значит, что Astra способна находить новые пути для нанесения существенного ущерба информационной инфраструктуре.
Источник изображения: Unsplash, Mariia Berezovsky
По словам представителей OpenAI, модель Astra готова находить ранее неизвестные типы уязвимостей и эксплуатировать их без пошаговых инструкций со стороны человека. Это означает, что с точки зрения внутренней классификации «каркаса готовности к угрозам» (Preparedness Framework) данная ИИ-модель обладает самыми передовыми возможностями по вторжению в информационные системы потенциальных жертв. Осознание этого факта не отменяет намерений OpenAI представить публике данную модель в ближайшее время, но доступ к её возможностям в сфере кибербезопасности компания собирается ограничить сильнее, чем рассчитывала изначально.
Предыдущий по сложности уровень («высокий») подразумевал, что ИИ-модели могут использовать уже существующие типы уязвимостей, усиливая их для нанесения серьёзного ущерба объектам информационной инфраструктуры. В своей публикации на страницах корпоративного блога OpenAI поясняет, что обнародует больше подробностей о безопасности модели Astra в момент её формального анонса. Внимание общественности к деятельности OpenAI в этой сфере заметно возросло после прецедента с атакой на инфраструктуру Hugging Face. Введя необходимые ограничительные меры, OpenAI выражает уверенность, что риски причинения серьёзного ущерба после выхода модели Astra будут существенно минимизированы. Самые продвинутые возможности Astra в сфере кибербезопасности будут доступны членам коалиции Daybreak, отметила OpenAI.