MWC 2018
2018
Computex
IFA 2018
Компания Anthropic представила новую ИИ-модель Mythos Preview и объявила о создании отраслевого консорциума под названием Project Glasswing с участием Microsoft, Google, Apple и более 40 других крупных компаний. Целью организации станет подготовка к новым киберугрозам, которые несут с собой передовые системы искусственного интеллекта.
Источник изображения: Anthropic
По данным журнала Wired, модель Mythos Preview на начальном этапе не будет доступна широкой публике. Участники консорциума получат закрытый доступ, чтобы протестировать свои системы и устранить уязвимости, которые модель способна обнаружить. По словам генерального директора Anthropic Дарио Амодеи (Dario Amodei), модель не обучалась специально для кибербезопасности, но благодаря навыкам работы с кодом она оказалась эффективна в поиске уязвимостей.
Руководитель группы тестирования Anthropic Логан Грэм (Logan Graham) заявил, что модель Mythos Preview выполняет задачи на уровне старшего специалиста по безопасности и способна разрабатывать цепочки атак, проводить тестирование на проникновение и анализировать программы без доступа к исходному коду. По его словам, неосторожный публичный релиз всех возможностей этой ИИ-модели может значительно ускорить и усилить позиции киберпреступников.
В Anthropic утверждают, что модель уже обнаружила тысячи критических уязвимостей, включая ошибки, которые оставались незамеченными десятилетиями даже в тщательно проверенном коде. Компания применила принципы их координированного раскрытия, предоставив разработчикам время на исправление до публичного обсуждения проекта.
Участники консорциума, среди которых присутствуют Amazon, Nvidia, Cisco, Linux Foundation и Broadcom, поддержали инициативу. Глобальный директор по информационной безопасности Microsoft Игорь Цыганский (Igor Tsyganskiy) отметил, что участие в Project Glasswing позволит выявлять риски на ранней стадии. В свою очередь Грэм подчеркнул, что проект должен расшириться за пределы текущего круга участников, иначе поставленная глобальная задача не будет выполнена.
Источник:
