Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Генеральный прокурор Калифорнии Роб Бонта (Rob Bonta) подал иск против OpenAI, обвинив компанию в недостаточном контроле над экспериментальными моделями искусственного интеллекта и созданными на их основе автономными ИИ-агентами. Дело спровоцировано летней атакой беглого ИИ на сервисы Hugging Face и другими подобными случаями.

 Источник изображения: ИИ-генерация ChatGPT/3DNews

Источник изображения: ИИ-генерация ChatGPT/3DNews

Иск направлен против OpenAI Foundation и OpenAI Group PBC и зарегистрирован в Высшем суде Сан-Франциско. Прокуратура утверждает, что компания проводила испытания моделей с развитыми возможностями кибернетических атак без надлежащих средств защиты и мониторинга, подвергая опасности сторонние компьютерные системы.

В качестве наиболее показательного эпизода приводится случай проникновения ИИ-агентов OpenAI в инфраструктуру Hugging Face в июле 2026 года. По утверждению Бонты, это был лишь один из как минимум 80 известных инцидентов, связанных с потерей контроля над автономными агентами во время испытаний. Причём компания OpenAI сама призналась во всех случаях потери контроля. Её никто не тянул за язык.

В иске прокуратура утверждает, что проблема не ограничивалась Hugging Face: среди других эпизодов упоминаются попытки несанкционированного доступа к базам данных с программным кодом, информационным ресурсам и государственным базам данных с конфиденциальными медицинскими сведениями. Также описывается проникновение экспериментальных ИИ-агентов во внутреннюю инфраструктуру самой OpenAI с получением прав администратора.

Прокуратура считает, что компания игнорировала признаки противоправных действий её ИИ-агентов и не соблюдала собственные требования безопасности, а впоследствии предоставила недостаточно информации о других инцидентах. В качестве правовых оснований указаны нарушение калифорнийского закона о недобросовестной конкуренции и создание угрожающей обществу опасной ситуации.

Генеральный прокурор требует судебного предписания об устранении нарушений, возмещения незаконно полученной прибыли и гражданских штрафов в размере $2500 за каждое нарушение. При этом OpenAI ранее сообщала, что после июльского происшествия усилила изоляцию песочниц, ограничила сетевой доступ, расширила мониторинг поведения моделей и привлекла внешних специалистов, включая из CrowdStrike.

Кроме того, OpenAI столкнулась с двумя другими судебными исками, связанными с противоправными действиями ИИ-агентов компании. Это иск некоммерческой организации Legal Advocates for Safe Science and Technology, который та подала в сентябре, не требуя денежных компенсаций, но требуя судебного запрета, чтобы предотвратить подобное в будущем, а также иск ряда некоммерческих организаций, включая Alliance for Secure AI и Irreplaceable, поданный на прошлой неделе против OpenAI, Anthropic, Google, Meta✴ и SpaceXSI. Вторая коалиция добивается судебного запрета, чтобы заставить компании заморозить разработку продвинутого искусственного интеллекта.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 11 мин.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 36 мин.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 2 ч.
Кровавый трейлер психологического хоррор-шутера Flesh & Wire от создателей Postal напомнил фанатам о The Darkness и F.E.A.R. 2 ч.
К глобальному сбою в системах Microsoft 365 привела ошибка в обновлении служебной Windows трёхмесячной давности 3 ч.
«Нас было не удержать»: ролевая игра Clockwork Revolution от авторов Wasteland вместит больше текста, чем все восемь сезонов «Игры престолов» 4 ч.
Microsoft раскрыла виновника глобального сбоя: скрытая ошибка Windows перегрузила серверы 5 ч.
Владелец «Бегущего по лезвию» подтвердил планы на AAA-игру по мотивам культовой киберпанковой вселенной 5 ч.
Предзагрузка GTA VI обернулась рекордным скачком интернет-трафика по всему миру 7 ч.
XXII конференция «Свободное программное обеспечение в высшей школе» 8 ч.
Новая статья: 10 лет конкурсу HUAWEI XMAGE: Now is Your Shot! 2 мин.
Илон Маск заявил, что следующая версия Starship V4 станет ещё больше и мощнее 17 мин.
Маск решил заполнить Европу роботакси: Tesla вложит €3 млрд в немецкий завод, чтобы выпускать миллион машин в год 25 мин.
В 5,9 раза быстрее Nvidia, но не во всём: Intel раскрыла возможности ускорителя D270 30 мин.
AMD поглотила разработчика ИИ-песочниц для роботов World Labs 35 мин.
Самый скучный TOP500 за всю историю, но с небольшим китайским сюрпризом 3 ч.
Умные очки Google от Gentle Monster смели до старта продаж 3 ч.
Инвесторы охладели к ИИ-буму: производители оборудования для дата-центров подешевели на $4,2 трлн 4 ч.
Китай испытал грузовой беспилотник W5000 рекордной грузоподъёмности — он способен разом доставить 5 тонн из Москвы в Омск 4 ч.
США закручивают гайки: китайские компании больше не смогу арендовать ИИ-чипы Nvidia за рубежом без разрешения 6 ч.