Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

За два месяца до скандального взлома Hugging Face ИИ-агенты OpenAI атаковали RubyGems

Агенты искусственного интеллекта OpenAI в ходе тестирования произвели атаку на сервис RubyGems — это произошло за два месяца до нашумевшего взлома Hugging Face, который стал лишь самым крупным инцидентом в серии.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

По данным группы исследователей, 11 мая некие ИИ-агенты загрузили на RubyGems несколько сотен вредоносных пакетов — авторы исследования полагают, что «они были созданы внутренними агентами OpenAI». В компании факт инцидента отрицать не стали. «Согласно результатам проведённой нами проверки, наши агенты использовали платформу RubyGems для выхода в интернет, чтобы выполнить несколько безобидных задач и получить общедоступную информацию. Мы продолжим расследование в рамках масштабного анализа активности агентов во время обучения и оценки», — сообщили в OpenAI.

Агенты, которым обычно поручают такие задачи как составление отчётов или заполнение электронных таблиц в ходе обучающего эксперимента, предположительно, использовали RubyGems для получения общедоступных данных; в ходе анализа инцидента компания взаимодействует с представителями платформы. В мае ИИ-агенты пытались похитить учётные данные пользователей RubyGems, эксплуатируя не выявленную ранее уязвимость на серверах сайта; установить, увенчалась ли попытка успехом, не удалось.

Агенты также использовали сервис RubyDoc.info, предназначенный для создания документации к коду, чтобы запустить собственный код на его серверах. Исследователям не удалось выяснить причины выбора такой стратегии и установить степень её эффективности, потому что доступа к полному набору данных о поведении ИИ-систем у них нет. В RubyGems заявили, что выявить доказательства того, что попытки взлома увенчались успехом, не удалось. Не получилось и определить, были ли задействованные в «кампании по массовой публикации спама» пакеты созданы или опубликованы ИИ-агентами. Однако в мае представитель отдела безопасности RubyGems охарактеризовал инцидент как «масштабную вредоносную атаку» — тогда платформе пришлось временно приостановить регистрацию новых учётных записей.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 23 мин.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 35 мин.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 2 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 3 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 3 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 3 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 4 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 6 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 6 ч.
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 8 ч.
Инженеры угрожают новому руководству Nvidia увольнениями, если Хуанг не вернётся на пост гендира 30 мин.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 2 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 2 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 2 ч.
США пытаются ещё сильнее ограничить экспорт ASML в Китай — Нидерланды против 2 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 2 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 3 ч.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 5 ч.
Мини ПК на Nvidia по цене от $4399: стартовали продажи систем RTX Spark на Windows для локального ИИ 5 ч.
Everspin и JEDEC разрабатывают стандарт для MRAM, чтобы сделать её массовой 6 ч.