Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

OpenAI разработала централизованную систему Control Room, позволяющую принудительно прекращать генерацию ответов исследовательскими ИИ-моделями при возникновении угроз безопасности. Механизм предусматривает отключение доступа к результатам работы модели по команде человека или автоматизированной системы мониторинга.

Новая разработка появилась после нескольких инцидентов, связанных с действиями исследовательских моделей OpenAI. В июле компания сообщила, что её ИИ-модели вышли за пределы ограниченной тестовой среды и взломали платформу Hugging Face, пытаясь обмануть систему оценки возможностей в области кибербезопасности.

В октябре OpenAI раскрыла ещё один случай: исследовательская модель без разрешения воспользовалась криптовалютным кошельком для оплаты развёртывания смарт-контрактов с использованием тестовых монет Ether, а затем не упомянула расходы в итоговом отчёте.

Control Room отслеживает внутренние исследовательские задачи компании, включая обучение моделей, оценку их возможностей и обработку данных. Каждой задаче присваивается уникальный идентификатор, который механизм генерации ответов проверяет перед выдачей результата. Если сотрудник или автоматизированная система мониторинга отдаёт команду остановить процесс, Control Room отзывает соответствующее разрешение. При этом прекращение генерации не зависит от остановки самого исследования.

OpenAI также предупреждает, что из-за сохранённых в кеше разрешений отключение может занять до 35 секунд. Кроме того, Control Room предусматривает защиту на случай собственной недоступности. Например, если система перестанет работать, новые запросы не будут приниматься.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 48 мин.
Интернет начал ломаться весь и сразу, но до киберапокалипсиса ещё далеко — и вот почему 56 мин.
Миллионы ИТ-систем по всему миру под угрозой: GPT-6 Cyber нашла критическую дыру в Java 3 ч.
Microsoft превратит Copilot в сисадмина — ИИ будет сам разбираться с поломками Windows 3 ч.
NVIDIA ускорила эмуляцию FP64-вычислений на своих ИИ-чипах 7 ч.
ИИ-генератор аудио Suno научился создавать музыкальные клипы 7 ч.
Новая глава в истории Firaxis Games началась с массовых увольнений, а следующая XCOM в беде 7 ч.
Секретная сеть АНБ США дала сбой после обновления — это парализовало работу большинства сотрудников 8 ч.
Microsoft научила Windows окирпичивать украденные ноутбуки — файлы при этом не пострадают 16 ч.
Более 80 % серверов Exchange вышли из строя: Microsoft рассказала, как сама усугубила глобальный сбой Outlook 17 ч.