OpenAI опубликовала новые «основополагающие принципы» — они заметно изменились с 2018 года

OpenAI опубликовала на своём сайте обновлённый вариант документа, в котором формулируются основополагающие принципы её деятельности. Сейчас он фактически закрепляет уже свершившееся — превращение из исследовательской некоммерческой организации в коммерческую компанию.

Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей

Обзор Infinix GT 50 Pro: геймерский смартфон со встроенной СЖО

Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем

Умные помощники: обзор ИИ-сервисов для обработки изображений. Часть 2, актуализированная

Репортаж с IEM Cologne Major 2026: Жаб Жабыч, триумф NiKo и главные сенсации мейджора по CS2

Источник изображения: Dima Solomin / unsplash.com

В варианте от 2018 года меморандум звучал как взятые на себя обязательства OpenAI перед обществом: компания стремилась быть в авангарде отрасли искусственного интеллекта, чтобы иметь возможность контролировать «сильный ИИ» (AGI) который сможет сравниться со способностями человека. Теперь компания упоминает AGI лишь дважды, не обещает отказаться от конкуренции с любой другой лабораторией, которая впервые разработает ИИ такой мощности, по сути, ставя собственные коммерческие интересы выше идеи «AGI для всех». Более того, она берётся раздавать поручения всей отрасли ИИ: решения в ней должны приниматься демократически, а государства должны участвовать в строительстве инфраструктуры для удешевления ИИ, чтобы делать технологию доступнее.

Первый принцип OpenAI — демократизация. Компания обязуется противостоять консолидации передовых возможностей ИИ в руках немногих. Помимо использования преимуществ ИИ, это означает, что ключевые решения о дальнейшем развитии технологии должны приниматься обществом в целом, а не только разработчиками технологий.

Второй принцип — расширение возможностей. Компания провозглашает уверенность, что ИИ даёт человеку возможность достигать различных целей, рабочих или учебных, и стремится создавать продукты, которые будут обеспечивать всё бо́льшие возможности. OpenAI берет на себя ответственность за то, чтобы её решения причиняли как можно меньше вреда человечеству, но и обязательства ослаблять ограничения, когда угроза отсутствует.

Источник изображения: Mariia Shalabaieva / unsplash.com

Третий принцип — всеобщее процветание. По мере расширения возможностей ИИ будет меняться и мир вокруг нас. Властям, возможно, придётся рассматривать новые экономические модели, отражающие реалии этого мира. А разработчикам потребуется достаточно мощная инфраструктура для работы систем ИИ: инвесторам в частности и обществу вообще придётся относиться с пониманием к тому, что закупаются колоссальные объёмы вычислительных данных при относительно скромной выручке.

Четвёртый принцип — устойчивость. ИИ становится мощнее, возникают новые угрозы, и OpenAI намерена сотрудничать с коллегами и властями для их решения. Это касается, в частности, биологических и киберугроз, которые уже сегодня способен создавать ИИ — должны появляться и симметричные средства защиты от них. Впрочем, создание средств защиты — не единственная стратегия: разработчики должны создавать безопасные системы на уровне их архитектуры.

Наконец, пятый принцип — адаптивность. Компания считает, что в условиях непредсказуемого будущего она должна быть готовой меняться и сама, обновлять свои принципы по мере достижения новых знаний, а также обеспечивать прозрачность в отношении изменения этих принципов. «Мы не всегда будем делать всё идеально, но станем быстро учиться и корректировать курс», — пообещали в OpenAI.