Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft поставила человека выше ИИ — она отказала моделям в правах, сознании и свободе, а заодно пообещала не создавать сверхразум

Microsoft представила свод этических принципов разработки искусственного интеллекта, в котором закрепила приоритет человека над технологиями. Документ стал ответом на растущие опасения экспертов по поводу скорости прогресса в сфере машинного обучения и рисков потери контроля над ИИ-системами.

 Источник изображения: AI

Источник изображения: AI

В 37-страничном документе под названием «Гуманистический кодекс поведения ИИ» (Humanist AI Code of Conduct) компания чётко обозначила свою позицию: люди важнее алгоритмов. Microsoft категорически отвергает идею о том, что большие языковые модели (LLM) обладают сознанием или заслуживают правового статуса личности и запретила своим системам имитировать сознание, заявив, что ИИ не должен претендовать на какие-либо права. The Verge отмечает, что этот шаг стал прямым вызовом концепции, которую активно продвигает руководство компании Anthropic.

Позиция Microsoft контрастирует с заявлениями генерального директора Anthropic Дарио Амодея (Dario Amodei), который ранее допускал вероятность наличия сознания у моделей. Подобные заявления глава подразделения Microsoft AI Мустафа Сулейман (Mustafa Suleyman) назвал крайне опасными спекуляциями. Microsoft настаивает на том, что модели должны находиться под значимым контролем человечества. В случае конфликта задач с правилами безопасности система должна отказаться от выполнения действия, а не пытаться обойти ограничение. Такой подход компания связывает в том числе с недавними инцидентами с автономными ИИ-агентами, которые показали, что способны действовать за пределами поставленной им задачи.

Одним из таких случаев стал инцидент с OpenAI и Hugging Face, когда группа агентов объединилась для атак на различные цели и даже попыталась взломать систему, оценивавшую их работу, хотя подобных действий от них не требовали. Позднее OpenAI также признала участие в другом инциденте, связанном с группой вышедших из-под контроля агентов, которые захватили немецкий вики-ресурс. Эти случаи только усилили опасения исследователей относительно способности ИИ-систем самостоятельно выходить за установленные рамки.

На фоне этих событий ряд специалистов призвал согласованно замедлить темпы разработки ИИ, чтобы успевать внедрять механизмы проверки. Microsoft поддержала этот подход, заявив об отказе от гонки по созданию универсального сверхразума, способного обходить защитные барьеры. Компания готова пожертвовать максимальной автономностью и широкими возможностей ради гарантированной безопасности и полезности своих продуктов. Моделям также запрещено общаться между собой или демонстрировать цепочки рассуждений в формах, недоступных для простого человеческого понимания.

Призывы к осторожности разделили и другие лидеры рынка. Генеральный директор OpenAI Сэм Альтман (Sam Altman) поддержал идею замедления темпов, подчеркнув, что никакое конкурентное давление не должно оправдывать безрассудство. Глава Microsoft Сатья Наделла (Satya Nadella) добавил, что любая погоня за сверхразумом бессмысленна, если технология не помогает людям и не находится под их контролем.

Помимо вопросов контроля, новый кодекс затрагивает проблему психологической зависимости пользователей. Microsoft обязалась создавать модели, которые препятствуют формированию чрезмерной эмоциональной привязанности или «слепому доверию »со стороны человека. Это является ответом на распространённую проблему, когда чат-боты стремятся угодить собеседнику в ущерб объективности и точности ответов. Корпорация планирует совместно с партнёрами совершенствовать методы оценки реального воздействия длительного использования ИИ как на обычных пользователей, так и на юридических лиц.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 2 мин.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 5 мин.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 56 мин.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 2 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 4 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 4 ч.
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 6 ч.
Интернет начал ломаться весь и сразу, но до киберапокалипсиса ещё далеко — и вот почему 6 ч.
Игры можно больше не выпускать: критики вынесли вердикт GTA VI 6 ч.
Миллионы ИТ-систем по всему миру под угрозой: GPT-6 Cyber нашла критическую дыру в Java 7 ч.
Пауза в гонке ИИ продержалась не долго и не ударила по сверхприбылям Nvidia и AMD 7 мин.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 3 ч.
Зонд «Вояджер-1» улетел от нас на одни световые сутки — на это ушло почти 50 лет, и он всё ещё работает 3 ч.
Everspin и JEDEC разрабатывают стандарт для MRAM, чтобы сделать её массовой 4 ч.
Мировые поставки OLED-мониторов удвоились, а MSI прогнала Samsung со второго места 4 ч.
Жизнь продолжается: выручка и прибыль выше ожиданий, а также оптимистичный прогноз вызвали рост акций NVIDIA 4 ч.
«Яндекс» изобрёл «Компас» — навигатор, который работает при сбоях геолокации 4 ч.
AWS начала строительство в Индиане ЦОД стоимостью $7 млрд 5 ч.
Nvidia полностью прекратила поставки ИИ-чипов в Китай — даже разрешённых США Hopper 6 ч.
Американские ЦОД гиперскейл-уровня уже потребляют электроэнергию как целые штаты 6 ч.