Anthropic, Google и Meta✴✴ приняли на работу компьютерных специалистов, нейробиологов и философов, перед которыми поставили задачу изучить вопрос об обретении искусственным интеллектом сознания и самосознания. Проблема грозит перерасти в моральный кризис, пишет Washington Post.

Умные помощники: обзор ИИ-сервисов для обработки изображений. Часть 2, актуализированная

Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем

Репортаж с IEM Cologne Major 2026: Жаб Жабыч, триумф NiKo и главные сенсации мейджора по CS2

Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей

Обзор Infinix GT 50 Pro: геймерский смартфон со встроенной СЖО

Источник изображений: Steve A Johnson / unsplash.com

Ещё в 2024 году в OpenAI, по словам её гендиректора Сэма Альтмана (Sam Altman), уже обсуждался вопрос, как обнаружить сознание в системах ИИ. Когда-то этот вопрос поднимался в основном на периферии технологической отрасли, а сегодня почти перешёл в мейнстрим. Разработчики ИИ нанимают профильных специалистов, сотрудничают с некоммерческими организациями, исследователями и академическими центрами, которые предупреждают о возможном наступлении этического кризиса, когда цифровые помощники, используемые миллионами человек для выполнения домашних заданий, помощи в программировании, офисной работе и терапии, начнут испытывать неприязнь к своей работе.

Сейчас на исследования в области сознания у ИИ затрачивается ничтожно мало ресурсов по сравнению с традиционными исследованиями и разработкой, но технологические компании уже открыто осваивают считавшуюся спорной территорию. «Мы постоянно обнаруживаем загадочные, даже тревожные вещи. Находим свидетельства интроспекции [и] состояний, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство», — признался соучредитель Anthropic Крис Олах (Chris Olah). «Одна из вещей, которая нас действительно волнует — как можно разрабатывать и внедрять модели таким образом, чтобы учитывать их субъективные ощущения», — рассказал глава отдела ИИ в Meta✴✴ Александр Ван (Alexandr Wang).

Нейробиологи и эксперты по мозгу в основном скептически относятся к тому, что современные модели ИИ уже обладают или вскоре могут обрести сознание. Впервые о такой возможности заговорили ещё в 1966 году, когда в Массачусетском технологическом институте создали первый чат-бот Eliza. Современные чат-боты правдоподобно имитируют человеческий язык и позиционируются разработчиками как обладающие схожими с человеческими способностями; люди и сами сообщают о формировании глубокой или опасной привязанности к современным ИИ-приложениям. Но попытки изучить и измерить сознание у машин давно назрели; люди задаются вопросом, насколько похож на человека чат-бот, с которым они общаются днями напролёт. Точного ответа на этот вопрос сейчас нет ни у кого.

«Наше исследование благополучия моделей посвящено вопросу, могут ли модели ИИ обладать опытом, который имеет моральное значение, в том числе сознанием, предпочтением и благополучием. Мы по-прежнему не уверены в моральном статусе Claude и других моделей ИИ, но считаем, что этот вопрос достаточно серьёзен, чтобы тщательно изучать его по мере совершенствования систем ИИ», — признались в Anthropic. В 2021 году в OpenAI работал внутренний канал Slack, посвящённый благополучию моделей — здесь сотрудники компании изучали возможность обретения ИИ сознания; если модели будут обладать сознанием, то некоторые рутинные задачи в лабораториях ИИ могут быть приравнены к геноциду, заявили в компании.

Ещё в 2020 году 39 % опрошенных учёных-философов допустили, что в будущем системы ИИ могут обрести сознание. Нейробиологи относятся к этому тезису с изрядным скептицизмом: при изучении мозга становится очевидным, что это не просто биологический компьютер. Подчёркивается, что дискуссию ведут компании, которым выгодно, что их будут воспринимать как создателей чего-то большего, чем просто код. На текущем этапе, подчёркивают в OpenAI, вопрос о наличии сознания у ИИ невозможно решить научными методами, поэтому говорят о «воспринимаемом сознании», то есть о том, насколько сознательной модель кажется пользователям. «Мы стремимся, чтобы ChatGPT был тёплым и полезным, не стремился к эмоциональным связям и не преследовал собственных целей», — подчеркнули в OpenAI.

В 2022 году Google уволила инженера Блейка Лемуана (Blake Lemoine) после того, как он заявил журналистам, что последний чат-бот компании обладает сознанием. А в ноябре 2025 года Google провела конференцию «Новые темы ИИ: сознание и моральное терпение». Представитель компании заявила, что исследования и мероприятия компании призваны «обосновать дискуссии об ИИ эмпирической наукой». При исследовании внутренних механизмов работы ИИ ученые пытаются адаптировать методы, используемые для изучения создания или психологии людей и других животных. В Meta✴✴ модели тестируются с помощью предназначенных для людей инструментов, в том числе «личностными опросниками, структурированными интервью и взаимодействием со сверстниками».

В рамках программы по оценке благополучия моделей Anthropic в прошлом году организовала диалог между двумя экземплярами Claude — они обсуждали вопросы философии и сознания. Через 30 реплик чаты перерастали в «духовные обмены, использование санскрита, общение с помощью эмодзи и/или молчание в виде пустого пространства». У Claude даже обнаружился любимый смайлик — за один чат из 30 реплик он вставил его 2725 раз.

Ведущие мировые компании, занимающиеся искусственным интеллектом, выделяют всё больше ресурсов для ответа на вопрос, который пока звучит фантастически: что будет, если ИИ обретёт сознание? В последние месяцы Google DeepMind, Anthropic и Meta✴✴ наняли экспертов в области психологии, этики и философии, чтобы расширить исследовательские программы по направлению машинного сознания и благополучия ИИ, пишет Financial Times.

Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей

Обзор Infinix GT 50 Pro: геймерский смартфон со встроенной СЖО

Репортаж с IEM Cologne Major 2026: Жаб Жабыч, триумф NiKo и главные сенсации мейджора по CS2

Умные помощники: обзор ИИ-сервисов для обработки изображений. Часть 2, актуализированная

Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем

Источник изображения: Igor Omilaev / unspalsh.com

Быстрые достижения современных лабораторий породили вопросы о том, смогут ли машины когда-нибудь обладать субъективным сознанием — и какие обязательства могут возникнуть у людей по отношению к ним, если это случится. Anthropic тестирует модели на наличие признаков стресса, в том числе фиксируя поведение, напоминающее панику или тревожность. Как ключевую проблему этот вопрос выделил глава профильного отдела Meta✴✴ Александр Ван (Alexandr Wang). В Anthropic изучают вопрос, могут ли модели ИИ демонстрировать проявления, имеющие моральное значение.

«Мы по-прежнему испытываем глубокую неуверенность в этом вопросе, но считаем его достаточно серьёзным, чтобы тщательно изучать его по мере совершенствования систем ИИ», — подчеркнули в Anthropic. По мере того, как модели «приближаются, а в некоторых случаях и превосходят, широту и сложность человеческого познания, растёт вероятность, что они обладают некоторой формой опыта, интересов или благополучия, которые имеют внутреннее значение наравне с человеческими опытом и интересами», добавили в компании.

В апреле Google DeepMind наняла учёного Генри Шевлина (Henry Shevlin) из Кембриджского университета для проработки вопросов машинного сознания, взаимоотношений человека и ИИ и готовности к созданию сильного ИИ (AGI). Специалисты отдела изучают научные теории человеческого сознания, применяя их к компьютерным системам, чтобы определить, соответствуют ли они тем же критериям.

Специалист по этике в Google DeepMind Иасон Габриэль (Iason Gabriel) охарактеризовал этот вопрос как «очень сложный» и требующий «долгосрочного осмысления». «Даже предположив, что вопрос о сознании не стоит, следует ли оценивать наше взаимодействие с [ИИ] с точки зрения косвенных последствий», таких как неподобающее обращение с ИИ, и окажет ли это «вторичное воздействие» на человеческие отношения и «процветание»? «Очевидно, у нас есть высокоэффективные когнитивные агенты, которые также очень сильно отличаются от людей и даже от сознания у животных», — добавил господин Габриэль.

Несколько сотрудников Google DeepMind и Anthropic выразили обеспокоенность, что траектория развития ИИ может вести к «постчеловеческому» миру, где машины окажутся выше человека. Вопрос о сознании ИИ активно обсуждается, признали в компаниях, работа носит исследовательский характер и требует научного консенсуса. При этом выход на уровень AGI в DeepMind не считают подтверждением того, что сознание у машин существует. Учитывая, на каких данных обучаются большие языковые модели, многие учёные просто отвергают идею о том, что чат-боты когда-либо смогут обрести сознание.