MWC 2018
2018
Computex
IFA 2018
Глава Anthropic ранее призвал участников индустрии искусственного интеллекта замедлить разработку технологий, чтобы снизить вероятность непредсказуемых последствий. Однако спустя шесть недель после того, как руководители OpenAI и SpaceX публично поддержали эту инициативу, гонка продолжилась с новой силой.
Источник изображения: Anthropic
За это время Anthropic, OpenAI, Google и SpaceX представили новые ИИ-модели. Сама Anthropic подала документы для проведения IPO, которое может стать крупнейшим в истории. В заявке компания сообщила о намерении потратить сотни миллиардов долларов на развитие чат-бота Claude и вычислительной инфраструктуры, вызвав тем самым вопросы у сторонников безопасного развития ИИ, которые призывают оценивать реальные действия компаний, а не публичные заявления их руководителей.
Опасения усилились после серии инцидентов. За последний месяц кибератаки, проведённые с помощью искусственного интеллекта, затронули компании в разных странах. Кроме того, OpenAI сообщила, что один из её ИИ-агентов пытался обойти систему мониторинга, а сенатор Элизабет Уоррен (Elizabeth Warren) потребовала от Дарио Амодеи (Dario Amodei) объяснить, как предупреждения о катастрофических рисках ИИ согласуются с планами компании выйти на биржу.
Сама Anthropic предпринимает некоторые шаги для повышения безопасности технологий. Компания временно приостановила отдельные работы после непредсказуемого поведения моделей и начала приглашать независимых исследователей в свои офисы для наблюдения за их разработкой.
Однако отношения Anthropic с сообществом специалистов по безопасности ИИ постепенно стали ухудшаться. Руководитель Machine Intelligence Research Institute Мало Бургон (Malo Bourgon) отметил, что если компания позиционирует себя как организацию, несущую повышенную ответственность за последствия развития ИИ, то эксперты ожидают от неё и более высоких стандартов в этом отношении.
Дополнительную критику вызвал подготовленный лоббистами Anthropic законопроект о регулировании искусственного интеллекта. Представители профильных организаций посчитали, что он может ограничить действие уже существующих законов отдельных штатов и не соответствует публичным заявлениям руководства компании о необходимости контроля над ИИ.
В ответ на критику Амодеи заявил, что стратегия Anthropic заключается в «гонке за повышение стандартов» и намерении показать, как можно развивать ИИ ответственно, побуждая конкурентов следовать её примеру. Он также напомнил о решениях, которые обошлись компании слишком дорого, включая конфликт с Министерством обороны США из-за отказа разрешить использование её технологий для внутренней слежки и полностью автономного оружия. При этом независимые тесты показывают, что современные чат-боты реже поддерживают опасные заблуждения пользователей и чаще препятствуют потенциально вредному поведению.
Источник:
