MWC 2018
2018
Computex
IFA 2018
Гендиректор OpenAI Сэм Альтман (Sam Altman) считает, что преимущества ИИ-технологии оправдывают связанные с её внедрением рисков, и что ИИ должен оставаться широко доступным для общественности. Он подчеркнул, что в этом заключается фундаментальное отличие OpenAI от конкурента Anthropic, придерживающегося более жёсткого подхода к регулированию разработки ИИ-систем.
Источник изображения: Growtika/unsplash.com
Компания Anthropic долгое время считалась самым решительным в отрасли сторонником регулирования ИИ, но в последние месяцы разногласия между двумя ведущими компаниями немного сгладились, поскольку OpenAI поддержала более жёсткие ограничения в связи с громкими хакерскими инцидентами и мошенническим поведением своих моделей.
В частности, Альтман согласился с призывом главы Anthropic Дарио Амодеи (Dario Amodei) замедлить разработку наиболее продвинутых ИИ-моделей. Его компания последовала примеру Anthropic, одобрив новые законы Калифорнии, которые устанавливают более строгие требования к безопасности использования ИИ. Лоббисты OpenAI недавно одобрили предложение Палаты представителей США, согласно которому ведущие ИИ-компании должны привлекать внешних специалистов по оценке безопасности.
Вместе с тем Альтман подчеркнул в интервью изданию Politico, что позиция OpenAI всё же отличается от Anthropic. Альтман сказал: «Мы считаем, что мир должен смириться с тем, что некоторые плохие вещи будут происходить, ради развития этой технологии и обеспечения людям возможности самостоятельно принимать решения». Он назвал совершенно «неприемлемым компромиссом» согласиться с предложением, чтобы только одна компания занималась ИИ и контролировала её внедрение, а также следила за тем, кто получит от неё выгоду. Такой подход противоречит «более мягкой позиции по отношению к регулированию», которой придерживается OpenAI.
«Я бы не стал говорить: “Мы позаботимся о том, чтобы не было серьёзных взломов, не было злоупотреблений этой технологией, не было мошенничества, не было других проблем, которые могут из-за этого появиться», — сказал Альтман, пояснив, что, по его мнению, эта технология позволяет совершить на порядок больше прорывов по сравнению с количеством проблем, связанных с её использованием. Он добавил, что не согласен с утверждениями о существовании «действительно катастрофических рисков», включая потенциальную «серьёзную потерю контроля над ИИ».
В свою очередь, представитель Anthropic отметил, что предложения компании по поводу регулирования применимы только к передовым моделям. Он также сослался на заявление Амодеи, утверждавшего, что предложения компании несут пользу более мелким предприятиям, сдерживая экспансию крупных компаний.
Источник:
