MWC 2018
2018
Computex
IFA 2018
В Кремниевой долине растёт недовольство Anthropic, связанное с её позицией по поводу open source-моделей и запуском продуктов, конкурирующих с существующими решениям поставщиков ПО, пишет The Wall Street Journal. Ряд компаний и исследователей заявили, что начали использовать более дешевые ИИ-модели после выпуска Anthropic инструментов, конкурирующих с предложениями других компаний.
Источник изображения: Anthropic
Например, вышедшая в апреле Claude Design рассматривается, как прямой конкурент решениям дизайнерской компании Figma, одного из партнёров Anthropic. В связи с этим генеральный директор Figma Дилан Филд (Dylan Field) заявил, что Anthropic не была «последовательно откровенна в своих коммуникациях», а Сара Сакс (Sarah Sachs), руководитель отдела ИИ в Notion, отметила, что вся отрасль извлекла уроки из того, как развивалась эта ситуация: «Некоторые компании, возможно, были слишком доверчивы».
Также вызвали критику изменения в политике хранения данных Anthropic и выпуск мощной модели, которая не отвечает на исследовательские вопросы в области ИИ. Anthropic выпустила в июне Fable 5, версию своей мощной модели Mythos с ограничениями по безопасности. Первоначально она снижала качество ответов на некоторые вопросы о разработке ИИ, не уведомляя пользователей. Исследовательское сообщество раскритиковало такой подход, заявив, что это решение является антиконкурентным и затрудняет оценку возможностей модели. Компания Anthropic принесла извинения и сделала эти меры защиты видимыми для пользователей, отметив, что модель будет отклонять подозрительные запросы. Данные ограничения она объяснила желанием предотвратить использование моделей иностранными противниками «способами, создающими серьезные риски для безопасности».
Также Fable 5 не будет поддерживать «нулевое хранение данных» — данные пользователей будут храниться в течение 30 дней, по словам компании, в целях обеспечения доверия и безопасности. Другие участники рынка выступили против этого изменения, особенно те, которые работают в отраслях, обрабатывающих конфиденциальные данные. В ответ Anthropic заявила, что сотрудники компании не могут читать сохранённые диалоги, и пообещала не использовать эти данные для обучения новых моделей. Ограничения распространяются на Fable и Mythos, «наиболее эффективные модели» компании, но не на другие модели, уточнила она.
После того, как ряд американских компаний, включая Nvidia и Microsoft, подписали письмо, выражающее поддержку открытым моделям, генеральный директор Anthropic Дарио Амодеи (Dario Amodei) выступил с разъяснением своей позиции по этому вопросу. «Компания Anthropic никогда не выступала за запрет моделей с открытыми весами, — сообщил он в письме. — Модели с открытыми весами, не обладающие опасными возможностями, являются общественным благом». В то же время он выразил обеспокоенность тем, что существует риск, что авторитарные правительства догонят США в области ИИ, «чтобы достичь постоянного военного превосходства или совершить невероятно глубокие репрессии против собственного народа».
Амодеи призвал политиков принять меры против «дистилляции в промышленных масштабах». Anthropic и OpenAI обвинили некоторых китайских разработчиков моделей в плагиате их технологий посредством дистилляции. По словам источников, обе компании обсуждали с представителями администрации Дональда Трампа (Donald Trump) проблемы, связанные с китайскими моделями с открытыми весами, и возможность введения ограничений для этих компаний.
«Интересно, что они выступают против дистилляции, когда они сами дистиллируют весь интернет, не выплачивая роялти, — отметил Марк Суман (Mark Suman), соучредитель и генеральный директор ИИ-стартапа Maple. — Мне просто кажется странным, что теперь они говорят другим не делать того, что сделали они».
После публикации письма с поддержкой моделей с открытым исходным кодом, его подписало более 70 компаний из Кремниевой долины, включая OpenAI и Google (Alphabet). Anthropic стала одной из немногих известных компаний в сфере ИИ, не поддержавших его.
Источник:
