MWC 2018
2018
Computex
IFA 2018
Anthropic «никогда не выступала за запрет моделей [искусственного интеллекта] с открытыми весами», заявил гендиректор компании Дарио Амодеи (Dario Amodei). Свою позицию он попытался противопоставить волне критики, которая нарастает в технологической отрасли — есть мнение, что ИИ-лаборатория пытается установить чрезмерный контроль над будущим ИИ.
Источник изображения: anthropic.com
Ранее коалиция крупных технологических компаний, в том числе Nvidia, Microsoft, Meta✴ и Palantir, опубликовала открытое письмо, в котором призвала власти воздержаться от «преждевременных запретов» на модели с открытыми весами, которые любому желающему можно неограниченно скачивать, дорабатывать и запускать на собственной инфраструктуре. Сейчас в этом сегменте доминируют китайские стартапы, и американские чиновники начали задумываться о частичном или полном запрете на работу этих моделей в США.
Anthropic и OpenAI разрабатывают мощные закрытые ИИ-модели, но первая поддержала письмо представителей технологической отрасли, а вторая воздержалась. «Подводя итог позиции моей и Anthropic, мы не выступали и не выступаем за запрет моделей с открытыми весами как таковых. Вместо этого нам следует сосредоточиться на том, чтобы не допустить попадания мощных чипов в руки авторитарных режимов, остановить дистилляцию в промышленных масштабах и потребовать проведения испытаний на безопасность всех достаточно мощных моделей, как открытых, так и закрытых», — заявил господин Амодеи.
Опасения по поводу намеренной дистилляции, то есть копирования моделей, подписавшие письмо предложили решать с помощью «целенаправленных правовых и коммерческих механизмов», с чем Дарио Амодеи тоже согласился. Он согласился, что открытые ИИ-модели дают пользователям больший контроль по сравнению с закрытыми, расширяют доступ к экономике ИИ и в ряде случаев усиливают конкуренцию. Но отверг тезис, что открытые модели более эффективны как средство киберзащиты, потому что предлагают более простые средства доработки для конкретных целей. Наконец, Дарио Амодеи ясно дал понять, что не поддерживает запрет на открытые модели. «Протекционистские запреты не решат самых серьёзных для меня проблем национальной безопасности», — заключил гендиректор Anthropic.
Источник:
