Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic предотвратила несколько попыток создания биологического оружия с помощью Claude

На ранних этапах развития систем генеративного искусственного интеллекта их создатели обеспокоились проблемой безопасности, поскольку предположили, что с их помощью некоторые пользователи попытаются создать новые виды оружия, включая биологическое. Anthropic утверждает, что в этом году смогла предотвратить несколько попыток создания биологического оружия.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Данная информация стала доступна после публикации отчёта Anthropic о случаях некорректного использования её ИИ-моделей. При этом сама компания подчёркивает, что не может с уверенностью говорить о наличии у связанных с этими инцидентами учёных умысла на создание именно биологического оружия. По сути, запросы к ИИ-моделям в этой сфере нередко используются для разработки вакцин от опасных патогенов, и определить по их составу истинные намерения разработчика сложно. Тем не менее, на всякий случай Anthropic решила обратить внимание регуляторов на данные инциденты.

До сих пор куда большим вниманием пользовались случаи применения ИИ-моделей для поиска и эксплуатации уязвимостей в информационной инфраструктуре компаний и организаций, а биологические угрозы оставались в большей мере гипотетическими. По словам старшего советника Совета по стратегическим рискам Эндрю Уэбера (Andrew Weber), свежий отчёт Anthropic содержит «леденящие кровь примеры причастности поддерживаемых государством создателей биологического оружия, которые пользуются возможностями быстро развивающихся ИИ-моделей».

Объёмный отчёт Anthropic, охватывающий период восьми последних месяцев, традиционно приводит примеры использования ИИ-моделей семейства Claude представителями недружественных по отношению к США стран для достижения определённых политических целей. Впервые при этом были приведены примеры использования Claude для разработки традиционных видов оружия, включая огнестрельное, ракетное, а также бомбы и боевые дроны.

Anthropic не была столь категоричной в идентификации случаев, описывающих попытки разработки биологического оружия, поскольку не уверена в наличии у авторов запросов именно злонамеренных мотивов. По этой причине не были названы ни организации, ни страны, причастные к соответствующей активности. Однако, компанию насторожили попытки авторов исследований скрыть своё происхождение и цели подобной активности, поэтому соответствующие учётные записи были заблокированы.

В качестве одного из примеров приводятся попытки некоего исследователя изучить специфику распространения вируса чикунгунья, который передаётся человеку через укусы инфицированных комаров и вызывает продолжительные боли в суставах, сопровождающиеся сильной лихорадкой. По версии Anthropic, конкретный исследователь пытался модифицировать вирус, придав ему более выраженные вредоносные свойства. Помимо теоретических изысканий, данный исследователь проводил практические эксперименты на животных, а лабораторию для этих целей должен был предоставить некий исследовательский институт оборонного назначения.

Ещё в прошлом году, по оценкам самой Anthropic, её собственные модели не были достаточно продвинутыми для содействия человеку в проведении биологических исследований, способных привести к созданию оружия. Нынешние версии ИИ-моделей Anthropic уже способны оказывать содействие в таких вопросах, а потому назревает необходимость введения защитных и ограничительных мер. Эксперты подчёркивают, что ИИ на нынешнем этапе своего развития предоставляет возможности как по созданию лекарственных средств, так и биологического оружия, противостоять которому без подготовки человечество не сможет. Эндрю Уэбер призвал ограничить доступ исследователям из недружественных к США стран к подобным ИИ-инструментам.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 35 мин.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 47 мин.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 2 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 3 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 3 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 4 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 5 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 6 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 6 ч.
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 8 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 6 мин.
Инженеры угрожают новому руководству Nvidia увольнениями, если Хуанг не вернётся на пост гендира 42 мин.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 2 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 2 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 2 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 2 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 3 ч.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 5 ч.
Мини ПК на Nvidia по цене от $4399: стартовали продажи систем RTX Spark на Windows для локального ИИ 5 ч.
Everspin и JEDEC разрабатывают стандарт для MRAM, чтобы сделать её массовой 6 ч.