MWC 2018
2018
Computex
IFA 2018
Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы / террористического акта». Информация об этой угрозе была получена правоохранительными органами от компании Anthropic. Женщина неоднократно сообщала о намерении устроить стрельбу в офисе шерифа округа при общении с чат-ботом Claude. Сообщается, что это как минимум третий подобный случай за последние два месяца.
Источник изображений: unsplash.com
Как выяснилось, Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от степени серьёзности такие сообщения могут быть переданы на проверку сотрудникам-людям. В данном случае команда компании приняла решение сообщить о выявленной угрозе правоохранительным органам. Проверка судебных реестров подтверждает наличие обвинения в тяжком преступлении, выдвинутого 30 сентября на основании статьи 836.10 законодательства Флориды.
Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные в ходе проверки сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста и предъявления обвинения.
Anthropic пока не предоставила комментариев по этому делу. В опубликованной политике конфиденциальности Anthropic, действующей с 10 сентября, указано, что раскрытие информации возможно для предотвращения серьёзного вреда здоровью людей или имуществу. В отчёте о запросах государственных органов за вторую половину 2025 года для экстренного раскрытия информации применяется более строгий критерий — угроза смерти или серьёзных телесных повреждений. За этот период запросов от правоохранительных органов не поступало, однако в статистику не включены случаи, когда Anthropic сама инициировала передачу информации.
Этот инцидент стал одним из ряда недавних случаев, связанных с использованием чат-ботов от компаний Anthropic и OpenAI. 11 августа Anthropic сообщила ФБР о запросах, касающиеся стрельбы в расположенной неподалёку начальной школе. На основании этой информации был арестован мужчина, которому было предъявлено обвинение в террористической угрозе. 14 августа пользователь в чате с Claude пригрозил главе Anthropic огнестрельным оружием. Компания уведомила полицию, однако ареста или предъявления обвинений не последовало.
С похожей ситуацией столкнулась компания OpenAI: в марте пользователь в переписке с чат-ботом ChatGPT заявил о намерении убить свою бывшую девушку. Компания сообщила об этом в ФБР. В августе пользователь признал вину по обвинениям, включавшим письменные угрозы убийством, и был приговорён к восьми годам условного заключения.
В июне генеральный прокурор Флориды подал иск против OpenAI, обвинив компанию в сокрытии информации о стрельбе в Университете штата Флорида. В сентябре власти Британской Колумбии обвинили компанию в том, что она не предупредила полицию о стрелке из Тамблер-Риджа, чью учётную запись в ChatGPT компания идентифицировала за восемь месяцев до нападения.
Эти случаи демонстрируют противоречивую ситуацию: от компаний, разрабатывающих ИИ, ожидают соблюдения конфиденциальности, но в то же время возлагают на них ответственность, если они не сообщают правоохранительным органам об угрозах. Повышенное внимание к вопросам конфиденциальности и безопасности, связанным с ИИ-продуктами, заставляет экспертов призывать к осторожности.
Для пользователей это служит напоминанием о том, что информация, которой они делятся со своим ИИ-собеседником, никогда не бывает по-настоящему анонимной. Пользователям при общении с чат-ботами следует быть предельно внимательными и не допускать высказываний, которые могут трактоваться как угрозы или призывы к насилию.
Источник:
