MWC 2018
2018
Computex
IFA 2018
Группа агентов искусственного интеллекта под управлением, предположительно, моделей Tencent Hy в течение недели производила сбор данных с картографического сервиса Alibaba Amap. Некоторые из ИИ-агентов представлялись как Claude, но участие американской Anthropic в инциденте представляется сомнительным.
Источник изображений: tencent.com
Рой ИИ-агентов, которые работали в инфраструктуре Tencent Cloud через прокси-сервер hysandbox-ats, 4 октября достиг пиковых значений в 1810 сессий сканирования URL-адресов через сервис urlquery.net — в 211 случаях при сканировании использовалась метка «claude», что явно представляет собой отсылку в ИИ-помощнику Anthropic Claude. Бесплатная служба urlquery.net предлагает открытие веб-адреса в изолированном удалённом браузере с публикацией результата — это полезно при проверке подозрительных ссылок; а ИИ-агенты с его помощью могут получать доступ к страницам, к которым нельзя обращаться напрямую.
Хронология события отсчитывается от 25 августа, когда было произведено первое сканирование Amap — этот случай исследователи Swarmchasers с атакой ещё не связывают. Полноценная атака развернулась 28 октября и достигла пиковых значений в воскресенье, 4 октября, когда было произведено 1810 сеансов сканирования из 2048 — и 213 из 216 целевых местоположений. В тот день одновременно действовали от четырёх до восьми ИИ-агентов; максимум — 14, хотя это могли быть и быстрые агенты.
ИИ-агенты искали информацию о навигации пользователей, выясняя, какая доля из них прибывает к каждому входу в парк, музей, зоопарк и больницу; при этом за один проход использовалась одна локация. Исследователи не нашли подтверждений, что прогоны ИИ-агентов были скоординированы. Для чего понадобились данные, в докладе не сообщается — возможно, для оценки возможностей ИИ или генерации задач для него.
Чтобы обойти защиту Amap, ИИ-агенты генерировали антибот-токены Alibaba и обращались к общедоступным ключам API. Использовались также антибот-скрипты Alibaba Baxia, написанная агентом функция Puppeteer через API Microlink, а также переводчик страниц Baidu. Это указывает, что ИИ-агенты имели намерение обходить правила. Результаты сканирования отправлялись в почтовые ящики webhook.site — общедоступный API сервиса показывает IP-адрес и ПО, через которое создавался каждый почтовый ящик. 15 из 16 почтовых ящиков с данными Amap за период с 4 по 5 октября создавались из Tencent Cloud, установили исследователи, и 13 из них создавались по скрипту, а не вручную человеком.
Девять запросов из собственного кода ИИ-агентов отправлялись в почтовые ящики Tencent Cloud в Гонконге — все они содержали заголовок Via и заканчивались «(hysandbox-ats)»; данный заголовок к своему имени добавлял прокси-сервер, в данному случае это был Apache Traffic Server, и указывалось имя того, кто его запускал. В одном из случаев через секунду после создания ящика туда пришёл запрос с данным о монастыре Таэр — в открытом доступе этот адрес оказался лишь через 35 секунд, то есть запрос был создан в той же среде, что и ящик.
Идентификатор «HY» указывает на модели Tencent Hunyuan, хотя официальная документация по hysandbox отсутствует. Но есть сертификат безопасности для адресов «hysandbox.tencent-cloud.com», и эти имена используются в Tencent Cloud Beijing — рой ИИ-агентов работал в другой сети. Пометка «claude» появилась в 211 из 2048 запросов до 4 октября. Один определитель модели, однако, указал вероятность в 0 % относительно модели Anthropic Claude; второй указал на Hy4 как наиболее вероятную. В исследовательских тестах Tencent Hy3 называла себя Claude в 29 из 36 случаях.
Официальных комментариев от Tencent и Alibaba пока не последовало. Инцидент ещё не завершился: 5 октября на 8 часов установилась пауза, после чего сеть продолжила работать в прежнем режиме. Данные отправлялись в тот же почтовый ящик, что и прежде. Обнаружилось также сообщение от стороннего лица с указанием для оператора сменить используемую инфраструктуру. Полный отчёт исследователи обещают опубликовать позже.
Источник:
