MWC 2018
2018
Computex
IFA 2018
Агент искусственного интеллекта OpenClaw, популярность которого за последнюю неделю резко подскочила, вызвал опасения по поводу безопасности: среди нескольких сотен дополнений для него исследователи обнаружили вредоносные.
Источник изображения: opensourcemalware.com
ИИ-агент OpenClaw действительно может выполнять некоторые операции локально на компьютере от имени пользователя: управлять календарём, регистрироваться на рейсах, удалять входящие в почтовом ящике и делать многое другое. Управление им может осуществляться через мессенджеры, в том числе WhatsApp, Telegram, Apple iMessage; но некоторые пользователи предоставляют ИИ-агенту слишком много свободы — позволяют читать и записывать файлы, выполнять скрипты и работать в интерфейсе командной строки.
Только с 27 по 29 января платформа OpenSourceMalware, отслеживающая вредоносное ПО в экосистеме продуктов с открытым исходным кодом, зафиксировала на площадке навыков ClawHub 28 вредоносных единиц; с 31 января по 2 февраля были загружены уже 386 опасных дополнений. Такие навыки, предупреждают эксперты по кибербезопасности, «маскируются под инструменты автоматизации для торговли криптовалютой и распространяют крадущее информацию вредоносное ПО». Эти дополнения манипулируют пользователями, заставляя их запускать вредоносный код, осуществляющий «кражу криптоактивов, таких как ключи API бирж, закрытые ключи кошельков, учётные данные SSH и пароли в браузере».
Сторонние навыки OpenClaw представляют собой файлы формата Markdown, в которых могут совершаться вредоносные инструкции как для ИИ-агента, так и для пользователей. Навык под названием Twitter, например, содержит инструкции для пользователей по переходу по ссылке, «предназначенной для запуска агентом команды», с которой загружается крадущее данные вредоносное ПО. Разработчик OpenClaw Питер Штайнбергер (Peter Steinberger) сейчас пытается устранить некоторые угрозы. Так, для публикации нового навыка теперь требуется наличие учётной записи GitHub, созданной не менее недели назад. Появился также механизм жалобы на навыки, хотя гарантий безопасности эти меры пока не обеспечат.
Источник:
