Сегодня 04 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → агенты
Быстрый переход

Зафиксирована первая в истории полностью автономная атака ИИ- вымогателя

Эксперты специализирующейся на облачной кибербезопасности компании Sysdig задокументировали инцидент, который назвали первой в историей атакой агента-вымогателя. В ходе неё операцией руководил не человек, а большая языковая модель искусственного интеллекта — от проникновения в систему до компрометации сервера и уничтожения данных.

 Источник изображения: sysdig.com

Источник изображения: sysdig.com

Исследователи присвоили агенту название JadePuffer и заявили, что он взломал ресурс через подключённый к интернету сервер Langflow, эксплуатируя уязвимость CVE-2025-3248, после чего развернулась полностью автоматизированная атака. Полезные нагрузки содержали рассуждения, изложенные естественным языком, указывают эксперты; операция адаптировалась в реальном времени — в одном из случаев путь от неудачного входа в систему до рабочего исправления вредоносного кода был пройден за 31 секунду.

Произведя вход в систему посредством эксплуатации уязвимости CVE-2025-3248, которая позволяет выполнять на хосте произвольный код на Python, агент начал сканировать и собирать закрытую информацию, в том числе ключи API китайских ИИ-провайдеров, учётные данные облачных служб AWS, Azure и Google, криптовалютные кошельки и информацию для доступа к базам данных. ИИ-агент установил на сервере Langflow запись crontab, чтобы тот каждые 30 минут обращался к инфраструктуре злоумышленника.

Предполагаемой целью JadePuffer был отдельный доступный из интернета рабочий сервер с базой данных MySQL и службой конфигурации Alibaba Nacos. Агент подключился к открытому порту сервера MySQL с правами root, причём не удалось установить, как он получил эти учётные данные — на взломанном ресурсе они отсутствовали. Затем JadePuffer по нескольким направлениям атаковал Nacos, в том числе эксплуатируя уязвимость обхода авторизации CVE-2021-29441 и подделку действующего веб-токена JSON (JWT) с использованием ключа подписи Nacos по умолчанию; используя доступ к корневой базе данных, агент внедрил администратора бэкдора в резервную базу данных Nacos.

В итоге ИИ-злоумышленник зашифровал все 1342 элемента конфигурации службы Nacos с использованием встроенной функции шифрования AES MySQL и создал требование о вымогательстве, указав биткоин-кошелёк и адрес электронной почты. К сожалению, восстановить утраченные данные жертва уже не сможет, даже если перечислит выкуп: сначала агент удалял данные из базы точечно, а затем стал ликвидировать схемы данных, не создавая резервной копии, но комментируя каждое своё действие.

Чтобы защититься от подобных атак, эксперты рекомендуют обновить Langflow до выпуска с исправлением CVE-2025-3248, не открывать конечные точки для проверки и выполнения кода в интернет; не открывать доступ к Nacos из интернета, поменять ключ по умолчанию и обновить его до версии, когда требуется использовать только собственный ключ. Особенно сложных или уникальных методов взлома JadePuffer не использовал, но примечателен тот факт, что большая языковая модель связала их в полноценную операцию против заброшенной инфраструктуры с выходом в интернет. Таким образом, себестоимость кибератак при наличии вредоносных ИИ-агентов значительно сокращается — и даже может падать почти до нуля.

Meta✴ вложила миллиарды в ИИ, но Цукерберг признал: агенты не спешат умнеть

Темпы развития агентов искусственного интеллекта «не ускорились так», как ожидалось ранее, сообщил на внутреннем собрании компании Meta✴ её гендиректор Марк Цукерберг (Mark Zuckerberg), передаёт Reuters.

 Источник изображения: Mark Zuckerberg

Источник изображения: Mark Zuckerberg

В этом году Meta✴ уволила около 8000 сотрудников — 10 % от общего числа в штате — и ещё 7000 перевела в отделы, связанные с разработкой ИИ, в том числе в подразделение Agent Transformation. В ходе состоявшейся на этой неделе встречи господин Цукерберг, очевидно, прокомментировал прокатившуюся по компании волну сокращений и отметил, что они получились не такими «чистыми», как должны были быть.

Meta✴ провела сокращения из-за беспокойства руководства, «что мы не будем двигаться достаточно быстро, чтобы адаптироваться» к меняющемуся ландшафту технологической отрасли, добавил гендиректор. Преимущества новой ориентированной на ИИ структуры компании «пока не проявились» — улучшения от вложений в ИИ для Meta✴ станут очевидными в период от трёх до шести месяцев, уверен он.

Проведённые недавно журналистские расследования показали, что созданное несколько месяцев назад подразделение компании, специализирующееся на ИИ, характеризуется работающими там инженерами как «ГУЛАГ для душевнобольных». Meta✴ вложила в направление ИИ значительные средства — только в этом году на инфраструктуру она потратит до $145 млрд.

Вышло официальное приложение OpenClaw для управления ИИ-агентами со смартфона

ИИ-агент OpenClaw обзавёлся приложением для устройств на базе Android и iOS. С помощью мобильного инструмента пользователи могут осуществлять взаимодействие с ИИ-агентом и предоставлять ему доступ к разным компонентам устройства, включая камеру, экран, данные о местоположении устройства, фотографии, календари и напоминания.

 Источник изображения: OpenClaw

Источник изображения: OpenClaw

OpenClaw достаточно внезапно превратилась в крупного игрока в сфере ИИ. В настоящее время проект с открытым исходным кодом поддерживает фонд OpenClaw Foundation, который и выпустил мобильные программные решения. Управление проектом осталось за фондом после того, как основатель OpenClaw Петер Штайнбергер (Peter Steinberger) перешёл в OpenAI в начале этого года.

Агентный ИИ стал особенно сложной темой на платформе Apple App Store, где официальный процесс проверки приложений более строгий. Apple заблокировала многие агентные инструменты из-за опасений по поводу безопасности вайб-кодинга. Пользователям устройств с iOS приходилось использовать сторонние мессенджеры, такие как Telegram или WhatsApp, для взаимодействия со своими агентами.

«Яндекс» запустил платформу для создания ИИ-агентов для «Алисы AI»

«Яндекс» представил платформу для создания различных ИИ-агентов для нейросети «Алисы AI», что позволит выполнять с её помощью различные задачи, например, вызывать такси, заказывать доставку продуктов и т.д. В настоящее время платформа проходит тестирование внутри компании, а в дальнейшем её смогут использовать сторонние организации, сообщили «Ведомости» со ссылкой на «Яндекс».

 Источник изображения: Immo Wegmann/unsplash.com

Источник изображения: Immo Wegmann/unsplash.com

Платформа позволяет создавать, тестировать и запускать различных ИИ-агентов, в том числе, способных самостоятельно планировать и выполнять последовательность действий с учётом контекста, включая время суток, день недели, погоду и предпочтения пользователя.

Компания уже разработала с её помощью агентов «Яндекс Такси» и «Яндекс Лавки», которым можно делегировать вызов такси или заказ продуктов. Ожидается, что платформа соединит единым интерфейсом чат с «Алисой AI» с сервисами «Яндекса» и других компаний, что позволит сторонним бизнесам привлечь новых пользователей и автоматизировать взаимодействие с клиентами.

На данный момент доступ к агентам «Яндекс Такси» и «Яндекс Лавки» имеет только часть пользователей, но чуть позже их возможностями сможет воспользоваться вся аудитория «Алисы AI». Также в ближайшее время будут запущены агенты «Яндекс Доставки» и «Яндекс Маркета», после чего наступит очередь и других сервисов.

На платформе ClawHub обнаружены вредоносные навыки для ИИ-агента OpenClaw

Эксперты в области кибербезопасности из отдела Unit 42 компании Palo Alto Networks обнаружили на площадке ClawHub пять навыков для агента искусственного интеллекта OpenClaw. С помощью этих компонентов злоумышленники пытались заразить пользователей приложения вредоносным ПО для кражи информации.

 Источник изображения: openclaw.ai

Источник изображения: openclaw.ai

Платформа ИИ-агентов OpenClaw вышла в ноябре 2025 года. Она позволяет моделям искусственного интеллекта выполнять действия на компьютерах, в том числе просматривать веб-страницы и управлять файлами, а не просто отвечать на вопросы, как это делают чат-боты. Для выполнения различных действий OpenClaw должен сначала научиться им, что реализуется с помощью навыков — дополнений, которые расширяют возможности агента.

Так появилась официальная площадка ClawHub — реестр навыков и плагинов OpenClaw, которая привлекла не только сообщество разработчиков в области ИИ, но также киберпреступников. Первые жалобы стали поступать в начале февраля, и разработчики OpenClaw были вынуждены интегрировать VirusTotal и ClawScan для более эффективной защиты сообщества и обеспечения проактивной проверки публикуемых навыков.

Защитные меры не остановили злоумышленников. К настоящему моменту исследователи обнаружили пять вредоносных навыков OpenClaw. Два из них распространяли вирус-шпион AMOS, один имел увеличенный размер для обмана сканеров, и ещё два реализовывали мошеннические схемы с комиссионными, злоупотребляя возможностью ИИ-агента принимать решения и выполнять действия от имени пользователя.

Исследователи сообщили обо всех инцидентах администрации ClawHub — вредоносные компоненты удалили, а связанные с ними учётные записи заблокировали. Для обеспечения безопасности эксперты рекомендовали пользователям осуществлять «строгую проверку цепочки поставок».

Google Gemini 3.5 Flash научилась полностью управлять компьютерами

Google активно расширяет возможности моделей искусственного интеллекта Gemini — они интегрируются с приложениями семейства Workspace, упрощая работу для потребителей. Компания также работает над функциями, которые ориентированы на корпоративных пользователей — одной из них стало управление компьютером при помощи Gemini 3.5 Flash.

 Источник изображения: blog.google

Источник изображения: blog.google

Ранее для запуска пользовательских ИИ-агентов была необходима спецверсия модели Gemini 2.5, но сейчас этого не требуется — новую функцию можно подключить через API Gemini или через Gemini Enterprise Agent Platform. Испробовать новые возможности ИИ-агента Google предложила через экземпляр удалённого браузера на платформе Browserbase — Gemini 3.5 Flash свободно ориентируется в пользовательском пространстве, самостоятельно выполняет действия в соответствии с запросами и выдаёт результаты.

Управление компьютером при помощи ИИ-модели вызывает некоторые вопросы о безопасности, особенно для корпоративных пользователей. Чтобы снизить эти угрозы, Google использовала целевое обучение модели при помощи состязательных методов. Компания развернула некоторые меры защиты: модель может запрашивать явные подтверждения пользователя перед выполнением конфиденциальных или необратимых действий, а также самостоятельно останавливать выполнение задачи при обнаружении атаки с внедрением запроса. Эти средства компания рекомендует использовать вместе с другими: ограничивать поле действия ИИ-агента песочницей, настраивать контроль доступа и проверять действия системы.

Сотрудники OpenAI стали переходить от использования чат-ботов к ИИ-агентам

Сотрудники OpenAI стали переходить от чат-ботов к агентам в качестве основного формата взаимодействия с искусственным интеллектом — эта тенденция наблюдается, хотя и в менее выраженном виде, среди других организаций и частных пользователей. Вместо разовых запросов к ChatGPT работники OpenAI просят агентов Codex выполнять многоэтапные задачи, которые занимают много времени. И всё чаще это делают сотрудники, не занятые в разработке ПО.

 Источник изображения: Gavin Phillips / unsplash.com

Источник изображения: Gavin Phillips / unsplash.com

Эта статистика имеет значение для других организаций, исследователей рынка труда и политиков и не в последнюю очередь может привести к улучшению финансовых показателей OpenAI, уверены в компании. «Мы обнаружили, что использование агентного ИИ быстро растёт: в первой половине 2026 года число активных пользователей выросло более чем пятикратно, причём наиболее быстрый рост наблюдается вне первоначальной аудитории разработчиков ПО», — рассказали (PDF) в OpenAI.

«К августу 2025 года средний сотрудник OpenAI тратил на Codex менее 10 % своих токенов. Сейчас каждый отдел, включая нетехнические, такие как юридический и кадровый, использует Codex в качестве основного инструмента ИИ в работе», — добавили в компании. В текущее время 97,9 % её сотрудников используют Codex, а в августе 2025 года с ним работали 40 % штата. Инструмент становится популярным и у других организаций — у 17,3 % в настоящий момент. И только 0,7 % частных лиц обращаются к Codex.

ИИ-агент OpenAI Codex может работать в течение длительного времени. «С начала года доля частных пользователей Codex, которые отправляют хотя бы один запрос на задачу, выполнение которой опытным человеком, по оценкам, занимает более восьми часов, выросло почти в десять раз», — подсчитали в OpenAI.

С августа 2025 года популярность Codex в среде не занятых в разработке ПО частных пользователей выросла в 137 раз; в среде корпоративных пользователей — в 189 раз; в коллективе OpenAI — в 12 раз. Чаще всего сервис применяется для решения технических задач, но обращаются к нему и работники других профилей. «В июне 2026 года средний сотрудник OpenAI на юридической должности сгенерировал в 13 раз больше ежемесячных токенов в Codex и ChatGPT, чем в ноябре 2025 года», — гласит статистика компании.

ИИ-агенты скоро станут дороже живых программистов, подсчитали аналитики Gartner

Разработчики агентов искусственного интеллекта начали переводить клиентов с фиксированных тарифов на оплату по объёму потребляемых токенов, в результате чего цены на эти продукты резко выросли. Вскоре ИИ-помощники могут оказаться дороже состоящих в штате компаний программистов, пишет The Register со ссылкой на исследование Gartner.

 Источник изображения: Arif Riyanto / unsplash.com

Источник изображения: Arif Riyanto / unsplash.com

Компании, которые занимаются разработкой ПО, столкнулись с резким ростом затрат, указывают аналитики Gartner: если раньше помогающие программистам ИИ-агенты обходились от $20 до $100 в месяц на рабочее место, то теперь цены выросли до $2000–5000, а в некоторых случаях и до $20 000 — тоже в месяц за рабочее место. При этом разработчики ПО не получают достаточно информации о том, как рассчитываются и выставляются счета за потребление токенов, что затрудняет программирование и контроль затрат.

Создатели ИИ-сервисов не предоставляют встроенных функций, позволяющих разработчикам оптимизировать затраты на ИИ-агентов — в результате расходы увеличиваются бесконтрольно. Более того, указывают аналитики, создатели систем ИИ переходят к концепции «максимизации токенов», исходя из тезиса, что это даст более качественный результат в работе, хотя прямой связи между объёмом потребления вычислительных ресурсов и повышением качества работы установить не удалось.

Для решения проблемы аналитики Gartner рекомендуют оптимизировать потребление токенов: повышать качество входного контекста, который подаётся на модели ИИ, а также применять маршрутизацию моделей, отправляя повседневные задачи более простым и используя передовые только для самых сложных задач. Другими словами, если между объёмом потребления вычислительных ресурсов и качеством результата работы прямой связи нет, то между оптимизацией потребления и качеством результатов она есть.

В отсутствие штатных средств оптимизации некоторые компании стали тратить больше средств на ИИ, чем зарабатывать, и если так пойдёт дальше, то уже к 2028 году затраты на используемых в написании кода ИИ-агентов превысят уровень зарплаты программистов. Учитывая, что стоимость работы ИИ-агентов одинакова во всех регионах, за те же деньги в Индии можно будет нанять инженера с опытом работы от четырёх до шести лет, делают неутешительный вывод аналитики Gartner.

Tencent начала тестировать ИИ-агента на базе DeepSeek в корпоративной версии WeChat

Tencent начала подготовку к запуску агента искусственного интеллекта в корпоративном мессенджере. Китайские технологические гиганты усилили ожесточённую борьбу за привязку пользователей к своим экосистемам, передаёт Bloomberg.

 Источник изображения: tencent.com

Источник изображения: tencent.com

ИИ-агент уже начал развёртываться для некоторых пользователей мессенджера WeCom — корпоративной версии популярного в Китае суперприложения WeChat, рассказал глава отдела по связям с общественностью Tencent Чжан Цзюнь (Zhang Jun). Помощник, получивший название Dayuan, работает на базе модели DeepSeek V4 и поддерживает запросы на естественном языке.

Dayuan обещает стать серьёзным рабочим инструментом, способным использовать огромные массивы данных, присутствующие в WeCom. ИИ-агент анализирует групповые чаты, переписку по электронной почте и записи в корпоративном календаре — он помогает эффективнее оценивать отзывы клиентов и оптимизирует взаимодействие с ними. Приложение умеет автоматизировать повторяющиеся задачи, составляя ежедневные отраслевые обзоры и готовя еженедельные отчёты.

Tencent сейчас выступает в качестве догоняющей сегменте ИИ, уступая таким игрокам как Alibaba и ByteDance. Корпоративный мессенджер WeCom является прямым конкурентом Alibaba DingTalk и ByteDance Lark на китайском рынке рабочих приложений. Эти приложения служат интерфейсом для облачных подразделений китайских техногигантов — их клиенты сейчас наращивают потребление токенов. Преимущество WeCom состоит в интеграции с популярной в стране потребительской экосистемой WeChat — обладая им, Tencent стремится укрепить свои позиции.

Компании начали считать деньги при внедрении ИИ, во многих случаях оно замедляется

В сфере внедрения генеративного искусственного интеллекта, как отмечает Financial Times, наметились важные структурные изменения, которые заставляют клиентов пересматривать свой подход к финансированию процесса. Агентские решения вызывают рост расходов корпораций, и теперь они начали более вдумчиво оплачивать внедрение ИИ.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Во многом такому перелому способствовала политика разработчиков ИИ типа OpenAI и Anthropic, которые после анализа собственных затрат поняли, что субсидируют многих клиентов, предоставляя им почти неограниченный доступ к вычислительным ресурсам в рамках подписки. Многие клиенты потребляют так много токенов, что расходы не покрываются выплатами в форме абонентской платы. Переход на соразмерную оплату потребляемых вычислительных ресурсов ужаснул многих клиентов. Например, небольшой разработчик ПО Workato после перехода на пропорциональную оплату токенов столкнулся с тем, что расходы на оплату услуг провайдеров ИИ в первый день выросли в семь раз. С этим явно нужно было что-то делать, и руководство компании стало два раза в неделю анализировать возможности сэкономить на использовании ИИ.

В целом, как отмечает Financial Times, тактика потребителей систем ИИ сводится как к ограничению использования сторонних инструментов, за которые надо платить, так и к поиску более дешёвых альтернатив. В некоторых случаях последними становятся либо разворачиваемые на собственной инфраструктуре ИИ-модели с открытым исходным кодом, либо более доступные системы тех же китайских разработчиков. В условиях удалённого доступа китайские решения могут быть дешевле хотя бы в силу более низких тарифов на электроэнергию в КНР. С начала этого года китайские ИИ-модели обошли американских по объёму потребления токенов.

Некоторые представители бизнеса ввели лимиты расходов на использование стороннего ИИ своими сотрудниками. Например, в Uber данная сумма ограничена $1500 на одного сотрудника в месяц. Расходы выросли по мере перехода пользователей от простого взаимодействия с чат-ботами к применению множественных ИИ-агентов. На одного человека в организации могут приходиться от 10 до 10 000 агентов, и все они непрерывно потребляют токены, за которые нужно платить. Аналитики Goldman Sachs ожидают, что к 2030 году потребление ИИ-токенов вырастет в 24 раза, и это само по себе усугубит дефицит чипов в ближайшие полтора года.

Даже располагающие собственной вычислительной инфраструктурой компании типа Amazon (AWS) начали следить за эффективностью использования ресурсов. Этот облачный гигант начал бороться с фиктивной демонстрацией бурной ИИ-деятельности некоторыми сотрудниками, которые рассчитывали продемонстрировать руководству лояльность идее всеобщего погружения в такую активность. Meta✴ пришлось последовать примеру конкурента в апреле этого года. В любом случае, даже Amazon и Meta✴ зависят от сторонних провайдеров типа Anthropic, за услуги которых надо платить по коммерческим ставкам.

Microsoft начала предлагать стремящимся к оптимизации затрат на ИИ клиентам новую услугу, позволяющую оптимальным образом выбирать используемые средства. Если для решения поставленной задачи достаточно ограничиться применением более дешёвой модели, то она поручается именно ей, а не отправляется по наиболее дорогому для клиента маршруту. Иногда при ручной маршрутизации запросов компании предпочитают использовать более старые и дешёвые ИИ-модели, не гонясь за самыми прогрессивными. При всём этом внутри компаний всегда находятся пользователи, которым не хватает вычислительных ресурсов для решения своих задач. Публичным компаниям становится сложнее оправдывать растущие расходы на ИИ перед акционерами и инвесторами.

Google DeepMind выработала линию защиты от собственных ИИ-агентов

В Google разработали план по сохранению контроля над агентами искусственного интеллекта, которые, постоянно совершенствуясь, используются внутри компании. Чтобы помочь другим лабораториям ИИ, в Google опубликовали дорожную карту, в которой изложено поэтапное внедрение мер защиты от этой угрозы.

 Источник изображений: deepmind.google

Источник изображений: deepmind.google

Разработанный в подразделении Google DeepMind план безопасности предполагает отход от типичного для сообщества подхода, направленного на решение «проблемы согласования» — идее определения того, как обучить систему ИИ таким образом, чтобы её действия соответствовали намерениям, ценностям и этике управляющих ею людей. В Google не спорят, что согласование остаётся одним из основных элементов безопасности, но составители дорожной карты исходят из того, что эта проблема, возможно, никогда не будет решена в полной мере. Поэтому формируется многоуровневая система безопасности, в которой ИИ-агенты рассматриваются как вероятная угроза внутри организации.

Механизмы защиты от собственных ИИ-агентов во многом позаимствованы у традиционных служб безопасности, которые занимаются угрозой со стороны собственных сотрудников компаний — и адаптированы к новым условиям, потому что «ИИ системно отличается от людей». ИИ-агенты способны действовать быстрее и в большем масштабе, чем отдельный недобросовестный сотрудник, поэтому необходимы системы, способные контролировать доступ ИИ-агентов к определённым инструментам; а также системы, способные выявлять у них аномальное поведение. Существующие системы контроля доступа ориентированы на должность и полномочия конкретного сотрудника компании; некоторые поставщики систем массового управления ИИ-агентами исходят из того, что они должны иметь те же доступ и разрешения, что и сотрудники, от имени которых они работают.

Этот подход в Google считают бесперспективным. По мере автоматизации рабочих процессов становится всё менее очевидно, от чьего имени работает ИИ-агент, и в полностью автоматизированной среде один ИИ-агент способен выполнять задачи, связанные с различными должностями, а не только с одной. Наконец, в интересах организации один ИИ-агент может выполнять задачи и в разных рабочих процессах. Поэтому необходима динамичная система контроля доступа, которая может меняться в зависимости от выполняемой задачи и от того, как эта задача вписывается в рабочий процесс. Допустимы сценарии, когда один и тот же ИИ-агент сначала имеет разрешение на выполнение конкретного действия или доступ к определённой базе данных, а через несколько минут в рамках другого рабочего процесса ему отказывается в тех же привилегиях. Необходима система мониторинга в реальном времени, которая знает, каким должно быть поведение ИИ-агента при выполнении любой задачи в любом рабочем процессе, и если выявляется отклонение, и он пытается сделать что-то, чего, как подозревает система, делать не должен, она оперативно реагирует.

В распоряжении Google DeepMind уже разработан внутренний прототип системы, который асинхронно отслеживает траектории работы агентов-программистов и направляет подозрительные сигналы на рассмотрение человеку. Эта система уже проанализировала около 1 млн задач этих агентов; работа «сыграла решающую роль в создании системы мониторинга в реальном времени для агента Gemini Spark» и помогла реагировать на такие проблемы как непреднамеренное удаление данных. Большинство попавших в поле зрения мониторов событий не носят злонамеренного характера — чаще всего это результат «неправильной интерпретации [задачи] агентом или чрезмерного стремления достичь поставленной пользователем цели».

Мониторинг в реальном времени — лишь один из 15 способов снижения риска, которые перечислены в дорожной карте Google DeepMind. Предлагаются также журналы сетевой активности, которые изучаются в реальном времени или проверяются позже; подключение несложной, но заслуживающей доверия модели ИИ, которая осуществляет мониторинг «траектории рассуждений» — она, впрочем не всегда точно отражает, что агент в действительности «думает»; и даже отслеживание механизмов активации цифровых нейронов в нейросети, помогающее выявлять признаки того, что модель действует обманным путём — аналог МРТ в реальном времени.

На основе дорожной карты разрабатывается структура под названием TRAIT&R (таксономия вредоносных тактик и алгоритмов ИИ), во многом основанная на ATT&CK — базе знаний о недружественном поведении в области кибербезопасности, поддерживаемой организацией MITRE. Таксономия выделяет три категории угроз, от которых в Google DeepMind выстраивают защиту: «утеря контроля», при которой модель развёртывает скрытые неконтролируемые инструменты; «саботаж работы» (незаметное ухудшение ИИ-агентами согласованности в области безопасности); и «прямой вред» (утечка весов модели или уничтожение критически важных активов).

Компания, по её признанию, уже значительно продвинулась в реализации дорожной карты — что-то только разрабатывается, а что-то уже внедряется. В перспективе эти средства безопасности Google DeepMind намерена включить в систему Frontier Safety Framework.

Microsoft подключит DeepSeek к Copilot Cowork в качестве экономичной альтернативы OpenAI и Anthropic

Microsoft планирует перевести Copilot Cowork на оплату по факту использования вычислительных ресурсов и одновременно рассматривает возможность подключить модель DeepSeek в качестве более дешёвой альтернативы для своих корпоративных клиентов, сообщает Axios.

 Источник изображения: Rubaitul Azad/unsplash.com

Источник изображения: Rubaitul Azad/unsplash.com

Рост популярности агентских инструментов, включая Copilot Cowork, Anthropic Claude Code и OpenAI Codex, сопровождается многократным увеличением числа запросов к ИИ-моделям в ходе выполнения задач, что порождает непредсказуемо высокие счета для клиентов в корпоративном сегменте и одновременно увеличивает нагрузку на вычислительные ресурсы. Данная проблема побудила Microsoft пересмотреть подход к ценообразованию, поскольку безлимитные тарифы оказались экономически невыгодными при интенсивной эксплуатации моделей.

Компания уже проводит тестирование доработанной версии DeepSeek V4, а также изучает другие открытые модели, стремясь предложить заказчикам альтернативу OpenAI и Anthropic. Ожидается, что окончательное решение о выборе конкретной модели будет объявлено в течение нескольких недель.

В случае утверждения DeepSeek эта модель будет полностью развёрнута на инфраструктуре Azure, благодаря чему все данные останутся в облаке корпорации с сохранением стандартных механизмов безопасности, соответствуя требованиям и контролю за местонахождением информации. Инженеры Microsoft уже провели тонкую настройку модели и внедрили дополнительные защитные фильтры.

Вице-президент Чарльз Ламанна (Charles Lamanna) также пояснил, что тестирования показали невозможность сохранения безлимитного доступа, поскольку сотни задач в неделю от одного пользователя, хотя и свидетельствуют о высокой эффективности модели, ведут к чрезмерным издержкам.

Qualcomm готовится к миру без приложений и разрабатывает более 40 ИИ-устройств

Из интервью генерального директора Qualcomm Криштиано Амона (Cristiano Amon) ресурсу CNBC становится понятно, что он убеждён в способности ИИ-агентов изменить не только сферу аппаратного, но и программного обеспечения. Компания сейчас работает над дизайном примерно 40 персональных устройств, которые опираются на локальную работу с ИИ.

 Источник изображения: Qualcomm Technologies

Источник изображения: Qualcomm Technologies

«Считаю, что на рынке будет много экспериментов с различными формфакторами. Сейчас мы разрабатываем свыше 40 вариантов дизайна для таких устройств, и поверьте мне, они обладают очень широким спектром формфакторов», — пояснил генеральный директор Qualcomm. Помимо уже привычных умных часов, на рынке могут появиться наушники с камерами, ювелирные украшения со встроенной электронной начинкой и даже булавки. Любой предмет, который всегда находится с человеком, может использоваться для доступа к ИИ-агенту.

Агент может моментально предоставлять расшифровку банковских транзакций, лишая пользователя необходимости вручную просматривать выписку в поисках нужной информации. Сам метод взаимодействия пользователя с приложениями изменится, на переднем крае в этой цепочке окажутся агенты. Как и нынешние смартфоны, по мнению Амона, будущие типы ИИ-устройств сформируются вокруг агентов. Смартфоны полностью не исчезнут, но их будут дополнять многие другие виды устройств, позволяющие человеку взаимодействовать с ИИ. Сейчас, по его словам, умные очки поставляются десятками миллионов штук в год. Через пару лет тиражи будут измеряться сотнями миллионов очков в год, а со временем они смогут догнать по популярности и смартфоны. В прошлом году последних по всему миру было продано 1,26 млрд штук.

По словам Амона, на рынок ИИ-устройств выйдут новые крупные игроки, включая компании, занимающиеся разработкой ИИ-агентов. Тем более, что сбор данных через собственные устройства позволит разработчикам ИИ постоянно совершенствовать свои программные продукты. Поскольку устройства для работы с ИИ-агентами будут становиться всё более компактными, чипы для них тоже должны измениться. Они вынуждены будут повышать энергетическую эффективность, помимо прочего. Как резюмировал глава Qualcomm, «ни одно из имеющихся сегодня устройств не готово к будущему».

Google начала развёртывать поисковых ИИ-агентов — но пока лишь для платных пользователей

На майской конференции Google рассказала о новой технологии — способных работать в фоновом режиме поисковых агентах с искусственным интеллектом. Теперь компания начала развёртывать эту функцию, но пока воспользоваться ею могут только подписчики тарифа Google AI Ultra.

 Источник изображения: blog.google

Источник изображения: blog.google

Поисковые агенты круглосуточно работают в фоновом режиме и «интеллектуально анализируют информацию, чтобы найти то, что вам нужно, в нужный момент». Одним из их видов являются информационные агенты — они помогают пользователям «оставаться в курсе всего, что для них наиболее важно». Они ищут информацию по блогам, новостным сайтам, в сообщениях соцсетей; а также в реальном времени осуществляют мониторинг данных в области финансов, шопинга и спорта, «отслеживая изменения, связанные с вашим конкретным вопросом».

На выходе пользователь получает «синтезированное обновление [данных] с возможностью принимать меры». В одном из примеров он перечисляет требования к жилплощади, и агент предлагает ему уведомления о выходе соответствующих требованиям новых объявлений. В основном приложении Gemini такие функции могут автоматически запускаться только раз в день; ИИ-агенты Gemini Spark запускаются каждые 15 минут, а поисковые агенты действуют более оперативно.

Воспользоваться новой функцией могут пока только подписчики тарифов Google AI Ultra стоимостью $99,99 или $199,99 в месяц. Для её запуска достаточно открыть «Режим ИИ» и добавить в запрос «держи меня в курсе» или «оповести меня, когда». Функция доступна на всех языках и рынках, где работает «Режим ИИ». До конца лета аудитория расширится и на подписчиков Google AI Pro.

Три четверти пользователей ИИ уже доверяют ИИ-агентам больше, чем друзьям

Трое из четверых (74 %) потребителей заявили, что доверяют персональному агенту искусственного интеллекта больше, чем своему лучшему другу, когда тот совершает покупку от его имени, сообщает TechRadar со ссылкой на проведённый компанией Accenture опрос.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

В опросе приняли участие более 25 000 потребителей из 16 стран мира. ИИ используется для сравнения, ведения переговоров, принятия решений и даже совершения покупок от имени своих пользователей. Ещё 74 % опрошенных заявили, что теперь готовы разрешать ИИ-агентам выполнять связанные с коммерцией задачи: совершать сделки, рассматривать жалобы от клиентов, изменять порядок заказа продуктов и продлевать подписки.

Большинство потребителей высказалось за то, чтобы контролировать ситуацию и оставлять последнее слово за собой, но уже каждый третий (32 %) готов дать ИИ возможность принимать окончательное решение о покупке перед оплатой с учётом заранее определённых параметров: бюджета, отношения к торговой марке и других предпочтений. И каждый десятый (9 %) разрешил бы ИИ-агентам совершать транзакции и совершать покупки автономно, без их одобрения.

Ещё 31 % признались, что успешная сделка с низким уровнем риска, такая как покупка продуктов или пересмотр заказа товаров для дома, способна повысить их доверие к ИИ-агентам. Компьютеры всё активнее берут на себя задачи, связанные с покупкой товаров, но и от физических магазинов люди пока отказываться не готовы: без малого треть (31 %) считает, что значение магазинов как места для обмена опытом возрастёт, а 30 % указывают, что для укрепления доверия важное значение сохранит личное общение. Другими словами, потребитель хочет, чтобы процесс покупки стал проще, но и от привычных форматов он отказываться не намерен — такой вывод авторы исследования предлагают сделать розничным продавцам.


window-new
Soft
Hard
Тренды 🔥
Новая статья: EMPULSE — восторг или эпитафия? Предварительный обзор 43 мин.
Корейское отделение Netflix проговорилось о дате выхода Cyberpunk: Edgerunners 2 2 ч.
Разработчики Ghostrunner с удовольствием бы занялись Ghostrunner 3, но есть нюанс 4 ч.
Anthropic хочет стать фармкомпанией — лекарства будет разрабатывать ИИ 5 ч.
Слухи: амбициозный российский боевик «Война миров: Сибирь» сравнялся по бюджету с Kingdom Come: Deliverance 2 6 ч.
«Чувствовал, будто расхожусь по швам»: ведущие разработчики Suicide Squad: Kill the Justice League едва не ушли из индустрии из-за провала игры 7 ч.
Alibaba запретила сотрудникам пользоваться помощником программиста Claude Code от Anthropic 8 ч.
Продажи Cyberpunk 2077 превысили 40 млн копий за пять с половиной лет после релиза 8 ч.
Epic Games Store выдал планы Square Enix на сюжетные дополнения к Final Fantasy VII Revelation 8 ч.
Зафиксирована первая в истории полностью автономная атака ИИ- вымогателя 9 ч.