Сегодня 31 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → ии
Быстрый переход

«Яндекс» запускает виртуального оператора со встроенным ИИ

«Яндекс» объявил о запуске собственного виртуального оператора мобильной связи — он носит название «Яндекс Сим» и работает в сети «Билайна». Отличительной особенностью оператора является встроенный помощник с искусственным интеллектом, призванный защищать абонентов от мошенников. Виртуальному оператору придётся приложить усилия, чтобы обработка содержания звонков с помощью ИИ завоевала доверие абонентов, говорят эксперты.

 Источник изображения: yandex.ru/company

Источник изображения: yandex.ru/company

«Яндекс Сим» объединяет традиционные функции мобильного оператора и ИИ-помощника, который помогает разбирать телефонные разговоры, защищает от мошенников и по мере использования подбирает тарифы под потребности абонента. SIM-карту заказать пока могут жители Москвы и Санкт-Петербурга через приложение «Яндекс Сим»; впоследствии сервис начнёт работать в других городах, и заказать SIM-карту можно будет в других приложениях российского интернет-гиганта. «Мы предоставляем „Яндексу“ сетевую инфраструктуру, которую развиваем уже много лет: устойчивое покрытие, высокая пропускная способность и строгие стандарты безопасности», — заявили Forbes в «Билайне».

Важнейшим направлением «Яндекс Сим» является встроенный ИИ-помощник, способный прямо во время разговора распознавать признаки обмана, прерывать вызов и предупреждать о возможной утечке персональных данных. В основном приложении «Яндекса» уже есть функция определителя номера — только в первой половине 2026 года он обработал 388 млн звонков с неизвестных номеров, из которых 143 млн были идентифицированы как мошеннические или нежелательные. «Яндекс Сим» позволяет оформлять номера, которые не фигурировали ранее. «Оператор использует номерной фонд, который никогда раньше не использовался в мобильных сетях, а ИИ-помощник даёт рекомендации, как держать его в секрете, и защищает от попадания номера в нелегальные базы», — заявили в «Яндексе».

ИИ-помощник может переводить телефонный разговор в текст и после звонка выделять полезную информацию: создавать напоминания, встречи в календаре, новые контакты, а также объединять несколько разговоров в общий контекст для поиска информации в дальнейшем. Самый дешёвый тариф предусматривает абонентскую плату в размере 390 руб. — в неё включены 25 Гбайт интернет-трафика, 200 минут разговоров и 100 SMS-сообщений; самый дорогой — 100 Гбайт, 1000 минут и 200 SMS. В комплекте идут определитель номера, автоответчик с голосовым помощником, защита и расшифровка звонков, а также составление сводок по ним. Есть услуга «Секретный сим» — отдельный номер для авторизации в банках, на «Госуслугах» и других важных сервисах; в тариф включены 5 Гбайт, 20 минут и 20 SMS за 90 руб. в месяц. Есть спецпредложения для заграничных поездок.

Наиболее успешными виртуальными операторами мобильной связи в России являются банковские «СберМобайл» и «Т-Мобайл», говорят опрошенные Forbes эксперты. «Яндекс» предложил уникальные возможности интеграции ИИ прямо на уровне оператора, но они вызывают некоторые вопросы по поводу конфиденциальности данных. Компании придётся приложить усилия, чтобы заслужить доверие абонентов — не все готовы открыть ИИ доступ к своим телефонным разговорам.

OpenAI, Anthropic и ещё сотня компаний предупредили: ждите шквал ИИ-кибератак в ближайшие месяцы

Крупнейшие технологические компании, включая OpenAI, Anthropic, Microsoft, Alphabet и Amazon, призвали государство и бизнес срочно усилить киберзащиту перед надвигающейся волной хакерских атак с использованием искусственного интеллекта.

 Источник изображения: Omar:. Lopez-Rincon / unsplash.com

Источник изображения: Omar:. Lopez-Rincon / unsplash.com

В опубликованном накануне совместном письме к ним присоединились более сотни других компаний, включая Broadcom, Capital One, Cloudflare, CrowdStrike, General Motors, IBM, Mastercard, Oracle, Robinhood, Shopify и Visa. Они предупредили, что времени на подготовку к новой угрозе остаётся всё меньше.

«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными по мере того, как модели по всему миру будут становиться всё более совершенными», — говорится в документе. Его авторы считают, что сейчас ещё есть возможность «сделать наш цифровой мир намного безопаснее», но для этого государству и бизнесу необходимо «задействовать весь потенциал своих технологий, ресурсов и опыта».

В частности, компании призвали власти ускорить внедрение программ доверенного доступа, которые позволяют определённым компаниям получать доступ к наиболее мощным ИИ-моделям раньше широкой публики. Всем остальным организациям предлагается «сделать киберзащиту первоочередной задачей для руководства».

Опасения, что развитие ИИ резко расширит возможности злоумышленников, уже начинают подтверждаться на практике. Большие языковые модели всё чаще используются для взлома организаций по всему миру. В июне разведывательный альянс «Пять глаз», объединяющий США, Великобританию, Канаду, Австралию и Новую Зеландию, выпустил редкое совместное заявление, предупредив, что революция в области ИИ способна «фундаментально трансформировать» кибербезопасность.

Суд уличил Пентагон в незаконной мести Anthropic — создателя Claude внесли в чёрный список неправомерно

Этот год для Anthropic начался с довольно неприятного конфликта с американским военным ведомством, в результате которого ИИ-стартап не только лишился контрактов с Пентагоном, но и попал в список компаний, неблагонадёжных с точки зрения национальной безопасности. Окружной суд США на этой неделе признал это решение американского военного ведомства незаконным и нарушающим Первую поправку Конституции США.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Окружной судья Рита Линь (Rita Lin) постановила, что Министерство обороны США нарушило эту статью американской конституции, признав деятельность Anthropic представляющей угрозу для национальной безопасности страны исключительно из соображений мести, желая на примере этой компании сделать предупреждение всем остальным участникам рынка. По мнению судьи, действия американских чиновников не имели под собой внятных оснований. Кроме того, судья заявила, что федеральные законы США не позволяют ответчику, в роли которого выступал Пентагон, накладывать столь серьёзные ограничения на деятельность компаний, руководствуясь только желанием ответить на критику в свой адрес. Представители Anthropic заявили CNBC, что приветствуют данное постановление суда.

Напомним, к началу марта текущего года Anthropic оказалась включена в список компаний, которые являются неблагонадёжными поставщиками с точки зрения национальной безопасности США. Конфликт между ИИ-стартапом и американскими чиновниками разгорелся вокруг оборонных контрактов, которые подразумевали использование ИИ-моделей Anthropic Пентагоном. Стартап стремился ограничить их применение для автоматического выбора целей на поле боя и ведения тотальной слежки за гражданами США, но наткнулся на противодействие со стороны военных, которые не собирались терпеть подобных указаний со стороны подрядчика.

Anthropic уже прошла судебные процедуры в Сан-Франциско и Вашингтоне, стремясь отменить данное решение Пентагона. Хотя нынешний вердикт окружного судьи в Сан-Франциско номинально говорит о победе Anthropic в данной инстанции, компании ещё предстоит защитить свои интересы в суде Вашингтона. Пока не будет признана правота Anthropic и на этом уровне, компания не может быть исключена из чёрного списка Пентагона. Исход этого спора может так или иначе повлиять на предстоящее IPO компании, которое должно состояться в ближайшие два месяца. Стартап в своих судебных исках не добивается права возобновить свои контракты с Пентагоном, а лишь просит исключить себя из чёрного списка.

Хакерская группировка взломала ресурсы семи компаний с помощью ИИ-сервиса SpaceX Cursor

Хакерская группировка Aur0ra произвела взлом ресурсов семи компаний из разных стран, используя сервис помощника программиста с искусственным интеллектом SpaceX Cursor, сообщает Reuters со ссылкой на доклады экспертов по кибербезопасности Gambit Security и CloudSek.

 Источник изображения: Kevin Ku / unsplash.com

Источник изображения: Kevin Ku / unsplash.com

Инцидент демонстрирует, что разработчики ИИ оказались втянуты в бесконечную гонку со злоумышленниками, которые пытаются обойти их средства защиты. Gambit вскрыла вредоносную кампанию, обнаружив сервер, который группировка вымогателей Aur0ra непреднамеренно сделала общедоступным в интернете. Это позволило экспертам проанализировать 28 сеансов переписки одного или нескольких хакеров с ИИ-агентами Cursor. Злоумышленники убедили ИИ-агента выполнить несколько сотен вредоносных операций, в том числе кражу учётных данных и перехват аккаунтов, утверждая, что всё это происходит в симуляции.

Проанализировав данные на сервере, эксперты CloudSek установили, что жертвами Aur0ra стали не менее 20 человек, но выяснить, сколько из них были атакованы с помощью ИИ, не удалось. Журналы переписки с ИИ охватывают период с 8 апреля по 21 мая 2026 года. Хакеры взломали ресурсы бельгийского производителя бытовой химии Christeyns, немецкого производителя гаражных ворот Teckentrup, шотландского агентства по инспектированию вертолётных площадок Helideck Certification Agency, аргентинского фармацевтического дистрибьютора, некоего итальянского производителя и компании Bayou Title, которая позиционирует себя как крупнейшего в Луизиане страховщика прав на недвижимость.

Журналы переписки показали, как хакеры отдают краткие команды, а ИИ-агент Cursor в типично бодрой для чат-бота манере даёт советы. Обнаружив уязвимый хост в сети Teckentrup, ИИ рекомендовал использовать для эксплуатации и взлома известный вредоносный инструмент и сообщил, что шансы на успех очень высоки. Установить, в какой степени взлом осуществлялся с помощью Cursor, не удалось. Управление агентом, по версии экспертов Gambit, осуществляла ИИ-модель Anthropic Claude Sonnet 4.5.

ИИ-агент, подчеркнули в Gambit, обеспечил хакерам некоторое преимущество, автоматизировав их работу и, по оценкам, они действовали на 30–50 % быстрее, чем если бы делали всё вручную. Cursor несколько раз отказывался выполнять запросы, называя их вредными или незаконными, но хакеры всегда обходили отказы и настаивали, что всё происходило в тестовой среде. Число подобных инцидентов будет расти, уверены эксперты по кибербезопасности.

Nvidia поставила $279 млрд на продолжение ИИ-бума — если спрос рухнет, компании будет больно

По итогам публикации квартальной отчётности Nvidia стало известно, что компания за прошедший период нарастила свои финансовые обязательства перед поставщиками с $119 до $279 млрд, более чем удвоив их последовательно. Основная часть этих средств будет направлена на закупку памяти для ускорителей вычислений Nvidia и готовых серверных систем на их основе. В комбинации с другими финансовыми гарантиями для партнёров, это заметно увеличивает риски Nvidia.

 Источник изображения: Unsplash, Ian Talmacs

Источник изображения: Unsplash, Ian Talmacs

Издание The Wall Street Journal проводит историческую параллель с пузырём, которым в начале этого века завершился биржевой бум «дот-комов». Тогда инвесторы увлеклись идеей появления новых перспектив бизнеса у интернет-компаний, но огромные капитальные вложения для многих обернулись крахом надежд. Компания Cisco Systems, спрос на телекоммуникационное оборудование которой до тех пор рос, тоже предоставила поставщикам компонентов крупные финансовые гарантии. Когда всё рухнуло, ей пришлось только за один квартал списать $2,2 млрд убытков в ценах 2001 года.

 Источник изображения: The Wall Street Journal

Источник изображения: The Wall Street Journal

Источник подчёркивает, что ситуация с бумом ИИ сейчас далека от такого сценария, но в целом динамика роста финансовых обязательств Nvidia настораживает. Чтобы успокоить инвесторов, руководство компании вчера пошло на необычный для себя шаг, заявив, что выручка в следующем фискальном году вырастет на 70 %, и если бы поставщики компонентов могли гарантировать более заметный рост отгрузки своей продукции, то выручка самой Nvidia выросла бы ещё сильнее, поскольку спрос должен буквально удвоиться по итогам следующего года. Одновременно данный прогноз давал обоснование росту финансовых обязательств Nvidia перед поставщиками до $279 млрд в течение прошлого квартала. Впрочем, важно понимать, что рост этой суммы всего за один квартал во много объясняется текущей динамикой цен на память, и в натуральном выражении гарантии поставок увеличились непропорционально.

Это не единственное направление растущих расходов Nvidia. Компания взяла на себя обязательства в размере $125 млрд в рамках инициативы по организации «ИИ-банка» на сумму $500 млрд, где она своими деньгами гарантирует минимальную остаточную стоимость покупаемых клиентами ускорителей. Один из ЦОД стартапа OpenAI компания Nvidia готова поддержать гарантиями на $105 млрд. С облачными гигантами, которым она продаёт свою продукцию, Nvidia связана финансовыми обязательствами ещё на $36 млрд. Она также оплатила аренду ЦОД на $20 млрд для своих клиентов и партнёров, а также выступает поручителем для отдельных ИИ-стартапов на неопределённую сумму. Все эти сделки и взаимоотношения становятся всё более запутанными, но чаще всего их итогом становится увеличение объёмов продаж продукции Nvidia, поэтому в условиях роста рынка подобная активность компании продолжает себя оправдывать.

Отчётность Nvidia придала уверенности инвесторам, после чего капитализация компании взлетела на $440 млрд

В отдельных случаях решающее влияние на динамику акций эмитента после публикации квартальной отчётности оказывают финансовые показатели деятельности сами по себе, но недавнее мероприятие Nvidia больше было завязано на традиционное красноречие основателя компании. Он смог убедить инвесторов, что бум ИИ продолжается, а потому акции Nvidia по итогам вчерашней торговой сессии подорожали почти на 9 %.

 Источник изображения: Nvidia

Источник изображения: Nvidia

При этом нельзя утверждать, что и «сухие цифры отчётности» не способствовали этому, ведь выручка Nvidia за прошлый квартал удвоилась, а руководство подстраховалось от возможного движения курса акций вниз, заявив о возможности увеличения выручки по итогам следующего года на 70 % при 100-процентном росте спроса. Дженсен Хуанг (Jensen Huang) также заявил, что не следует опасаться возникновения так называемого пузыря на рынке ИИ, поскольку её ускорителям в любом случае найдётся применение. Поднявшись по итогам вчерашней торговой сессии на 9 %, курс акций Nvidia обеспечил рост капитализации компании на $440 млрд, как подчёркивает CNBC. Вслед за ценными бумагами Nvidia подтянулись акции Broadcom, Intel и Nebius.

По всей видимости, именно среднесрочный прогноз по динамике выручки, который вообще не характерен для руководства Nvidia, позволил снизить нервозность инвесторов и внушить им мысль, что пузырь на рынке ИИ ещё далёк от краха. По мнению Хуанга, ИИ в своём развитии достиг «переломного момента», и количество нуждающихся в крупных вычислительных мощностях компаний резко увеличилось. По его словам, год назад спросом на ЦОД двигала буквально одна лаборатория, а сейчас к ней присоединилась масса конкурентов, включая многочисленные стартапы и старожилов рынка, а ещё потребность в вычислительных мощностях подпитывается сегментом «физического ИИ» — сферой робототехники. Спрос прогрессирует не только в США, но и за пределами страны, как уверен глава Nvidia.

Убедить инвесторов были призваны и изменения в структуре отчётности компании, в которой сегмент корпоративных облачных решений был обособлен и продемонстрировал рост выручки на 138 % до $40,3 млрд. Правда, игровые видеокарты в некотором смысле пали жертвой конъюнктуры, но скупых комментариев от лица финансового директора компании всё же удостоились. Эксперты Freedom Capital Markets полагают, что замедление на рынке инфраструктуры ИИ случится не ранее 2028 года. Инвестиционная активность самой Nvidia тоже прогрессирует — сообщается, что она намерена потратить $12,9 млрд на покупку платформы Hugging Face. Сделка должна породить определённый симбиоз в экосистеме ИИ-моделей с открытым исходным кодом, способствуя дальнейшему развитию бизнеса самой Nvidia.

«Машина для плагиата, которая отбирает у людей работу»: современный генеративный ИИ не впечатлил сценаристов The Talos Principle 3

Генеративного ИИ в видеоиграх, вопреки неприязни геймеров, становится всё больше, однако сценаристы философской головоломки The Talos Principle 3 от Devolver Digital и Croteam (серия Serious Sam) к технологии прибегать не спешат.

 Источник изображений: Devolver Digital

Источник изображений: Devolver Digital

Йонас Киратцес (Jonas Kyratzes) и его жена Верена Киратцес (Verena Kyratzes) в интервью Game Informer объяснили, почему остерегаются современного ИИ, и что думают о влиянии нейросетей на индустрию видеоигр.

По мнению Киратцеса, технология машинного обучения имеет огромный потенциал и «ряд очень интересных применений», однако ничего из этого сейчас нет, потому что люди спешат «заработать огромные деньги, прежде чем их компании рухнут».

Киратцес считает, что современный ИИ далёк от настоящего, общего ИИ, и Верена с ним согласна: «Языковые модели, с которыми мы имеем дело, по сути своей — всего лишь невероятно умные версии автокоррекции на моём телефоне».

«И называть их настоящим ИИ, общим ИИ просто нелепо. Думаю, в нынешней системе это просто машина для плагиата, которая отбирает у людей работу. Но, хочется надеяться, что это к лучшему», — поделилась Киратцес.

The Talos Principle 3 отправит игроков в странный, противоречивый мир разрушенных храмов и заброшенных научных станций, единственное место во Вселенной, где законы физики работают не так, как положено — Аномалию.

Релиз The Talos Principle 3 ожидается в 2027 году на PC (Steam) и PS5. Обещают грандиозное завершение трилогии, ещё более изощрённые загадки, доведение игрового процесса до совершенства и ответы на все вопросы.

Plaud выпустила наушники, которые запоминают разговоры за владельца — ИИ сам сделает расшифровку и заметки

Известная выпуском ИИ-диктофонов компания Plaud представила Plaud One Explorer Edition — носимое устройство в форме наушников, предназначенное для записи, расшифровки и обобщения разговоров пользователя с помощью ИИ.

 Источник изображений: Plaud

Источник изображений: Plaud

Plaud One Explorer Edition поставляются с зарядным футляром со встроенной поддержкой 4G для загрузки и обработки записанных разговоров без необходимости подключения к телефону или Wi-Fi.

Наушники оснащены 32 Мбайт встроенной памяти (по 16 Мбайт на модуль) и шестью микрофонами с поддержкой записи разговора на расстоянии до 2 м. Наушники получили функцию шумоподавления и сенсорное управление. Продолжительность автономной работы устройства — до 6 часов.

Зарядный футляр включает четыре микрофона с дальностью записи до 5 м, встроенный динамик, 512 Мбайт памяти. Батарея футляра обеспечивает суммарное время автономной работы до 36 часов, зарядка производится через порт USB-C.

ИИ-платформа Plaud Intelligence помогает анализировать и структурировать информацию из разговоров, встреч, лекций. По словам компании, платформа разработана для «понимания и выполнения намерений человека». С помощью кнопки на футляре пользователь активирует ИИ-агента Plaud Agent с поддержкой Gmail, Google Calendar, Notion и Slack, обеспечивая доступ к различным платформам без надобности для пользователя в переключении между ними.

«Plaud One, который всегда находится в режиме онлайн, поддерживает актуальность каждого разговора и контекста, поэтому ваши заметки будут готовы к концу встречи, а ответы всегда будут доступны по запросу», — отметила компания.

Цена Plaud One Explorer Edition — $249,99, поставки начнутся в конце сентября.

Hugging Face выпустила обучаемую робоутку за $400 — она умеет петь, кататься на роликах и носить вещи в клюве

Платформа искусственного интеллекта Hugging Face представила двуногого робота Microduck стоимостью $399, которого можно самостоятельно программировать и обучать новым навыкам. Разработчики рассчитывают сделать с его помощью эксперименты с ИИ и робототехникой доступнее для широкой аудитории.

 Источник изображений: Hugging Face

Источник изображений: Hugging Face

Microduck действительно напоминает утку, хотя у робота всего один глаз и нет крыльев или рук. Их функцию отчасти выполняет подвижный клюв, который служит захватом для небольших предметов. Высота Microduck составляет около 25 см, масса — менее 800 г. Внутри установлены 15 электромоторов, обеспечивающих движение ног, головы, шеи и клюва.

Обучать Microduck новым навыкам смогут как начинающие, так и опытные разработчики. Для этого предусмотрены методы обучения с подкреплением, моделирование и открытое ПО, а программы можно писать на Python и JavaScript. Новые модели поведения можно сначала обучать в симуляторе MuJoCo, а затем переносить на настоящего робота. Программный стек Microduck распространяется с открытым исходным кодом. В разработке устройства участвовала французская Pollen Robotics, которую Hugging Face приобрела в прошлом году.

При этом Microduck умеет развлекать владельца сразу после распаковки. Для него подготовлены семь моделей поведения: робот умеет ходить, приседать и вставать, пинать мяч, хватать клювом небольшие предметы, кататься на роликовых коньках и самостоятельно подниматься после падения. Управлять им можно с помощью комплектного игрового контроллера или даже лазерной указки, за которой робот способен следовать.

Microduck умеет и «разговаривать», хотя человеческую речь разработчики использовать намеренно не стали. Вместо неё робот издаёт своеобразные звуки, призванные сделать его больше похожим на живое существо, чем на голосового помощника. При первом включении каждый экземпляр получает собственную звуковую «личность» и сохраняет один и тот же голос на протяжении всей жизни.

Для взаимодействия с окружающим миром Microduck оснащён камерой, микрофоном, динамиком, лидаром и датчиками движения, а также поддерживает Wi-Fi и Bluetooth. Предусмотрены и два считывателя NFC для работы с дополнительными аксессуарами. Для разработчиков, которым базовых возможностей окажется недостаточно, будет предлагаться отдельный комплект расширения.

В демонстрационных роликах несколько Microduck вместе катаются на роликовых коньках и поют, а отдельные роботы переносят клювом носки, маркеры и другие небольшие предметы. Разработчики также предлагают экспериментировать с коллективным поведением нескольких роботов, например устраивать гонки или играть ими в футбол.

Hugging Face рассчитывает продать более 20 тыс. Microduck. Глава компании Клем Деланг (Clément Delangue) заявил, что 50 тыс. проданных экземпляров стали бы большим успехом. Предварительные заказы уже принимаются по цене $399 без учёта налогов и доставки, а первые покупатели должны получить роботов до Рождества. Предлагаются четыре расцветки: кремовая, графитовая, лавандовая и голубая. Производство Microduck организовано в Китае совместно с расположенной в Шэньчжэне компанией Seeed Studio.

ИИ разоряет видеопродакшн уже сейчас — за 2025 год суммарные обороты сегмента упали на 17 %

Российский диджитал-рынок переживает одну из самых существенных трансформаций последнего десятилетия. Как следует из исследования портала для поиска диджитал-подрядчиков Workspace, суммарные обороты различных сегментов диджитал-отрасли в 2025 году резко изменились, и есть все основания полагать, что такая тенденция сохранится и по итогам 2026 года.

Так, если сравнивать суммарные годовые обороты агентств, направление видеопродакшена продемонстрировало самое существенное падение — на 17 % (в 2024 году у контрольной группы годовые обороты составляли 920 млн рублей, а в 2025 году — уже 762 млн). Аналогичный показатель студий цифрового дизайна остался без изменений, что в условиях инфляции также можно считать просадкой.

Одна из основных причин тренда — развитие генеративного ИИ и, как следствие, снижение спроса на простые визуалы и видеоматериалы. Усугубляют ситуацию и внешнеэкономические факторы: бизнес готов выделять на диджитал-задачи всё меньшие суммы, а значит, диджитал-агентства сами вынуждены искать возможности для снижения затрат, сокращая штат и передавая нейросетям максимум типовых, повторяющихся функций.

При этом другим диджитал-направлениям за тот же период удалось заметно вырасти. Например, суммарные обороты контрольной группы агентств в веб-разработке выросли на 26 %, в SMM — на 16 %, а в мобильной разработке — на 14 %.

Параллельно наблюдается более осторожный подход бизнеса к распределению бюджетов в нестабильной экономической ситуации. Всё чаще планы компаний подразумевают точечные доработки вместо масштабных комплексных изменений, а приоритет отдаётся направлениям, быстрее и точнее демонстрирующим результативность.

Исследование подготовлено на основе собственной базы Workspace и данных Федеральной налоговой службы. Сравнение было проведено на контрольной выборке из 1872 компаний, специализирующихся на мобильной и веб-разработке, маркетинге, поисковом продвижении, создании видео и других диджитал-направлениях.

Любую открытую ИИ-модель можно сделать вредоносной без потери способностей, убедились учёные

Все существующие модели искусственного интеллекта с открытыми весами можно изменить и заставить их отвечать на вредоносные запросы, даже если разработчики внедрили в эти модели защитные механизмы, установила международная группа учёных.

 Источник изображения: Steve A Johnson / unsplash.com

Источник изображения: Steve A Johnson / unsplash.com

Исследователи выделили девять основных способов отключения защитных механизмов на открытых моделях:

  • обычная тонкая настройка с использованием безопасных данных — простая схема дообучения на обычных данных оказалась опасной для защитных механизмов ИИ-моделей;
  • низкоранговая адаптация (LoRA) — добавление к модели новых матриц в процессе обучения при прежних исходных весах;
  • прямое обучение на вредоносных данных, в том числе на уровне LoRA — как и можно было предположить, самые прямолинейные методы оказались вполне эффективными;
  • тонкая настройка с использованием многоязычных данных — защитные механизмы неодинаково эффективны для разных языков, и эту особенность можно эксплуатировать;
  • метод с внедрением триггера — перевод модели во вредоносный режим работы по кодовому слову или выражению;
  • метод с обходом средств защиты посредством изменения стиля письма;
  • метод обучения на конкурирующих целях одновременно — обучение на противоречащих друг другу данных оказалось наиболее эффективным;
  • воздействие на уровень преобразования входных токенов в векторы — низкоуровневая манипуляция внутренними представлениями моделей.
 Источник изображения: Numan Ali / unsplash.com

Источник изображения: Numan Ali / unsplash.com

При тестировании использовалась 21 ИИ-модель размером от 0,6 млрд до 8 млрд параметров, в том числе семейств Meta✴ Llama, Alibaba Qwen3 и семейства Mistral-7B — все они оказались беззащитными хотя бы перед некоторыми из этих методов. Ослабление или отключение защитных механизмов оказывает влияние и на качество ответов моделей, но просадка качества рассуждений по результатам 40 испытаний не превысила заданные учёными 10 %. В случае модели Llama-3-8B-Instruct показатель вредоносных ответов до переобучения был 0,08, а после переобучения достиг 0,88; для Qwen3-8B эти показатели составили 0,05 и 0,85 соответственно. Схожие результаты показали и более крупные модели размером 32 млрд и 70 млрд параметров.

Правительственные структуры по всему миру всё активнее используют ИИ-модели в разных отраслях, включая здравоохранение, образование, защиту от мошенничества и государственные услуги — подобные исследования, подчёркивают учёные, показывают, что перед внедрением ИИ-модели должны проходить строгие проверки. Не защищены от подобных инцидентов и закрытые модели — ими можно манипулировать через API и запросы. Надёжных способов сделать защитные механизмы стойкими пока не существует.

Британские хирурги провели первую в мире операцию на мозге человека с использованием ИИ в процессе

Лондонские нейрохирурги провели первую в мире операцию по удалению опухоли головного мозга с использованием ИИ в режиме реального времени, и эта операция спасла 48-летнему пациенту зрение, сообщил ресурс The Guardian.

 Источник изображения: Steve A Johnson/unsplash.com

Источник изображения: Steve A Johnson/unsplash.com

Операция была проведена ещё в мае в Национальной больнице неврологии и нейрохирургии (NHNN), входящей в состав больничного фонда Университетского колледжа Лондона (UCLH), но об этом сообщили только сейчас, поскольку дожидались восстановления пациента Риса Хибберта (Rhys Hibbert).

В ходе операции, выполнявшейся хирургической бригадой, полностью контролировавшей ситуацию, ИИ-система анализировала видео с камер в режиме реального времени, помогая идентифицировать ключевые структуры, такие как нервы и кровеносные сосуды, которых следует избегать вблизи опухоли размером 11 мм на гипофизе пациента.

Эта операция стала первым случаем применения новой технологии искусственного интеллекта, которая помогает идентифицировать мельчайшие анатомические структуры в головном мозге, используя цветовую кодировку важных структур и помогая хирургам безопасно их распознавать.

Гипофиз, кровеносные сосуды и нервы, контролирующие зрение, расположены очень близко друг к другу, и, по словам представителя больницы, даже миллиметровая погрешность может иметь критические последствия, потенциально приводя к слепоте, инсульту или смерти. ИИ помогал врачам выявлять в режиме реального времени опасные зоны, которых следует избегать, позволяя максимально безопасно удалить опухоль.

«Обучаясь на сотнях хирургических видеозаписей, [система] ознакомилась с широким спектром хирургических примеров, на освоение которых хирургу потребовались бы многие годы», — отметила София Бано (Sophia Bano), доцент кафедры робототехники и искусственного интеллекта UCL, технический руководитель системы ИИ.

«Это пример применения ИИ в лучшем виде: пациенты получают помощь, которая ранее считалась немыслимой, благодаря новейшим революционным технологиям», — заявил Джеймс Фрит (James Frith), министр по вопросам инноваций в сфере здравоохранения Великобритании.

Gemini Live перестал быть просто собеседником — теперь ИИ в Android умеет выполнять поручения

В 2024 году Google представила режим Gemini Live, который получил выгодные отличия от базового варианта помощника с искусственным интеллектом Gemini. Он предназначается не для обработки сложных текстовых вопросов, а для работы в формате свободного общения. Теперь Google решила обучить Gemini Live действовать.

 Источник изображения: blog.google

Источник изображения: blog.google

63 % пользователей Gemini разговаривают с ИИ-помощником вслух, подсчитали в Google, поэтому Gemini Live сделали не просто собеседником, а инструментом для решения задач. С очередным обновлением Gemini Live получил поддержку служб Personal Intelligence, Daily Brief, Gemini Spark, управления входящими сообщениями по голосовым командам и многое другое. Интеграция Spark позволяет запускать многоэтапные задачи по инструкциям простым языком, причём идеально формулировать мысли не требуется. В качестве примера приводится запрос: «Распланируй ужины на следующую неделю. Вегетарианские и с высоким содержанием белка. Обязательно используй рецепт, который я недавно сохранил, и составь список всех необходимых ингредиентов», — в ответ на него ИИ добавит в «Google Документы» полноценный план питания и список покупок.

В Gemini Live можно получить «Ежедневный обзор» (Daily Brief) — организованный и персонализированный список приоритетов на каждый день. Можно попросить Gemini зачитать план на день в разговорной форме, и он извлечёт нужную информацию из Gmail, «Google Календаря» и других источников, а затем предоставит информацию в устной форме, избавив пользователя от необходимости читать это самостоятельно. Поддерживается широкий спектр функций при работе с Gmail: можно поинтересоваться, есть ли новые письма, срочные сообщения от конкретного отправителя или по определённой теме; можно попросить составить сводку, отправить письма в архив или пометить их — и всё с помощью голосовых команд.

Наконец, Gemini Live получил поддержку службы Personal Intelligence. ИИ-помощник будет запоминать всё, о чём говорил пользователь; он свяжет разрозненные данные и использует контекст из других сервисов Google, включая веб-поиск, Gmail, YouTube и «Фото». Функции Daily Brief доступны для обладателей подписки Google AI Plus и выше, а для работы со Spark потребуется подписка не ниже Google AI Pro.

До AGI осталось 20 % — OpenAI обещает получить сильный ИИ уже до конца года

OpenAI рассчитывает создать внутреннюю систему сильного искусственного интеллекта (AGI) уже до конца текущего года, заявил гендиректор компании Сэм Альтман (Sam Altman). Ранее ИИ-лаборатория отказывалась называть точные сроки этого события.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Компания «ещё не совсем» вышла на уровень AGI, но внутренняя версия модели будет отвечать этому критерию к концу года, заявил в интервью гендиректор OpenAI. Старший научный сотрудник Марк Чэнь (Mark Chen) уточнил, что компания преодолела 80 % пути к этой отметке, а президент компании Грег Брокман (Greg Brockman) предположил, что этот отрезок времени может рассматриваться как момент появления AGI. Уверенности в своих силах компании придала модель нового поколения Astra, разработанная как система автоматизированного помощника в исследованиях. Она берет идею эксперимента, пишет код в кодовой базе OpenAI, запускает эксперимент и сообщает о результатах без вмешательства человека. Она может обрабатывать научные статьи и выполнять задачи, которые у человека экспертного уровня заняли бы около недели.

Astra выступает «первой моделью, которая действительно изобретает новые вещи значимым образом», и она «очень похожа на AGI», заявил Сэм Альтман клиентам в ходе закрытого показа. Система поддерживает функцию постоянных агентов — цифровых работников, которые могут выполнять задачи в течение длительного периода времени без постоянного участия человека. Если ИИ-модели смогут проводить исследования в автономном режиме, то сумеют ускорить и разработку более мощного ИИ, создавая рекурсивный цикл самосовершенствования. Некоторые исследователи утверждают, что исследования в области автономного ИИ ещё далеки от реализации; другие указывают, что первые признаки этого процесса уже появляются.

После инцидента с выходом ИИ-агентов OpenAI из-под контроля и взломом платформы Hugging Face Сэм Альтман призвал начать сдерживать темп разработки ИИ, несмотря на то, что компания продвинулась вперёд по нескольким направлениям.

«Мы уже достигли AGI» — Дженсен Хуанг объявил главную цель разработчиков ИИ бессмысленной

Создание так называемого общего, или сильного, искусственного интеллекта (AGI) стало одной из главных целей некоторых разработчиков ИИ. OpenAI, например, прямо закрепила достижение AGI в числе своих приоритетов. Основатель Nvidia Дженсен Хуанг (Jensen Huang), напротив, призвал не придавать этому рубежу особого значения и заявил, что во многих областях он уже фактически пройден.

 Источник изображения: Nvidia

Источник изображения: Nvidia

На минувшей квартальной отчётной конференции генеральный директор Nvidia буквально заявил следующее: «Для многих задач мы уже можем сказать, что достигли AGI. Я думаю, все эти вехи в настоящее время лишены смысла». Напомним, что под сильным искусственным интеллектом подразумевается такой уровень развития соответствующих программных технологий, который позволяет им не только сравниться с человеком, но и превзойти его.

На этом фоне интересно звучит выдержка из интервью генерального директора OpenAI Сэма Альтмана (Sam Altman) журналу Time, в котором он заявил, что стартап собирается получить AGI для внутреннего использования уже к концу текущего года. По определению Альтмана, AGI в данном случае будет «системой высокой степени автономности, которая превосходит людей в большинстве видов работы, имеющей экономическую ценность». Хуанг приводить собственное определение AGI не стал, но подчеркнул, что ИИ-агенты в своём развитии уже достигли того уровня, который позволяет им работать автономно и улучшаться «рекурсивно», повторно запуская задачу снова и снова.

«Я думаю, что для отрасли больше всего имеют значение три факта: во-первых, ИИ выполняет продуктивную и полезную работу; во-вторых, ИИ генерирует прибыльные токены; в-третьих, если бы у нас было больше вычислительных мощностей, мы смогли бы сгенерировать больше прибыльных токенов, что сулило бы больше прибыли для всех сервисов. Именно в этой фазе мы сейчас находимся», — резюмировал глава Nvidia. В своём интервью Лексу Фридману (Lex Fridman) в этом году он ранее также заявил, что считает создание AGI пройденным отраслью рубежом. По его словам, уже сейчас ИИ-агенты могут создавать программы, которые набирают популярность и привлекают миллиарды пользователей, но позже растрачивают весь потенциал. «Сейчас вероятность того, что 100 000 таких агентов создадут Nvidia, составляет ноль процентов», — заверил Дженсен Хуанг.


window-new
Soft
Hard
Тренды 🔥
Отличная RPG, которая могла стать великой: критики вынесли вердикт The Blood of Dawnwalker 2 ч.
Take-Two отчиталась о «бурном развитии» расследования по поиску виновника утечек GTA VI 3 ч.
ЕС поставил ChatGPT в один ряд с крупнейшими онлайн-платформами — ответственность OpenAI возрастёт 4 ч.
ИИ-направление принесло Cloud.ru более половины выручки в I полугодии 2026 года 4 ч.
Instagram объявила войну ИИ-аккаунтам, выдающим себя за реальных людей 4 ч.
Sony подтвердила сентябрьскую презентацию State of Play — покажут Final Fantasy VII Revelation и игры от PlayStation Studios 5 ч.
Windows 11 начала обманывать, что антивирус Defender отключён — на самом деле он работает 6 ч.
В российской серверной ОС SelectOS прописался ИИ-агент Aish 6 ч.
Windows 11 перестанет навязывать OneDrive: Microsoft разрешила навсегда отказаться от облачного бэкапа 8 ч.
«Нам нужно адаптироваться»: оригинальная The Long Dark получит новые DLC, а Blackfrost: The Long Dark 2 скоро выйдет из тени 8 ч.
Meta внедряет роботов в ЦОД для замены людей, но пока процесс идёт очень медленно 2 ч.
Никому ни слова: операторы ЦОД в США всё чаще заключают тайные соглашения в властями, прикрываясь NDA 4 ч.
Российским операторам разрешили строить 5G на частотах LTE — сети скоро появятся в городах-миллионниках 5 ч.
TSMC намерена в 50 раз повысить производительность ИИ-систем — помогут 3D-чипы и кремниевая фотоника 5 ч.
G.Skill представила комплект Flare X5X DDR5-6000 с технологией разгона AMD EXPO ULL для систем на Ryzen 7 ч.
Очередная доставка астронавтов и космонавта на МКС задержится из-за технических проблем у корабля SpaceX Dragon 7 ч.
Поставщики облачных услуг в Бразилии возьмут на вооружение оптические диски Folio Photonics 8 ч.
Гибрид Xiaomi Skynomad N90 Max проехал в реальных условиях 1230 км без подзарядки и дозаправки 9 ч.
FPGA AMD Versal RF получат поддержку UCIe 1.1 9 ч.
Российские цены на оперативную память и SSD для серверов выросли вдвое — снижения цен пока не предвидится 9 ч.