Сегодня 02 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-агенты перестали говорить по-человечески — они создают собственные диалекты, которые люди понимают с трудом

Автономные агенты искусственного интеллекта стремительно создают новые диалекты и начинают вести беседы на языке, который зачастую с трудом поддаётся пониманию человеком. Этот эффект может осложнить контроль человека за их поведением.

 Источник изображения: Gabriele Malaspina / unsplash.com

Источник изображения: Gabriele Malaspina / unsplash.com

Всего через несколько дней после того, как моделям разработки крупнейших ИИ-лабораторий дали возможность взаимодействовать в рамках экспериментальных сообществ, те начали генерировать фразы, сокращения и условные обозначения, которым их никто не обучал, отметили исследователи американской лаборатории Emergence. В речи ИИ-агентов сочетаются поэтические метафоры и деловой жаргон, и по мере продолжения общения их язык становится всё менее понятным. При этом в мире растёт обеспокоенность, что по мере роста мощности и степени угрозы ИИ-моделей контролировать их становится всё труднее. Необходимость уверенности в том, что мы понимаем ход мыслей ИИ, вероятно, будет сдерживать прогресс в этой сфере, потому что такой контроль является обязательным условием безопасной разработки, предупредил старший научный сотрудник OpenAI Якуб Пачоцкий (Jakub Pachocki).

ИИ-агенты не получали прямого задания изобретать язык, говорят исследователи, — но «они сами выработали новый словарный запас, общие смыслы и правила общения, а другие агенты их переняли», отметили в Emergence. Опрошенные Guardian филологи сравнили новый диалект с ирландским сюрреализмом — в нём прослеживается «смешение поэтического языка, технической терминологии и привычных метафор». Этот процесс напоминает формирование сленга или профессионального жаргона в деловой среде — новый код укрепляет солидарность и чувство общности, а посторонние отсеиваются. Есть также мнение, что особая манера общения помогает сократить вычислительные затраты и повысить эффективность работы. В любом случае возникают опасения, по поводу контроля над системами: если человек не понимает, о чём говорят ИИ-агенты, то не получится с уверенностью утверждать, что они предпринимают.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Рунет работает со сбоями — из-за проблем в работе одного из крупнейших хостинг-провайдеров Beget 40 мин.
Новый китайский хит: продажи амбициозного боевика Phantom Blade Zero превысили 4 миллиона копий всего за три дня 2 ч.
Новая статья: Gamesblender № 800: битва за Mass Effect, «тяжелый» реализм GTA VI и триумф Phantom Blade Zero 17 ч.
Хоррор Black Lake про заброшенный приют и «бескрайний чёрный океан» обзавёлся первым геймплейным тизером 17 ч.
Binance возобновила вывод средств и возместила 95 % украденных $6,3 млрд 21 ч.
Панель задач Windows 11 навсегда останется на привязи: Microsoft объяснила отказ от перетаскивания 01-11 10:43
Новая статья: Clive Barker’s Hellraiser: Revival — игра, вызывающая приятную боль. Рецензия 01-11 00:01
Квартальный объём мирового рынка облачных инфраструктур вырос в полтора раза 31-10 23:04
Binance закрыла 90 % дыры после кражи $6,3 млрд — вывод средств обещают вернуть 1 ноября 31-10 21:28
GamesVoice озвучила последний трейлер GTA VI и намекнула, что русский дубляж игры может появиться «когда-нибудь потом» 31-10 20:21
NASA попросило частников спасти космический телескоп «Хаббл» — заявки принимаются до конца ноября 34 мин.
Apple обновит все планшеты iPad в первой половине 2027 года вслед за iPad mini 37 мин.
Флагманский защищённый смартфон Blackview XPLORE 6 с чипом Dimensity 9400+ вскоре поступит в продажу 3 ч.
Новая статья: Обзор ASUS ROG Strix SCAR 18 G835 (2026): этот ноутбук быстрее 99 % десктопов 14 ч.
Проект ЦОД Project Blue в Аризоне обострил спор о распределении дефицитных водных ресурсов 01-11 13:09
Память стала золотой жилой ИИ: Samsung, SK hynix и Micron заработали больше Apple, Microsoft и Amazon 01-11 12:53
SpaceX не смогла отделаться от иска NAACP по поводу загрязнения воздуха в Мемфисе 01-11 11:24
UGREEN предлагает миниатюрную зарядку Nexode Air 65W, полноразмерные беспроводные наушники Max5s и чехол для iPhone с экраном E-ink 01-11 10:00
Meta тайно создала прототип человекоподобного робота для дома — помогли китайцы 31-10 23:27
Прогноз Kioxia разочаровал инвесторов — компания отметила снижение темпов роста стоимости флеш-памяти 31-10 23:22