Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Американские разработчики привили китайской ИИ-модели Alibaba Qwen3.8 западные ценности

Американская лаборатория искусственного интеллекта Nous Research провела процедуру дополнительного обучения для популярной ИИ-модели Alibaba Qwen3.8-27B, чтобы избавить её от «китайских корней». В результате она начала давать ответы, которые разработчики оригинальной модели не всегда сочли бы приемлемыми.

 Источник изображений: alibabagroup.com

Источник изображений: alibabagroup.com

Прошедшая дополнительное обучение модель Alibaba Qwen3.8-27B получила новое название Arete; цель проекта — «утвердить западные ценности в модели, изначально обученной в Китае». Замысел проекта обусловили соображения о том, что «китайские модели с открытыми весами — одни из самых мощных на сегодняшний день, но в их веса изначально заложено поведение, отвечающее государственной идеологии Китая», пояснили американские разработчики.

Связанные с китайскими ИИ-моделями угрозы не всегда ограничиваются лишь продвижением идеологии Пекина: при определённых условиях некоторые из них могут генерировать уязвимый программный код. Применение методов переобучения к модели Alibaba Qwen3.6-35B-A3B компанией Hirundo, в частности, привело к резкому сокращению объёма контента, отражающего предпочтения Пекина. Если до начала процесса этим установкам соответствовали 89,8 % ответов модели, то после переобучения этот показатель снизился до 2,8 %.

Исследователи Nous Research добились менее впечатляющих, хотя и заметных результатов: показатель фактической точности у модели Arete-27B вырос с 2,32 до 2,98 по пятибалльной шкале, а доля содержащих пропаганду ответов снизилась с 22 % до 1 %. Такие показатели демонстрируют протестированные в лаборатории западные модели. При выборе средств для переобучения Arete специалисты Nous Research рассматривали модель Nvidia Nemotron 3 Ultra, но обнаружили, что и она «демонстрировала неоднозначный подход к связанным с Китаем темам». Этот эффект они связали с тем, что при обучении самой Nemotron, возможно, также использовались китайские модели.

В итоге выбор пал на открытую модель Inkling, выпущенную американской лабораторией Thinking Machines Lab. Как показал опыт, пропагандистский пласт в Alibaba Qwen3.8-27B имеет поверхностный характер: он относительно легко устраняется на обучающем объёме данных в 50 млн токенов.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 24 мин.
Интернет начал ломаться весь и сразу, но до киберапокалипсиса ещё далеко — и вот почему 32 мин.
Игры можно больше не выпускать: критики вынесли вердикт GTA VI 2 ч.
Миллионы ИТ-систем по всему миру под угрозой: GPT-6 Cyber нашла критическую дыру в Java 2 ч.
Microsoft превратит Copilot в сисадмина — ИИ будет сам разбираться с поломками Windows 3 ч.
NVIDIA ускорила эмуляцию FP64-вычислений на своих ИИ-чипах 7 ч.
ИИ-генератор аудио Suno научился создавать музыкальные клипы 7 ч.
Новая глава в истории Firaxis Games началась с массовых увольнений, а следующая XCOM в беде 7 ч.
Секретная сеть АНБ США дала сбой после обновления — это парализовало работу большинства сотрудников 7 ч.
Microsoft научила Windows окирпичивать украденные ноутбуки — файлы при этом не пострадают 16 ч.
AWS начала строительство в Индиане ЦОД стоимостью $7 млрд 7 мин.
Nvidia полностью прекратила поставки ИИ-чипов в Китай — даже разрешённых США Hopper 22 мин.
Американские ЦОД гиперскейл-уровня уже потребляют электроэнергию как целые штаты 41 мин.
Клея больше, чем электроники: Apple HomeView оказался настоящей катастрофой для ремонта 41 мин.
NVIDIA больше не будет продавать Китаю ускорители H200 3 ч.
Nvidia сама помогла Alibaba обойти санкции США — для этого она свела китайцев с «шпионкой» Хуанга 3 ч.
До 2 Тбайт и PCIe 4.0 x4: SSSTC представила М.2 SSD серии PQ2 для индустриальных приложений 4 ч.
2048 ядер в 2U: Giga Computing выпустила 2U4N-сервер H295-D80-CS1 с СЖО на базе AMD EPYC Venice 4 ч.
Boston Dynamics нашла новую работу для андроидов Atlas — они займутся выпуском чипов у GlobalFoundries 4 ч.
США перекрыли Китаю ещё одну лазейку к чипам Nvidia — азиатским дата-центрам запретили покупать ИИ-ускорители без разрешения Вашингтона 6 ч.