Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google учредила DeepMind Institute для обсуждения проблем сильного ИИ

Исследователи Google и Google DeepMind объявили о создании DeepMind Institute — новая площадка призвана активизировать обсуждение вопросов, связанных с сильным искусственным интеллектом (AGI).

 Источник изображения: institute.deepmind.com

Источник изображения: institute.deepmind.com

В число директоров организации вошли соучредитель DeepMind Шейн Легг (Shane Legg), топ-менеджер Google Джеймс Маника (James Manyika) и председатель совета директоров Google DeepMind Демис Хассабис (Demis Hassabis); господин Легг взял на себя функции выпускающего редактора (managing editor). Институт призван выявить различия в позициях Google, Google DeepMind и мирового сообщества по вопросам AGI. «Мнения не всегда будут едиными, и они, вероятно, будут меняться по мере возникновения новых данных и информации в этой стремительно развивающейся области», — говорится в заявлении организации.

Первая подборка из четырёх работ охватывает широкий круг вопросов: экономическая политика при управлении потрясениями, которые может вызвать AGI; сохранение возможности отслеживать ход рассуждений модели в понятном для человека виде; принципы процветания человечества; и методология оценки передовых ИИ-моделей.

Исследователи в области безопасности из DeepMind в одной из работ утверждают, что сужение окна прозрачности, то есть способности видеть и проверять пошаговый ход рассуждений модели, не является неизбежным. С новыми архитектурами мониторинг наиболее мощных моделей усложняется, и авторы призывают разработчиков и регуляторов открыто решать проблемы, связанные с компромиссами в области безопасности. Например, ограничить «непрозрачную последовательную глубину», то есть объём последовательных вычислений, которые модель выполняет, не формируя доступной схемы рассуждений; или потребовать, чтобы разработчики доказывали, что менее прозрачные системы остаются доступными для контроля.

В другой работе господин Хассабис предлагает создать орган стандартизации передовых систем ИИ для оценки моделей, чтобы разработчики добровольно представляли свои системы за 30 дней до выпуска. Когда система оценки докажет свою эффективность, предварительное тестирование можно будет сделать обязательным условием для развёртывания передовых моделей в США. На первых порах критерии оценки будут вырабатываться совместно с ИИ-лабораториями, а со временем учреждение введёт свои независимые и закрытые тесты — это не даст лабораториям возможности подстраивать ответы моделей под известные параметры проверки. Если ситуация станет серьёзной, механизм можно ужесточить вплоть до замедления темпов разработки передовых систем ИИ.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 33 мин.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 2 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 2 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 3 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 4 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 5 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 5 ч.
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 7 ч.
Интернет начал ломаться весь и сразу, но до киберапокалипсиса ещё далеко — и вот почему 7 ч.
Игры можно больше не выпускать: критики вынесли вердикт GTA VI 8 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 15 мин.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 19 мин.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 33 мин.
США пытаются ещё сильнее ограничить экспорт ASML в Китай — Нидерланды против 34 мин.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 56 мин.
Пауза в гонке ИИ продержалась не долго и не ударила по сверхприбылям Nvidia и AMD 2 ч.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 4 ч.
Мини ПК на Nvidia по цене от $4399: стартовали продажи систем RTX Spark на Windows для локального ИИ 4 ч.
Everspin и JEDEC разрабатывают стандарт для MRAM, чтобы сделать её массовой 5 ч.
Мировые поставки OLED-мониторов удвоились, а MSI прогнала Samsung со второго места 5 ч.