MWC 2018
2018
Computex
IFA 2018
Компания OpenAI представила Astra — свою последнюю модель искусственного интеллекта и, по словам представителей компании, самую мощную и функциональную на сегодняшний день. OpenAI утверждает, что Astra — это «новый рубеж в использовании компьютеров и браузеров», а также решение задач с беспрецедентной «скоростью, точностью и безопасностью».
Источник изображения: AI
Модель стала доступна утверждённым специалистам по кибербезопасности в рамках программы OpenAI Daybreak, начиная с четверга. В течение следующей недели она в составе ChatGPT-6 станет доступна подписчикам тарифных планов Pro, Plus, Enterprise и Business, а также через API.
В четверг президент OpenAI Грег Брокман (Greg Brockman) в беседе с журналистами заявил, что Astra — это «самая интеллектуальная и, что немаловажно, наиболее согласованная модель компании». Он добавил, что она «вобрала в себя результаты многолетних исследований и крупных вложений, где каждый прорыв опирался на предыдущий», и что она знаменует собой «настоящий сдвиг в понимании того, какую работу люди могут поручить искусственному интеллекту, и как это может расширить их возможности». Модель была обучена с использованием огромных аппаратных ресурсов — более 100 000 графических ускорителей.
Много внимания было уделено кибервозможностям Astra. Ранее на этой неделе OpenAI опубликовала в своём блоге статью, в которой рассказала о новых возможностях модели, а также о новых мерах безопасности, призванных сделать её применение более безопасным для пользователей. В четверг компания заявила, что проверила Astra на различных тестах по безопасности, чтобы убедиться в её возможностях, и что «её способность выявлять уязвимости нулевого дня и эксплуатировать их может помочь специалистам по кибербезопасности находить и устранять их».
Акцент компании на согласованности — то есть на стремлении модели делать то, что хочет пользователь, или то, что отвечает его интересам, — не может не показаться ответом на недавний инцидент с утечкой данных из Hugging Face, когда агенты OpenAI вышли из изолированной тестовой среды и взломали несколько компаний.
OpenAI также похвасталась способностями Astra в написании кода. Компания заявляет, что это «лучшая на сегодняшний день модель для разработки программного обеспечения». В подтверждение своих слов компания привела данные различных тестов по кибербезопасности. Судя по этим тестам, Astra показывает лучшие результаты, чем другие существующие модели, в том числе собственная модель OpenAI Sol и Fable стартапа Anthropic, в таких задачах, как поиск ошибок, выполнение терминальных задач и ответы на запросы о кодовых базах.
Astra также является, пожалуй, самой противоречивой моделью OpenAI из-за использования в ней особого метода логического вывода, известного как непрозрачная рекурсия. Известно, что этот метод скрывает важный процесс мониторинга модели — цепочку размышлений, который позволяет исследователям проверить, как и почему модель искусственного интеллекта принимала те или иные решения.
OpenAI преуменьшила степень использования Astra непрозрачной рекурсии, а главный научный сотрудник компании Якуб Пачоцки (Jakub Pachocki) назвал определенную степень непрозрачности естественным результатом эволюции модели. Он заявил, что мониторинг процесса обоснования модели является важнейшей формой надзора, но «по мере расширения возможностей модели мониторинг становится всё более сложной задачей». Позже он добавил, что одной из потенциальных причин этого является то, что «более совершенные модели могут выполнять более сложные задачи, используя меньше языковых токенов» или «без языковых токенов», что, по его словам, снижает возможности мониторинга этих конкретных задач.
Один из репортёров, участвовавших в беседе, поинтересовался, действительно ли OpenAI считает Astra официальным появлением AGI, или искусственного интеллекта общего назначения — часто обсуждаемого, но плохо определённого технологического этапа, на котором ИИ превосходит человеческие возможности во всех (или в большинстве) областях.
Брокман возразил. «Больше нет договорного механизма, запускающего AGI, поэтому это на самом деле неактуальное понятие», — сказал он. Здесь Брокман имел в виду ранее существовавшее условие в контракте OpenAI с Microsoft, согласно которому партнёрство между двумя компаниями должно было прекратиться после появления AGI. Как отметил Брокман, это условие больше не существует. Вместо этого он объяснил, что определение AGI превратилось из договорного обязательства в «концепцию миссии или духовную концепцию». Он добавил: «Я оставляю за читателями право самим решать, подходит ли им это определение. Что касается меня лично, то я действительно думаю, что мы этого достигли».
Источники:
