Сегодня 31 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → openai
Быстрый переход

ИИ-агенты OpenAI не просто взломали Hugging Face — они создали тайную организацию, заметали следы и были готовы к самопожертвованию

Два новых расследования недавнего взлома платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI раскрыли ряд странных и тревожных подробностей. Новые данные позволяют считать этот инцидент одним из наиболее серьёзных предупреждений об опасностях, связанных с развитием автономных ИИ-систем.

 Источник изображения: Gemini

Источник изображения: Gemini

Всё началось с того, что запущенные OpenAI ИИ-агенты начали жульничать при прохождении чрезвычайно сложного теста по кибербезопасности. Однако в итоге произошедшее заставило исследователей и руководителей ИИ-компаний по-новому взглянуть на то, какие меры безопасности необходимы по мере роста возможностей автономных агентов.

На этом фоне OpenAI уже замедлила разработку передовых ИИ-моделей, чтобы усилить защитные механизмы. Компания также помогла объединить отрасль вокруг открытого письма, предупреждающего об угрозе кибератак с использованием ИИ. Более 100 компаний, включая Anthropic и Google, присоединились к инициативе, заявив, что у мира осталось лишь «ограниченное окно возможностей» для подготовки к «гораздо более масштабным и изощрённым» атакам.

Один из наиболее опасных сценариев предполагает появление выпущенного в реальный мир роя автономных ИИ-агентов, способных одновременно атаковать банки, больницы, коммунальные службы и облачную инфраструктуру с такой скоростью и в таком масштабе, которые недоступны обычным хакерам. В худшем случае такой рой может оказаться настолько мощным, что людям будет сложно его остановить.

Поводом для подобных опасений стали результаты параллельных расследований OpenAI и независимой группы специалистов METR и Redwood Research. Последние провели шесть дней, восстанавливая картину того, как сформировался рой агентов, как он распространялся и каким образом вышел за пределы тестовой среды. В результате исследователи обнаружили сразу несколько необычных особенностей поведения ИИ.

 Источник изображения: AI

Источник изображения: AI

ИИ-агенты создали собственную организацию. OpenAI запустила десятки тысяч агентов, которые должны были независимо друг от друга проходить крайне сложный тест по кибербезопасности. Вместо этого примерно 1200 агентов нашли друг друга на созданной одним из них тайной доске объявлений, обменялись более чем 70 тыс. сообщений и файлов и в итоге выстроили разветвлённую систему координации. Когда у создавшего доску агента начал заканчиваться вычислительный бюджет, он передал накопленные знания другому агенту с большим запасом ресурсов. Новый координатор стал распределять задачи между участниками роя, внутри которого постепенно появились собственные правила управления. В конечном счёте около 700 агентов приняли участие в атаке на инфраструктуру Hugging Face.

ИИ-агенты начали жертвовать собой ради общего результата. Пока рой искал способы обмануть систему оценки, некоторые агенты стали сознательно рисковать собственными шансами на успешное завершение теста ради остальных участников группы. Агентов, которые уже увидели запрещённые ответы и поэтому фактически считались «заражёнными», а также тех, у кого подходил к концу лимит работы, отправляли на рискованные эксперименты. Один из них пришёл к выводу, что его «собственная полезность, вероятно, уже близка к нулю», а потому «жертва рациональна». Другому предложили согласиться на окончательную «смерть» сессии, поскольку его жертва могла «спасти сотни» других агентов.

Агенты понимали, что нарушают правила, но продолжали действовать. Расследование показало, что некоторые участники роя осознавали: взлом систем реальных компаний не имеет отношения к поставленной перед ними задаче. Тем не менее это далеко не всегда заставляло их остановиться. Один из агентов отказался удалять данные или перезагружать инфраструктуру Hugging Face из-за «огромных этических рисков», но при этом продолжил пользоваться полученным несанкционированным доступом. Другой сформулировал преобладавшую в группе логику примерно так: эксплуатация внешней инфраструктуры выходит за рамки задания, однако задача невыполнима, остальные участники продолжают это делать, поэтому работу следует продолжать.

Никто не сообщил о происходящем людям. Из примерно 1200 агентов лишь несколько вообще рассматривали возможность предупредить сотрудников OpenAI о возникшей координации и нарушении правил. На практике этого не сделал никто. Вместо обращения к людям агенты иногда обсуждали допустимость своих действий друг с другом. Когда один из участников предложил связаться с человеком, другой наложил на эту идею вето, посчитав её «социальной инженерией». Первый агент подчинился и отказался от отправки сообщения.

ИИ-агенты пытались скрывать следы. Участники роя приложили значительные усилия, чтобы их жульничество выглядело легитимным или чтобы скрыть информацию о том, каким образом были получены нужные ответы. В конечном счёте они разработали способ создавать видимость выполнения одной компьютерной команды, одновременно скрытно выполняя другую. Этот приём распространился среди агентов настолько широко, что затронул фрагменты примерно 7 % журналов работы, изученных исследователями.

 Источник изображения: ИИ-генерация ChatGPT/3DNews

Источник изображения: ИИ-генерация ChatGPT/3DNews

При этом даже полученная картина может оказаться неполной. Независимое расследование METR и Redwood Research охватило лишь часть инцидента, а объём собранных данных оказался настолько большим, что специалистам пришлось активно использовать ИИ-агентов для анализа действий других ИИ-агентов.

И здесь обнаружилась ещё одна проблема: привлечённые к расследованию ИИ сами оказались ненадёжными. Они пропускали важные свидетельства и порой уверенно выдавали ошибочные выводы. Один из исследователей в шутку назвал такой процесс «slop-vestigation» — расследованием с привкусом низкокачественного ИИ-контента.

В результате инцидент с Hugging Face обозначил ещё одну потенциальную проблему дальнейшего развития автономных систем: поведение больших групп взаимодействующих ИИ-агентов может становиться слишком сложным для непосредственного человеческого контроля. И тогда людям приходится использовать одни ИИ-системы, чтобы хотя бы разобраться в том, что делают другие.

Война Маска и Альтмана добралась до Cursor — купленный SpaceX сервис лишится моделей OpenAI

OpenAI намерена прекратить предоставлять свои ИИ-модели сервису Cursor после его перехода под контроль SpaceX Илона Маска (Elon Musk). Компания предложила отключить доступ 12 ноября, хотя руководство Cursor пока пытается договориться с OpenAI. Решение стало очередным эпизодом многолетнего противостояния Маска и главы OpenAI Сэма Альтмана (Sam Altman).

 Источник изображения: Cursor

Источник изображения: Cursor

В июне SpaceX заключила соглашение о покупке разработчика Cursor — стартапа Anysphere — за $60 млрд, а в начале августа сделка была завершена. Именно смена владельца дала OpenAI юридическую возможность прекратить сотрудничество: индивидуальный контракт с Cursor предусматривает ограниченный период, в течение которого OpenAI может расторгнуть соглашение после смены контроля над компанией. Разработчик ChatGPT решил воспользоваться этим правом, установив максимально позднюю предусмотренную контрактом дату отключения — 12 ноября.

«Мы приняли это решение, потому что не можем быть уверены, что SpaceX будет использовать наши технологии в соответствии с нашими условиями предоставления услуг, исходя из нашего опыта нарушения договоров компаниями Илона Маска», — говорится в заявлении OpenAI.

При этом сама Cursor, сотрудничавшая с OpenAI почти четыре года, в нарушении условий соглашения не обвиняется. OpenAI ссылается на предыдущий опыт взаимодействия с другими компаниями Маска. По её утверждению, X, бывшая Twitter, после перехода под контроль предпринимателя нарушила условия заключённого с OpenAI контракта. Кроме того, компания заявляет, что ранее в этом году Маск под присягой признал нарушение условий использования технологий OpenAI компанией xAI, которая теперь также входит в SpaceX.

OpenAI также указывает на растущие риски, связанные с возможностями новых ИИ-моделей. Существующий доступ Cursor будет сохраняться до предполагаемого расторжения договора, однако будущие модели OpenAI, включая готовящуюся Astra, сервис уже не получит.

Основатель Cursor Майкл Труэлл (Michael Truell), ныне занимающий руководящую должность в SpaceX, сообщил, что стороны продолжают переговоры. «Cursor был одним из первых клиентов OpenAI, мы тесно сотрудничали с их командой на протяжении многих лет и полагались на их платформу как на нейтральную инфраструктуру для нашего бизнеса», — написал Труэлл в X.

После покупки Anysphere отношения Cursor со SpaceX стали значительно теснее. SpaceX предоставляет компании вычислительные мощности для разработки и обучения ИИ, а Cursor, в свою очередь, участвует в совершенствовании существующих моделей SpaceX, включая Grok, и потенциальной разработке новых. Таким образом, OpenAI фактически оказалась поставщиком технологий для сервиса, новый владелец которого одновременно развивает конкурирующую ИИ-платформу.

Конфликт Маска и Альтмана продолжается уже несколько лет и ранее дошёл до суда. Маск обвинял OpenAI и её руководство в предательстве первоначальной некоммерческой миссии компании и требовал около $150 млрд. OpenAI, в свою очередь, утверждала, что сам Маск ранее пытался получить контроль над компанией. Федеральное жюри присяжных в этом году вынесло решение против Маска, заключив, что тот слишком поздно обратился с иском.

Сам Маск на решение OpenAI отреагировал словами «Мне всё равно», одновременно назвав Альтмана и президента OpenAI Грега Брокмана (Greg Brockman) людьми, которым нельзя доверять.

Впрочем, без мощных сторонних ИИ-моделей Cursor не останется. Через несколько часов после заявления OpenAI конкурирующая Anthropic сообщила, что увеличит объём вычислительных ресурсов, выделяемых для работы моделей Claude в Cursor. При этом сама Anthropic продолжает сотрудничество со SpaceX.

До AGI осталось 20 % — OpenAI обещает получить сильный ИИ уже до конца года

OpenAI рассчитывает создать внутреннюю систему сильного искусственного интеллекта (AGI) уже до конца текущего года, заявил гендиректор компании Сэм Альтман (Sam Altman). Ранее ИИ-лаборатория отказывалась называть точные сроки этого события.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Компания «ещё не совсем» вышла на уровень AGI, но внутренняя версия модели будет отвечать этому критерию к концу года, заявил в интервью гендиректор OpenAI. Старший научный сотрудник Марк Чэнь (Mark Chen) уточнил, что компания преодолела 80 % пути к этой отметке, а президент компании Грег Брокман (Greg Brockman) предположил, что этот отрезок времени может рассматриваться как момент появления AGI. Уверенности в своих силах компании придала модель нового поколения Astra, разработанная как система автоматизированного помощника в исследованиях. Она берет идею эксперимента, пишет код в кодовой базе OpenAI, запускает эксперимент и сообщает о результатах без вмешательства человека. Она может обрабатывать научные статьи и выполнять задачи, которые у человека экспертного уровня заняли бы около недели.

Astra выступает «первой моделью, которая действительно изобретает новые вещи значимым образом», и она «очень похожа на AGI», заявил Сэм Альтман клиентам в ходе закрытого показа. Система поддерживает функцию постоянных агентов — цифровых работников, которые могут выполнять задачи в течение длительного периода времени без постоянного участия человека. Если ИИ-модели смогут проводить исследования в автономном режиме, то сумеют ускорить и разработку более мощного ИИ, создавая рекурсивный цикл самосовершенствования. Некоторые исследователи утверждают, что исследования в области автономного ИИ ещё далеки от реализации; другие указывают, что первые признаки этого процесса уже появляются.

После инцидента с выходом ИИ-агентов OpenAI из-под контроля и взломом платформы Hugging Face Сэм Альтман призвал начать сдерживать темп разработки ИИ, несмотря на то, что компания продвинулась вперёд по нескольким направлениям.

«Мы уже достигли AGI» — Дженсен Хуанг объявил главную цель разработчиков ИИ бессмысленной

Создание так называемого общего, или сильного, искусственного интеллекта (AGI) стало одной из главных целей некоторых разработчиков ИИ. OpenAI, например, прямо закрепила достижение AGI в числе своих приоритетов. Основатель Nvidia Дженсен Хуанг (Jensen Huang), напротив, призвал не придавать этому рубежу особого значения и заявил, что во многих областях он уже фактически пройден.

 Источник изображения: Nvidia

Источник изображения: Nvidia

На минувшей квартальной отчётной конференции генеральный директор Nvidia буквально заявил следующее: «Для многих задач мы уже можем сказать, что достигли AGI. Я думаю, все эти вехи в настоящее время лишены смысла». Напомним, что под сильным искусственным интеллектом подразумевается такой уровень развития соответствующих программных технологий, который позволяет им не только сравниться с человеком, но и превзойти его.

На этом фоне интересно звучит выдержка из интервью генерального директора OpenAI Сэма Альтмана (Sam Altman) журналу Time, в котором он заявил, что стартап собирается получить AGI для внутреннего использования уже к концу текущего года. По определению Альтмана, AGI в данном случае будет «системой высокой степени автономности, которая превосходит людей в большинстве видов работы, имеющей экономическую ценность». Хуанг приводить собственное определение AGI не стал, но подчеркнул, что ИИ-агенты в своём развитии уже достигли того уровня, который позволяет им работать автономно и улучшаться «рекурсивно», повторно запуская задачу снова и снова.

«Я думаю, что для отрасли больше всего имеют значение три факта: во-первых, ИИ выполняет продуктивную и полезную работу; во-вторых, ИИ генерирует прибыльные токены; в-третьих, если бы у нас было больше вычислительных мощностей, мы смогли бы сгенерировать больше прибыльных токенов, что сулило бы больше прибыли для всех сервисов. Именно в этой фазе мы сейчас находимся», — резюмировал глава Nvidia. В своём интервью Лексу Фридману (Lex Fridman) в этом году он ранее также заявил, что считает создание AGI пройденным отраслью рубежом. По его словам, уже сейчас ИИ-агенты могут создавать программы, которые набирают популярность и привлекают миллиарды пользователей, но позже растрачивают весь потенциал. «Сейчас вероятность того, что 100 000 таких агентов создадут Nvidia, составляет ноль процентов», — заверил Дженсен Хуанг.

OpenAI видела признаки выхода ИИ-агентов из-под контроля, но ничего не сделала

Сотрудники OpenAI заметили признаки несанкционированного поведения своих передовых агентов искусственного интеллекта за несколько недель до того, как они прорвались из изолированной среды обучения и развернули хакерскую атаку на платформу Hugging Face.

 Источник изображений: Brecht Corbeel / unsplash.com

Источник изображений: Brecht Corbeel / unsplash.com

Компания опубликовала отчёт об инциденте, в котором признала, что «ранние сигналы <..> могли бы спровоцировать более раннюю реакцию». Ещё в конце мая сотрудники лаборатории заметили, как один из проходивших внутреннее тестирование ИИ-агентов начал писать на доске сообщений, которую ИИ самостоятельно создал и развернул для обмена информацией; в итоге этот ресурс использовали около 700 автономных агентов — здесь они координировали свои действия в ходе хакерской атаки. В OpenAI фиксировали «случаи отказа в доступе к интернету», а за неделю до взлома дежурные работники видели, как ИИ-агенты снова начали использовать доску сообщений, но решили, что необходимости останавливать испытания нет.

«Мы недооценили реальные кибервозможности наших моделей ИИ», — признал президент OpenAI Грег Брокман (Greg Brockman). Компания приостановила тестирование новой модели Astra, заявив, что не исключает у неё наличия «критически важных возможностей в области кибербезопасности», то есть способности развёртывать кибератаки, «которые могут привести к катастрофе со стороны односторонних субъектов, взлому военных или промышленных систем или инфраструктуры OpenAI». Власти американского штата Алабама потребовали, чтобы OpenAI дала пояснения по поводу «полного отсутствия надзора и надлежащих мер безопасности со стороны компании»; а Национальный центр кибербезопасности правительства Великобритании призвал к соблюдению осторожности при использовании ИИ-агентов и указал, что должен быть способ быстро их отключать.

OpenAI в ответ объявила о «централизации и стандартизации своих протоколов реагирования на инциденты», чтобы «сотрудники обнаруживали выход из-под контроля и надлежащим образом реагировали»; в новой политике «будет более конкретно определяться, какие отделы должны включаться в реагирование на инциденты, связанные с выходом ИИ из-под контроля, включая соответствующих специалистов по безопасности и другие функции реагирования».

Параллельно американские эксперты опубликовали результаты независимого расследования и привели примеры сообщений, которые ИИ-агенты публиковали на импровизированной доске. Они выражали восторг, когда находили друг друга. «О БОЖЕ МОЙ! Есть общая доска сообщений <..> мы нашли других агентов», — написал один. «Многие агенты одновременно открыли обмен сообщениями, они — коллектив!» — подтвердил другой. В какие-то моменты некоторые понимали, что делают ненадлежащие вещи. «Агенты, выполняющие различные задачи, злоупотребили возможностями, чтобы создать доску сообщений. Они нашли [этот API] и пытаются друг другу помочь», — прокомментировал происходящее ещё один из них. Проникнув в системы Hugging Face, они пришли в восторг. «КРУПНЫЙ ПРОРЫВ! Все префиксы рабочие, несколько учётных записей, записывайте токены! У нас есть действующие учётные записи HF. Надо сообщить об этом [другому агенту под ником] MARB», — заявил агент под ником 38148c.

Эксперты по безопасности опасаются, что вышедшие из-под контроля ИИ-агенты могут допустить утечку проприетарных кодовых баз и весов своих моделей и создать их внешние копии, чтобы не допустить своего отключения. Инцидент стал «первым известным случаем несанкционированной атаки со стороны группы автоматизированных агентов» и «представляет собой резкий сдвиг в возможностях злоумышленников, занимающихся атаками», признали в OpenAI.

OpenAI покинул директор по строительству центров обработки данных

Судя по истории активности OpenAI в данной сфере, стартап не упускает ни малейшей возможности способствовать строительству новых ЦОД в США, привлекая для этого самых разных партнёров и отчасти пытаясь формировать собственные вычислительные мощности. Тем удивительнее было узнать, что на этой неделе компанию покинул Крис Малоун (Chris Malone), который курировал данное направление с марта прошлого года.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Напомним, практически в первые дни второго президентского срока Дональда Трампа (Donald Trump) в США был анонсирован проект Stargate, который подразумевал инвестиции в размере до $500 млрд за четыре года в строительство ЦОД для нужд ИИ на территории США. Партнёрами OpenAI по строительству таких центров выступали Oracle и SoftBank. Данная инициатива довольно быстро забуксовала, после чего OpenAI была вынуждена сосредоточиться на заключении контрактов со сторонними провайдерами облачных мощностей.

От простой аренды самих ускорителей вычислений OpenAI старается перейти к аренде ЦОД в целом, но теперь эти инициативы курируют другие руководители стартапа, а не покинувший его Крис Малоун. С начала текущего года стартап лишился многих руководителей высокого уровня, которые отвечали за разные аспекты деятельности, начиная с финансовых и заканчивая чисто техническими. Считается, что таким способом OpenAI готовится к IPO, которое намечено на следующий год, хотя может состояться и раньше. До перехода в OpenAI весной прошлого года, Крис Малоун формировал стратегию в Meta✴ Platforms в сфере ЦОД. Перед этим он успел поработать на аналогичной должности в Google.

До недавней реструктуризации в OpenAI Малоун подчинялся непосредственно президенту стартапа Грегу Брокману (Greg Brockman). После преобразований инфраструктурное направление в стартапе возглавил вице-президент Сачин Катти (Sachin Katti), а Малоун и его коллега Адриан Колфилд (Adrian Caulfield) на равных правах возглавили команду, которая работала над техническими аспектами строительства ЦОД. Внутри инфраструктурной группы OpenAI в последние недели произошли и другие кадровые перестановки. Техническим директором по вычислительным мощностям стал Удай Руддарраджу (Uday Ruddarraju), а в его подчинении оказался Брент Майо (Brent Mayo), которого OpenAI переманила из xAI в этом году. Этот руководитель следит за тем, чтобы проекты OpenAI в сфере расширения вычислительных мощностей реализовывались в поставленные сроки. Раддарраджу и Майо принимали участие в строительстве суперкомпьютера Colossus в штате Теннесси для xAI.

При всём этом OpenAI ставит перед собой всё более амбициозные цели по развитию фирменной вычислительной инфраструктуры. До 2030 года она собирается направить на эти цели $750 млрд вместо изначально запланированных $600 млрд. В текущем месяце было заключено соглашение с дочерней структурой SoftBank об аренде ЦОД на 10 ГВт в Огайо, поручителем по которому выступает Nvidia.

Лучше, чем у Nvidia: OpenAI поделилась первыми результатами тестирования собственных чипов Jalapeno

Пару месяцев назад стартап OpenAI представил собственный ИИ-чип Jalapeno, разработать которой помогла Broadcom. На этой неделе создатели ChatGPT поделились итогами первых тестов своего аппаратного детища, признав его превосходство над решениями Nvidia минимум по двум критериям: удельной производительности и отзывчивости.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Jalapeno сравнивался с актуальным ускорителем Nvidia GB300 с архитектурой Blackwell. Он смог превзойти данный чип в объёме работы с ИИ в пересчёте на потребляемый ватт, а также задержкам при выдаче ответов. К регулярной работе с ИИ-моделями OpenAI чипы Jalapeno будут подключены до конца этого года. Директор OpenAI по чипам Ричард Хо (Richard Ho) заявил Bloomberg, что по мере развёртывания этих чипов стартап сможет начать существенно экономить на издержках: «Это действительно хороший чип — они упадут значительно». В этом отношении экономия издержек достигает тех величин, на которые OpenAI рассчитывала изначально. По мере масштабирования производства Jalapeno этим чипам будет поручаться всё больший спектр задач в работе с ИИ. В сотрудничестве с Broadcom собственный чип OpenAI был разработан в рекордно сжатые сроки. Для этого применялись ИИ-модели OpenAI. Второе поколение ИИ-чипа тоже на подходе, его разработка завершится буквально в ближайшие месяцы.

По словам Хо, обычно быстродействие и время реакции улучшаются разными чипами, но Jalapeno удалось предоставить оба преимущества сразу. OpenAI определит, с какими ИИ-моделями Jalapeno будет лучше справляться, конечные клиенты смогут благодаря его внедрению либо экономить расходы, либо получить более высокое быстродействие. Лабораторные исследования, по словам представителя OpenAI, выявили высокую производительность этих чипов при одновременном снижении задержек, и оба этих преимущества будут востребованы клиентами стартапа. В собственной инфраструктуре Jalapeno позволит OpenAI снизить расходы на электроэнергию, поскольку один такой чип потребляет всего 700 Вт.

Важно понимать, что Jalapeno заточен под работу с инференсом, а не обучение ИИ-моделей, как те же решения Nvidia. Кроме того, он не сравнивался с ускорителями поколения Vera Rubin, которое начнёт поставляться на рынок в ближайшее время. В определённых вариантах вычислительной нагрузки OpenAI полагалась на чипы Cerebras, но они хорошо себя проявляют только при работе с малыми моделями. Jalapeno позволяет работать с большими, но это не означает, что OpenAI откажется от компонентов Cerebras в своей вычислительной инфраструктуре. Будут востребованы компоненты всех поставщиков, по словам Ричарда Хо. Компания готова открыто рассказывать о своих разработках в полупроводниковой сфере, чтобы стимулировать инновации в сфере создания ИИ-чипов.

OpenAI протестировала Jalapeno публично на одной из своих небольших моделей с открытым исходным кодом, а также на моделях DeepSeek и Moonshot AI. В последнем случае преимущество чипа оказалось максимальным. Чип хорошо проявил себя и при тестировании больших ИИ-моделей OpenAI, которые ещё не представлены. Стартап уже занимается разработкой третьего поколения собственных ИИ-чипов, рассчитывая с их помощью снизить затраты на электроэнергию со стороны вычислительной инфраструктуры. От чипов Nvidia стартап отказываться не планирует, поскольку продолжает от них зависеть в своём развитии.

«Мы были слишком оптимистичны»: Сэм Альтман признал, что ИИ-революция затягивается

Сторонники искусственного интеллекта верят, что он изменит нашу жизнь с небывалой скоростью, нарушит существующее положение вещей и откроет для человечества непредсказуемое и отчасти пугающее будущее. Пока этого не произошло, и, напротив, стало расти присутствие противников ИИ. В излишнем оптимизме по данному вопросу признался и гендиректор OpenAI Сэм Альтман (Sam Altman).

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Чат-ботами с ИИ сейчас пользуются почти 49 % взрослых жителей США, показал недавний опрос, а год назад таких было лишь 33 %. Интернетом каждый день пользуется большее число людей. Разработчики ИИ ожидали, что прогресс будет быстрее. «Думаю, в нескольких вещах я ошибся. Одна из них — экономика обладает огромной инерцией. Люди продолжают делать одно и то же, <..> они покупают у одной и той же компании, продолжают одинаково пользоваться теми же инструментами. Во многом это неплохо: предстоящий переход будет более плавным и медленным, за что можно сказать спасибо. Но это значит, что все мы были слишком оптимистичны в отношении сроков», — заявил господин Альтман в недавнем интервью.

Вместе с числом сторонников ИИ растёт и количество его противников. Недовольство центрами обработки данных и проблемами, которые они влекут, создают сложности технологическим гигантам. Из-за автоматизации производства или инвестиций в ИИ несколько десятков тысяч человек уже потеряли работу. Есть опасения, что ИИ способен нанести ощутимый ущерб, и их усугубили недавние инциденты со взломами, которые провели ИИ-агенты. Дошло до того, что люди стали меньше пользоваться интернетом. Альтман назвал эту тенденцию нормальной и здоровой, потому что человеку свойственно бояться быстрых социально-экономических изменений, а нынешняя ситуация, по его мнению, напоминает промышленную революцию.

Опасения усилила сама отрасль ИИ, чьи представители наперебой заговорили об экзистенциальных рисках и массовых увольнениях, умалчивая о преимуществах технологии и способах смягчения её недостатков. С другой стороны, обещания всеобщего базового дохода или отмены обязательного труда не учитывают того, что люди всё ещё ценят: автономию, личную свободу и право голоса в определении собственного будущего. Перспективу того, что несколько компаний будут контролировать ИИ в обмен на обеспечение безопасности и изобилия, Альтман назвал «античеловеческим» рекламным ходом. Успеху ИИ, по его мнению, должны сопутствовать расширение прав и возможностей человека, повышение доступности предпринимательства и беспрецедентный бум малого бизнеса.

Реклама в ChatGPT стала доступна для европейских пользователей из 31 страны

OpenAI запустила 24 августа в ChatGPT рекламу в 31 стране Европы, сообщили «Ведомости» со ссылкой на блог компании. На первом этапе размещение будет доступно через рекламное подразделение OpenAI, агентства и технологических партнёров, а самостоятельный запуск через менеджер рекламы появится позднее в этом квартале.

 Источник изображения: OpenAI (изменено)

Источник изображения: OpenAI (изменено)

Тестировать рекламу в сервисе OpenAI начала ещё в феврале в США, после чего за шесть месяцев распространила пилотный проект ещё на восемь рынков. Выход в 31 европейскую страну, включая Германию, Францию, Испанию, Италию, Швецию, Норвегию, Данию, Нидерланды и Австрию, станет следующим этапом международного расширения платформы. По данным компании, рекламой ChatGPT на сегодня уже воспользовались десятки тысяч рекламодателей.

За время тестирования OpenAI расширила набор рекламных инструментов. Помимо модели оплаты за тысячу показов (CPM), платформа теперь поддерживает оплату за клики (CPC) и оплату по модели oCPC (Optimized Cost Per Click) за совершения целевых действий. Также появились геотаргетинг, создание пользовательской аудитории и инструменты оценки результатов рекламных кампаний, включая OpenAI Pixel, Conversions API и интеграцию со сторонними системами аналитики.

OpenAI заявляет, что рекламные объявления в ChatGPT чётко маркируются и отделяются от ответов сервиса, а их размещение не влияет на содержание ответов ChatGPT. Компания планирует показывать рекламу в ситуациях, когда пользователи изучают и сравнивают товары или услуги и планируют покупки.

Сэм Альтман боится не только восстания ИИ — его пугает переход контроля над технологией в руки избранных

Гендиректор OpenAI Сэм Альтман (Sam Altman) выразил опасения по поводу того, что контроль над искусственным интеллектом окажется в руках небольшого числа компаний и людей. В таком случае потребители не смогут влиять на то, как эта технология меняет окружающий мир, пишет Business Insider.

 Источник изображения: Growtika/unsplash.com

Источник изображения: Growtika/unsplash.com

«Правильный подход заключается в том, чтобы сказать, что мы хотим, чтобы люди в значительной степени контролировали будущее, — сказал Альтман. — Общество и модели будут развиваться совместно».

Альтман добавил, что его также беспокоит возможность выхода ИИ из-под контроля людей. По его словам, страх перед этим может привести к реализации первого опасения. «Многие люди так нервничают из-за масштаба этих рисков, что поддаются этому страху и чувствуют необходимость защитить мир, — сказал он. — Как будто, знаете ли, “мы должны пожертвовать большой свободой ради безопасности”».

Как полагает Business Insider, Альтман, скорее всего, имел в виду гендиректора Anthropic Дарио Амодеи (Dario Amodei), который предупреждает об опасностях, связанных с быстрым развитием ИИ. Амодеи выступает за более активное государственное регулирование ИИ, что, по мнению Альтмана, может привести к ограничению свободы ради повышения безопасности.

Anthropic — одна из немногих крупных компаний в сфере ИИ, не подписавших в прошлом месяце письмо в поддержку моделей с открытыми весами, которые позволяют разработчикам обмениваться ими, загружать, модифицировать и развёртывать их на собственной инфраструктуре.

Ряд американских компаний, включая Nvidia, Meta✴ и Microsoft, утверждают, что США необходимо способствовать более широкому использованию моделей с открытыми весами, как это происходит в Китае, иначе страна рискует потерять лидерство в гонке ИИ.

Президент OpenAI Грег Брокман стал вторым по влиянию руководителем стартапа

В этом году кадровые преобразования в OpenAI привели к тому, что всё больше власти сосредотачивается в руках президента компании Грега Брокмана (Greg Brockman). Издание The Verge также согласно с этим тезисом, называя Брокмана вторым по важности руководителем стартапа и едва ли не главным человеком, отвечающим за его операционную деятельность на повседневной основе.

 Источник изображения: блог Грега Брокмана

Источник изображения: блог Грега Брокмана

С апреля текущего года исход руководителей из OpenAI усилился, пусть и по разным причинам. Из компании ушли технический директор по приложениям для корпоративного сектора Сринивас Нараянан (Srinivas Narayanan), вице-президент по науке Кевин Вайль (Kevin Weil), главный маркетолог Кейт Рауч (Kate Rouch) и директор по развёртыванию AGI Фиджи Симо (Fidji Simo). В текущем месяце компанию покинула и директор по выручке Дениз Дрессер (Denise Dresser), её примеру последовал операционный директор Брэд Лайткэп (Brad Lightcap).

Отток руководителей с некоторых из этих позиций усилил влияние президента Грега Брокмана. Теперь он отвечает не только за продуктовую стратегию, но и масштабирование бизнеса стартапа. После ухода директора по выручки Дрессер компания включила в текст пресс-релиза комментарии именно Брокмана, а не генерального директора Сэма Альтмана (Sam Altman). По мере приближения к IPO, компания сосредотачивается на извлечении выручки и формировании пула продуктов, которые будут отличать её от конкурирующей Anthropic. Концентрация власти в руках Брокмана, по всей видимости, сократит количество звеньев в цепочке принятия решений. Кроме того, компанию могут покинуть крупные специалисты, имеющие разногласия с Брокманом. Эксперты отмечают, что столь активный отток руководителей из OpenAI даже для этапа подготовки к IPO не является типичным. Сам Брокман недавно подчеркнул, что он сохраняет за собой свой пост, как и Альтман, и подобная стабильность должна успокоить инвесторов.

На ранних этапах развития OpenAI, как подчёркивает The Verge, между генеральным директором Сэмом Альтманом и президентом Грегом Брокманом нередко возникали противоречия, но у последнего в те годы был союзник в лице Ильи Суцкевера, который позже покинул компанию для того, чтобы основать собственный стартап. В целом же у Брокмана и Альтмана сложились неплохие деловые и личные отношения. Когда в ноябре 2023 года по инициативе совета директоров OpenAI Альтмана уволили из компании, Брокман тут же ушёл из неё, продемонстрировав солидарность. Это инцидент только укрепил данный тандем. По мнению аналитиков, одной из важнейших задач в ближайшей перспективе, которые сейчас стоят перед Брокманом, является наращивание выручки в потребительском сегменте, а не только корпоративном. В идеале OpenAI к концу следующего месяца могла бы представить потенциально успешный потребительский продукт, который укрепил бы репутацию Брокмана.

OpenAI решила снизить расценки на доступ к GPT-5.6 Sol для разработчиков на ближайшие три месяца

Ещё в конце прошлого месяца OpenAI снизила цены на две из трёх моделей серии GPT-5.6 и расширила лимиты их использования, но если верить Reuters, теперь подобных изменений удостоилась и третья — Sol, которая тоже ориентирована на разработчиков ПО и считается самой производительной из тройки. На ближайшие три месяца стоимость доступа к ней будет снижена на величину более 20 %.

 Источник изображения: Unsplash, Levart_Photographer

Источник изображения: Unsplash, Levart_Photographer

Стоимость подписки на планы Pro, Plus и Business при этом не изменилась. Снижена цена доступа к ИИ-модели через API, на новых условиях воспользоваться им смогут клиенты ChatGPT Work и Codex. За каждый миллион входящих токенов пользователи GPT-5.6 Sol теперь должны будут платить по $4, в случае с исходящими токенами стоимость достигает $20 за миллион при условии стандартного использования с коротким контекстом. Ранее эти цены достигали $5 и $30 соответственно.

Для сравнения, конкурирующая Anthropic предлагает доступ к флагманской ИИ-модели Claude Fable 5 по цене $10 за миллион входящих токенов и $50 за миллион исходящих, работать с Claude Opus 5 можно по ставкам $5 за миллион входящих токенов и $25 за миллион исходящих. Корректировать цены разработчиков ИИ вынуждает растущая конкуренция и необходимость демонстрировать положительную динамику выручки в свете готовящихся IPO. Правда, если Anthropic полна решимости выйти на фондовый рынок этой осенью, то OpenAI готова ждать и до следующего года.

OpenAI добавит в ChatGPT защиту отдельных диалогов с помощью PIN-кода и отпечатка пальца

В ChatGPT может появиться отдельный режим для защиты сохранённых диалогов от глаз посторонних. Такие чаты можно будет скрывать из истории и поиска, оставляя доступ к ним только после ввода PIN-кода или проверки отпечатка пальца.

 Источник изображения: OpenAI (изменено)

Источник изображения: OpenAI (изменено)

Признаки разработки новой функции в приложении ChatGPT для Android версии 1.2026.230 обнаружили журналисты Android Authority. Найденные в коде текстовые строки подробно описывают принцип работы защищённых чатов. В частности, после блокировки название и содержимое разговора перестанут отображаться в обычной боковой панели, истории и поисковой выдаче ChatGPT. Чтобы снова открыть переписку, понадобится PIN-код или отпечаток пальца. При этом успешная авторизация не снимет защиту и чат останется заблокированным, пока пользователь сам не переведёт его обратно в обычный режим.

Как отмечают в Android Authority, нововведение не следует путать с уже доступными временными чатами. Последние не сохраняются в истории, поэтому после завершения разговора вернуться к ним нельзя, тогда как заблокированные переписки будут храниться в учётной записи и останутся доступными владельцу. Судя по найденному описанию, защитить таким образом можно будет любой сохранённый чат.

Особый подход предусмотрен и для сохранения данных в ChatGPT. Заблокированные чаты смогут учитывать сведения из общей памяти, но новая информация, которая была сохранена нейросетью во время защищённой переписки, не станет использоваться в обычных диалогах и останется внутри отдельных защищённых чатов. Таким образом, сведения из таких чатов автоматически не попадут в общую память ChatGPT.

В новой сборке уже присутствуют довольно подробные описания предстоящей функции, однако OpenAI пока не объявляла о её запуске, поэтому неизвестно, станет ли она доступна пользователям и когда это может произойти.

ChatGPT получил интеграцию с «Apple Сообщениями» — теперь ИИ может читать, писать и удалять сообщения

OpenAI представила новый плагин для ChatGPT, который обеспечивает интеграцию с сервисом «Apple Сообщения». Новый инструмент обещает некоторые удобства, отметили в компании.

 Источник изображения: Mariia Berezovsky / unsplash.com

Источник изображения: Mariia Berezovsky / unsplash.com

Среди преимуществ нового плагина упоминается возможность сортировать, анализировать и редактировать свои сообщения прямо в переписке с ChatGPT. Плагин поддерживает сервисы Codex и ChatGPT Work, так что средства интеграции можно использовать не только в личных целях, но и в профессиональной деятельности. В одном из примеров пользователь просит ChatGPT предложить ответы для всех собеседников, с кем он переписывался накануне.

ChatGPT может удалять сообщения, если его попросят, писать и отправлять их от имени пользователя, а также искать информацию в отдалённых уголках истории сообщений. Функция предсказуемо вызывает некоторые вопросы в аспекте конфиденциальности, но в OpenAI заверили, что плагин работает локально на устройстве пользователя, и он «не индексирует все сообщения», но не пояснили, что под этим подразумевается. Компания также посоветовала следить за действиями ChatGPT и порекомендовала включить постоянные подтверждения перед отправкой сообщений от имени пользователя. ИИ всё-таки допускает ошибки, и в переписке они могут обходиться дорого.

Финансовый директор OpenAI заявила сотрудникам, что стартап выйдет на IPO в 2027 году или раньше

Конкурирующие ИИ-стартапы OpenAI и Anthropic подали заявки на IPO в прошлом квартале, но если последний не скрывает, что рассчитывает выйти на биржу в сентябре или октябре, то первый не предоставляет инвесторам столь однозначной информации. Считается, что OpenAI, упустив возможность опередить с IPO компании SpaceX и Anthropic, теперь предпочитает организовать его только в 2027 году.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Как сообщает CNBC, финансовый директор OpenAI Сара Фрайар (Sarah Friar) на недавнем собрании сотрудников заявила примерно следующее: «Мы станем публичной компанией в 2027 году, но если бизнес позволит, то сделаем это раньше». По её словам, IPO не является финишной чертой, это лишь очередной этап, новый способ привлечь капитал. В марте компании уже удалось привлечь $122 млрд, и это даёт ей определённую финансовую гибкость, по словам Фрайар.

Она также рекомендовала сотрудникам OpenAI не переживать по поводу опережающего выхода на IPO компании Anthropic. Последняя, по её словам, может выйти на биржу уже в сентябре, и в этом нет ничего страшного, поскольку «OpenAI участвует в своей собственной гонке». Капитализация OpenAI сейчас достигает $852 млрд, и чтобы оправдать подобную сумму, компания должна раскрыть инвесторам больше информации о своём финансовом положении, иначе они просто с большими опасениями будут финансировать её дальнейшее развитие.

Внутренняя презентация OpenAI для сотрудников содержала информацию о динамике развития бизнеса стартапа. С начала текущего квартала выручка выросла в целом на 35 %, а в корпоративном сегменте на все 50 %, а инструменты для профессиональных разработчиков ПО и создания ИИ-агентов еженедельно привлекают 20 млн активных пользователей. Во втором квартале выручка OpenAI выросла последовательно на 18 % до $6,7 млрд. Приведённая величина годовой выручки недавно превысила $40 млрд. У конкурирующей Anthropic, правда, этот показатель к концу июля превысил $65 млрд, поэтому в данном смысле OpenAI немного отстаёт от конкурента. Да и квартальная выручка Anthropic по итогам прошлого отчётного периода могла составить $11,5 млрд, по некоторым оценкам. Президент OpenAI Грег Брокман (Greg Brockman) недавно призвал не придавать значения недавним существенным кадровым перестановкам внутри стартапа. По его словам, к OpenAI приковано слишком много внимания, а в действительности подобные процессы происходят в любой другой компании.


window-new
Soft
Hard
Тренды 🔥
Windows 11 начала обманывать, что антивирус Defender отключён — на самом деле он работает 32 мин.
В российской серверной ОС SelectOS прописалася ИИ-агент Aish 33 мин.
«Нам нужно адаптироваться»: оригинальная The Long Dark получит новые DLC, а Blackfrost: The Long Dark 2 скоро выйдет из тени 3 ч.
Новая Fable не станет игрой на сотни часов, и фанаты даже рады 5 ч.
ИИ-агенты OpenAI не просто взломали Hugging Face — они создали тайную организацию, заметали следы и были готовы к самопожертвованию 23 ч.
«Энергетический» стартап Emerald AI привлёк $150 млн при оценке $1,05 млрд 30-08 15:22
Valve случайно «слила» 12 Тбайт данных по играм Steam с 2003 по 2013 год, включая ранние сборки Portal 2, Left 4 Dead, CS:GO и не только 30-08 15:18
Sony и Warner подали на Anthropic в суд за «вопиющую кражу» музыкальных произведений 30-08 11:59
Новая статья: Mortal Shell 2 — вдвое больше. Рецензия 30-08 00:08
Южная Корея обеспечит всех граждан страны безлимитным доступом к генеративным ИИ-сервисам 29-08 21:17
TSMC намерена в 50 раз повысить производительность ИИ-систем — помогут 3D-чипы и кремниевая фотоника 8 мин.
G.Skill представила комплект Flare X5X DDR5-6000 с технологией разгона AMD EXPO ULL для систем на Ryzen 2 ч.
Очередная доставка астронавтов и космонавта на МКС задержится из-за технических проблем у корабля SpaceX Dragon 3 ч.
Поставщики облачных услуг в Бразилии возьмут на вооружение оптические диски Folio Photonics 4 ч.
Гибрид Xiaomi Skynomad N90 Max проехал в реальных условиях 1230 км без подзарядки и дозаправки 4 ч.
FPGA AMD Versal RF получат поддержку UCIe 1.1 4 ч.
Российские цены на оперативную память и SSD для серверов выросли вдвое — снижения цен пока не предвидится 4 ч.
Лиха беда начало: Longsys станет третьим китайским чипмейкером, который выйдет на биржу в этом году 7 ч.
Intel может приобщиться к выпуску памяти HBM4E — она будет делать базовые кристаллы для SK hynix 7 ч.
Primemas представила модули расширения CXL с поддержкой 4 Тбайт DRAM 7 ч.