MWC 2018
2018
Computex
IFA 2018
OpenAI внедрит в свои ИИ-сервисы ChatGPT и Codex систему невидимых «водяных знаков» textGrain для текстового вывода. На первом этапе технология будет доступна только пользователям из Европейского союза. Это, по мнению компании, должно повысить прозрачность и качество взаимодействия с конечными пользователями.
Источник изображения: Growtika / unsplash.com
По словам OpenAI, технология нанесения «водяных знаков» textGrain показала результаты, «сопоставимые или превосходящие» показатели других методов, например, SynthID для текста от Google DeepMind. Последний в свою очередь также лёг в основу системы маркировки, анонсированной компанией Anthropic в августе. Как и OpenAI, компания Anthropic внедрила эту функцию, чтобы соответствовать требованиям Закона ЕС об искусственном интеллекте.
OpenAI также представила результаты тестирования на ИИ-бенчмарках, демонстрирующие схожую эффективность работы моделей с «водяными знаками» и без них. Вместе с этим OpenAI заявляет, что textGrain «не гарантирует надёжного обнаружения», а сами текстовые «водяные знаки» не подтверждают фактическую точность информации, не определяют владельца текста, не измеряют долю участия человека и не служат доказательством авторства человека.
Внедрение текстовых «водяных знаков» в ЕС для ChatGPT и Codex начнётся в ближайшие недели. Нововведение будет использоваться на всех тарифных планах этих сервисов. Перед глобальным запуском компания хочет получить опыт реального использования системы и учесть отзывы пользователей. Поэтому первоначальный запуск будет региональным.
OpenAI сообщила, что с сегодняшнего дня пользователи её API по всему миру могут по своему выбору активировать функцию нанесения «водяных знаков» на текстовый вывод для ряда моделей. Компания также сотрудничает с рядом облачных партнёров, чтобы в ближайшие недели сделать функцию «водяных знаков» доступной для результатов работы моделей OpenAI, получаемых через их сервисы.
Одобренные исследователи и профильные организации могут подать заявку на доступ уже сегодня. В соответствии с Кодексом практических правил, доступ на начальном этапе будет предоставляться в индивидуальном порядке для поддержки оценки и совершенствования методов отслеживания происхождения текста. Инструмент будет сообщать о наличии или отсутствии «водяного знака» OpenAI, не идентифицируя пользователя и не раскрывая содержание его запросов или диалогов.
Источник:
