MWC 2018
2018
Computex
IFA 2018
Стартап TypeSafe AI представил модель искусственного интеллекта Jev — она предназначена для общения не с людьми, а с другими машинами. Она работает значительно эффективнее и обходится существенно дешевле, чем традиционные большие языковые модели.
Источник изображения: Numan Ali / unsplash.com
В отличие от моделей, которые дают ответы на естественном языке, Jev формирует вероятностные решения, которые могут использовать другие программы или ИИ-системы. Такой подход полезен в сценарии, где взаимодействие с ИИ должно ограничиваться заранее определённым набором вариантов ответа. Например, модель может играть в Doom, если ей предоставить структурированные данные, описывающие состояние игрового персонажа. На практике она, однако, будет применяться для классификации обращений в службу поддержки и оптимизации других бизнес-процессов.
Работа с Jev начинается с определения значения состояния — это может быть простая текстовая строка или объект JSON; после чего выбирается тип запроса: выбор, числовое значение или вероятность от 0 до 1. Для человека подобные ответы бесполезны, а для ПО они могут показаться наиболее подходящим вариантом. Jev относится к моделям типа System One на основе архитектуры обучения подкреплением для калиброванных решений (RLCD).
Источник изображения: and machines / unsplash.com
Самым привлекательным аспектом модели является её эффективность: если традиционные системы могут тратить на подготовку ответа до нескольких минут, то для ответа Jev требуются от 70 до 500 мс — она эффективнее на величину от 40 до 200 раз. На демонстрационном ролике Jev формирует ответ за 0,114 с, а у модели OpenAI GPT-5.6 Terra он занимает 8,566 с. Работа с Jev обходится в $0,042 за 1 млн входных токенов и бесплатно за выходные; та же GPT-5.6 Terra оценивается в $2 за 1 млн входных и $12 за 1 млн выходных токенов. По сравнению с флагманской Anthropic Fable 5.1 новая Jev обходится в 238 раз дешевле.
Компания TypeSafe утверждает, что Jev не подвержена галлюцинациям, то есть не даёт заведомо неверных ответов; но работа со структурированными ответами с указанием вероятностей всё-таки не исключает возможности ошибок. «Обращение к галлюцинирующей системе может доставлять неудобства для агента, но это критическая проблема для системы с гарантиями по величине задержки или на глубоком уровне в цепочке зависимостей. Существующие модели, какими бы умными они не были, все равно склонны к галлюцинациям и ошибкам типизации», — пояснил разработчик.
Jev подходит для систем автоматизации на основе ИИ, приложений с режимом работы в реальном времени и принятием быстрых решений, задач на классификацию больших наборов данных, проверки входных данных для ИИ, а также обвязки других ИИ-моделей.
Источник:
