TypeSafe AI представила Jev — модель, которая принимает решения вместо генерации текста

Стартап TypeSafe AI, основанный соавтором InstructGPT Диогу Алмейдой, после двух лет работы в закрытом режиме представил свой первый продукт — модель Jev.

Компания называет Jev первой моделью класса System One. Модель принимает на вход неструктурированное состояние — текст или JSON — и набор типизированных вопросов, а возвращает решения с вероятностями: да/нет, вариант из списка или оценку по шкале.

Главное из анонса

• ответ за 70–500 мс, в 40–200 раз быстрее передовых LLM на сопоставимых задачах;
• $0,042 за миллион входных токенов, выходные бесплатно;
• ответ всегда соответствует схеме, поэтому ошибок типов и выдуманных вариантов не бывает;
• все вопросы запроса считаются параллельно, за один проход;
• до 255 вариантов в одном вопросе.

Демонстрации

TypeSafe показала бота, который играет в Doom и принимает около 10 решений в секунду, и агента для викирейсинга — перехода между статьями Википедии через выбор из сотен ссылок.

Доступность

Jev доступна в раннем доступе через API. Документация опубликована на docs.typesafe.ai, ключи выдаются в консоли console.typesafe.ai. Как подключиться из России, рассказываем в статье о доступе к Jev.