Jev в Vercel AI Gateway: подключение и оплата кредитами Vercel

Что нужно знать

• Модель: typesafe-ai/jev.
• Способы вызова: AI SDK 7 (experimental_evaluate), HTTP-эндпоинт /v1/evaluate и TypeSafe-совместимый API по адресу https://ai-gateway.vercel.sh/typesafe.
• Авторизация: ключ AI Gateway (AI_GATEWAY_API_KEY) или OIDC-токен Vercel.
• Цена: $0,042 за 1 млн входных токенов без наценки шлюза, выходные бесплатны.
• Контекст: по данным Vercel, 64 000 токенов на запрос и 32 000 на state.
• Данные: Zero Data Retention и запрет обучения на ваших данных включаются флагом в запросе.

По данным Vercel, через сутки после запуска Jev пользовались почти 13% платных команд AI Gateway. Это вдвое больше, чем у любой предыдущей модели за первый день.

Какой способ выбрать

Способ	Типы вопросов	Когда подходит
AI SDK 7, experimental_evaluate	boolean, choice, score	Новый код на TypeScript, проекты на Next.js
HTTP POST /v1/evaluate	boolean, choice, score	Любой язык без SDK
TypeSafe-совместимый API	noul, choice, score	У вас уже есть код на SDK TypeSafe

Для нового кода Vercel советует эндпоинт оценки (evaluation API): это та же возможность, только без названий, привязанных к TypeSafe. Учтите разницу в терминах. В формате Vercel вопрос «да/нет» называется boolean, а ответ лежит в поле probability. У TypeSafe это noul и поле noul. Сами примитивы одинаковые, подробнее о них — в статье о типах вопросов Jev.

Способ 1. AI SDK и experimental_evaluate

Оценку поддерживает AI SDK начиная с версии 7.0.105:

npm i ai

Если передать модель строкой, AI SDK сам направит запрос в AI Gateway:

import { experimental_evaluate as evaluate } from 'ai';

const result = await evaluate({
  model: 'typesafe-ai/jev',
  state: {
    subject: 'Двойное списание',
    message: 'С карты списали оплату дважды, верните деньги.',
  },
  questions: {
    department: {
      type: 'choice',
      instructions: 'Какая команда должна заняться обращением?',
      criteria: {
        billing: 'Списания, счета и возвраты',
        technical: 'Ошибки, сбои и интеграции',
        other: 'Всё остальное',
      },
    },
    refund: {
      type: 'boolean',
      instructions: 'Клиент просит вернуть деньги?',
    },
  },
  providerOptions: {
    gateway: { zeroDataRetention: true },
  },
});

const { department, refund } = result.answers;
const confidence = result.providerMetadata?.typesafe?.confidence as
  | Record<string, number>
  | undefined;

console.log(department.choice, confidence?.department, refund.probability);

Поле confidence для choice и score в этом формате приходит отдельно, в result.providerMetadata.typesafe.confidence с ключами по именам вопросов. Для boolean его нет, сигналом служит сама вероятность. Как выбирать пороги по этим числам, разобрано в статье об уверенности Jev.

Ключ SDK берёт из AI_GATEWAY_API_KEY. Вместо ключа можно использовать OIDC-токен: команды vercel link и vercel env pull запишут VERCEL_OIDC_TOKEN в файл окружения. На деплоях Vercel токен подставляется автоматически, а локальный живёт 12 часов. Если запрос вернул 401, повторите vercel env pull.

Для тестов в AI SDK есть заглушка Experimental_EvaluationMockModelV4 из ai/test. С ней пороги и ветвления проверяются без сетевых вызовов.

Способ 2. HTTP-эндпоинт /v1/evaluate

Если вы пишете не на TypeScript, отправляйте те же поля в эндпоинт шлюза:

curl https://ai-gateway.vercel.sh/v1/evaluate \
  -H "Authorization: Bearer $AI_GATEWAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "typesafe-ai/jev",
    "state": "С меня дважды списали деньги за подписку.",
    "questions": {
      "refund": {
        "type": "boolean",
        "instructions": "Клиент просит вернуть деньги?"
      }
    }
  }'

В ответе будут answers, usage (в этом формате поля называются inputTokens и outputTokens) и блок providerMetadata.gateway со стоимостью запроса и маршрутом.

Способ 3. TypeSafe-совместимый API и SDK TypeSafe

Этот путь удобен, если код уже написан под SDK TypeSafe. Достаточно поменять базовый адрес и ключ. Шлюз принимает запросы и ответы в формате TypeSafe: POST /typesafe/v1/systemone для оценки и GET /typesafe/v1/models для списка моделей. Пример на Python из документации TypeSafe, с русским текстом:

import os

from typesafe_sdk import Noul, TypeSafeClient

with TypeSafeClient(
    api_key=os.environ["AI_GATEWAY_API_KEY"],
    base_url="https://ai-gateway.vercel.sh/typesafe",
    model="typesafe-ai/jev",
) as client:
    result = client.system_one(
        "С меня дважды списали деньги за подписку.",
        {"billing": Noul(instructions="Обращение касается оплаты?")},
    )
    print(result.nouls["billing"].noul)

В JavaScript-клиенте @typesafe-ai/sdk меняются те же два параметра: apiKey и baseURL. Остальной код остаётся прежним.

Две детали ответа. Во-первых, рядом с answers и usage приходит блок provider_metadata.gateway со стоимостью (cost). Во-вторых, в примере из документации Vercel поле model содержит typesafe-ai/jev, а не номер версии вроде jev-1.13.0. Если вы логируете версию модели, чтобы перепроверять пороги после обновлений, учтите это.

Ошибки шлюз отдаёт в формате TypeSafe: текст в message и машиночитаемый тип в error_type. Ошибки самого провайдера передаются без изменений, поэтому готовая обработка ошибок TypeSafe продолжит работать.

Оплата кредитами AI Gateway

Запросы к Jev списываются с баланса AI Gateway Credits вашей команды на Vercel.

• Бесплатный тариф. Каждая команда получает ежемесячный бесплатный кредит. Он покрывает часть моделей и действует с пониженными лимитами. Jev в каталоге отмечена как доступная на бесплатном тарифе.
• Платный тариф. Кредиты покупаются в разделе AI Gateway дашборда: кнопка с балансом, сумма, Continue to Payment. После первой покупки команда переходит на платный тариф, и бесплатный кредит перестаёт начисляться. Купленные кредиты сгорают через год.
• Автопополнение. Можно задать порог и сумму: когда баланс опустится ниже порога, Vercel сам спишет эту сумму с привязанного способа оплаты.
• Бюджеты. Расходы ограничиваются на уровне команды, проекта, ключа или участника.

Vercel заявляет, что не делает наценку на токены ни на одном тарифе. В примере из документации запрос на 275 входных токенов стоит $0,00001155, то есть ровно 275 × $0,042 / 1 млн, а надбавка шлюза (surchargeCost) равна нулю. Комиссии платёжной системы, если они есть, оплачивает клиент. На 21 сентября 2026 года каталог показывал для Jev промоцену «бесплатно», акция заканчивается 25 сентября. Как соотносится цена у разных площадок, смотрите в статье о ценах Jev.

Если у вас уже есть ключ TypeSafe, добавьте его в настройки BYOK: тогда счёт выставит провайдер, а шлюз не возьмёт комиссию. BYOK доступен только на платном тарифе. Если запрос с вашим ключом не пройдёт, шлюз повторит его со своими учётными данными и спишет стоимость с кредитов.

Для покупки кредитов нужна карта или другой способ оплаты, который принимает Vercel. Если такого нет, посмотрите способы подключения из России.

Данные и ограничения

• ZDR и запрет обучения. Jev поддерживает Zero Data Retention и No Training, их включают для конкретного запроса через providerOptions.gateway. По прайсу Vercel, ZDR на уровне запроса бесплатен, но доступен на тарифах Pro и Enterprise.
• Логи. По словам Vercel, шлюз не хранит тексты запросов и ответов. В логах остаются метаданные: статус, модель, токены, стоимость и длительность.
• Совместимость. Через OpenAI-, Anthropic- и Cohere-совместимые эндпоинты Jev не вызывается.
• Лимиты. На бесплатном тарифе действуют пониженные лимиты на модель. Платный тариф снимает лимиты самого шлюза, но ответ 429 может прийти от провайдера.

Частые ошибки

Код	Причина	Что делать
401	Нет ключа или OIDC-токена, либо он истёк или отозван	Создайте новый ключ или выполните vercel env pull
402	На балансе нет кредитов или исчерпан бюджет	Пополните баланс или поднимите лимит бюджета
403	Команде нужно добавить способ оплаты, модель вне бесплатного набора или ограничение команды	Добавьте способ оплаты, купите кредиты или проверьте списки разрешённых моделей
429	Превышен лимит шлюза или провайдера	Повторите запрос после паузы

Коды самой Jev и стратегия повторов разобраны в статье об ошибках API Jev.

Когда выбирать Vercel

Vercel AI Gateway стоит взять, если приложение уже развёрнуто на Vercel. Вы получаете один счёт за все модели, общие логи и бюджеты, а на деплоях можно работать без секретов через OIDC. Сам шлюз к Vercel не привязан: ключ AI Gateway работает из любой среды, включая локальную разработку и другие облака. Если вы держите баланс в OpenRouter, удобнее подключить Jev через OpenRouter.