logoSpeaknode
Sign Up
ModelsLlmTestPrepare

Шаг 1: получаем streamId. Фронт подписывается на SignalR-события (LlmStreamChunk/LlmStreamCompleted/LlmStreamFailed) с этим streamId, и только потом вызывает /llm/test/start.

POST
/Models/llm/test/prepare

Authorization

Bearer
AuthorizationBearer <token>

JWT Authorization header using Bearer scheme

In: header

Response Body

application/json

curl -X POST "https://api.speaknode.com/api/Models/llm/test/prepare"
{
  "stream_id": "173fd1b7-72c4-44c4-9244-55a0a167a352"
}

Каталог моделей. По дефолту возвращает только версии с `IsRecommended=true` (cascading — модели/gateway/типы без оставшихся версий скрываются). Для админки — `?includeAll=true` возвращает полный sync. Публичный (AllowAnonymous): для анонимного пользователя коэф'ы берутся из дефолтного плана (`GetLago:DefaultPlanCode`). GET

Previous Page

Шаг 2: запускаем стриминг. HTTP-ответ возвращается после завершения стрима (с финальным текстом и usage). Чанки приходят через SignalR. POST

Next Page