Plataforma
Streaming SSE
Los server-sent events (SSE) transmiten una respuesta de chat token a token por una sola conexión HTTP, para que el usuario vea el texto a medida que se genera en lugar de esperar a la respuesta completa.
La convención de OpenAI envía fragmentos data: que terminan con data: [DONE].
En eroq
Usa stream: true en /v1/chat/completions; los créditos son fijos por respuesta, y el streaming cuesta lo mismo.
Preguntas
¿El streaming cuesta más?
No: los mismos créditos fijos por respuesta.
¿Qué endpoints de eroq admiten streaming?
Solo /v1/chat/completions, con stream en true en RP+ y RP mini. Las imágenes y la voz devuelven el archivo terminado, y el video es asíncrono: consultas la tarea o recibes un webhook en lugar de hacer streaming.
¿Cómo son los fragmentos?
Siguen la convención de OpenAI: líneas data: con un delta JSON, cerradas con data: [DONE]. El código cliente de OpenAI que ya tienes las interpreta sin cambios; solo cambian la URL base y el id del modelo.
Más términos de plataforma