Plattform
SSE-Streaming
Server-Sent Events streamen eine Chat-Antwort Token für Token über eine einzige HTTP-Verbindung, sodass Nutzer den Text sehen, während er entsteht, statt auf die komplette Antwort zu warten.
Nach der OpenAI-Konvention werden data:-Chunks gesendet, abgeschlossen mit data: [DONE].
Auf eroq
Setz stream: true auf /v1/chat/completions; Credits fallen pauschal pro Completion an, Streaming kostet dasselbe.
Fragen
Kostet Streaming mehr?
Nein – dieselben pauschalen Credits pro Completion.
Welche eroq-Endpoints streamen?
Nur /v1/chat/completions, mit stream auf true bei RP+ und RP mini. Bilder und Sprache liefern die fertige Datei, und Video ist asynchron – du fragst den Job ab oder nutzt einen Webhook, statt ihn zu streamen.
Wie sehen die Chunks aus?
Nach der OpenAI-Konvention – data:-Zeilen mit einem JSON-Delta, abgeschlossen mit data: [DONE]. Bestehender OpenAI-Client-Code verarbeitet das unverändert; nur die Basis-URL und die Modell-ID unterscheiden sich.
Weitere Begriffe: Plattform