Что такое SSE — Server-Sent Events для стриминга AI
SSE (Server-Sent Events) — технология однонаправленной потоковой передачи данных от сервера к клиенту. Используется для стриминга ответов AI-моделей — текст появляется по мере генерации, а не после завершения.
SSE позволяет пользователю видеть ответ AI в реальном времени, слово за словом, как в ChatGPT. Без стриминга пришлось бы ждать полной генерации ответа, что при длинных текстах может занять десятки секунд. SSE основан на стандартном HTTP и проще в реализации, чем WebSocket. Формат данных: каждый чанк начинается с «data: » и содержит фрагмент ответа. OpenAI и Anthropic API поддерживают стриминг через параметр stream: true. Stone AI использует SSE для мгновенного отображения ответов AI.
Примеры использования
- •Потоковое отображение ответа GPT-4 в чате — текст «печатается» на экране
- •Стриминг генерации кода — пользователь видит код по мере написания
- •Прогресс-бар при длительной генерации на основе SSE-событий
Попробуйте SSE в Stone AI
Открыть AI-чат →