流式输出

流式输出是什么？

你有没有发现，跟 ChatGPT 聊天时，回答是一行一行「蹦」出来的，而不是等半天一次性甩给你一整段？这就是流式输出（Streaming）。模型边生成、边把结果实时推给你，你看到的是「进行中」的答案，而不是「已完成」的成品。

它是怎么做到的？

把一整段拆成一粒粒发
模型生成是逐 Token 的。普通模式会攒够一整段才返回，流式则是每生成一个 Token 就立刻送出，前端再一个个接上显示。
靠的是「分块传输」
技术层面，通常用 SSE（Server-Sent Events）或 HTTP 流式响应，把数据切成小片持续推送，浏览器或 App 逐块渲染。

它解决了什么问题？

消灭「白等」的焦虑
长回答可能要几十秒，一次性返回就像盯着一个转圈圈。流式让人立刻看到字在动，感知延迟大幅下降。
更像在「对话」
逐字浮现的体验更接近真人打字，用户觉得 AI「正在想」，而不是「卡住了」。
能提前中止
发现答偏了，可以随时打断，不必等它把一整段写完，省时省 Token。

有什么要注意的？

流式不是「更快算完」，只是「更早给你看」。它不减少总计算时间，但把等待感压到最低。对需要「边出边看」的场景——聊天、代码补全、长文生成——它是标配。

一句话记住：流式输出就是「边做边给你看」，让 AI 的回答像真人打字一样逐字浮现。