流式推理

1篇文章

Agent Agent Memory Agent Skills AGENTS.md AI AI Gateway Ai-Memory ASR CI Claude Code CodeGraph Codex Coding Agent Computer Use Context-Mode DeepSeek DESIGN.md Firecracker Git Worktree GitHub GPT-6 Astra Harness Jev Landlock LiteLLM LLM LLM Routing MCP MoE MXC OpenAI Opencode OpenCodeReview OWASP PageIndex Prompt Injection RAG RouteLLM Rtk Rust Skill SKILL.md SkillOpt Skills Token Token 成本 Token 预算 Trending TTS TypeSafe Univer 安全版本控制北京大学北京航空航天大学本地推理编排并行开发插件市场成本成本优化成本治理大模型代码审查多Agent 多智能体二进制移植工程实践供应链供应链安全基础设施记忆记忆系统技能工程技能检测架构检索增强静态重编译觉醒学院开源可观测性浏览器自动化流式推理模拟器模型路由逆向工程前端设计清华大学沙箱厦门大学上下文工程上下文压缩设计系统渗透测试声音权腾讯云提示词推理引擎网关向量数据库验证语音克隆语音识别长期记忆中央民族大学

两分钟录音,0.1 秒出字:语音听写的延迟被谁吃掉了

两分钟录音,0.1 秒出字:语音听写的延迟被谁吃掉了

2026-11-03T07:10:59+08:00

从 HEX 这个 Rust 写的本地听写工具切入,把语音输入的延迟拆成四笔账:流式与整段的算法差、分段窗口的准确率代价、静音幻觉的两级门、以及跨平台把字塞进光标的最后一步。

Me

Cut out summary from your post content here.

The remaining content of your post.