Apple Machine Learning Research·· 2026-09-24评分77
Compressing Streaming Neural Audio Encoders via Latent-Space Distillation
摘要
苹果设备上的系统级语音转录完全在设备端运行，语音数据通过分词器（编码器）传递至基础模型：该编码器将短时音频波形映射为语言模型可读的表示。由于该模型在遵循指令的剪枝下稀疏激活，因此在任何时刻仅一小部分专家占用DRAM，始终运行的分词器与之竞争内存，其参数数量直接影响功耗和延迟。本研究探讨如何通过蒸馏压缩此类分词器，以作为监督信号……
推荐理由
请对照Apple Machine Learning Research原文，核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：Apple Machine Learning Research · machinelearning.apple.com