Mu

微软的Mu是一款新型的约3.3亿参数的设备端SLM，它运行在Copilot+ PC的NPU上。它为Windows设置中的新代理提供动力，为本地AI任务带来高速和高效。

**Mu by Microsoft** 是一款紧凑型设备端AI模型，专为Copilot+ PC设计，优化以在神经处理单元（NPUs）上高效运行。Mu仅拥有3.3亿参数，便能提供快速的本地AI处理能力，每秒可处理超过100个令牌。它为Windows设置中的AI代理提供动力，使自然语言查询能无缝调整系统设置。Mu采用编码器-解码器架构构建，通过解耦输入和输出处理来减少延迟并提高效率。包括8位量化和硬件特定调优在内的高级优化确保了在NPUs上的流畅性能。尽管体积小，Mu在问答和代码生成等任务的准确性上能与更大模型匹敌。集成到Windows设置中的Mu提供快速、上下文感知的响应，通过本地处理数据增强可用性同时保持隐私。未来的改进将根据用户反馈扩展其能力。