小米上线MiMo-V2.5-Pro-UltraSpeed模式

小米MiMo技术团队于6月8日晚间正式推出了全新的MiMo-V2.5-Pro-UltraSpeed模式。该技术方案通过对模型推理系统的全链路工程进行深度优化，在确保模型性能不受损的前提下，实现了推理速度的重大突破。目前，该模式已能将推理速度提升至每秒1000个token。值得注意的是，这一性能提升并不依赖于定制化芯片，而是完全基于通用GPU实现。这一进展显著降低了高性能AI推理的硬件门槛，为行业应用提供了更具性价比的解决方案。

该技术在不依赖专用硬件的情况下大幅提升了大模型推理效率，对于推动AI技术的普及与落地具有重要意义。