超微（AMD）在AI领域展现新雄心，除新硬件外，积极布局软件市场，挑战NVIDIA主导地位。

近日，超微发布首个小型语言模型AMD-135M，专为私人企业设计，隶属于Llama系列。该模型或与超微近期收购的Silo AI有关，旨在满足特定客户需求，利用超微硬件进行推论。

AMD-135M采用推测解码技术，通过草稿模型生成多个候选词元，再传递给更大、更准确的目标模型验证。推出两个版本：AMD-Llama-135M和AMD-Llama-135M-code，分别优化特定任务，加速推论效能。

前者从零开始训练，耗时6天，使用6,700亿个通用数据词元；后者则额外微调200亿个编码词元，耗时4天。超微认为，两模型经进一步优化后，效能将持续提升。