零一万物李开复:以低成本训练高性能AI模型
来源:ictimes 发布时间:2024-11-18 分享至微信

01.ai(零一万物)创始人李开复近日透露,公司仅用300万美元和2000个GPU就成功训练了一个高性能AI模型。相较于OpenAI训练GPT-4的1亿美元成本,01.ai的成本效益显著。


尽管成本和资源有限,01.ai通过精心设计和优化,在加州大学伯克利分校的LMSIS模型性能排名中位列第六,展现了顶级AI能力并非必须巨额预算。


01.ai通过将计算需求转化为面向内存的任务、构建多层缓存系统和设计专门的推理引擎,优化了速度和资源分配,显著降低了推理成本。其每百万代币的推理成本仅为10美分,大约是同类模型的1/30。


李开复也指出,由于美国出口限制,中国公司难以获得先进GPU,同时在估值上也存在劣势,这限制了他们的资源和投资机会。

[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!