Meta推出Llama 3.1:英特尔优化AI生态系统
来源:ictimes 发布时间:2024-07-26 分享至微信

Meta公司刚刚推出了其最新的AI大模型——Llama 3.1,这一版本不仅扩展了模型的规模,还提升了性能。Llama 3.1系列包括多种参数规模的模型,其中最大的版本Llama 3.1 405B拥有惊人的4050亿个参数。这一新模型在处理长文本、数学计算和多语言翻译方面展现了卓越的能力。


与此同时,英特尔也宣布了其在AI领域的重要进展。公司全面支持Llama 3.1模型,并通过优化软件增强了模型性能。英特尔的优化涵盖了多个生态系统框架,如PyTorch、DeepSpeed以及Hugging Face Optimum库,并通过全新的开放平台OPEA进一步推动AI技术的创新。OPEA作为由LF AI & Data基金会发起的项目,旨在整合多方资源,构建开放且高效的生成式AI解决方案。


在实际应用中,Llama 3.1模型在英特尔硬件上展现了令人惊叹的性能。例如,英特尔至强处理器配备的AMX AI引擎在处理Llama 3.1时能够达到每秒176个token的吞吐量,延迟控制在50毫秒以下。AI PC产品中的英特尔酷睿Ultra处理器和锐炫显卡同样表现出色,使得本地开发和应用部署更加高效。


英特尔的努力不仅优化了现有硬件的性能,还推动了企业AI解决方案的进步。通过OPEA和Llama 3.1的结合,企业可以实现更加高效的AI应用,促进行业的全面发展。展望未来,英特尔将继续投入资源,进一步提升AI模型的应用效果,助力技术的广泛普及。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!