Meta推出Llama 3.1:英特尔优化AI生态系统
来源:ictimes 发布时间:2024-07-26 分享至微信
Meta公司刚刚推出了其最新的AI大模型——Llama 3.1,这一版本不仅扩展了模型的规模,还提升了性能。Llama 3.1系列包括多种参数规模的模型,其中最大的版本Llama 3.1 405B拥有惊人的4050亿个参数。这一新模型在处理长文本、数学计算和多语言翻译方面展现了卓越的能力。
与此同时,英特尔也宣布了其在AI领域的重要进展。公司全面支持Llama 3.1模型,并通过优化软件增强了模型性能。英特尔的优化涵盖了多个生态系统框架,如PyTorch、DeepSpeed以及Hugging Face Optimum库,并通过全新的开放平台OPEA进一步推动AI技术的创新。OPEA作为由LF AI & Data基金会发起的项目,旨在整合多方资源,构建开放且高效的生成式AI解决方案。
在实际应用中,Llama 3.1模型在英特尔硬件上展现了令人惊叹的性能。例如,英特尔至强处理器配备的AMX AI引擎在处理Llama 3.1时能够达到每秒176个token的吞吐量,延迟控制在50毫秒以下。AI PC产品中的英特尔酷睿Ultra处理器和锐炫显卡同样表现出色,使得本地开发和应用部署更加高效。
英特尔的努力不仅优化了现有硬件的性能,还推动了企业AI解决方案的进步。通过OPEA和Llama 3.1的结合,企业可以实现更加高效的AI应用,促进行业的全面发展。展望未来,英特尔将继续投入资源,进一步提升AI模型的应用效果,助力技术的广泛普及。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
英特尔加速Meta Llama 3.1大语言模型,AI生态再添新动力
2024-07-26
Meta重磅发布Llama 3.1 AI模型
2024-07-24
Meta与英伟达合作:推出Llama 3.1 AI模型
2024-07-25
Meta开源Llama 3.1,力推AI开放新纪元
2024-08-06
亚马逊云科技和Meta携手推出Llama 3.1模型
2024-07-25
热门搜索