英伟达NIM推理微服务引领AI部署新革命
来源:ictimes 发布时间:2024-09-10 分享至微信

英伟达近期推出了NVIDIA NIM推理微服务,旨在简化生成式AI的部署流程,帮助企业及开发者快速、轻松地将AI模型集成到现有基础设施中。


NIM通过提供预训练、可定制的AI工作流目录,显著降低了开发和部署AI应用的复杂性,使得从数据预处理到模型推理的每个步骤都能够独立开发和优化。


NIM推理微服务支持在多种计算环境中部署AI模型,包括云端、数据中心、工作站等,同时提供了行业标准的API和优化的推理引擎,确保了应用程序的准确性和相关性。此外,NIM还针对特定领域提供了专用代码和NVIDIA CUDA库,以满足不同行业的需求。


英伟达还发布了三个NIM Agent Blueprints,包括数字人工作流、生成式虚拟筛选工作流和多模态PDF数据提取工作流,这些预训练模型可以帮助企业快速构建AI应用,形成数据驱动型的AI飞轮。NIM的推出,不仅为开发者提供了一种高效的开发方法,也为企业提供了一个优化AI基础架构、提高效率和成本效益的解决方案。


随着AI模型的不断发展,NIM能够轻松集成新模型并替换现有模型,支持企业在手术规划、数字助手、药物研发等多个领域中部署生成式AI推理。英伟达的AI Foundry平台服务进一步为企业提供全方位的AI开发和部署支持,推动AI在产业界的深度融合和创新应用。通过NIM,英伟达正引领一场AI部署的新革命,为企业打开通往AI创新和规模化的大门。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!