Together AI推出企业私有云AI部署平台,更高效能、成本更低
来源:ictimes 发布时间:2024-10-06 分享至微信

Together AI,一家成立于2022年的AI云端服务商,针对企业用户推出了Together Enterprise Platform平台,旨在实现更高效能、成本更低且隐私安全性更高的AI部署。


该平台允许企业在其虚拟私有云端(VPC)或现场环境中部署AI应用,从而简化企业使用开源大型语言模型(LLM)的流程。


Together Enterprise Platform具备适应性和兼容性,可以在私有云端上直接运行,也可扩充至Together AI提供的云端环境,为已投入大量IT基础设施的企业带来显著的成本优势。


通过优化软件与硬件利用率,Together AI能将推论效能提升两到三倍,并减少所需硬件数量达50%,从而节省大量成本。此外,该平台还运用多种算法技巧,如使用小型模型预测大型模型结果,以减少运算密集型工作量。


另一关键特色是,Together Enterprise Platform通过代理混合(Mixture of Agents;MoA)算法,可在单一应用或工作流程中整合不同来源的AI模型,包括开源模型和定制化模型,为企业提供更加灵活和高效的AI解决方案。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!