Together AI推出企业私有云AI部署平台,更高效能、成本更低
来源:ictimes 发布时间:2024-10-06 分享至微信
Together AI,一家成立于2022年的AI云端服务商,针对企业用户推出了Together Enterprise Platform平台,旨在实现更高效能、成本更低且隐私安全性更高的AI部署。
该平台允许企业在其虚拟私有云端(VPC)或现场环境中部署AI应用,从而简化企业使用开源大型语言模型(LLM)的流程。
Together Enterprise Platform具备适应性和兼容性,可以在私有云端上直接运行,也可扩充至Together AI提供的云端环境,为已投入大量IT基础设施的企业带来显著的成本优势。
通过优化软件与硬件利用率,Together AI能将推论效能提升两到三倍,并减少所需硬件数量达50%,从而节省大量成本。此外,该平台还运用多种算法技巧,如使用小型模型预测大型模型结果,以减少运算密集型工作量。
另一关键特色是,Together Enterprise Platform通过代理混合(Mixture of Agents;MoA)算法,可在单一应用或工作流程中整合不同来源的AI模型,包括开源模型和定制化模型,为企业提供更加灵活和高效的AI解决方案。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
建兴储存发布EJ5系列企业级SSD,专为AI与高效能运算应用设计
2024-10-23
Vera AI推出Gateway平台,助力企业安全导入AI
2024-10-17
SiFive推出RISC-V高效能开发板,HiFive Premier P550早鸟版
2024-11-01
Microchip发布高效能第五代PCIe SSD控制器
2024-10-17
热门搜索