亚太智能机器携手戴尔,共推LLM软硬整合新平台
来源:ictimes 发布时间:2024-08-13 分享至微信

亚太智能机器(APMIC)与戴尔及迈达特合作,推出大型语言模型(LLM)即服务软硬整合平台。该平台基于戴尔PowerEdge系列服务器,整合70B模型,实现即插即用。APMIC创始人吴柏翰介绍,70B模型源自Project TAME,专为繁体中文优化,特定服务器可完美支持。


戴尔作为AI工厂,结合NVIDIA算力与APMIC模型,形成存储、算力、模型的黄金三角。APMIC的70B*2 v1模型在评测中表现优异,超越GPT4-turbo等竞品。


该平台支持多元企业数据输入,自动前处理并启用RAG功能,便于快速查询历史数据。COMPUTEX展会上,APMIC展示与戴尔PowerEdge XE9680AI服务器的搭配,显著降低模型Token费用。企业可根据需求选择不同戴尔机型进行AI推论与微调。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!