亚太智能机器携手戴尔,共推LLM软硬整合新平台
来源:ictimes 发布时间:2024-08-13 分享至微信
亚太智能机器(APMIC)与戴尔及迈达特合作,推出大型语言模型(LLM)即服务软硬整合平台。该平台基于戴尔PowerEdge系列服务器,整合70B模型,实现即插即用。APMIC创始人吴柏翰介绍,70B模型源自Project TAME,专为繁体中文优化,特定服务器可完美支持。
戴尔作为AI工厂,结合NVIDIA算力与APMIC模型,形成存储、算力、模型的黄金三角。APMIC的70B*2 v1模型在评测中表现优异,超越GPT4-turbo等竞品。
该平台支持多元企业数据输入,自动前处理并启用RAG功能,便于快速查询历史数据。COMPUTEX展会上,APMIC展示与戴尔PowerEdge XE9680AI服务器的搭配,显著降低模型Token费用。企业可根据需求选择不同戴尔机型进行AI推论与微调。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
Google欲携手EssilorLuxottica,共推Gemini智能眼镜
2024-07-23
力丽科技与戴尔携手,AI Factory助力企业智能转型
2024-08-20
SDC与微软携手,共推MR新纪元
2024-08-12
博通收购VMware:软硬件整合效果待考
2024-08-30
Pixel 9先行,Android 15延迟:软硬件整合致发布推迟
2024-08-29
热门搜索