AI算力资源匮乏,推动GPU管理与租赁服务兴起
来源:ictimes 发布时间:2024-12-04 分享至微信

AI算力资源匮乏,促使GPU租赁与管理服务应运而生。数码无限公司自2017年起转型,提供AI算力管理和AI Stack解决方案,并参与多项政府计划,成为NVIDIA全球认证伙伴。


数码无限CEO陈文裕指出,市场对高端GPU供不应求,企业倾向于将顶级资源用于内部研发,剩余资源才供租户使用。近期,GPU切片管理服务兴起,即将单一GPU细分为不同单位,提高资源利用率,降低单位使用成本。


全球约有10家企业提供类似服务,数码无限客户涵盖政府、学研单位、半导体、IC设计等领域。


业界对生成式AI应用态度两极化,IC设计业者较为积极。同时,NPU、MCU业者寻求拓展边缘运算应用,MCU尤其需要轻量化小模型。


政府单位也在提升公共算力资源,以支持学研单位和新创业者。不少企业开始有建置小型算力中心或升级旧机房的需求,因此GPU管理服务备受瞩目。


在CPU时代,VMware是虚拟机代表业者,而在GPU时代,尚无单一代表业者出现。尽管存在AI泡沫风险,但AI应用持续渗透各产业,未来发展前景看好。

[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!