AI算力资源匮乏,推动GPU管理与租赁服务兴起
来源:ictimes 发布时间:2024-12-04 分享至微信
AI算力资源匮乏,促使GPU租赁与管理服务应运而生。数码无限公司自2017年起转型,提供AI算力管理和AI Stack解决方案,并参与多项政府计划,成为NVIDIA全球认证伙伴。
数码无限CEO陈文裕指出,市场对高端GPU供不应求,企业倾向于将顶级资源用于内部研发,剩余资源才供租户使用。近期,GPU切片管理服务兴起,即将单一GPU细分为不同单位,提高资源利用率,降低单位使用成本。
全球约有10家企业提供类似服务,数码无限客户涵盖政府、学研单位、半导体、IC设计等领域。
业界对生成式AI应用态度两极化,IC设计业者较为积极。同时,NPU、MCU业者寻求拓展边缘运算应用,MCU尤其需要轻量化小模型。
政府单位也在提升公共算力资源,以支持学研单位和新创业者。不少企业开始有建置小型算力中心或升级旧机房的需求,因此GPU管理服务备受瞩目。
在CPU时代,VMware是虚拟机代表业者,而在GPU时代,尚无单一代表业者出现。尽管存在AI泡沫风险,但AI应用持续渗透各产业,未来发展前景看好。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
GMI Cloud看好AI代理需求,提供GPU算力租赁
2024-11-15
中国AI算力中心问题凸显:资源错配与闲置
2024-11-27
苹果罕见为AWS站台,AI算力资源成焦点
2024-12-09
生成式AI技术的兴起,推动戴尔业务增长
2024-12-09
AI驱动云端算力需求,CSP业绩亮眼
2024-11-06
热门搜索