新创企业挑战NVIDIA,以“优雅”设计提升AI效率
来源:ictimes 发布时间:2024-08-19 分享至微信

NVIDIA GPU在AI市场虽占主导地位,但高价、高功耗及延迟问题频遭批评。新创企业指责其依赖增加核心数与存储器提升性能的“蛮力”方式。为应对市场需求,新创们追求更高效的“优雅”设计。


AI模型训练与推论应用需求激增,NVIDIA虽有针对特定应用芯片,但架构变革成本高企。业界担忧,若AI运算方法革新,GPU统治地位或动摇。


美国新创业者比喻NVIDIA做法如车厂一味增大引擎,炫目却低效。日本Preferred Networks(PFN)等则致力于开发新型AI加速器,通过优化软件与硬件协作,减少核心数,提升效率,挑战NVIDIA B200。


GPU与存储器间频繁数据传输导致的功耗与延迟问题亦受关注。PFN看好日本封装技术,认为能改善连接效率。EdgeCortix则设计低功耗AI芯片,减少存储器存取,避免使用昂贵HBM。


台裔美籍专家许富菖的Neo Semiconductor推出3D X-AI芯片,结合神经电路层与300层存储器,减少GPU处理负担。加拿大Tenstorrent亦在减少GPU与存储器传输需求上取得突破,声称在某些AI领域可替代GPU与HBM。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!