AI大战方起步,GPU资源已见肘 微软内部推硬件资源配给制
来源:蔡静珊 发布时间:2023-03-20 分享至微信


因为AI硬件资源不足,微软传决定对负责AI工具的部分团队,采取资源「配给制」。李建梁摄
因为AI硬件资源不足,微软传决定对负责AI工具的部分团队,采取资源「配给制」。李建梁摄

微软(Microsoft)积极将生成式人工智能(generative AI)技术导入Bing查找引擎、Microsoft 365办公软件等应用当中。然而,面对这股AI狂潮,据内部员工说法,微软其实正陷入GPU等硬件资源不足的困境当中,可能因此导致部分企业客户对AI的使用受到限制。


微软日前宣布,Word、PowerPoint与Excel等Microsoft 365办公软件,将导入包括ChatGPT聊天机器人在内的生成式AI技术,即名为Copilot的新功能。Copilot技术是以OpenAI刚刚发表的GPT-4大型语言模型为基础开发而成。


然而,根据TechRadar引述The Information的报导,微软将Copilot技术导入Microsoft 365,其实碰上很大的挑战,因为根据内部员工的说法,微软拥有的GPU等服务器硬件资源,并不足以支撑这些结合AI的办公软件,进行如此大规模的运作。


为了解决AI带来的庞大硬件需求,特别是在结合ChatGPT功能的新版Bing查找引擎也已经推出的情况下,微软决定对负责其他AI工具的部分内部团队,采取硬件资源的「配给制」。


可以想见,微软现在应该在全力采购NVIDIA的A100或H100数据中心GPU。而在资源不足的现况下,微软大概会以大型企业用户与公共需求为最优先。所以,想要导入微软AI技术的中小型企业,恐怕会就此受到使用上的限制,成为遭到牺牲的一方。


AI带来庞大的硬件负担,并不令人感到意外。早在2023年2月的Wired报导当中,就曾引述英国萨里大学网络安全教授Alan Woodward的观察指出,光是索引与查找网络内容,就已经需要用掉庞大的资源,而若结合AI技术,又是另一个层次的问题,会需要投入更多的处理效能与储存资源。


此外,根据加拿大数据中心业者QScale共同创始人Martin Bouchard的估计,微软与Google将生成式AI技术导入到查找引擎当中,则每次查找所需要的运算量,会至少增加4~5倍之多。



责任编辑:毛履万亿

[ 新闻来源:DIGITIMES科技网,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!