机器数据时代:AI伺服器的训练与推理应用分析
来源:拓墣产业研究发布时间:2023-05-181837浏览
询问 AI
以现阶段而言,Al仍处于大量训练期,Al伺服器的应用仍以训练为主,GPU和GPGPU为训练的关键,ASIC和EPGA则可以透过特定算法来协助推理,提高整体运算效能。

一、机器数据时代、AI的训练无止境
在ChatGPT盛风吹起之际,GPT-4随之于2023年3月公布,除了文本输入之外,还可以输入图片生成解释图片的文字内容;与此同时,程序原始代码管平台GitHub用户Significant Gravitas于2023年3月发布一款基于GPT-4的应用程序“Auto-GPT”,让用户可以依据自身需求,将网络上的信息进行整合或完成项目,例如架设网站或长篇文章等。
相对于Microsoft/Google、百度等大厂以大型模型面世,Amazon则着重于客制化的应用,Amazon的AIGC服务提供平台管理、基础模型(Foundation Models)、开放编程工具等多款模型,让用户自行选择,并强调用户的数据不会被AI训练。
随着通用人工智能(Artificai General Intelligence, AGI)为发展方向,生成式AI(Generative AI, AIGC)的应用不断扩展,使数据不断成长,未来AI模型将以多模态(Multimodal)形式发展,意即AI可以理解文字、语言、图像、音频与其他形式的内容,并根据指令生产。
机器创造的数据早已于人所创造的数据,并随着生成的数据为训练数据,在模型迭代的发展过程中……
图表资料:
图1:AI服务器产业链举要
图2:2023~2027年AI服务器训练与推理应用占比预估
图3:2023~2027年AI服务器出货量预估
图4:A100和H100效能对比
图5:V100、A100、H100热设计功耗对比
表1:AI服务器PCB价格推估

如需浏览全文,请登录拓墣产业研究院付费会员账号
https://www.topology.com.cn/
如需申请会员试用,请联系我们:
王春胜(perry)
手机:13825284100(微信同号)
邮箱:perrywang@trendforce.cn

球分享

球点赞

球在看
新闻来源:拓墣产业研究,文中所述为作者独立观点,不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj。
