亚马逊正式加入生成式AI赛道，拉拢第三方模型-icspec

亚马逊正式加入生成式AI赛道，拉拢第三方模型

来源:电子发烧友网发布时间:2023-04-24

分享至微信

电子发烧友网报道（文/周凯扬）在ChatGPT和Bing玩了一手精彩的混合双打后，同样提供搜索服务和云服务的谷歌很快就感到了危机感，不久就推出了Bard与之抗衡。然而，另一大云服务和电商巨头亚马逊，却迟迟没有什么大动作，直到近日Bedrock的发布。

帮助客户搭建生成式AI服务

根据Grand View Research的预计数据，生成式AI市场将在2030年达到1100亿美元。这样一个市场哪怕不作为直接参与者，帮助其中玩家打造生成式AI同样能获得不小的利润。亚马逊认为生成式AI成功的关键，就是这些拥有海量参数的预训练大模型，而且是可定制化加工执行特定任务的通用基础模型。这类模型只要用到一小部分数据和计算资源，就能完成定制化，省去从零开始搭建模型的麻烦。

所以对任何想要做好生成式AI应用的厂商来说，第一步就是找到并使用高性能的基础模型，所以亚马逊推出了Bedrock。这项新的服务允许用户通过API以及亚马逊云的托管服务，来访问AI21 Labs、Anthropic和Stability AI的基础模型，包括文本到图像等多种模型。

比如AI21 Labs提供了多语种的大语言模型Jurassic-2，支持英语、西班牙语、法语和德语等多国语言的总结、撰文和回答。同样还有目前风靡的另一大模型，来自Stability AI的Stable Diffusion，这项通过文字来生成各种图像的模型也已经被大家玩出花了。

Bedrock的特色在于模型定制化，比如只需给Bedrock展示20个以上的标注数据示例，Bedrock就可以针对特定任务微调模型，比如针对时装零售行业的目标用户生成广告创意，诸如产品页、社交媒体推文和展示广告等。

Titan基础模型

但这并不是说亚马逊自己手头并没有任何模型，恰恰相反，随着Bedrock一同推出的还有亚马逊自研的Titan基础模型，包括用于文本生成的Titan Text和文字转译为数字表达嵌入式编码的Titan Embeddings。

Titan Text是一个生成式大语言模型，可负责文字总结、文本生成、分类、开放式问答和信息提取等任务。看起来Titan Text也是GPT的竞品，但亚马逊自己目前看来没有借其打造开放应用的意向，或许未来将其用于其智能语音助手产品Alexa中是一个不错的选择。

Titan Embeddings并不能生成文本，而是用于个性化推荐与搜索等应用的，因为在这些应用中，编码匹配的相关度往往是高于纯文字匹配的。所以对于搜索引擎、流媒体/社交媒体应用内搜索与推荐，Titan Embeddings都能凭借这些包含语义的数字嵌入式编码，提供更好的展示结果。

小结

为了进一步节省成本，使用自研硬件自然是最稳妥的选择，也会给到厂商在芯片制造阶段更高的议价实力。所以亚马逊在推出Bedrock之际，也正式宣布了Trn1n和Inf2这两大AI实例投入使用，借助其自研的Trainium训练芯片和Inferentia推理芯片进一步降低服务器成本，吸引更多的第三方模型加入Bedrock，同时也鼓励更多的用户使用AWS API访问这些模型。虽然这一切尚在基础阶段，其规模与ChatGPT、Bard等也没法抗衡，但如果未来生成式AI呈现的是一个百家争鸣的局面，那么亚马逊也有可能成为背后的赢家。