近期，无论是OpenAI的GPT-4还是谷歌Gemini 1.5 Pro的发布，都彰显了市场对大模型技术的浓厚兴趣。IDC调研显示，约30%的受访企业在投资生成式AI技术后一年内即见回报，而两年内的回报率更是高达近80%。这种高效的投资回报率（每投入1美元获得3.5倍回报）远超传统IT项目，成为企业竞相追逐的新热点。
在企业级市场中，大模型的应用场景广泛，自动化IT服务、流程管理、产品创新、分析与预测及安全等领域均有涉及。值得注意的是，开源与闭源模型并存的现象反映了AI市场的独特生态：约半数企业选择开源模型以获得灵活性，另一半则偏好商业化模型的完整工具链支持。数据仓库、向量数据库等多样化数据平台的兴起，也为大模型的广泛应用提供了坚实支撑。
2023年，大模型厂商纷纷转向行业模型建设，力求实现技术落地与价值创造，标志着“百模大战”向实际应用场景的深度拓展。市场初期，开源与闭源模型并存，企业根据自身需求灵活选择，共同推动大模型技术的探索与应用。随着OpenAI和谷歌等大厂的推动，大模型向端侧转移成为新趋势，AI推理能力受到广泛关注，为普及大模型奠定了坚实基础。大模型不再局限于单一功能，而是向多模态发展，融合图像、文本等多种数据形式，推动应用场景的进一步拓展。AI基础设施成为新战场，科技厂商竞相投入，旨在打造高效、安全、可持续的基础架构，以支撑大模型的广泛应用。
IDC提出了下一代AI基础设施框架，强调边缘优化、混合多云及AI就绪等关键要素。边缘优化助力企业分布式业务发展，混合多云满足多样化业务需求，而AI就绪则确保基础设施能够高效支撑大模型技术的落地与应用。未来，AI基础设施将围绕这些核心要素不断演进，为企业带来更加智能、高效、安全的IT环境。
