在攸关诸如加速深度学习的AI芯片议题上，产业专家认为AI芯片将更强调存储器与边缘运算。认为AI芯片市场规模在未来5年内达到150亿美元的说法太过保守，尽管NVIDIA目前以GPU主宰AI芯片市场。
专家认为未来会有新颖的芯片相继出现，并更强调存储器电路系统，而非运算电路系统；新创Syntiant则制出一种完全不同的AI芯片，专注于存储器，并采用类比芯片设计技术而非数位设计技术，更类似于Analog Devices，Syntiant执行长Kurt Busch表示，他们移除了100%传统存储器芯片的频宽瓶颈。
设计利用现场可编程闸阵列(FPGA)软件的新创Mipsology，其执行长Ludovic Larzul表示，一些深度学习任务会需要传统的执行方法，电脑指令遵循更狭义的if/then/else架构，但GPU不相容。
网络加速芯片新创Netronome执行长Niel Viljoen认为，由于新种类的运算芯片不断出现，英特尔的CPU将走弱，出现被取代的危机。
Syntiant特别着重将这些存储器芯片用于边缘设备，例如汽车与智能手表，以及功率严格受限的其他产品，且没办法总是透过云端数据中心进行机器学习。
Busch举交通摄影机作为边缘AI案例，指出“每个角落都有交通摄影机，这些摄影机捕捉所有看到的车牌，并将这些影像发送到云端，为何不反过来让云端告诉摄影机特定车牌，并让捕捉到该车牌的摄影机发送影像到云端”。
换句话说，这类AI进行的就是所谓的“推论”，它使用已经数据训练过的电脑来回答现场的具体问题，而不是AI演算法仍在发展的训练模型，Busch认为，在可预见的将来，系统的训练仍将发生在需要大量运算的云端中。
Applied Material资讯长Jay Kerley表示，该公司已在内部建立大量用AI处理事务的基础设施，例如解决芯片制造问题等，并认为Google开发的软件架构驱动硬件，如最受欢迎的TensorFlow。Kerley续指，倘GPU能支持这些新出现的需求，将看好GPU的发展；Applied Material正斥巨资兴建大量英特尔CPU与NVIDIA GPU的数据中心。
