随着人工智能技术的不断进步，小模型在终端装置中的应用愈发广泛。亚太智能机器创始人吴柏翰指出，小模型以其高效、灵活的特性，正成为终端装置的新宠。

吴柏翰表示，开发者在评估AI模型时，主要关注成本、多模态和可延展性。小模型不仅能满足这些要求，还能在智能手机等终端装置上实现高效运行。然而，能耗问题成为制约小模型广泛应用的关键因素。

他举例说，某些模型在执行复杂任务时，能耗过高，导致设备续航能力下降。而像Google的Gemma 1.1这样的模型，则能在保证性能的同时，有效降低能耗，为终端装置带来更长的使用时间。

针对这一挑战，吴柏翰建议台湾硬件厂商加强与小模型技术的合作，通过优化算法、提升硬件性能等方式，降低小模型在终端装置中的能耗。同时，他也呼吁软件开发者在开发过程中充分考虑能耗问题，为用户带来更加优质的体验。