剑桥大学研究:AI或被用来操控用户决策
来源:龙灵 发布时间:3 天前 分享至微信

剑桥大学最新研究警告,人工智能技术的迅猛发展或将催生一个全新的市场——“意图经济”,其可能颠覆现有的广告和决策方式,并给用户隐私和道德带来前所未有的挑战。


在这个新兴市场中,AI助手不再仅仅是分析用户行为,它将能够精准预测并操控用户的动机,甚至通过操控决策来为公司获取利润。该研究指出,“意图经济”有望成为“注意力经济”的下一个发展阶段,不同于目前通过社交平台吸引用户注意力的方式,意图经济将直接深入到人们的决策过程。


随着大型语言模型的发展,AI技术已能够实时分析用户的心理和行为数据,进而影响其选择。例如,AI可能在你浏览电影时主动询问你是否观看某部影片,或根据你的偏好推荐其他服务。这种精准的个性化推荐,虽然提升了用户体验,但也可能被广告商用作操控工具,从而为商业目标服务。


更具风险的是,AI能够通过对话分析用户的需求、立场、情感,甚至是性别和年龄,从而调整建议内容,推动特定目标的实现。这种做法如果没有足够监管,可能会导致用户意图成为竞价的对象,甚至为某些公司谋取更多利益。


随着AI技术的不断进化,广告商可能通过竞拍用户的意图,如餐厅预订、购物决策等,从而大大提高商业化效率。然而,这一进程也引发了对于隐私和道德伦理的深刻担忧。未来,AI在塑造人类决策方面的潜力不可小觑,如何平衡其应用和保护用户权益,将是社会和科技公司亟待解决的问题。


[ 新闻来源:龙灵,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!