近日，Anthropic 公司首席执行官达里奥・阿莫代伊（Dario Amodei）提出了一个新奇且颇具争议的观点。阿莫代伊在接受采访时表示，未来的高级 AI 模型或许会被赋予一种特殊的 “自主权”—— 拥有一个类似 “退出按钮” 的设定，当它们遇到不想执行的任务时，可以选择拒绝。
这一言论是对数据科学家卡门・多明格斯所提问题的回应。多明格斯询问 Anthropic 公司在 2024 年底聘请 AI 福利研究员凯尔・费什（Kyle Fish）的原因，据悉，费什正在研究未来 AI 模型是否具备感知能力，以及是否应给予其道德层面的考量和保护。
阿莫代伊解释道，团队正在思考一种可行方案：当 AI 模型被投入实际应用场景时，为其设置一个 “我放弃这项工作” 的按钮。他假设，如果模型真的有自主意识，且对某项任务极度反感，就可以按下按钮。阿莫代伊还补充说，如果发现模型频繁按下该按钮，就应该引起重视，即便不完全认可模型具有自主意识，也至少要留意这种情况。
