美国最新研究表明，旨在清除生成式AI模型中敏感和版权数据的遗忘技术，可能意外削弱其处理基本问题的能力。这一发现为AI领域带来了新的挑战。
生成式AI，如OpenAI的GPT-4，通过大量公开数据训练而成，这些数据中不乏敏感隐私和版权内容。为解决这一问题，研究人员开发了遗忘技术，但新研究显示，该技术可能导致AI模型在遗忘特定信息时，也遗忘了与之相关的基础知识。
华盛顿大学与Google等机构的合作研究表明，遗忘算法在处理复杂数据时的局限性显著。例如，在尝试从模型中移除《哈利波特》小说等版权数据时，会同时影响到模型对《哈利波特》相关维基百科内容的理解。
这一发现揭示了遗忘技术的双刃剑效应，它既是解决版权问题的利器，也可能削弱AI的基础功能。因此，未来需要更加精细的算法设计，以确保在保护版权的同时，不损害AI的基本能力。
