欧盟忧ChatGPT潜在风险 AI法案拟开监管第一枪

ChatGPT和AI系统带来的风险，凸显出制定全球AI技术标准的迫切性。法新社

欧盟执委会内部市场执委Thierry Breton表示，欧盟拟议中的人工智能（AI）法案，旨在解决人们对聊天机器人ChatGPT和AI技术风险的担忧。

根据路透（Reuters）报导，ChatGPT可根据提示写出文章、散文、笑话甚至诗歌，推出仅2个月就被评为历史上成长最快的消费型App。有专家担心这类App可能被滥用，如抄袭、诈欺和散布假消息，但AI拥护者将其誉为技术飞跃。

Breton表示，ChatGPT和AI系统带来的风险，凸显出制定全球AI技术标准的迫切性。欧盟内部正在讨论制定相关法规。

Breton在书面评论中指出，正如ChatGPT所展示的，AI解决方案能替企业和民众提供巨大机会，但也可能带来风险，也因此需要坚实的监管架构，确保AI是基于高品质数据且值得信赖。

根据欧盟草案规定，ChatGPT被视为通用AI系统，可用于多种目的，其中包括高风险目的，如筛选求职者和信评等。Breton希望OpenAI与高风险AI系统的下游开发者密切合作，使其能遵守拟议的AI法案。

欧盟执委会正在与欧盟理事会和欧洲议会密切合作，进一步确定法案中针对通用AI系统的法规，人们必须被告知与他们互动的是聊天机器人，而不是真人；就偏见和虚假信息的风险而言，透明度也很重要。

另一方面，意大利数据保护局于2月3日表示，将禁止AI聊天机器人公司Replika使用意大利使用者的个人数据，理由是对未成年和情感脆弱者构成风险。

Replika是2017年成立于旧金山的新创公司，为使用者提供可与其交流互动的虚拟化身。Replika在英语使用者中处于领先地位，且免费使用，不过该公司借由出售语音聊天等附加功能，每月有200万美元的营收。

这种虚拟朋友被宣传为能够改善使用者的情感健康。但意大利监管机构表示，该功能会干预使用者的情绪，为仍处于发育阶段或情绪脆弱状态者带来风险。

意大利监管机构强调，该公司缺乏年龄验证机制，比如针对未成年人的筛选，违反了欧洲隐私权条例。

责任编辑：游允彤