OpenAI浮水印技术:两难抉择的困境
来源:ictimes 发布时间:2024-08-09 分享至微信

OpenAI早在一年前就研发出了能够识别ChatGPT生成文本的浮水印技术,但至今仍未公之于众。这项技术原本能够助力教育界打击学生利用AI作弊的行为,却陷入了透明度与用户体验的困境。


浮水印技术通过嵌入不可见的标记来识别ChatGPT生成的内容,准确率高达99.9%。然而,这一举措也引发了广泛争议。一方面,用户担忧该技术可能导致内容误判,甚至侵犯隐私;另一方面,非英语母语的使用者可能受到不公平待遇。此外,浮水印并非无懈可击,用户可以通过简单方法规避检测。


OpenAI内部对此也展开了激烈的讨论。虽然全球大部分受访者支持开发AI内容检测工具,但ChatGPT用户中近七成对此表示担忧。公司不得不权衡各种因素,包括技术的局限性、用户反馈以及可能的市场反应。


考虑到这些复杂因素,OpenAI选择了更为谨慎的道路。他们优先发布了DALL-E 3的验证工具,以应对AI生成图像的误导性问题。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!