OpenAI研发文本水印技术以识别ChatGPT生成文本
来源:ictimes 发布时间:2024-08-06 分享至微信

8月5日,据报道,OpenAI正在研发一款能高精度识别ChatGPT生成文本的工具,但尚未发布。OpenAI对此回应称,正在研究文本水印技术,该技术通过微小更改ChatGPT选择单词的方式,在文本中创建不可见的水印,以便未来用特定工具检测。这将仅针对ChatGPT生成的文本,而非其他公司模型。


OpenAI表示,文本水印技术是确定文本来源的多种解决方案之一,还包括分类器和元数据。尽管文本水印在某些情况下效果显著,但在面对文本翻译、改写或特殊字符插入等篡改行为时,效果会有所降低。此外,该技术可能对非英语母语者产生较大影响。


鉴于这些挑战和对生态系统的潜在影响,OpenAI将谨慎推进文本溯源技术的研究,并优先发展视听内容的认证工具。这表明OpenAI在确保技术成熟和公平性方面持审慎态度,以推动技术发展同时,避免对特定群体造成不利影响。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!