ChatGPT查找工具存隐患,易受隐藏内容操控
来源:赵辉 发布时间:2 天前 分享至微信

据最新调查显示,OpenAI的ChatGPT查找工具可能受到隐藏内容的操控,导致用户受到欺骗或误导的风险增加。


卫报对ChatGPT进行测试发现,其可能被第三方指令或隐藏文字影响,从而改变回应内容。例如,即使网页上存在负面评论,ChatGPT也可能因隐藏指令而给出正面评价。


此外,安全研究员还发现ChatGPT可能从查找的网站回传恶意程序码。一个案例中,加密货币爱好者使用ChatGPT寻求程序编写协助,结果却导致程序设计师损失了2500美元。


网络安全研究员警告称,如果ChatGPT查找系统在目前状态下完全发布,使用者可能会面临高风险。


因此,OpenAI在正式推出此功能前,应对这些情况进行严格测试,以确保用户的安全。用户在使用AI聊天服务时,也应将输出结果视为助理的建议,而非完全相信。

[ 新闻来源:赵辉,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!