ChatGPT查找工具存隐患,易受隐藏内容操控
来源:赵辉 发布时间:2 天前 分享至微信
据最新调查显示,OpenAI的ChatGPT查找工具可能受到隐藏内容的操控,导致用户受到欺骗或误导的风险增加。
卫报对ChatGPT进行测试发现,其可能被第三方指令或隐藏文字影响,从而改变回应内容。例如,即使网页上存在负面评论,ChatGPT也可能因隐藏指令而给出正面评价。
此外,安全研究员还发现ChatGPT可能从查找的网站回传恶意程序码。一个案例中,加密货币爱好者使用ChatGPT寻求程序编写协助,结果却导致程序设计师损失了2500美元。
网络安全研究员警告称,如果ChatGPT查找系统在目前状态下完全发布,使用者可能会面临高风险。
因此,OpenAI在正式推出此功能前,应对这些情况进行严格测试,以确保用户的安全。用户在使用AI聊天服务时,也应将输出结果视为助理的建议,而非完全相信。
[ 新闻来源:赵辉,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
赵辉
开创IC领域,共创美好未来!
查看更多
相关文章
ChatGPT macOS版升级,可整合多款开发者工具
2024-11-20
受欧美市场订单减少影响,2024年日本工具机业业绩承压
2024-12-13
微软推出AI查找功能Recall预览版
2024-11-26
苹果力挺Google应对查找市场垄断案
2024-12-26
苹果携手OpenAI:全面升级ChatGPT
2024-12-12
热门搜索