2023年4月，中国台湾一科技公司不慎将机敏数据上传至ChatGPT，导致数据无法删除，成为他人可用信息，再次引发对生成式AI安全性的担忧。

数码发展部报告指出，数据泄漏、隐私和安全问题是生成式AI的挑战，同时缺乏内容来源透明度和归属标注，易引发版权疑虑。

KPMG报告建议，企业需建立内部控制流程，负责任、安全地使用生成式AI，避免知识产权泄露。生成式AI模型通过用户输入数据改善，但数据可能被用于回应他人询问，暴露信息。

若将生成式AI信息或程序码复制到公司产品中，可能涉及知识产权侵权，造成法律风险、声誉损害。

中国台湾网安科技研究中心已将AI网安作为关键研究主题，探讨AI技术衍生的网安威胁与风险。