大模型数据隐私问题实例

人工智能引发数据隐私关注，需平衡技术发展与隐私保护。随着人工智能技术的不断发展 和应用，大量的个人数据被采集、存储和处理，由此引发了人们对于 AI 时代数据的隐私保 护的关注和讨论。数据隐私问题的严重性不言而喻，如何平衡人工智能技术的应用与数据 隐私保护之间的关系、如何实现人机共存的良好发展是现在亟需解决的问题。

2023.3.21

Reddit 上有用户发布截图称遇到了一个 BUG，其 ChatGPT 聊天历史栏出现了不是自己的聊天记录标题。

2023.3.30 韩国

3 月 30 日，据韩国媒体《Economist》报道，三星内部发生三起涉及 ChatGPT 误用与滥用案例， 包括两起“设备信息泄露”和一起“会议内容泄露”，相关的半导体设备测量资料、产品良率等内 容或已被存入 ChatGPT 学习资料库中。进一步报道表明，三星导体暨装置解决方案（Device Solutions）部门的 A 职员在执行半导体设备测量资料库（DB）下载程序的源代码时出现了错误， 便复制出有问题的原始代码到 ChatGPT，并询问了解决方法。另外，三星 DS 部门的 B 职员把为了 把握产量、不良设备而编写的源代码输入到 ChatGPT，并要求其优化。另外，三星 DS 部门的 C 职 员则将手机录制的会议内容转换为文件后输入到 ChatGPT，要求其制作会议纪录。

2023.3.31 意大利

意大利个人数据保护局宣布，基于欧盟的《通用数据保护条例》（GDPR）法律，暂时禁止 ChatGPT 在其境内运行。此外，意大利数据保护局在上月底对 ChatGPT 涉嫌违反隐私规则展开调查。该机 构认为，3 月 20 日 ChatGPT 平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台 没有就收集处理用户信息予以告知，缺乏大量收集和存储个人信息的法律依据。Open AI 需要在 20 天内与监管机构进行沟通采取有效保护措施，不然将面临G 2000 万欧元或年营业额的 4%罚 款。

2023.4.3 德国

德国联邦数据保护专员 Ulrich Kelber 对德国商报表示，原则上，类似 ChatGPT 这样的 AI 软件在德 国被禁用是有可能的。因为，OpenAI 是一家国外公司，是在德国数据保护机构管控范围内。

2023.4.4 意大利

意大利隐私监管机构发布声明，称将于当地时间 4 月 5 日与 OpenAI 代表会面，讨论在该国暂时禁 止使用 ChatGPT 的问题。OpenAI 表示，该公司愿意同意大利当局合作，以确保遵守隐私法规。

2023.4.4 法国

法新社消息称加拿大隐私专员办公室（OPC）4 日宣布开始调查 ChatGPT 背后的公司 OpenAI，涉 及“指控 OpenAI 未经同意收集、使用和披露个人信息”的投诉。