2024-12-02 数码 0
三星电子（Samsung Electronics）引入聊天机器人ChatGPT的日子还未过去二十天，便爆出了一系列涉及机密资料外泄的事件。据韩国媒体《economist》3月30日报道，近期内，三星内部共发生了三个关于ChatGPT误用与滥用的案例，其中包括两起“设备信息泄露”和一次“会议内容泄露”。这些敏感内容，如半导体设备测量资料、产品良率等，或已经被不小心地输入到了ChatGPT学习资料库中。
这三个泄密事件都发生在三星电子半导体暨装置解决方案（Device Solutions，简称“DS”）部门。最初，由于对内部机密安全性的担忧，三星甚至考虑禁用ChatGPT。不过，在意识到半导体技术是生成式AI（如ChatGPT）的基础之上，公司自今年3月11日起允许DS部门使用ChatGPT，但装置体验（Device eXperience，简称“DX”）部门仍然禁止使用。
据《economist》报道，一位名为A的三星DS部门员工，在执行半导体设备测量资料库（DB）下载程序的源代码时出现了错误。他将有问题的原始代码复制到ChatGPT，并询问了解决方法。此外，还有一位名为B的同事，把为了监控产量和排除不良设备而编写的源代码输入到了ChatGPT，并要求它优化。此外，一位名为C的员工则将手机录制的会议内容转换成文件后，再次输入到 Chat Gpt，以制作会议纪要。
媒体报道称，当这些违规行为被发现后，三星向相关职员公布了此类操作可能导致的问题，并强调需要注意如何正确使用 Chat Gpt。如果通过 Chat Gpt 输入数据，那么所有相关数据都会被发送到外部服务器。如果让 Chat Gpt 学习 三星内部敏感信息，这些信息就可能会被泄露出去，从而给公司带来严重后果。
当韩媒询问消息真实性时，有关负责人表示：“由于这是公司内部的事故，所以很难确认。”为了防止类似的事情再次发生，三星正在制定一系列保护措施，以确保通过 Chat Gpt 的数据不会再次遭受安全风险。该公司警告说，如果采取紧急措施之后仍然出现类似的问题，他们可能会暂停与 Chat Gpt 的连接。
此举并不仅限于企业层面，上述情况也引起了国家监管机构对于数据安全风险的一些关注。在意大利个人数据保护局宣布从即日起禁止使用聊天机器人 Chat Gpt 并限制其开发者 Openai 处理意大利用户信息并开始立案调查之前，该局认为平台在收集处理用户信息方面存在缺陷且没有法律依据进行通知。而在 3 月 23 日 Openai 首席执行官 Sam Altman 公开承认他们的一个开源库中出现错误，使得部分用户与 chat gtp 的对话记录和付款服务支付信息丢失。这一错误已被修复并进行验证以防止未来再次发生类似的漏洞。
