2024-12-02 智能 0
三星电子（Samsung Electronics）引入聊天机器人ChatGPT不到20天，便曝出机密资料外泄.
据韩国媒体《经济学人》3月30日报道，近日，三星内部发生三起涉及ChatGPT误用与滥用案例，包括两起“设备信息泄露”和一起“会议内容泄露”。报道称，半导体设备测量资料、产品良率等内容或已被存入ChatGPT学习资料库中.
据悉，这些泄密事件均发生在三星电子半导体暨装置解决方案（Device Solutions, 简称“DS”）部门。而最初三星也因担忧内部机密外泄而禁用ChatGPT，不过基于半导体是“生成式AI”的建构基础，三星自今年3月11日起允许DS部门使用ChatGPT，但装置体验（Device eXperience, 简称“DX”）部门仍禁用ChatGPT.
据《经济学人》报道，三星DS部门的A职员，在执行半导体设备测量资料库（DB）下载程序的源代码时出现了错误，便复制出了有问题的原始代码到ChatGPT，并询问了解决方法。另外，三星DS部门的B职员把为了把握产量、不良设备而编写的源代码输入到ChatGPT，并要求其优化。还有，一位C职员将手机录制的会议内容转换为文件后输入到ChatGPT，并要求其制作会议纪录。
据媒体报道，三星向职员公布了上述内容，并要求员工注意对待敏感数据时不得随意传输给外部服务器。如果这些数据没有得到妥善处理，那么可能会导致公司信息安全受到威胁。
韩媒向相关负责人确认消息真实性时，他们表示，“因为这是一个内部情况，所以很难确认。”
为了避免类似事故再次发生，为确保用户隐私安全，不仅公司层面，而且已经有国家监管机构注意到了这一潜在风险。当地时间3月31日，一些国家监管机构宣布从即日起禁止使用聊天机器人并限制开发公司OpenAI处理该地区用户信息。这一决定是基于平台未能有效告知收集处理用户个人信息的事实，以及缺乏合法依据来进行这些活动。
此前3月23日，当OpenAI首席执行官Sam Altman公开承认开源库中出现错误，他还发布了一条致歉推文表示已经修复了这个漏洞并完成了验证工作。但即便如此，这样的事件还是引发了一系列关于如何保护用户隐私的问题。
因此，对于这类技术创新带来的挑战，我们需要更加谨慎地考虑我们的行为以及我们提供给第三方服务商的一切敏感信息，以防止未来任何形式的人为失误或系统故障导致重要数据被无意中透露出去。
