2024-12-02 数码 0
三星电子（Samsung Electronics）引入聊天机器人ChatGPT不到20天，便曝出机密资料外泄.
据韩国媒体《economist》3月30日报道，近日，三星内部发生三起涉及ChatGPT误用与滥用案例，包括两起“设备信息泄露”和一起“会议内容泄露”。报道称，这些敏感信息或已被存入ChatGPT学习资料库中。
据悉，这些涉事事件均发生在三星电子半导体暨装置解决方案（Device Solutions，简称“DS”）部门。而最初三星也因担忧内部机密外泄而禁用ChatGPT，不过基于半导体是“生成式AI”的建构基础，三星自今年3月11日起允许DS部门使用ChatGPT，但装置体验（Device eXperience，简称“DX”）部门仍禁用ChatGPT。
据《economist》报道，一名三星DS部门的A职员，在执行半导体设备测量资料库（DB）下载程序的源代码时出现了错误，便复制出有问题的原始代码到ChatGPT，并询问了解决方法。另一个B职员把为了提高产量、减少不良设备数量而编写的源代码输入到ChatGPT，并要求其优化。最后，一位C职员将手机录制的会议内容转换为文件后输入到ChatGPT，要求其制作会议纪要。
据媒体报道，当这类敏感信息被传送至外部服务器时，如果让这些数据成为开放性训练集，就可能导致关键技术和商业策略外流。这对于公司来说是一个巨大的安全风险，因为它不仅损害了客户信任，还可能影响市场竞争力。
为了防范此类潜在威胁，加强对内对外沟通并确保数据安全是公司必须采取的一系列措施。因此，该公司向所有员工发布了一则重要公告，以加强对如何正确使用这种新兴技术的指导。在这个公告中，他们重申任何未经授权地上传或分享个人数据都将受到严厉惩罚，并且如果需要进一步保护隐私权益，即使牺牲某些功能，也会采取行动限制系统访问权限。
此前，有消息指出意大利个人数据保护局已经开始调查OpenAI处理用户信息的问题。当地时间3月31日，该机构宣布从即日起禁止使用聊天机器人平台由于违反了相关法律规定，如未告知用户收集他们的谈话记录并没有获得必要同意。此举旨在保障用户隐私权利，同时也是监管机构履行法定责任的一部分。
值得注意的是，此次事件凸显了随着科技发展带来的新的挑战：即使是在最先进和最受欢迎的人工智能应用中，也存在极端危险性的漏洞，而这些漏洞一旦利用，对企业乃至整个行业都可能产生深远影响。
