2024-12-02 数码 0
三星电子（Samsung Electronics）引入聊天机器人ChatGPT的计划似乎在即将启动之际遭遇了前所未有的挑战。据韩国媒体《economist》3月30日报道，近日，三星内部发生了三起涉及ChatGPT误用与滥用的案例，其中包括两起“设备信息泄露”和一起“会议内容泄露”。这些敏感资料不仅可能已经被存入了ChatGPT学习资料库中，而且它们的外泄还对公司的商业秘密构成了严重威胁。
这三起事件均发生在三星电子半导体暨装置解决方案（Device Solutions，简称“DS”）部门，而最初为了防止内部机密外泄，三星甚至考虑禁用ChatGPT。不过，由于半导体是生成式AI建构基础的关键组成部分，基于这一点，三星自今年3月11日起允许DS部门使用ChatGPT，但装置体验（Device eXperience，简称“DX”）部门仍然禁止使用。
据《economist》报道，一位名为A的DS部门员工在执行半导体设备测量资料库（DB）下载程序时出错，并且将有问题的原始代码复制到ChatGPT以寻求帮助。此外，还有一位B职员把为了跟踪产量、排除不良设备而编写的源代码输入到ChatGPT并要求优化。而C职员则将手机录制的一场会议内容转换为文件后输入到ChatGPT，以制作会议纪要。
对于这些事件，一家知情媒体指出，这些行为违反了公司关于如何安全地使用技术工具的大多数指导原则。该公司通过内部公告向员工传达了警告，并解释道，在任何情况下，都不能让敏感信息流向外部服务器。如果这样的数据被上传给一个如OpenAI开发的人工智能系统，那么它就会变得难以控制，从而导致高度敏感或机密数据被无意中披露。
此举引发了一系列紧急措施，以确保未来不会再次出现类似的问题。该公司已开始实施新的安全协议来保护其网络免受潜在威胁，同时也警告说，如果这些措施失败，他们将不得不采取更极端的手段，比如完全断开与这个平台连接。
此事背后，也存在着监管机构对数据隐私权利保护力度加大的背景。在意大利个人数据保护局宣布从当地时间3月31日开始限制所有用户访问聊天机器人服务时，这一趋势得到了进一步强化。这一决定是基于一些用户报告他们曾经与平台进行过交谈时遭遇信息丢失的情况，以及平台没有提供足够明确关于收集和处理个人信息的事项。这表明，即使是世界上最先进科技巨头也必须面对严格监管压力，以保障消费者的隐私权益。
