2024-12-02 数码 0
三星电子（Samsung Electronics）引入聊天机器人ChatGPT的计划似乎在即将启动之际遭遇了一个严峻的挑战。据韩国媒体《economist》报道，仅在其推出不到20天后，关于涉及ChatGPT误用与滥用的内部事件就已经发生了多起。这其中包括两起“设备信息泄露”和一起“会议内容泄露”，这些敏感资料或已被存入ChatGPT学习资料库中。
这些泄密事件均发生在三星电子半导体暨装置解决方案（Device Solutions，简称“DS”）部门，这个部门是半导体行业中的关键组成部分，其工作对于确保高性能计算设备能够顺利运行至关重要。最初由于对内部机密外泄的担忧，三星禁用了ChatGPT，但考虑到半导体技术是生成式AI建构基础的一部分，他们最终允许DS部门自今年3月11日起使用ChatGPT。
然而，这些允许使用ChatGPT的情况也带来了新的风险。在一次错误处理过程中，一位A职员复制出了有问题的原始代码并询问如何解决，而B职员则输入源代码以优化产量和减少不良设备。此外，一位C职员将会议录音转换为文本并要求ChatGPT制作会议纪要。尽管如此，三星已经向相关人员发出警告，并通过内部公告强调需要注意正确使用聊天机器人，以防止数据安全问题。
根据官方声明，在任何情况下，如果用户输入包含公司敏感信息的内容，那么该内容都会被传送到外部服务器。如果这种敏感信息被用于训练AI模型，那么可能会导致大量隐私泄露的问题。此时，有消息指出正在制定一系列保护措施，以防止类似事故再次发生，如果采取这些措施仍然无法避免安全漏洞，则公司可能会暂停与ChatGPT的连接。
此事还引发了国家监管机构对数据安全风险的关注。当地时间3月31日，意大利个人数据保护局宣布禁止使用聊天机器人ChatGPT，并开始立案调查，因为该平台未能妥善处理用户信息收集和存储的问题。此前OpenAI首席执行官Sam Altman公开承认了一项开源库中的错误，该错误导致了一些用户与服务之间交互记录出现泄露，他随后发布致歉声明并表示已经修复了这个问题，并进行了验证程序。
随着这类事件不断上演，对于企业以及开发者来说，要确保合规性、透明度和数据保护变得更加重要。
