2024-12-02 数码 0
三星电子（Samsung Electronics）在引入聊天机器人ChatGPT仅短短几周后，就暴露了严重的安全隐患。据韩国媒体《economist》报道，近期内部发生了多起涉及ChatGPT误用与滥用的事件，其中包括两起“设备信息泄露”和一起“会议内容泄露”。这些敏感信息可能已经被纳入到ChatGPT的学习资料库中。
这次泄密事件均发生在三星电子半导体暨装置解决方案（Device Solutions，简称“DS”）部门。最初，由于对内部机密外泄的担忧，三星禁用了ChatGPT，但考虑到半导体是生成式AI构建基础的重要组成部分，它们最终允许DS部门自今年3月11日起使用ChatGPT。而装置体验（Device eXperience，简称“DX”）部门仍然禁止使用该工具。
根据《economist》的报道，一名三星DS部门员工在执行半导体设备测量资料库（DB）下载程序源代码时出现错误，并将有问题的原始代码复制到ChatGPT以寻求帮助。此外，还有一位员工输入用于优化产量和识别不良设备的源代码，而另一位员工则将手机录制会议内容转换为文件并输入到ChatGPT以制作会议记录。
为了防止类似事故再次发生，三星向其职员发出警告，并通过内部公告解释了一旦输入数据至ChatGPT，该数据就会被传送至外部服务器。如果让这些敏感内容进入系统，那么可能会导致大量机密信息流出。
对于此事 韩媒向相关负责人确认消息真实性时，他们表示由于这是公司内部情况，所以很难确认这一点。但为了确保数据安全，不仅公司层面，也有国家监管机构开始关注这一问题。当地时间3月31日，意大利个人数据保护局宣布从即日起禁止使用聊天机器人ChatGPT，并立案调查，因为该平台未经用户同意而收集处理用户信息，以及缺乏法律依据来支持大量个人信息收集和存储行为。此前OpenAI首席执行官Sam Altman公开承认开源库中出现错误导致部分用户与AI之间聊天记录被泄露，他发布致歉推文并声称已经修复错误并完成验证工作。
