当前位置: 首页 - 智能 - 科技股震动三星或禁用ChatGPT涉密数据传输引关注

科技股震动三星或禁用ChatGPT涉密数据传输引关注

2024-12-02 智能 0

三星电子(Samsung Electronics)引入聊天机器人ChatGPT的短暂兴奋时光,仅持续了不到20天,便因涉密资料外泄而面临着严峻的考验。

据韩国媒体《economist》3月30日报道,近期内,三星内部发生了三起与ChatGPT相关的误用和滥用事件,其中包括两起“设备信息泄露”以及一宗“会议内容泄露”。这些敏感数据,如半导体设备测量资料、产品良率等,或已经被不慎输入到了ChatGPT学习资料库中。

这三起泄密事件均发生在三星电子半导体暨装置解决方案(Device Solutions,简称“DS”)部门。最初,由于担忧内部机密遭到外界侵犯,三星甚至一度禁用了ChatGPT。但鉴于半导体技术是生成式AI建构基础之上的一项关键技术支持,公司自今年3月11日起允许DS部门使用ChatGPT,但仍然将装置体验(Device eXperience,简称“DX”)部门列为禁区,不得使用该工具。

据《economist》透露,一位名叫A的三星DS部门员工,在执行半导体设备测量资料库(DB)下载程序源代码时,因操作失误,将问题代码复制到ChatGPT并询问解决方案;另有B职员则将用于监控产量和排除不良设备的源代码直接输入给AI助手,并要求其进行优化。此外,还有一名C职员,将手机录制会议内容转换成文件后,又一次无意中将其上传至服务器,以此制造会议纪要。

针对这些情况,上述事件已经向全体员工通报,并强调必须注意在使用聊天机器人的同时遵守相应规定。在官方公告中解释道,当用户通过任何方式向AI系统提供数据后,这些数据都可能会传输至第三方服务器。而如果让生成式AI系统接触到内部重要信息,那么隐私风险就不可避免地增加。

关于这一系列安全漏洞的问题,有消息来源指出尽管目前尚未确认是否存在实际性质上的真实性,但公司方面表示由于涉及个人隐私,因此难以公开讨论细节。

为了防止类似事故再次发生,公司正在紧急召集专家团队,为确保所有与高级计算机辅助语言处理有关的事务能够得到妥善管理,而不会危害企业核心竞争力。若是在采取严格保护措施之后仍旧出现类似安全问题,则公司将不得不考虑全面切断与该平台的连接。

此事也引发了国际社会对于数据隐私保护法规缺陷的大讨论。一旦被证实,这种类型违规行为确实存在,那么政府监管机构势必介入并加大压力。例如,在意大利,该国家已宣布从即日开始禁止所有用户访问chatgpt服务,并且对OpenAI进行立案调查。这背后的原因是基于多个用户报告显示,他们曾经与chatgpt交流过但收到了错误或丢失的回复,以及支付信息未能得到妥善保护的情况。

值得关注的是,即便这样的警告声不断响起,对于如何平衡科技创新进步与个人隐私权益之间关系,也尚无明确答案。不过,可以预见的是,无论哪一方,最终都会因为这种追求效率而牺牲了一定程度的人性尊重所导致的问题而受到影响。

标签: 智能空调人工智能的应用场景中国智能科技有哪些ai聊天机器人app人工智能教育十大排行