2025-03-01 智能 0
近日，一起利用人工智能（AI）实施的电信诈骗案件在网络上引发了广泛关注，话题#AI正在爆发#冲上了微博热搜。4月20日中午，郭先生的好友突然通过微信视频联系他，声称自己外地竞标需要430万保证金，并要求公对公账户过账。基于对好友的信任，以及已经通过视频聊天核实了身份信息，郭先生没有进一步核实钱款是否到账，就分两笔将430万转到了好友提供的账户上。
事后，当郭先生拨打好友电话时才发现自己被骗。在警方调查中发现，这次诈骗是由一名骗子使用高级人工智能技术进行的一场精心策划和执行的手段。骗子首先盗取了郭先生朋友的微信号，然后用AI换脸和拟声技术伪装成他的真实面孔，对他实施欺诈。此外，该案例还暴露了一个细节，即骗子并没有直接添加郭先生为好友，而是直接用朋友微信发起视频聊天，这也是被害者之一致被骗的原因之一。
值得注意的是，此类利用AI技术实施诈骗的情况并不罕见。在2022年2月，有位陈先生也遭遇了一次类似的经历，他在温州市公安局瓯海分局仙岩派出所报案称，被“好友”敲诈去5万元。警方调查发现，分子利用陈先生“阿诚”在社交平台发布的视频截取其面部视频画面，再利用“AI换脸”技术合成制造假象，从而成功实施。
此外，还有其他多起与此类似的事故报告，其中包括上海某公司高管因为对方使用AI换脸与人工生成语音制作公司领导面孔并勒索150万元等。而这些手法通常包括声音合成、AI换脸、转发微信语音以及筛选特定受害者群体等。
为了防范这种情况，警方提醒网络用户在进行任何形式的人际转账前务必通过多种方式核验对方身份，如果发现任何风险及时报警求助。这不仅涉及到个人财产安全，也关系到整个社会网络环境的大范围影响和维护秩序。
