科技资讯网站揭露新骗局人物被误导参与虚假对话系统测试

随着ChatGPT等生成性AI技术的普及，不法分子也开始利用这一趋势进行犯罪活动。据Meta公司发布的一份报告显示，自2023年3月以来，该公司已经发现了十个恶意软件家族，这些恶意软件伪装成ChatGPT或类似工具，以攻击用户账户。在这十个家族中，有超过1000个恶意链接被从Meta平台上移除。这些建立在移动应用程序和浏览器扩展上的骗局虽然可能提供一些功能，但其真正目的是窃取用户的账户凭证。

这些攻击背后的黑客正在利用人们对生成性AI的兴趣以及该领域迅速发展的事实。“我们在其他热门话题上也看到了这种情况，比如加密货币，因为人们对数字货币的兴趣非常浓厚，”Meta首席安全官Guy Rosen在与记者电话会议中表示。“因此，从一个坏人的角度来看，ChatGPT就是新的加密货币。”

特别是那些管理企业页面或使用Facebook进行工作的人们成为了主要目标。黑客通常会先攻击个人账户，然后获取与之相关联的商业页面或广告账户权限，这些权限更容易导致信用卡信息泄露。

为了应对这些问题，Meta计划推出名为“Meta Work”的新型企业账户。这些账户将使用户无需使用个人Facebook帐号即可访问Business Manager工具。“如果攻击者首先入侵个人帐号，那么这将有助于保护商业帐号的安全，”公司声明称。今年将开始对新的工作帐号进行“限量”测试，并逐步扩大范围。

此外，Meta还计划推出一款新工具帮助企业检测并删除恶意软件。这款工具通过分步指导用户如何识别和删除恶意软件，以及使用第三方杀毒软件以防止反复失去对账户访问权。

这并不是研究人员第一次警告说伪造的ChatGPT工具会导致账户被黑。在最近一次事件中，一种冒充ChatGPT的一个Chrome扩展导致多个Facebook帐号被盗用，被称为“Lily Collins”黑客攻击，因为受害者的名字被更改成了“Lilly Collins”。

在电话会议中，负责安全政策的人员Nathaniel Gleicher指出，这些攻击往往针对与企业有关的人员。“他们想要做的是关闭个人帐号，切断自己合法登录。”他补充说：“我们现在看到一种策略是，他们会改变个人姓名为知名人士姓名，以期使其封禁。”他还提到新的Work Accounts将有助于防止类似的黑客行为发生。