2025-01-10 行业资讯 0
随着ChatGPT等生成性AI技术的普及，不法分子也开始利用这一趋势进行诈骗活动。据Meta公司报告，自2023年3月起，该公司已经发现了十个利用ChatGPT和类似工具在网络上攻击用户账户的恶意软件家族，并且已从其平台中屏蔽超过1000个恶意链接。
这些恶意软件通常通过伪装成ChatGPT功能的移动应用程序或浏览器扩展来传播，其真正目的是窃取用户账户凭证。Meta首席安全官Guy Rosen指出，这些攻击者正利用人们对生成性AI兴趣激增的机会，就像过去利用加密货币热潮一样。“作为一个行业，我们也看到了这种情况，比如加密货币，因为人们对数字货币充满好奇，”Rosen说。“因此，从一个坏人的角度来看，ChatGPT就是新的加密货币。”
Meta特别提醒那些在Facebook上管理企业或使用该平台进行工作的人们，他们成为了主要目标。骗子会先攻击个人账户，以获得与之关联的商业页面或广告账户权限，这些权限更可能关联有信用卡信息。
为了应对这一问题，Meta计划推出名为“Work”（工作）类型新型企业账户。这将使得用户无需使用个人Facebook账户即可访问Business Manager工具。“在攻击者首先入侵个人账户的情况下，这将有助于保护商业账户的安全，”公司声明称。此外，Meta还将推出一款新工具帮助企业检测和删除恶意软件，指导用户如何识别并清除潜在威胁。
这并非是元研究人员第一次警告伪造的ChatGPT工具会导致帐号被黑。在最近的一次事件中，一种冒充ChatGPT软件的Chrome扩展导致多个Facebook帐号被黑，而受害者的名字则被改成了“Lilly Collins”。
元安全政策负责人Nathaniel Gleicher表示：“他们想要做的是关闭个人帐号、切断自己的访问权限，以防止合法用户重新登录。”他补充说，“我们现在看到的一种策略是，他们会改变个人帐号名称为知名人士姓名，以此希望能使该帐号遭到封禁。”他强调新的Work Accounts将有助于防止类似的黑客行为发生。
