2025-01-10 行业资讯 0
随着ChatGPT等生成性AI技术的普及，不法分子也开始利用这一新兴技术进行诈骗活动。据Meta发布的报告显示，该公司已经发现了大量伪造ChatGPT和类似AI工具的恶意软件。
这些恶意软件通常以移动应用程序或浏览器扩展的形式出现，声称提供与ChatGPT相关功能，但实际上它们的目的是窃取用户账户信息。自2023年3月以来，Meta研究人员发现了十个利用ChatGPT和其他类似主题进行网络攻击的恶意软件家族，并从其平台中移除了超过1000个恶意链接。
在一次电话会议上，Meta首席安全官Guy Rosen表示，这些攻击背后的黑客正在利用人们对生成性AI兴趣激增的情况。“他们认为这是新的加密货币，”Rosen说，“因此，他们试图通过这种方式来获取资金。”
特别是那些管理企业页面或者在Facebook上工作的人成为了主要目标。黑客会先入侵个人账户，然后尝试获取与之关联的商业页面或广告账户权限。这将使他们能够访问信用卡信息。
为了应对这一问题，Meta计划推出名为“Work Accounts”的新型企业账户。这将使用户无需使用个人Facebook账户即可访问Business Manager工具，从而保护商业账户不受个人账户被黑后果影响。今年将开始对新的工作账户进行限量测试，并逐步扩大范围。
此外，Meta还将推出一款帮助企业检测并删除恶意软件的手段。这款工具通过一步一步指导用户如何识别并删除恶意软件，以及使用第三方杀毒工具，以防止企业反复失去对其帐号访问权限。
这不是第一次警告伪造聊天机器人会导致帐号被盗用。在最近的一次事件中，一种冒充ChatGPT的一个Chrome插件导致多个Facebook帐号被盗用，被称为"Lily Collins"黑客攻击，因为受害者帐号上的名字被更改成了"Lilly Collins"。
在电话会议中，负责安全政策的人员Nathaniel Gleicher表示，这些攻击往往针对与企业有关的人员。“他们想要关闭个人帐号、切断自己的访问权限，以防止合法用户重新登录，”他说。“我们现在看到一种策略是在更改姓名时使用著名人的名字，以期使该帐号无法再次登陆。”他补充说，将来的Work Accounts有助于预防这样的黑客行为发生。
