2025-01-10 行业资讯 0
随着ChatGPT等生成性AI技术的普及，不法分子也开始利用这一趋势进行诈骗活动。据Meta公司报告，自2023年3月起，他们发现了十个使用ChatGPT和类似主题来攻击用户账户的恶意软件家族，并且已从其平台上删除超过1000个恶意链接。这些通常涉及的是模仿ChatGPT功能的移动应用程序或浏览器扩展，它们实际上是用来窃取用户账户信息。
Meta首席安全官Guy Rosen在一次电话会议中提到，这些诈骗行为背后的目的就是利用人们对生成性AI兴趣的增强。“我们看到过类似的情况，比如加密货币热潮时期，坏人会利用这种热度进行诈骗，”Rosen说。“因此，对于那些想要牟利的人来说，ChatGPT就像是新一轮加密货币。”他指出，特别是那些在Facebook管理企业页面或经常使用该平台工作的人成为了主要目标，因为他们更有可能拥有信用卡信息。
为了应对此类问题，Meta计划推出名为“Work Accounts”的新型企业账户。这将使得用户不必使用个人Facebook账户即可访问Business Manager工具，从而保护商业账户免受攻击。此外，Meta还将推出一个新的工具，以帮助企业检测并清除恶意软件，该工具通过一步步指导用户识别和删除恶意软件，以防止企业因反复失去对账户访问权限而受到影响。
这不是Meta研究人员第一次警告说冒充聊天机器人应用程序会导致帐号被黑。在最近的一次事件中，一款冒充聊天机器人的Chrome插件导致多个Facebook帐号被黑。而Bleeping Computer报道称，这种类型的手段被称为“Lily Collins”攻击，因为受害者的名字在其帐号上被更改成了“Lilly Collins”。
与记者通话时，Meta安全政策负责人Nathaniel Gleicher表示，这些攻击往往针对与业务有关的人员：“他们试图关闭个人帐号，从而切断自己的访问权限，使合法用户无法重新登录。”他补充说，“现在我们看到的一种策略是，他们会把个人帐号的名字改成著名人的名字，以希望这样可以避免封禁。”然而，他指出新推出的Work Accounts能够有效地阻止这些类型的黑客行为发生。
