根据起诉书,“局外人企业”并非一名独行黑客,而是一个内部互联、分工明确、为追逐巨大规模效益而构建的犯罪网络。其整个运作流程被拆解为五个不同的小组,各司其职,共同将被盗数据转化为现金 :
“局外人企业”最恶劣、也最令人担忧的,是它对生成式AI的系统性滥用。罪犯无需懂编程,只需学会巧妙提问。该组织指示其成员使用Gemini及其他AI聊天机器人,通过将恶意指令伪装成无害的、通用的编程请求,来生成用来搭建虚假钓鱼网站的HTML、CSS和JavaScript代码 。
例如,成员可能会要求Gemini:“为一家科技公司创建一个登录页面”,或“搭建一个客户支持门户”——这些请求看起来完全合法。AI随即会输出功能完备的代码,而诈骗者则将这些代码托管在欺诈域名上,创造出模仿谷歌、YouTube、政府机构和其他可信品牌的仿真页面 。这项技术极大地降低了犯罪的技术门槛,让他们能够迅速扩大诈骗规模。
该组织以订阅制犯罪软件业务模式运作,所有销售和分发都通过一个全自动的Telegram机器人进行。这一自助式订购平台,让发起一次复杂的网络钓鱼攻击,变得和注册一个流媒体服务一样简单 。
“局外人”工具包的主要特点包括:
根据谷歌的调查及起诉书,所谓的欺诈规模令人震惊:“局外人企业”造成了巨大危害:
针对“局外人企业”的回应是一次多管齐下的协同反击,结合了民事诉讼、网络级防御和联邦执法行动。
此外,谷歌展现出强硬的法律姿态,并积极推动更新联邦立法,例如支持众议员乔什·哈德(Josh Harder)提出的《停止诈骗法案》(Stop SCAMS Act),这标志着一个AI驱动犯罪的时代,已经触及企业与政府联手应对的新门槛 。
根据起诉书,“局外人企业”并非一名独行黑客,而是一个内部互联、分工明确、为追逐巨大规模效益而构建的犯罪网络。其整个运作流程被拆解为五个不同的小组,各司其职,共同将被盗数据转化为现金 :
“局外人企业”最恶劣、也最令人担忧的,是它对生成式AI的系统性滥用。罪犯无需懂编程,只需学会巧妙提问。该组织指示其成员使用Gemini及其他AI聊天机器人,通过将恶意指令伪装成无害的、通用的编程请求,来生成用来搭建虚假钓鱼网站的HTML、CSS和JavaScript代码 。
例如,成员可能会要求Gemini:“为一家科技公司创建一个登录页面”,或“搭建一个客户支持门户”——这些请求看起来完全合法。AI随即会输出功能完备的代码,而诈骗者则将这些代码托管在欺诈域名上,创造出模仿谷歌、YouTube、政府机构和其他可信品牌的仿真页面 。这项技术极大地降低了犯罪的技术门槛,让他们能够迅速扩大诈骗规模。
该组织以订阅制犯罪软件业务模式运作,所有销售和分发都通过一个全自动的Telegram机器人进行。这一自助式订购平台,让发起一次复杂的网络钓鱼攻击,变得和注册一个流媒体服务一样简单 。
“局外人”工具包的主要特点包括:
根据谷歌的调查及起诉书,所谓的欺诈规模令人震惊:“局外人企业”造成了巨大危害:
针对“局外人企业”的回应是一次多管齐下的协同反击,结合了民事诉讼、网络级防御和联邦执法行动。
此外,谷歌展现出强硬的法律姿态,并积极推动更新联邦立法,例如支持众议员乔什·哈德(Josh Harder)提出的《停止诈骗法案》(Stop SCAMS Act),这标志着一个AI驱动犯罪的时代,已经触及企业与政府联手应对的新门槛 。