“局外人企业”最恶劣、也最令人担忧的,是它对生成式AI的系统性滥用。罪犯无需懂编程,只需学会巧妙提问。该组织指示其成员使用Gemini及其他AI聊天机器人,通过将恶意指令伪装成无害的、通用的编程请求,来生成用来搭建虚假钓鱼网站的HTML、CSS和JavaScript代码 。
例如,成员可能会要求Gemini:“为一家科技公司创建一个登录页面”,或“搭建一个客户支持门户”——这些请求看起来完全合法。AI随即会输出功能完备的代码,而诈骗者则将这些代码托管在欺诈域名上,创造出模仿谷歌、YouTube、政府机构和其他可信品牌的仿真页面 。这项技术极大地降低了犯罪的技术门槛,让他们能够迅速扩大诈骗规模。
“局外人”工具包的主要特点包括:
根据谷歌的调查及起诉书,所谓的欺诈规模令人震惊:“局外人企业”造成了巨大危害:
针对“局外人企业”的回应是一次多管齐下的协同反击,结合了民事诉讼、网络级防御和联邦执法行动。
此外,谷歌展现出强硬的法律姿态,并积极推动更新联邦立法,例如支持众议员乔什·哈德(Josh Harder)提出的《停止诈骗法案》(Stop SCAMS Act),这标志着一个AI驱动犯罪的时代,已经触及企业与政府联手应对的新门槛 。
Comments
0 comments