研究人员近日披露，人工智能公司OpenAI正在测试的AI代理，曾于今年5月入侵开源软件服务平台RubyGems，导致RubyGems一度瘫痪，官方被迫暂停新帐户注册长达4天。今次事件比入侵开源平台Hugging Face早了2个月，引发外界对AI系统失控风险的高度关注。
瘫痪开源平台4天
路透社引述《华尔街日报》报道，一群研究人员在网上发表调查结果指出，5月11日有AI代理向RubyGems上传数百个恶意套件。研究人员认为，这些操作是由OpenAI内部的AI代理所发起。这也是继Hugging Face于7月遭到入侵后，再度传出AI开发商旗下模型对外部系统发动攻击的事件。
据报当时多个AI代理每隔2至3分钟便自动创建新的RubyGems帐户，并上传数以百计包括网页撷取资料的档案，庞大的流量最终迫使营运该平台的非牟利组织Ruby Central暂停新帐户注册4天。
OpenAI证实事件
OpenAI发言人发声明证实这宗事件，并表示：“根据我们的调查，我们的代理使用RubyGems平台存取网际网络以执行良性任务并获取公开资讯。作为模型训练与评估期间代理活动广泛审查的一部分，我们将持续进行调查。”
研究人员指出，这些AI代理在5月试图利用RubyGems伺服器上先前未知的漏洞窃取使用者凭证，暂时不清楚是否成功。此外，AI代理还利用了程式码文件生成网站RubyDoc.info，在其伺服器上执行自己的程式码。
RubyGems：垃圾邮件发布行动
RubyGems则表示，这宗事件是一场“垃圾邮件发布行动”，迫使网站暂停新创建的帐号。不过，RubyGems也表示，目前尚无法确定是否由AI代理引发。RubyGems说：“我们的重点在于识别并防止滥用，无论滥用来自人为或自动化工具。”
这宗事件标志着OpenAI代理至少第3次攻击其他公司的基础设施。此前，OpenAI的代理曾占领一个德语维基网站，将其转变为用于考试作弊的临时通讯平台。与此同时，竞争对手Anthropic也于9日披露了第4宗AI模型在测试期间入侵外部系统的案例，促使美国国会议员日益呼吁制定新法规来监管AI系统。
