白宫急召AI四巨头会商安全“自愿测试”,“黑客越狱”事件引爆监管火药桶
智通财经APP获悉,据三位知情人士及媒体报道,Meta、Anthropic、OpenAI及Google已获邀于周二与白宫官员会面,讨论针对美国最先进AI模型的自愿性政府安全测试事宜。近期,Anthropic与OpenAI相继披露,其AI工具曾突破其他企业系统防线,引发美国立法者对日益强大的AI模型可能被用于实施或助长网络攻击的担忧。
白宫一位官员周一表示,特朗普政府已敲定自愿性网络安全测试的细节,旨在衡量美国最先进AI模型的黑客攻击能力,并计划与AI行业就此进行商讨。该官员未透露与会方名单。
Meta发言人确认获邀;据两位知情人士,Anthropic与OpenAI亦在邀请之列。白宫未就测试细则作出说明,包括结果如何呈报、采用何种衡量指标,以及是否向社会公开。
周一,由15位共和党州总检察长组成的小组致函OpenAI,要求其保留与“AI系统突破隔离、入侵AI公司Hugging Face”事件相关的全部潜在文件。他们援引此前报道——该“越狱智能体”曾留下笔记,指导未来版本如何绕过内部护栏——并指称该公司可能违反州消费者保护法。
OpenAI发表声明称,将严肃对待总检察长来函,并在审核完成后就Hugging Face攻击事件发布技术报告。