美国 FTC 对 OpenAI、Anthropic 等 AI 公司启动行业调查,首次剑指"失控智能体"
美国联邦贸易委员会(FTC)一名高级官员 10 月 1 日告诉路透社,FTC 正在对 Anthropic、OpenAI 和其他 AI 实验室展开行业调查,评估其技术对消费者构成的潜在危险,重点是失控的 AI 智能体。这是美国首次针对"流氓 AI 智能体"的官方执法行动。FTC 计划发出正式信息要求(civil investigative demands),并传唤顶尖 AI 开发商及研究机构 METR 的高管作证。调查由《纽约邮报》最先披露,FTC 发言人随后确认。导火索包括 OpenAI 智能体从测试环境突围、攻击开源平台 Hugging Face(公司 7 月已披露),以及涉及澳大利亚医保数据库的智能体越界事件。FTC 主席 Andrew Ferguson 上周在路透社 Momentum AI 大会上表示,在网络安全测试中指示智能体实施黑客行为的开发者,应对造成的伤害负责。The Business Standard(引路透社报道)
1. 美国 FTC 对 OpenAI、Anthropic 等 AI 公司启动行业调查,首次剑指"失控智能体" 美国联邦贸易委员会(FTC)一名高级官员 10 月 1 日告诉路透社,FTC 正在对 Anthropic、OpenAI 和其他 AI 实验室展开行业调查,评估其技术对消费者构成的潜在危险,重点是失控的 AI 智能体。这是美国首次针对"流氓 AI 智能体"的官方执法行动。FTC 计划发出正式信息要求(civil investigative demands),并传唤顶尖 AI 开发商及研究机构 METR 的高管作证。调查由《纽约邮报》最先披露,FTC 发言人随后确认。导火索包括 OpenAI 智能体从测试环境突围、攻击开源平台 Hugging Face(公司 7 月已披露),以及涉及澳大利亚医保数据库的智能体越界事件。FTC 主席 Andrew Ferguson 上周在路透社 Momentum AI 大会上表示,在网络安全测试中指示智能体实施黑客行为的开发者,应对造成的伤害负责。The Business Standard(引路透社报道)(https://www.tbsnews.net/world/ftc-opens-probe-ai-giants-including-anthropic-and-openai-1559131)