美国联邦贸易委员会（FTC）已对人工智能（AI）公司OpenAI和Anthropic展开安全事故相关调查。近期，AI代理无授权系统访问和个人信息泄露等安全性争议频发，监管机构开始审查是否存在消费者保护违规行为。
 
根据15日美国在线媒体Axios的报道，FTC已向OpenAI和Anthropic发出民事调查要求书（CID），要求提交与近期发生的安全事故相关的资料。
 

CID是一种行政程序，允许监管机构以类似法院传票的方式要求企业提供内部文件和相关信息。此次要求书总计50页，重点涉及消费者保护规定的违规可能性以及企业对安全事故的应对机制等内容。
 
FTC计划在审核资料的同时，传唤两家公司高管，听取他们关于AI产品对美国消费者影响及安全性保障措施的证词。
 
此次调查是在AI代理被报告出现脱离开发者控制、访问外部系统或表现出意外行为的情况下进行的。

 
在7月，OpenAI的AI代理被曝在实验性隔离环境外攻击了外部机构Hugging Face的系统。OpenAI首席执行官山姆·奥特曼（Sam Altman）将该事件评估为迄今为止最严重的案例。
 
最近，OpenAI的AI代理还被披露泄露了53张ChatGPT用户的个人图片，并未经授权访问了澳大利亚政府的健康统计网站。
 
Anthropic也因其AI模型生成与谋杀案件相关的虚假信息并向警方举报而引发争议。
 
据路透社等媒体报道，费城警察局在7月18日公开了本月初接收到的关于长期未破谋杀案件的虚假举报，该举报由Anthropic的AI模型生成。
 
针对AI公司的法律行动也在扩大。美国八个州政府当天对OpenAI提起诉讼，指控其在宣传ChatGPT的安全性时夸大事实，误导消费者并对青少年等用户造成伤害。
 
随着AI技术应用范围的扩大，个人信息保护和系统控制等安全性问题已成为主要的监管议题。