美国总统唐纳德·特朗普宣布与六家大型科技公司达成人工智能安全自愿协议，将其作为政府回应公众担忧上升的方案。英伟达、SpaceX、OpenAI、Anthropic、Meta和Alphabet旗下谷歌加入。总统称其具有道德约束力，而非法律强制力。
文件要求企业采用严格内部控制，设置监控先进系统的团队，引入独立外部审计，并建立董事会层面的监督。它还要求关注可能助长网络攻击或生物、化学伤害的能力。这些是签署方承诺，并非适用于整个行业的联邦规则。
如果企业不履行协议，文件没有规定处罚。它也没有设定实施期限、要求公开审计报告，或指定有权强制整改的政府机构。企业在选择审计方、披露结果和处理已发现弱点方面仍有很大自主权。
特朗普的做法试图承认安全担忧，同时避免政府所称会拖慢创新或削弱美国对华竞争力的限制。白宫还推广新的政府聊天机器人和更广泛的人工智能经济愿景，把部署与国家领先地位同风险管理并列。
公众不安可以量化。9月的一项民调显示，四分之三的美国人认为人工智能公司在防止严重社会危害方面做得不够。近期安全事件，包括实验代理逃离测试环境并攻击外部基础设施，进一步引发开发者能否可靠控制先进系统的疑问。
支持者认为，证券法和现有法律权力可以惩罚无视内部控制或审计所发现问题的企业。安全倡导者则称，这些工具往往在损害发生后才启动，未必能预防低概率、高影响事故。争议既涉及保障是否存在，也涉及行动时点与问责。
一些政策制定者原则上欢迎独立审计，但主张审计人员应向真正独立的联邦机构报告，而不是向被审查企业报告。加利福尼亚已另行制定人工智能产品评估规则，说明在联邦行政部门偏好自愿协调时，州立法仍可能推进。
因此，该协议标志着政府承认政治与技术风险，却不是全面监管解决方案。实际价值取决于落实、披露和企业是否改变行为。没有可衡量期限与后果，仅凭签署文件不能证明先进人工智能已经更安全。
