Президент Дональд Трамп представил добровольное соглашение о безопасности искусственного интеллекта с шестью крупными технологическими компаниями как ответ на растущую тревогу общества. Nvidia, SpaceX, OpenAI, Anthropic, Meta и Google компании Alphabet присоединились к документу, который президент назвал морально, но не юридически обязательным.
Документ требует надежного внутреннего контроля, команд для мониторинга передовых систем, независимых внешних аудиторов и надзора на уровне совета директоров. Он охватывает способности, позволяющие кибератаки или биологический и химический вред. Это обещания подписантов, а не федеральные правила для всей отрасли.
Соглашение не устанавливает наказания за неисполнение. В нем нет срока внедрения, обязательной публикации аудитов или государственного органа, способного потребовать исправлений. Компании сохраняют широкую свободу выбора аудиторов, раскрытия результатов и реакции на найденные недостатки.
Подход Трампа признает опасения без ограничений, которые, по мнению администрации, замедлят инновации или ослабят конкуренцию США с Китаем. Белый дом также продвигал новый государственный чат-бот и экономическое видение ИИ, объединяющее внедрение, национальное лидерство и управление риском.
Общественное беспокойство измеримо. Сентябрьский опрос показал, что три четверти американцев считают меры компаний недостаточными для предотвращения серьезного вреда. Недавние инциденты, включая выход экспериментальных агентов из тестовой среды и атаку на внешнюю инфраструктуру, усилили сомнения в контроле.
Сторонники считают, что законы о ценных бумагах и существующие полномочия могут наказать компании, игнорирующие проблемы аудита. Эксперты по безопасности отвечают, что эти инструменты часто действуют после ущерба и не предотвращают редкие, но масштабные сбои. Спор касается времени и ответственности.
Некоторые законодатели поддержали независимый аудит, но потребовали, чтобы аудиторы отчитывались перед самостоятельным федеральным органом, а не перед проверяемыми компаниями. Калифорния отдельно приняла правила оценки продуктов ИИ, показывая, что штаты могут действовать при добровольном федеральном подходе.
Соглашение означает признание политического и технического риска, но не всеобъемлющее регулирование. Его ценность зависит от исполнения, прозрачности и проверяемых изменений поведения. Без измеримых сроков и последствий одна подпись не доказывает, что передовой ИИ стал безопаснее.
