В начале мая независимая межпартийная инициатива под руководством MIT‑физика Макса Тегмара представила Pro‑Human AI Declaration. Более ста экспертов, среди них бывшие советники Стива Бэннона и Сьюзан Райс, описали два возможных пути развития: замену людей машинами и рост человеческого потенциала через безопасный ИИ. Последний путь опирается на пять столпов — человеческий контроль, ограничение концентрации власти, защита человеческого опыта, обеспечение личных свобод и правовая ответственность компаний.
Что предлагает декларация
Документ запрещает разрабатывать сверхинтеллект без широкой научной и демократической поддержки, требует «выключатели» для мощных систем и запрещает архитектуры, способные к самовоспроизведению или автономному улучшению. Он также требует предрелизного тестирования ИИ‑продуктов, предназначенных для детей, с оценкой риска суицидальных мыслей, манипуляций и психологических последствий.
Почему это важно
- Конфликт «Пентагон‑Anthropic» и отказ OpenAI от бесконечного доступа к своим моделям показали реальные угрозы национальной безопасности и пробелы в правовой базе.
- Опросы фиксируют, что 95 % американцев против неконтролируемой гонки к сверхинтеллекту, создавая давление на законодателей.
- Подписи таких фигур, как бывший советник Трампа Стив Бэннон и бывший советник по национальной безопасности Сьюзан Райс, указывают на межполитический консенсус по контролю ИИ.
Что будет дальше
Тегмар считает, что первым шагом станет обязательное тестирование ИИ‑приложений для детей, после чего требования расширятся на более широкие сценарии, включая предотвращение использования ИИ в террористических целях и защиту от попыток захвата власти. По его оценкам, Конгресс примет законопроекты, сравнимые с регулированием фармацевтики, и задаст новый стандарт глобального управления ИИ.