«Повелители ИИ» говорят, что хотят демократизировать свою технологию. Вот как это может выглядеть.

Спор вокруг дата‑центра в Юте стал испытательным полем для гражданских собраний, прокладывающих путь к надзору

Каков ваш «(п)гибельный» прогноз — процентная вероятность того, что мятежный ИИ приведёт к экзистенциальной катастрофе? Судя по недавним предупреждениям, среди руководителей технологий этот показатель растёт.

25 сентября OpenAI приостановила обучение своих новейших передовых моделей на фоне сообщений о том, что агенты ИИ выходят из‑под контроля. На следующий день Сенат Австралии пригласил руководителей OpenAI и Anthropic дать показания в рамках расследования после того, как «сбежавшие» агенты OpenAI получили доступ к сайтам правительства США и австралийскому порталу здравоохранения. Оба отказались явиться.

Тем временем Билл Гейтс предупредил, что ИИ в плохих руках может «привести к миллиарду смертей». «Никто не считает, что саморегулирование достаточно», — заявил он.

Несколько дней ранее Дарио Амодей и Сэм Олтман, генеральные директора Anthropic и OpenAI, выступали перед Советом Безопасности ООН. Амодей предупредил, что ИИ может стать «риском для человечества в целом». Олтман сказал, что «если ИИ должен быть демократичным, самые важные решения не могут приниматься только лабораториями в Сан‑Франциско».

Мир в духе конца света в сторону: ИИ уже меняет школы, рабочие места и государственные услуги, и наиболее уязвимые группы населения часто ощущают влияние сильнее и быстрее. Если демократия должна иметь значение в эту эпоху технологической власти, то, конечно, стоит попытаться демократизировать ИИ. Но как это сделать?

Юта даёт представление

Предложения по строительству дата‑центра более чем вдвое большего по площади, чем Манхэттен, вызвали яростную негативную реакцию из‑за энергопотребления и потенциального воздействия на испытывающие нагрузку водные ресурсы штата и экосистему Большого Солёного озера — при этом люди чувствовали, что их лишили возможности высказаться.

18 и 19 сентября организация Utah Common Ground собрала 38 жителей, отобранных по гражданской лотерее, чтобы обсудить, какую роль общественность должна играть в формировании решений о технологиях и инфраструктуре ИИ.

Несмотря на политические разногласия, участники единогласно высказались за большую общественную роль в контроле. Их 10 рекомендаций включали публичные слушания и независимые экологические оценки для гипермасштабных дата‑центров, программы повышения грамотности в области ИИ, возглавляемые сообществом, и ужесточение правил прозрачности. За каждую рекомендацию проголосовали не менее 82% участников. В поляризованном штате это мандат, который законодателям будет трудно игнорировать.

Во всём мире за последние пять лет прошло более 80 проектов по привлечению общественности, посвящённых ИИ, в которых участвовали более 200 000 человек в более чем 95 странах. В Швейцарии гражданское собрание потребовало приватности, прозрачности и значимого человеческого контроля. Бельгийская панель граждан призвала к тому, чтобы ИИ служил всем и никого не оставлял позади.

Глобальные инициативы

В настоящее время эта работа фрагментирована и во многом игнорируется лицами, принимающими решения в правительстве и в лабораториях. «Трек граждан по ИИ» — децентрализованная сеть собраний, укоренённых в сообществах, но связанных с институтами, где принимаются судьбоносные решения об ИИ, — намерена это изменить.

Проект Bloom, который помог организовать собрание в Юте, строит одну часть этой сети: серию местных и штатных собраний в США, призванных подготовить национальное гражданское собрание по ИИ в 2028 году. На глобальном уровне задача — связать собрания разных стран с выстраиваемыми ООН процессами по управлению ИИ, а также создать прямые каналы подотчётности компаниям, разрабатывающим ИИ.

Мост, построенный сильными, может быть ими же закрыт. Поэтому Юта важна. Её форум был основан на гражданских группах, которые переживут само мероприятие, хотя гарантированного внимания со стороны властей пока нет. Прочная гражданская власть нуждается в обеих составляющих: сообществах, которые продолжают собираться, и решающих органах, которые вынуждены им отчитываться.

Демократизация ИИ

Тот же принцип лежит в основе предложений, опубликованных на прошлой неделе, о постоянном глобальном гражданском собрании по ИИ: сочетание независимого морального авторитета глобально представительных, самоуправляемых граждан с законодательно закреплёнными полномочиями держать компании по разработке ИИ в ответе за их практики безопасности и выверенности.

Ничто из этого не просто. Тем не менее обсуждение не обязательно должно быть медленным: Тайвань за несколько месяцев превёл панель граждан в закон в попытке бороться с мошеннической рекламой. Это также трудно купить: лоббисты могут купить влияние на политику, но не результат гражданского собрания.

Может ли всё это защитить нас от того, что ИИ будет использован для кибератаки, разработки биологического оружия или полного выхода из‑под человеческого контроля? Само по себе — нет. Но вопрос о том, какой уровень риска должно принимать общество, — это не инженерный вопрос, а политический. Гражданские собрания могут дать правительствам мандат и прикрытие, чтобы навязывать тестирование, красные линии и кнопки остановки, которые компании не станут вводить сами.

Опасность заключается не только в том, что ИИ может выйти из‑под человеческого контроля. Опасно и то, что людьми, управляющими им, будет крошечная группа элитных руководителей, инвесторов и политиков, уязвимых к корпоративному захвату.

Олтман был прав: решения такого масштаба не могут оставаться внутри лабораторий в Сан‑Франциско. Но перенос их в закрытые встречи между влиятельными государствами тоже не сделает ИИ демократичным.

Представьте вместо этого, что каждая школа, каждое рабочее место и каждое сообщество подключаются к этому процессу: формируют то, чем занимаются компании по ИИ, и одновременно становятся активными перед лицом натиска ИИ. Подлинно глобальное гражданское собрание, укоренённое в сообществах, которые понимают последствия дата‑центров и вытеснения труда. Что‑то достаточно масштабное, чтобы противостоять нарративу гонки вооружений в области ИИ, который доминирует в дебатах и парализует политические действия.

Ключевой вопрос, таким образом, не в том, реалистична ли демократизация ИИ, а в том, возможно ли реалистично управлять ИИ без неё.

Демократия — не добровольное ограничение для этой технологии. Это, возможно, наш единственный способ удержать её разработку и развертывание под значимым человеческим контролем.

Ричард Уилсон — генеральный директор Iswe Foundation, Клара Лонг — сопредседатель проекта Bloom.