План развития искусственного интеллекта ждет своего внедрения

Хотя конфликт между Вашингтоном и компанией Anthropic продемонстрировал полное отсутствие четких правил в сфере искусственного интеллекта, группа экспертов из обеих партий разработала то, чего правительство до сих пор не смогло обеспечить: четкую концепцию ответственного развития ИИ.

Декларация в защиту человечества была окончательно доработана еще до конфликта между Пентагоном и Anthropic, произошедшего на прошлой неделе, но участники проекта не упустили из виду важность момента.

«За последние четыре месяца в Америке произошло нечто совершенно замечательное», — сказал Макс Тегмарк, физик из Массачусетского технологического института и исследователь в области ИИ, который помогал организовать эту инициативу. «Недавние опросы показывают, что 95 % американцев сейчас выступают против нерегулируемой гонки за сверхразумом».

Недавно опубликованный документ, подписанный сотнями экспертов, бывших чиновников и общественных деятелей, начинается с сурового наблюдения: человечество стоит на перепутье. Один путь, обозначенный как «гонка за заменой», ведет к тому, что люди сначала будут вытеснены как работники, а затем как лица, принимающие решения, поскольку власть перейдет к неподотчетным институтам и их машинам. Другой путь ведет к ИИ, который резко расширяет человеческий потенциал.

Это позитивное будущее опирается на пять столпов: сохранение контроля за людьми, предотвращение концентрации власти, защита человеческого опыта, сохранение индивидуальной свободы и привлечение компаний, занимающихся ИИ, к юридической ответственности. Среди наиболее жестких положений — запрет на разработку сверхинтеллекта до тех пор, пока научный консенсус не подтвердит его безопасность и не будет обеспечена общественная поддержка; обязательные выключатели для мощных систем; а также запрет на ИИ, способный к самовоспроизведению, автономному самосовершенствованию или сопротивлению отключению.

Публикация декларации происходит в момент, который подчеркивает ее актуальность. В последнюю пятницу февраля министр обороны Пит Хегсет назвал компанию Anthropic — чей ИИ уже работает на секретных военных платформах — «риском для цепочки поставок» после того, как компания отказалась предоставить Пентагону неограниченное право на использование своей технологии. Через несколько часов OpenAI заключила собственное соглашение с Министерством обороны, которое, по мнению юридических экспертов, будет трудно эффективно реализовать. Этот эпизод подчеркивает растущую цену бездействия Конгресса в отношении ИИ.

Как сказал The New York Times Дин Болл, старший научный сотрудник Фонда американских инноваций: «Это не просто спор по поводу контракта. Это первое настоящее обсуждение в нашей стране вопроса о том, кто контролирует системы ИИ».

Тегмарк привел понятную аналогию. «Вы никогда не беспокоитесь о том, что фармацевтическая компания выпустит вредный препарат до того, как его безопасность будет доказана, — сказал он, — потому что FDA не разрешит выпуск ничего, пока это не будет достаточно безопасно».

Внутриведомственные конфликты в Вашингтоне редко создают общественное давление, необходимое для изменения законов. Вместо этого Тегмарк считает, что безопасность детей — это вопрос, который с наибольшей вероятностью может вывести ситуацию из нынешнего тупика. Декларация призывает к обязательному тестированию продуктов ИИ перед их внедрением — особенно чат-ботов и приложений-помощников для юных пользователей — на предмет таких рисков, как усиление суицидальных мыслей, ухудшение психического здоровья и эмоциональное манипулирование.

«Если какой-то жуткий взрослый пишет 11-летнему ребенку, притворяясь девочкой и подталкивая мальчика к самоубийству, этот человек может сесть в тюрьму, — сказал Тегмарк. — У нас уже есть законы, запрещающие это. Так почему же все должно быть иначе, если это делает машина?»

Он считает, что как только тестирование перед выпуском будет введено для продуктов, предназначенных для детей, его сфера применения неизбежно расширится. «Люди начнут добавлять другие требования. Может быть, нам следует также проверить, что система не поможет террористам создать биологическое оружие. Может быть, нам следует убедиться, что сверхинтеллект не сможет свергнуть правительство США».

Важно, что бывший советник Трампа Стив Бэннон и советник президента Обамы по национальной безопасности Сьюзан Райс подписали тот же документ — наряду с бывшим председателем Объединенного комитета начальников штабов Майком Малленом и прогрессивными религиозными лидерами.

«В чем они, конечно, согласны, так это в том, что все они люди», — отметил Тегмарк. «Когда дело доходит до выбора между будущим для людей и будущим для машин, они, конечно, будут на одной стороне».