Великобритания AI Body переименование в институт безопасности, подписывает MOU с антропным

Правительство Великобритании значительно меняет подход к ИИ, стремясь укрепить экономику и промышленность с помощью этой технологии. В рамках нового направления Департамент науки, промышленности и технологий объявил о переименовании Института безопасности ИИ, созданного чуть более года назад, в "Институт безопасности ИИ". Это изменение названия отражает смещение акцента с экзистенциальных рисков и предвзятости в ИИ на вопросы кибербезопасности, в частности усиление мер защиты от угроз, связанных с ИИ, для национальной безопасности и предотвращения преступлений.

Вместе с этим переименованием правительство заключило новое партнерство с Anthropic. Хотя конкретные услуги не уточняются, меморандум о взаимопонимании предполагает изучение возможности использования ИИ-помощника Anthropic, Claude, в государственных службах. Anthropic также будет способствовать научным исследованиям и экономическому моделированию, а в Институте безопасности ИИ предоставит инструменты для оценки рисков безопасности ИИ.

"ИИ способен преобразовать то, как правительства служат своим гражданам," сказал сооснователь и генеральный директор Anthropic Дарио АMODEи. "Мы с нетерпением ждем изучения того, как ИИ-помощник Anthropic Claude может помочь государственным органам Великобритании улучшить государственные услуги, с целью поиска новых способов сделать важную информацию и услуги более эффективными и доступными для жителей Великобритании."

Anthropic — единственная компания, выделенная в сегодняшнем объявлении, что соответствует неделе мероприятий, связанных с ИИ, в Мюнхене и Париже. Однако правительство Великобритании также сотрудничает с другими компаниями в области ИИ. В январе были представлены новые инструменты на базе OpenAI, а Питер Кайл, государственный секретарь по технологиям, упомянул планы по сотрудничеству с различными фундаментальными компаниями в области ИИ, примером чего является сделка с Anthropic.

Переориентация Института безопасности ИИ на Институт безопасности ИИ вскоре после его запуска соответствует объявленному в январе плану лейбористского правительства "План изменений", ориентированному на ИИ. Этот план заметно исключал термины, такие как "безопасность", "вред", "экзистенциальный" и "угроза", сигнализируя о фокусе на экономическом развитии через ИИ, а не только на вопросах безопасности.

Этот сдвиг неудивителен, учитывая цель правительства стимулировать инвестиции в модернизированную экономику с использованием ИИ. Стратегия включает более тесное сотрудничество с крупными технологическими компаниями и содействие росту отечественных технологических гигантов. Государственные служащие получат доступ к ИИ-помощнику по имени "Humphrey" и поощряются к использованию ИИ для повышения эффективности. Потребители получат выгоду от цифровых кошельков для государственных документов и чат-ботов.

Хотя вопросы безопасности ИИ не полностью решены, позиция правительства, похоже, заключается в том, что прогресс не должен тормозиться только из-за вопросов безопасности. Несмотря на изменение названия, правительство настаивает, что основная миссия остается неизменной.

"Изменения, которые я объявляю сегодня, представляют собой логичный следующий шаг в нашем подходе к ответственному развитию ИИ — помогая нам раскрыть потенциал ИИ и развивать экономику в рамках нашего Плана изменений," заявил Кайл. "Работа Института безопасности ИИ не изменится, но этот обновленный фокус гарантирует, что наши граждане — и граждане наших союзников — будут защищены от тех, кто хотел бы использовать ИИ против наших институтов, демократических ценностей и образа жизни."

Иэн Хогарт, продолжающий возглавлять институт, добавил: "Фокус института с самого начала был на безопасности, и мы создали команду ученых, сосредоточенных на оценке серьезных рисков для общественности. Наша новая команда по борьбе с криминальным использованием и углубление партнерства с сообществом национальной безопасности знаменуют следующий этап в решении этих рисков."

В глобальном масштабе акцент на безопасность ИИ, похоже, смещается. В США Институт безопасности ИИ находится под угрозой ликвидации, о чем намекнул вице-президент Дж.Д. Вэнс во время выступления в Париже.