Инструменты искусственного интеллекта ускоряют обратную связь с правительством, но эксперты предупреждают о рисках

Инструмент искусственного интеллекта предназначен для анализа огромного количества ответов на консультации правительства и точной интерпретации общественного мнения.

Министр технологий Великобритании Питер Кайл заявил: «Никто не должен тратить время на задачи, которые ИИ может выполнять быстрее и эффективнее, и не следует тратить миллионы налогоплательщиков на передачу такой работы внешним подрядчикам.

Этот цифровой инструмент, получивший подходящее название «Consult», успешно прошел первое крупное испытание в правительстве Шотландии.

Правительство Шотландии поставило перед Consult сложную первоначальную задачу: проанализировать отзывы общественности о регулировании нехирургических косметических процедур, таких как увеличение губ и лазерная эпиляция. Выводы ИИ в значительной степени совпали с анализом, составленным государственными служащими.

Теперь правительство планирует внедрить эту технологию в различных ведомствах. Текущий ручной процесс является дорогостоящим и медленным, и зачастую миллионы фунтов стерлингов выплачиваются внешним подрядчикам только за анализ общественного мнения.

Consult является частью более широкой инициативы по созданию более эффективного и отзывчивого правительства Великобритании, способного реализовать свой «План перемен» без чрезмерных затрат и задержек.

Итак, как он проявил себя в Шотландии? Consult обработал более 2000 ответов. Используя генеративный ИИ, он определил ключевые темы и проблемы, выявленные в отзывах по шести основным вопросам.

Конечно, Consult не работал полностью автономно. Эксперты шотландского правительства проанализировали и уточнили эти первоначальные темы. Затем ИИ классифицировал отдельные ответы соответствующим образом, освободив чиновников, чтобы они могли сосредоточиться на интерпретации результатов и их политических последствиях.

Поскольку это было первое реальное применение Consult, правительство Шотландии также вручную проверило каждый отдельный ответ для подтверждения. Интерпретация письменных комментариев и их классификация могут быть субъективными; даже человеческие аналитики не всегда соглашаются друг с другом.

При сравнении работы Consult с анализом, проведенным людьми, ИИ в большинстве случаев был прав. Незначительные расхождения не изменили общего понимания основных проблем, волнующих общественность.

Consult является компонентом более крупного пакета ИИ под названием «Humphrey» — набора цифровых инструментов, предназначенных для снижения административной нагрузки на государственных служащих и сокращения затрат на подрядчиков. Эта инициатива поддерживает более широкую концепцию использования технологий для оптимизации государственных услуг, направленную на экономию 45 миллиардов фунтов стерлингов за счет повышения производительности для более гибкого правительства.

«Продемонстрировав такие многообещающие результаты, Humphrey поможет нам сократить расходы на управление и улучшить нашу способность собирать и тщательно анализировать мнения экспертов и общественности по важным вопросам», — добавил Кайл.

«Шотландское правительство сделало смелый первый шаг. Очень скоро я буду использовать Consult в рамках Humphrey в своем собственном департаменте, а другие департаменты Уайтхолла последуют моему примеру, что ускорит нашу работу по реализации Плана преобразований».

В Шотландии министр здравоохранения Дженни Минто заявила: «Этот инструмент оказался очень полезным, помогая правительству Шотландии быстрее понять, что люди хотели донести, и спектр их мнений.

Использование этого инструмента позволило нам быстрее сосредоточиться на вопросах политики и углубиться в детали доказательств, оставаясь уверенными в том, что мы учли сильные мнения, высказанные респондентами».

Естественно, как и в случае со многими правительственными проектами в области искусственного интеллекта, это только начальная стадия, и Consult по-прежнему находится в официальной фазе испытаний. Перед принятием решения о полномасштабном внедрении планируется провести дополнительный анализ и тестирование, чтобы убедиться в его надежности.

Однако потенциал этого проекта значителен. Учитывая, что правительство проводит около 500 консультаций в год, Consult может сэкономить около 75 000 дней аналитической работы в год, если проект будет успешным.

Какова была реакция государственных служащих, которые использовали эту систему? По сообщениям, они были «приятно удивлены», посчитав первоначальный анализ ИИ «полезной отправной точкой». Другие хвалили систему за то, что она «сэкономила огромное количество времени» и позволила им «гораздо быстрее провести анализ и определить дальнейшие шаги».

Интересно, что некоторые чиновники считали, что Consult обеспечил новый уровень беспристрастности. Один из них отметил, что его использование «уменьшает предвзятость и повышает согласованность», не позволяя отдельным аналитикам влиять на результаты своими «собственными предубеждениями».

Некоторые консультации получают десятки или даже сотни тысяч ответов. Учитывая многообещающие первые результаты Consult, его применение в таких крупномасштабных мероприятиях может быть не за горами.

Важно отметить, что человеческий контроль по-прежнему остается неотъемлемой частью процесса. Consult разработан таким образом, чтобы эксперты участвовали в каждом этапе. Чиновники всегда будут проверять предложенные ИИ темы и классификации, используя интерактивную панель управления для фильтрации и поиска конкретных идей. Цель состоит в том, чтобы ИИ взял на себя тяжелую работу, позволяя людям сосредоточиться на стратегическом мышлении.

Эксперты призывают к осторожности в отношении использования ИИ в государственном секторе

Этот сдвиг в сторону ИИ в государственном секторе внимательно отслеживается экспертами.

Стюарт Харви, генеральный директор Datactics, прокомментировал: «Использование ИИ для ускорения публичных консультаций — отличный пример того, как технологии повышают эффективность и экономят деньги. Однако ИИ надежен только настолько, насколько надежны данные, на которых он основан. Чтобы такие инструменты работали хорошо и справедливо, государственные ведомства должны обеспечить точность, актуальность и надлежащее управление своими данными.

«Доверие общественности к решениям, основанным на ИИ, имеет решающее значение. Это требует прозрачных, хорошо управляемых и этичных процессов. Низкое качество данных или неэффективное управление ими может привести к предвзятым или недостоверным результатам.

По мере того как правительство расширяет использование ИИ в сфере государственных услуг, инвестиции в надежные методы работы с данными становятся критически важными. Это включает в себя создание четких систем данных, обеспечение доступа к данным для проверки и поддержание участия человека в принятии ключевых решений, особенно при оценке общественного мнения».

Ученые разделяют эту точку зрения. Профессор Майкл Роватсос из Эдинбургского университета признает преимущества ИИ, но также мудро предупреждает о рисках, таких как предвзятость ИИ и потенциальная манипуляция. Он выступает за надежные меры безопасности и постоянные инвестиции, чтобы обеспечить надежность и справедливость любых инструментов ИИ, используемых правительством.

Стюарт Мантон, руководитель отдела операций группы AND Digital, добавил: «Использование правительством ИИ для ускорения общественных консультаций — это позитивный шаг к более умным и эффективным услугам. Однако по мере роста внедрения ИИ мы должны обеспечить, чтобы в центре этой трансформации оставались люди, а не только технологии.

«Подобные инструменты смогут полностью раскрыть свой потенциал только в том случае, если мы будем инвестировать в обучение сотрудников государственного сектора необходимым навыкам и подготовку. Предоставление разнообразному персоналу возможности использовать ИИ повысит эффективность инструментов и обеспечит соответствие инноваций реальным потребностям».

При правильном внедрении с учетом этих экспертных соображений инструменты ИИ, такие как Consult, могут коренным образом улучшить то, как правительства прислушиваются к мнению общественности, учатся на его основе и формулируют политику. Правительство Великобритании действует быстро и планирует интегрировать Consult в различные департаменты к концу 2025 года.

См. также: США приостанавливают действие правила о распространении ИИ и ужесточают контроль за экспортом микросхем

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие проходит одновременно с другими ведущими событиями, включая конференцию Intelligent Automation Conference, BlockX, Digital Transformation Week и Cyber Security & Cloud Expo.

Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям, организованных TechForge, здесь.