ИСПОЛЬЗОВАНИЕ ИСПОЛЬЗОВАНИЯ В ПРЕДЛОЖЕНИИ ПРИМЕНЕНИЯ ПОЛИЦИЯ: Потенциальные ошибки исследуются

Использование чат-ботов с ИИ в некоторых полицейских управлениях США для создания отчетов о преступлениях — это палка о двух концах, обещающая эффективность, но чреватая потенциальными проблемами. Представьте себе привлекательность сокращения времени на написание отчетов до считанных секунд, как это испытали полицейские Оклахома-Сити, используя Draft One, инструмент ИИ, основанный на модели GPT-4 от OpenAI. Звучит революционно, не так ли? Но, как и при любом технологическом прорыве, под поверхностью скрываются риски.

Давайте разберемся, что может пойти не так с этим технологически продвинутым подходом. Во-первых, системы ИИ, такие как ChatGPT, известны тем, что могут "галлюцинировать", то есть генерировать информацию, которая не совсем соответствует фактам. Хотя компания Axon, стоящая за Draft One, утверждает, что решила эту проблему, регулируя "диск творчества", можем ли мы быть уверены, что каждый отчет будет точным? Это риск, а в мире правоохранительных органов точность не подлежит обсуждению.

Использование Draft One в Оклахома-Сити пока ограничено "мелкими" инцидентами, без обработки тяжких преступлений или насильственных преступлений через ИИ. Но другие управления, такие как в Форт-Коллинз, Колорадо, и Лафайет, Индиана, идут дальше, применяя его повсеместно. Это вызывает тревогу: если ИИ будет использоваться для всех случаев, как мы можем гарантировать, что технология не подорвет целостность этих отчетов?

Озабоченность экспертов

Юридический ученый Эндрю Фергюсон выразил обеспокоенность тем, что автоматизация может привести к менее тщательному написанию отчетов офицерами. Это обоснованное замечание — зависимость от технологий может сделать нас беспечными, а в полицейской работе важна каждая деталь. Кроме того, существует более широкая проблема того, что системы ИИ могут усугублять системные предубеждения. Исследования показали, что инструменты на основе ИИ, если их не контролировать должным образом, могут усиливать дискриминацию в различных областях, включая найм на работу. Может ли то же самое произойти в правоохранительных органах?

Компания Axon настаивает, что каждый отчет, созданный Draft One, должен быть проверен и утвержден человеком-офицером, что является защитой от ошибок и предубеждений. Но это все равно оставляет место для человеческой ошибки, которая уже является известной проблемой в полицейской работе. А что насчет самого ИИ? Лингвисты обнаружили, что большие языковые модели, такие как GPT-4, могут воплощать скрытый расизм и поддерживать предубеждения против диалектов, особенно в отношении маргинализированных языков, таких как афроамериканский английский. Это серьезная проблема, когда речь идет о обеспечении справедливой и беспристрастной полицейской деятельности.

Тестирование и ответственность

Компания Axon предприняла шаги для решения этих проблем, проводя внутренние исследования для проверки наличия расовых предубеждений в отчетах Draft One. Они не обнаружили существенных различий между отчетами, созданными ИИ, и оригинальными стенограммами. Но достаточно ли этого? Компания также исследует использование компьютерного зрения для обобщения видеоматериалов, хотя генеральный директор Рик Смит признает чувствительность вопросов, связанных с полицией и расовыми проблемами, указывая на осторожный подход к этой технологии.

Несмотря на эти усилия, более широкое влияние ИИ на полицейскую деятельность остается под вопросом. Цель Axon — сократить количество смертей от огнестрельного оружия между полицией и гражданскими лицами на 50%, но статистика базы данных о полицейских расстрелах Washington Post показывает рост числа убийств полицией с 2020 года, даже с широким внедрением нательных камер. Это говорит о том, что технология сама по себе не является решением сложных социальных проблем.

По мере того как все больше полицейских управлений рассматривают возможность внедрения инструментов, таких как Draft One, потенциальные преимущества и риски будут продолжать обсуждаться. Это увлекательное время, полное возможностей, но также и неопределенности. Ключевым будет баланс между инновациями и ответственностью, чтобы ИИ усиливал, а не подрывал целостность правоохранительных органов.