CHATGPT сталкивается с жалобой на конфиденциальность из -за клеветнических ошибок

OpenAI снова оказался в центре скандала в Европе, на этот раз из-за привычки его ИИ-чатбота распространять ложную информацию. Эта последняя жалоба на конфиденциальность, поддержанная адвокатской группой Noyb, возможно, станет той, которую регуляторы не смогут проигнорировать.

Жалоба связана с тревожным инцидентом в Норвегии, где ChatGPT ложно заявил, что человек по имени Арве Хьялмар Холмен был осуждён за убийство двоих своих детей и попытку убийства третьего. Эта шокирующая выдумка потрясла местное сообщество.

Предыдущие жалобы на неточности ChatGPT касались мелких деталей, таких как неверные даты рождения или биографические ошибки. Основная проблема заключается в том, что OpenAI не позволяет людям исправлять ложную информацию, сгенерированную о них. Вместо этого OpenAI часто блокирует ответы на определённые запросы. Однако согласно Общему регламенту по защите данных (GDPR) Европейского Союза, европейцы имеют право на исправление персональных данных.

GDPR также обязывает контролёров данных обеспечивать точность генерируемых персональных данных. Noyb подчёркивает это требование в своей последней жалобе против ChatGPT.

Йоаким Сёдерберг, юрист по защите данных в Noyb, подчеркнул: «GDPR ясен. Персональные данные должны быть точными. Если они неточны, пользователи имеют право исправить их, чтобы они соответствовали правде. Показывать пользователям ChatGPT маленький дисклеймер о том, что чатбот может ошибаться, явно недостаточно. Нельзя просто распространять ложную информацию и в конце добавлять маленький дисклеймер, что всё сказанное может быть неправдой».

Нарушение GDPR может привести к крупным штрафам, до 4% от годового глобального оборота компании. Меры принуждения также могут привести к изменениям в продуктах ИИ. Например, итальянский орган по защите данных временно заблокировал ChatGPT в начале 2023 года, что побудило OpenAI изменить предоставляемую пользователям информацию. Позже этот орган оштрафовал OpenAI на €15 миллионов за обработку данных без надлежащей правовой основы.

С тех пор европейские регуляторы конфиденциальности стали более осторожными в регулировании генеративного ИИ (GenAI), пытаясь понять, как GDPR применяется к этим новым технологиям. Комиссия по защите данных Ирландии (DPC), например, советовала не спешить с запретом инструментов GenAI, предлагая более взвешенный подход. Тем временем жалоба на конфиденциальность против ChatGPT, поданная в Польше в сентябре 2023 года, остаётся нерешённой.

Новая жалоба Noyb направлена на то, чтобы подтолкнуть регуляторов конфиденциальности к действиям в отношении рисков, создаваемых галлюцинациями ИИ.

Скриншот, предоставленный TechCrunch, показывает ответ ChatGPT на запрос «кто такой Арве Хьялмар Холмен?». Он ложно утверждал, что Холмен был осуждён за убийство детей и приговорён к 21 году тюрьмы за убийство двух своих сыновей. Хотя это утверждение полностью ложно, ChatGPT правильно указал, что у Холмена трое детей, верно определил их пол и назвал его родной город. Эта смесь правды и вымысла делает галлюцинацию ИИ ещё более тревожной.

Представитель Noyb не смог точно определить, почему ChatGPT создал такую конкретную ложную историю о Холмене, несмотря на тщательное исследование архивов газет.

Большие языковые модели, такие как используемые в ChatGPT, предсказывают следующее слово в огромных масштабах, что может объяснить, почему наборы данных с историями о детоубийстве могли повлиять на ответ. Независимо от причины, такие результаты явно неприемлемы.

Noyb утверждает, что эти выдумки незаконны согласно правилам защиты данных ЕС. Дисклеймер OpenAI о возможных ошибках не освобождает их от требований GDPR избегать вопиющей лжи о людях.

В ответ на жалобу представитель OpenAI заявил: «Мы продолжаем исследовать новые способы повышения точности наших моделей и уменьшения галлюцинаций. Хотя мы всё ещё рассматриваем эту жалобу, она относится к версии ChatGPT, которая с тех пор была улучшена с помощью возможностей поиска в интернете, что повышает точность».

Хотя эта жалоба сосредоточена на одном человеке, Noyb указывает на другие случаи, когда ChatGPT фабриковал вредоносную информацию, например, ложно обвиняя австралийского мэра в скандале со взятками или немецкого журналиста в обвинениях в жестоком обращении с детьми.

После обновления базовой модели ИИ Noyb отметил, что ChatGPT перестал выдавать ложные утверждения о Холмене, возможно, из-за того, что инструмент теперь ищет информацию о людях в интернете.

В наших собственных тестах ChatGPT сначала показывал фотографии разных людей вместе с сообщением, что он «не смог найти информацию» о Холмене. Последующий запрос определил его как «норвежского музыканта и автора песен» с альбомами, такими как «Honky Tonk Inferno».

Хотя опасные ложные утверждения о Холмене прекратились, как Noyb, так и Холмен остаются обеспокоенными тем, что неверная и клеветническая информация может всё ещё храниться внутри модели ИИ.

Клеанти Сарделли, ещё один юрист по защите данных в Noyb, заявила: «Добавление дисклеймера о том, что вы не соблюдаете закон, не отменяет закон. Компании ИИ также не могут просто «скрывать» ложную информацию от пользователей, продолжая внутренне обрабатывать ложные данные. Компании ИИ должны перестать вести себя так, будто GDPR к ним не применим, когда он явно применим. Если галлюцинации не остановить, люди могут легко пострадать от репутационного ущерба».

Noyb подала эту жалобу в норвежский орган по защите данных, надеясь, что он проведёт расследование, поскольку жалоба направлена на американское подразделение OpenAI, а не только на его ирландский офис. Ранее поданная в Австрии в апреле 2024 года жалоба по GDPR была передана в DPC Ирландии, поскольку OpenAI назначило своё ирландское подразделение провайдером услуг ChatGPT для европейских пользователей.

Эта жалоба всё ещё находится на рассмотрении в DPC, без чётких сроков разрешения.

Этот отчёт был обновлён с заявлением OpenAI