Мередит Уиттакер подчеркивает «глубокую» безопасность, риски конфиденциальности в агентском ИИ

На конференции SXSW в Остине, штат Техас, президент Сигнал Мередит Уиттакер выразил серьезную обеспокоенность по поводу рисков конфиденциальности, связанных с агентским ИИ. Она хорошо описала использование агентов ИИ как «поместив ваш мозг в банку», подчеркивая тревожный характер этой новой технологии. Уиттакер указал, что агенты искусственного интеллекта, которые продвигаются в качестве инструментов для улучшения повседневной жизни, управляя такими задачами, как поиск концертов, бронирование билетов и соревнования по планированию, создают значительные проблемы конфиденциальности и безопасности.

«Таким образом, мы можем просто положить наш мозг в банку, потому что это делает это, и нам не нужно прикасаться к нему, верно?» Уиттакер размышлял, подчеркивая невременный подход, который поощряют агенты ИИ. Далее она подробно рассказала обширный доступ к этим агентам, включая контроль над веб -браузерами, информацию о кредитной карте, календари и приложения для обмена сообщениями. «Он должен быть в состоянии управлять этим [процессом] во всей нашей системе с чем -то, что выглядит как корневое разрешение, доступ к каждой из этих баз данных - вероятно, в ясном языке, потому что нет модели, чтобы сделать это зашифрованную», - предупредила она.

Уиттакер также обратился к мощности обработки, необходимой для этих агентов искусственного интеллекта, отметив, что такие операции, вероятно, будут происходить на облачных серверах, а не на устройстве пользователя. «Это почти наверняка отправляется на облачный сервер, где он обрабатывается и отправляется обратно. Таким образом, существует глубокая проблема с безопасностью и конфиденциальностью, которая преследует эту ажиотаж вокруг агентов, и в конечном итоге угрожает нарушить гематоэнцефалический барьер между приложением и слоем ОС, в сочетании всех этих отдельных услуг [и] муртика их данных», она заключила.

Она выразила особую обеспокоенность по поводу последствий для конфиденциальности, если приложение для обмена сообщениями, подобное сигналу, было интеграции с агентами искусственного интеллекта. Такая интеграция поставит под угрозу конфиденциальность сообщений, поскольку агенту необходимо будет получить доступ к приложению для отправки текстов, а также извлечь данные для суммирования этих сообщений.

Замечания Уиттакера появилось после того, как она обсудила более широкую зависимость от искусственного интеллекта в модель наблюдения, которая включает в себя сбор массовых данных. Она раскритиковала «большее, лучшее Ай парадигма», которая приоритет приоритетным накоплением данных, предупреждая о его потенциальных негативных последствиях. С агентом ИИ, она предупреждала, мы рискуем дальнейшим разрушением конфиденциальности и безопасности в стремлении к «боту магического джинна, который позаботится о потребностях жизни».