Мир ИИ: проектирование с учетом конфиденциальности

Искусственный интеллект способен преобразовать всё — от повседневных дел до прорывных медицинских достижений. Однако, чтобы полностью реализовать потенциал ИИ, мы должны подходить к его разработке с приоритетом ответственности.

Поэтому обсуждение генеративного ИИ и конфиденциальности так важно. Мы стремимся внести свой вклад в эту дискуссию, опираясь на передовые инновации и глубокое взаимодействие с регуляторами и другими экспертами.

В нашей новой рабочей статье по политике под названием «Генеративный ИИ и конфиденциальность» мы выступаем за то, чтобы продукты ИИ включали встроенные механизмы защиты, которые с самого начала ставят в приоритет безопасность и конфиденциальность пользователей. Мы также предлагаем стратегии политики, которые решают проблемы конфиденциальности, позволяя ИИ процветать и приносить пользу обществу.

Конфиденциальность по умолчанию в ИИ

ИИ обещает большие преимущества для отдельных людей и общества, но он также может усиливать существующие проблемы и создавать новые, как показали наши исследования и исследования других.

То же касается конфиденциальности. Необходимо внедрять механизмы защиты, обеспечивающие прозрачность и контроль, а также снижающие риски, такие как непреднамеренное раскрытие личной информации.

Это требует прочной основы от стадии разработки до внедрения, основанной на проверенных временем принципах. Любая организация, разрабатывающая инструменты ИИ, должна иметь четкую стратегию конфиденциальности.

Наш подход сформирован на основе многолетних практик защиты данных, наших принципов конфиденциальности и безопасности, практик ответственного ИИ и наших принципов ИИ. Это означает, что мы внедряем надежные меры защиты конфиденциальности и методы минимизации данных, обеспечиваем прозрачность в отношении наших практик работы с данными и предоставляем инструменты управления, позволяющие пользователям принимать осознанные решения и управлять своей информацией.

Фокус на применении ИИ для эффективного снижения рисков

Применяя устоявшиеся принципы конфиденциальности к генеративному ИИ, необходимо учитывать важные вопросы.

Например, как практиковать минимизацию данных при обучении моделей на огромных объемах данных? Какие лучшие способы обеспечить значимую прозрачность для сложных моделей, учитывающих индивидуальные запросы? И как создать подходящие для возраста решения, которые приносят пользу подросткам в мире, управляемом ИИ?

Наша статья предлагает первоначальные мысли по этим темам, сосредотачиваясь на двух ключевых фазах разработки моделей:

• Обучение и разработка
• Приложения, ориентированные на пользователей

На этапе обучения и разработки личные данные, такие как имена или биографические детали, составляют небольшую, но важную часть обучающих данных. Модели используют эти данные, чтобы понять, как язык отражает абстрактные концепции человеческих отношений и окружающего мира.

Эти модели не являются «базами данных» и не предназначены для идентификации людей. Фактически, включение личных данных может помочь уменьшить предвзятость — например, лучше понимая имена из разных культур — и повысить точность и производительность модели.

На уровне приложений риск утечки данных возрастает, но также появляются возможности для внедрения более эффективных мер защиты. Функции, такие как фильтры вывода и автоматическое удаление, становятся здесь жизненно важными.

Приоритет этих мер защиты на уровне приложений не только практичен, но, как мы считаем, является наиболее эффективным путем вперед.

Достижение конфиденциальности через инновации

Хотя большая часть сегодняшнего диалога о конфиденциальности ИИ сосредоточена на снижении рисков — и это правильно, учитывая важность укрепления доверия к ИИ, — генеративный ИИ также имеет потенциал для усиления конфиденциальности пользователей. Мы должны использовать эти возможности.

Генеративный ИИ уже помогает организациям анализировать отзывы о конфиденциальности от больших пользовательских баз и выявлять проблемы соответствия. Он прокладывает путь для новых стратегий киберзащиты. Технологии, повышающие конфиденциальность, такие как синтетические данные и дифференциальная конфиденциальность, показывают, как обеспечить большие общественные выгоды без ущерба для личной информации. Государственные политики и отраслевые стандарты должны поощрять — и не препятствовать — эти позитивные изменения.

Необходимость совместной работы

Законы о конфиденциальности разработаны так, чтобы быть адаптивными, пропорциональными и технологически нейтральными — качества, которые сделали их надежными и долговечными.

Те же принципы применимы в эпоху ИИ, поскольку мы стремимся сбалансировать надежную защиту конфиденциальности с другими основополагающими правами и общественными целями.

Впереди потребуется сотрудничество сообщества конфиденциальности, и Google стремится работать с другими, чтобы обеспечить ответственное использование генеративного ИИ на благо общества.

Вы можете прочитать нашу рабочую статью по политике о генеративном ИИ и конфиденциальности [здесь](link to paper).