Apple AI подчеркивает конфиденциальность, используя синтетические и анонимные данные

Apple усиливает свои позиции в обучении моделей ИИ, применяя новый подход, который исключает сбор или копирование пользовательских данных с iPhone или Mac. В недавнем посте в блоге они ясно дали понять, что используют синтетические данные и дифференциальную конфиденциальность для улучшения функций, таких как краткое изложение электронной почты, не заглядывая в ваши личные письма или сообщения.

Для тех, кто участвует в программе Device Analytics от Apple, вот подробности: модели ИИ Apple будут анализировать синтетические сообщения, похожие на электронные письма, и сравнивать их с небольшим фрагментом вашего реального контента, который остаётся на вашем устройстве. Устройство выбирает синтетическое сообщение, которое лучше всего соответствует вашему образцу, и отправляет информацию об этом совпадении в Apple. Будьте уверены, никакие реальные пользовательские данные не покидают ваше устройство, а Apple получает только обобщённую информацию.

Этот хитрый приём позволяет Apple улучшать свои модели для генерации более длинных текстов, не касаясь реального пользовательского контента. Это умная вариация их давнего использования дифференциальной конфиденциальности, когда они добавляют случайные данные, чтобы скрыть индивидуальные личности. Apple занимается этим с 2016 года, чтобы отслеживать шаблоны использования, при этом придерживаясь своих обещаний о конфиденциальности.

Улучшение Genmoji и других функций Apple Intelligence

Apple уже использует дифференциальную конфиденциальность для улучшения функций, таких как Genmoji. Они собирают общие тенденции по популярным запросам, не связывая ни один запрос с конкретным пользователем или устройством. В будущем они планируют распространить эту магию на другие функции Apple Intelligence, такие как Image Playground, Image Wand, Memories Creation и Writing Tools.

В случае с Genmoji Apple рассылает анонимные опросы на участвующие устройства, чтобы проверить, встречались ли определённые части запросов. Каждое устройство отправляет зашумлённый сигнал — часть реальный, часть случайный. Таким образом, Apple замечает только самые популярные термины, и ни один отдельный ответ не может быть прослежен до вас или вашего устройства, как они утверждают.

Создание синтетических данных для более точных кратких изложений писем

Хотя этот метод оказался успешным для коротких запросов, Apple понадобился новый план для более сложных задач, таких как краткое изложение писем. Они создают тысячи образцов сообщений, превращая их в числовые «вложения» на основе языка, тона и темы. Ваше устройство затем сопоставляет эти вложения с вашими локальными образцами. Опять же, передаётся только информация о совпадении, а не сам контент.

Apple собирает наиболее часто выбираемые синтетические вложения с участвующих устройств и использует их для тонкой настройки своих тренировочных данных. Со временем это помогает системе создавать более релевантные и реалистичные синтетические письма, усиливая возможности ИИ Apple в кратком изложении и генерации текстов, не подвергая риску вашу конфиденциальность.

Тестирование в бета-версии

Apple внедряет эту систему в бета-версиях iOS 18.5, iPadOS 18.5 и macOS 15.5. По словам Марка Гурмана из Bloomberg, Apple таким образом пытается справиться с проблемами в разработке ИИ, включая задержки с запуском функций и последствия смены руководства в команде Siri.

Пока неясно, действительно ли этот подход окупится в плане улучшения результатов ИИ, но это явный знак того, что Apple старается балансировать между конфиденциальностью пользователей и производительностью моделей.