Apple AI는 합성 및 익명화 된 데이터를 사용하여 개인 정보를 강조합니다

Apple은 iPhone이나 Mac에서 사용자 데이터를 수집하거나 복사하지 않는 새로운 접근 방식으로 AI 모델 훈련에서 한 단계 더 나아가고 있습니다. 최근 블로그 포스트에서 그들은 이메일 요약과 같은 기능을 향상시키기 위해 합성 데이터와 차등 프라이버시를 고수하며, 개인 이메일이나 메시지에 접근하지 않는다고 분명히 밝혔습니다.

Apple의 Device Analytics 프로그램에 참여한 사용자들을 위해 간단히 설명하자면: Apple의 AI 모델은 합성 이메일과 유사한 메시지를 검토하고, 이는 여러분의 실제 콘텐츠의 작은 조각과 비교되며, 이 콘텐츠는 여러분의 기기에 안전하게 보관됩니다. 기기는 여러분의 샘플과 가장 잘 맞는 합성 메시지를 골라내고 그 일치 정보에 대한 데이터를 Apple에 전송합니다. 안심하세요, 실제 사용자 데이터는 기기를 떠나지 않으며, Apple은 전체적인, 집계된 정보만 받습니다.

이 멋진 기술은 Apple이 실제 사용자 콘텐츠를 건드리지 않고 더 긴 텍스트 생성을 위한 모델을 강화할 수 있게 합니다. 이는 그들이 오랫동안 사용해온 차등 프라이버시의 영리한 변형으로, 개인 신원을 감추기 위해 무작위 데이터를 추가합니다. Apple은 2016년부터 사용 패턴을 파악하기 위해 이를 사용해왔으며, 프라이버시 약속을 지키고 있습니다.

Genmoji 및 기타 Apple Intelligence 기능 강화

Apple은 이미 Genmoji와 같은 기능을 강화하기 위해 차등 프라이버시를 사용하고 있습니다. 그들은 특정 사용자나 기기에 연결하지 않고 인기 있는 프롬프트에 대한 일반적인 트렌드를 수집합니다. 앞으로 그들은 Image Playground, Image Wand, Memories Creation, Writing Tools와 같은 다른 Apple Intelligence 기능에도 이 마법을 확장할 계획입니다.

Genmoji의 경우, Apple은 참여 기기에 익명 설문조사를 보내 특정 프롬프트 조각이 확인되었는지 확인합니다. 각 기기는 일부는 실제, 일부는 무작위화된 노이즈 신호를 반환합니다. 이렇게 하면 가장 인기 있는 용어만 Apple의 주목을 받고, 단일 응답은 여러분이나 여러분의 기기로 추적될 수 없다고 그들은 주장합니다.

더 날카로운 이메일 요약을 위한 합성 데이터 제작

이 방법은 짧은 프롬프트에 성공적이었지만, Apple은 이메일 요약과 같은 더 복잡한 작업을 위해 새로운 전략이 필요했습니다. 그들은 수천 개의 샘플 메시지를 만들어 언어, 톤, 주제에 따라 숫자 '임베딩'으로 변환합니다. 여러분의 기기는 이러한 임베딩을 로컬 샘플과 비교합니다. 다시 말해, 콘텐츠 자체가 아닌 일치 정보만 공유됩니다.

Apple은 참여 기기에서 가장 일반적으로 선택된 합성 임베딩을 수집하고 이를 훈련 데이터를 미세 조정하는 데 사용합니다. 시간이 지남에 따라 이는 시스템이 더 관련성 있고 생생한 합성 이메일을 생성하도록 도와 Apple의 AI가 요약 및 텍스트 생성에서 프라이버시를 위험에 빠뜨리지 않고 능력을 향상시킵니다.

베타 버전에서 시험 중

Apple은 iOS 18.5, iPadOS 18.5, macOS 15.5의 베타 버전에서 이 시스템을 출시하고 있습니다. Bloomberg의 Mark Gurman에 따르면, Apple은 이런 방식으로 AI 개발의 문제를 해결하려 하고 있으며, 여기에는 기능 출시 지연과 Siri 팀의 리더십 변화로 인한 여파가 포함됩니다.

이 접근 방식이 더 나은 AI 출력으로 실제로 보답할지는 아직 미지수이지만, Apple이 사용자 프라이버시와 모델 성능을 조화시키기 위해 열심히 노력하고 있다는 분명한 신호입니다.