Apple Watch의 새로운 AI 기능은 항상 듣는 기술을 정상화합니다

Apple은 소비자에게 새로운 규범을 받아들이도록 장려하고 있습니다: 당신의 기기는 끊임없이 듣고 있다는 것.

수요일 ‘Surprise and Shine’ 아이폰 출시 행사에서 최신 하드웨어가 공개되었지만, 진정한 발견은 rumored foldable iPhone이 아니라, 엄격한 프라이버시 표준으로 알려진 회사가 이제 시계가 실시간 오디오를 처리하고 대화를 실시간으로 변환하도록 계획하는 방식이었습니다.

이것이 근처에 있는 누군가가 Apple Watch를 착용할 때마다 당신이 녹음되고 있다는 것을 의미합니까? 반드시 그런 것은 아니지만, 여전히 많은 사람들에게 불편함을 야기할 수 있습니다.

이 같은 발전은 소비자가 진정으로 이 기술을 원하는지, 아니면 Apple이 OpenAI와 같은 경쟁사들이 경쟁 AI 기기를 출시하기 전에 선제적으로 개발을 가속화했는지에 대한 질문을 제기합니다.

현재 여러 스타트업은 AI 기반 변환이 인공지능의 주요 소비자 응용 분야라는 전제 하에 운영되고 있습니다. 이러한 서비스의 대부분은 회의 기록, 강의, 또는 인터뷰를 변환하는 데 중점을 둡니다. Friend와 같은 AI 펜던트 제조사나 Amazon의 Bee와 같은 몇몇 기업들은 사용자가 일상적인 사건을 기억할 수 있도록 수동적으로 메모를 작성하는 항상 켜져 있는 AI 동반자로 영역을 확장했습니다.

Apple은distinct한 경로를 선택했습니다. 새로운 시계의 ‘오디오 인텔리전스’, ‘Live Rewind’, 그리고 ‘Siri Recap’ 기능을 통해 회사는 침입적인 감시처럼 점점 더 보이는 것과 대조되는 접근성과 유용성 사이의 균형을 맞추고 있습니다.

개별적으로 오디오 인텔리전스는 청각 장애인이나 난청자에게 가치 있는 도구로 보입니다. 이는 기기 내 AI를 사용하여 사이렌, 알람, 초인종, 그리고 우는 아기 같은 소리에 대해 Apple Watch 사용자에게 경고합니다. 이 기능은 iPhone과 독립적으로 작동하며 화재 경보나 일산화탄소 감지기를 감지하는 것과 같은 생명을 구하는 도움까지 제공할 수 있습니다. 대부분의 사람들은 이러한 형태의 오디오 AI를 지지할 것입니다.

이미지 출처:Apple

그러나 Live Rewind과 Siri Recap은 보조 기술을 넘어 더 모호한 영역으로 확장됩니다.

Apple의 데이터 보호 장치가 일부 사용자에게 이러한 기능을 더 수용 가능하게 만들 수 있지만, 프라이버시를 기반으로 한 브랜드에게 청취 기술의 정상화는 의심스러운 전략입니다. 이러한 우려는 Flock 카메라, AI 데이터 센터, 그리고 다양한 AI 응용 프로그램과 같은 감시 도구들에 대한 대중의 반발이 커지면서 더욱 증폭됩니다.

예를 들어, Live Rewind 기능은 디지털 크라운을 두 번 눌러 마지막 15초간의 대화를 검토하고 변환할 수 있게 해줍니다. 이러한 변환 결과는 나중에 참조하기 위해 Apple의 새로운 독립형 Siri 앱에 저장될 수 있습니다.

이미지 출처:Apple

Apple은 이 기능이 사용자가 “도서 추천, 동료의 탁월한 아이디어, 또는 처음에 듣지 못한 것”을 기억하는 데 도움이 될 수 있다고 제안합니다. 그러나 이는 또한 다른 사람들이 녹음되기를 의도하지 않았을 수 있는 진술을 캡처하고 기록할 수 있게 합니다.

이는 윤리적이고 법적 측면에서 중요한 동의 문제를 제기합니다. 예를 들어, AI 기기 제조사 Plaud는 사용자에게 녹음 전에 법적 요구 사항을 충족하는 동의를 얻도록 조언합니다. 마찬가지로, Amazon의 Bee 이용약관은 사용자가 미성년자의 데이터 프라이버시 관련 법률을 준수하는 것이 Amazon이 아닌 사용자 자신에게 전적으로 책임이 있음을 상기시킵니다.

Apple은 오디오 파일을 저장하지 않기 때문에, 이러한 텍스트 전용 변환 결과가 법원에서 어떻게 처리될지는 불분명합니다. 이러한 메모가 증거로 채택될 수 있지만, 오디오 맥락의 부재는 인증과 검증 과정을 복잡하게 만들 수 있습니다. 또한, 이러한 사용에 대한 증거 기준은 관할권에 따라 다를 수 있습니다.

법적 우려 외에도, 시계를 통해 오디오를 녹음할 수 있는 능력은 문화적 함의를 지닙니다.

연구에 따르면, 녹음 장치의 존재와 소셜 미디어 및 데이터 감시 문화는 실제 생활 행동을 변화시킵니다. 언제든지 녹음될 수 있다는 인식은 상호작용과 자기 표현을 억압할 수 있습니다.

이미지 출처:Apple

사진이나 비디오를 촬영하는 것은 일반적으로 스마트폰을 들어 올리고 피사체를 향하는 것과 같은 눈에 띄는 행위가 필요합니다. 반면, 간단한 시계 크누 누르기만으로 변환을 위한 오디오를 캡처하는 것은 Apple이 가청 알림음과 전체 화면 마이크 애니메이션을 포함했음에도 불구하고 훨씬 더 미묘합니다.

또 다른 새로운 기능인 ‘Siri Recap’은 대화의 ‘고수준 메모’를 작성하기 위해 환경 청취를 사용하며, 이는 Siri iOS 앱에서 검토할 수 있습니다. 이러한 메모는verbatim 변환 대신 AI 분석에 기반하여 제목, 요약, 그리고 주요 포인트를 자동으로 생성합니다.

Apple은 이 기능이 회의 결과나 학부모-교사 상담회의 주요 정보를 포착하는 데 유용하다고 제안합니다.

회사는 또한 이러한 청취 기능과 관련하여 사용자 프라이버시 약속을 강조했습니다.

Apple은 Siri Recap이 다른 일부 AI 웨어러블과 달리 기본적으로 활성화되지 않는다고 명시합니다. 사용자는 업무 시간이나 특정 시간대에만 활성화하는 등 활성화 시기를 선택할 수 있으며, 언제든지 제어 센터를 통해 기능을 켜거나 끌 수 있습니다.

특히, Apple은 오디오 녹음을 생성하거나 저장하지 않으며, 원본 오디오는 Apple에게조차 접근할 수 없다고 명시합니다. 시스템은 화자를 식별하거나 귀속하지 않으며, 생성된 변환 결과와 요약을 종단 간 암호화로 보호합니다.

이러한 조치가 사용자가 불편함을 느끼지 않도록 방지하기에 충분한지 여부는 아직 지켜봐야 합니다. Apple은 유용성과 프라이버시 사이의 올바른 균형을 찾았거나, 상당한 소비자 반발을 준비하고 있을 수 있습니다.