Os novos recursos de IA do Apple Watch normalizam a tecnologia de escuta constante

A Apple está incentivando os consumidores a abraçar uma nova norma: seus dispositivos estão constantemente ouvindo.

Durante o lançamento do iPhone “Surprise and Shine” de quarta-feira, que revelou o mais recente hardware, a verdadeira revelação não foi o iPhone dobrável, conforme rumores, mas sim como uma empresa conhecida por seus rigorosos padrões de privacidade agora planeja permitir que seus relógios processem áudio em tempo real e transcrevam conversas instantaneamente.

Isso implica que você está sendo gravado sempre que alguém nas proximidades usa um Apple Watch? Não necessariamente, embora isso ainda possa causar desconforto a muitos.

Este desenvolvimento também levanta questões sobre se os consumidores realmente desejam essa tecnologia ou se a Apple acelerou seu desenvolvimento para antecipar concorrentes como a OpenAI no lançamento de dispositivos de IA rivais.

Atualmente, várias startups operam com a premissa de que a transcrição impulsionada por IA é uma aplicação principal de consumo para a inteligência artificial. A maioria desses serviços foca na transcrição de anotações de reuniões, palestras ou entrevistas. Algumas empresas, como a Friend, fabricante de pingentes de IA, e a Bee da Amazon, expandiram-se para companheiros de IA sempre ativos que tomam notas passivamente para ajudar os usuários a recordar eventos diários.

A Apple escolheu um caminho distinto. Através das funcionalidades “audio intelligence”, “Live Rewind” e “Siri Recap” de seus novos relógios, a empresa está equilibrando acessibilidade e utilidade contra o que cada vez mais se assemelha a uma vigilância invasiva.

Individualmente, a Audio Intelligence parece ser uma ferramenta valiosa para pessoas surdas ou com deficiência auditiva. Ela usa IA no dispositivo para alertar os usuários do Apple Watch sobre sons como sirenes, alarmes, campainhas e bebês chorando. Essa funcionalidade opera independentemente do iPhone e pode até oferecer ajuda que salva vidas, como detectar alarmes de incêndio ou detectores de monóxido de carbono. A maioria das pessoas provavelmente apoiaria essa forma de áudio com IA.

Créditos da Imagem:Apple

No entanto, o Live Rewind e o Siri Recap vão além da tecnologia assistiva para um terreno mais ambíguo.

Embora as salvaguardas de dados da Apple possam tornar esses recursos mais aceitáveis para alguns, normalizar a tecnologia de escuta continua sendo uma estratégia questionável para uma marca construída sobre a privacidade. Essa preocupação é amplificada pelo crescente rejeição pública contra ferramentas de vigilância como as câmeras Flock, centros de dados de IA e várias aplicações de IA.

Por exemplo, o recurso Live Rewind permite que os usuários revisem e transcrevam os últimos 15 segundos de conversa ao pressionar duas vezes a coroa digital. Essas transcrições podem ser salvas no novo aplicativo independente Siri da Apple para referência posterior.

Créditos da Imagem:Apple

A Apple sugere que este recurso pode ajudar os usuários a lembrar “recomendações de livros, uma ideia brilhante de um colega ou algo que você não ouviu na primeira vez”. No entanto, também permite que os usuários capturem e gravem declarações que outros podem não ter pretendido que fossem gravadas.

Isso levanta questões significativas de consentimento, tanto eticamente quanto legalmente. O fabricante de dispositivos de IA Plaud, por exemplo, aconselha os usuários a obter o consentimento exigido por lei antes de gravar. Da mesma forma, os termos de serviço da Bee da Amazon lembram os usuários de que eles são os únicos responsáveis por cumprir as leis relativas à privacidade dos dados de menores, e não a Amazon.

Como a Apple não armazena arquivos de áudio, permanece unclear como os tribunais tratarão essas transcrições apenas em texto. Embora essas notas possam ser admitidas como prova, a falta de contexto de áudio pode complicar a autenticação e a verificação. Além disso, os padrões probatórios para seu uso podem variar por jurisdição.

Além das preocupações legais, a capacidade de gravar áudio por meio de um relógio carrega implicações culturais.

Estudos mostraram que a presença de dispositivos de gravação, juntamente com a cultura de mídia social e vigilância de dados, altera o comportamento da vida real. A consciência de que se pode ser gravado a qualquer momento pode suprimir a interação e a autoexpressão.

Créditos da Imagem:Apple

Gravar uma foto ou vídeo geralmente requer uma ação conspicua, como segurar um telefone e apontá-lo para o sujeito. Em contraste, capturar áudio para transcrição por meio de uma simples pressão na coroa do relógio é muito mais sutil, apesar da inclusão pela Apple de um som de campainha audível e de uma animação de microfone em tela cheia.

Outro novo recurso, “Siri Recap”, usa escuta ambiente para “tomar notas de alto nível” de conversas, que podem ser revisadas no aplicativo Siri para iOS. Essas notas geram automaticamente títulos, resumos e pontos-chave com base na análise de IA, em vez de fornecer transcrições palavra por palavra.

A Apple sugere que este recurso é útil para capturar conclusões de reuniões ou informações-chave de reuniões entre pais e professores.

A empresa também enfatizou seu compromisso com a privacidade do usuário em relação a esses recursos de escuta.

A Apple observa que o Siri Recap não está ativado por padrão, ao contrário de alguns outros wearables de IA. Os usuários podem escolher quando ativá-lo, como apenas durante o horário comercial ou em horários específicos do dia, e podem alternar o recurso para ligado ou desligado por meio do Centro de Controle a qualquer momento.

Notavelmente, a Apple afirma que não cria nem armazena gravações de áudio, e o áudio bruto permanece inacessível, mesmo para a Apple. O sistema também evita identificar ou atribuir falantes, e protege as transcrições e resumos gerados com criptografia de ponta a ponta.

Se essas medidas são suficientes para impedir que os usuários se sintam desconfortáveis ainda está por ver. A Apple either atingiu o equilíbrio certo entre utilidade e privacidade ou está se preparando para um grande rejeição dos consumidores.