Die neuen KI-Funktionen der Apple Watch normalisieren die immer-aktive Technologie

Apple drängt Verbraucher dazu, eine neue Norm zu akzeptieren: Ihre Geräte hören ständig zu.

Während der „Surprise and Shine“-iPhone-Veranstaltung am Mittwoch, bei der die neueste Hardware vorgestellt wurde, war die eigentliche Enthüllung nicht das gerüchtete faltbare iPhone, sondern vielmehr, wie ein Unternehmen, das für strenge Datenschutzstandards bekannt ist, nun plant, seine Uhren so auszustatten, dass sie Live-Audio verarbeiten und Gespräche in Echtzeit transkribieren können.

Impliziert dies, dass Sie jedes Mal aufgezeichnet werden, wenn sich jemand in der Nähe eine Apple Watch trägt? Nicht unbedingt, obwohl dies viele dennoch verunsichern könnte.

Diese Entwicklung wirft zudem die Frage auf, ob Verbraucher diese Technologie wirklich wünschen oder ob Apple die Entwicklung beschleunigt hat, um Konkurrenten wie OpenAI zuvorzukommen, die rivalisierende KI-Geräte auf den Markt bringen könnten.

Derzeit basieren mehrere Startups auf der Prämisse, dass KI-gestützte Transkription eine primäre Verbraucheranwendung für künstliche Intelligenz darstellt. Die meisten dieser Dienste konzentrieren sich auf die Transkription von Meeting-Notizen, Vorlesungen oder Interviews. Einige Unternehmen, wie der Hersteller von KI-Anhängern „Friend“ und Amazons „Bee“, sind zudem zu immer aktiven KI-Begleitern geworden, die passiv Notizen machen, um Nutzern zu helfen, sich an tägliche Ereignisse zu erinnern.

Apple hat einen distincten Weg gewählt. Durch die Funktionen „Audio Intelligence“, „Live Rewind“ und „Siri Recap“ seiner neuen Uhren balanciert das Unternehmen Zugänglichkeit und Nutzen gegen das, was zunehmend wie invasive Überwachung aussieht.

Einzeln betrachtet erscheint Audio Intelligence als wertvolles Werkzeug für Menschen, die gehörlos oder schwerhörig sind. Es nutzt On-Device-KI, um Apple Watch-Nutzer auf Geräusche wie Sirenen, Alarme, Türklingeln und weinende Babys aufmerksam zu machen. Diese Funktion arbeitet unabhängig vom iPhone und kann sogar lebensrettende Hilfe leisten, etwa durch das Erkennen von Feueralarmen oder Kohlenmonoxidmeldern. Die meisten Menschen würden diese Form von Audio-KI wahrscheinlich unterstützen.

Bildnachweis:Apple

Live Rewind und Siri Recap gehen jedoch über assistive Technologien hinaus in einen eher unklaren Bereich.

Zwar könnten Apples Datensicherheitsmaßnahmen diese Funktionen für einige akzeptabler machen, doch die Normalisierung von Hörfunktechnologie bleibt eine fragwürdige Strategie für eine Marke, die auf Privatsphäre aufgebaut ist. Diese Bedenken werden durch die wachsende öffentliche Ablehnung von Überwachungstools wie Flock-Kameras, KI-Datencentern und verschiedenen KI-Anwendungen verstärkt.

Beispielsweise ermöglicht die Funktion Live Rewind Nutzern, die letzten 15 Sekunden eines Gesprächs durch zweimaliges Drücken der Digital Crown zu überprüfen und zu transkribieren. Diese Transkripte können in Apples neuer, eigenständiger Siri-App gespeichert werden, um sie später nachzuschlagen.

Bildnachweis:Apple

Apple schlägt vor, dass diese Funktion Nutzern helfen könnte, sich an „Buchempfehlungen, eine brillante Idee eines Kollegen oder etwas, das sie beim ersten Mal nicht gehört haben“, zu erinnern. Sie ermöglicht es Nutzern jedoch auch, Aussagen festzuhalten und aufzuzeichnen, die andere möglicherweise nicht aufgezeichnet wissen wollten.

Dies wirft erhebliche Einwilligungsprobleme auf, sowohl ethisch als auch rechtlich. Der KI-Gerätehersteller Plaud rät Nutzern beispielsweise, die gesetzlich erforderliche Einwilligung einzuholen, bevor sie aufnehmen. Ebenso weisen die Nutzungsbedingungen von Amazons Bee die Nutzer darauf hin, dass sie allein dafür verantwortlich sind, Gesetze zum Datenschutz von Minderjährigen einzuhalten, nicht jedoch Amazon.

Da Apple keine Audiodateien speichert, ist unklar, wie Gerichte diese rein textbasierten Transkripte behandeln werden. Während solche Notizen möglicherweise als Beweismittel zugelassen werden, könnte ihr Fehlen an Audio-Kontext die Authentifizierung und Verifizierung erschweren. Darüber hinaus können sich die Beweisstandards für ihre Verwendung je nach Gerichtsbarkeit unterscheiden.

Über die rechtlichen Bedenken hinaus hat die Möglichkeit, Audio über eine Uhr aufzunehmen, kulturelle Implikationen.

Studien haben gezeigt, dass das Vorhandensein von Aufnahmegeräten sowie die Kultur der sozialen Medien und der Datenüberwachung das Verhalten im echten Leben verändern. Das Bewusstsein, jederzeit aufgezeichnet zu werden, kann Interaktion und Selbstausdruck unterdrücken.

Bildnachweis:Apple

Das Aufnehmen eines Fotos oder Videos erfordert in der Regel eine offensichtliche Handlung, wie das Hochhalten eines Telefons und das Richten auf das Motiv. Im Gegensatz dazu ist das Erfassen von Audio zur Transkription durch einfaches Drücken der Uhrenkrone weitaus subtiler, trotz des von Apple eingefügten hörbaren Signals und der Vollbild-Mikrofonanimation.

Eine weitere neue Funktion, „Siri Recap“, nutzt Umgebungs-Hören, um „hochwertige Notizen“ von Gesprächen zu erstellen, die in der Siri-iOS-App überprüft werden können. Diese Notizen generieren automatisch Titel, Zusammenfassungen und Kernpunkte basierend auf KI-Analysen, anstatt wörtliche Transkripte bereitzustellen.

Apple schlägt vor, dass diese Funktion nützlich ist, um Meeting-Ergebnisse oder Schlüsselinformationen aus Eltern-Lehrer-Gesprächen festzuhalten.

Das Unternehmen betonte zudem sein Engagement für die Privatsphäre der Nutzer in Bezug auf diese Hörfunktionen.

Apple stellt fest, dass Siri Recap nicht standardmäßig aktiviert ist, im Gegensatz zu einigen anderen KI-Tragbaren. Nutzer können selbst entscheiden, wann sie es aktivieren möchten, beispielsweise nur während der Arbeitszeiten oder zu bestimmten Tageszeiten, und können die Funktion jederzeit über das Bedienfeld ein- oder ausschalten.

Bemerkenswerterweise gibt Apple an, dass es keine Audioaufnahmen erstellt oder speichert und dass rohe Audioaufnahmen selbst für Apple unzugänglich bleiben. Das System vermeidet zudem die Identifizierung oder Zuordnung von Sprechern und schützt generierte Transkripte und Zusammenfassungen durch Ende-zu-Ende-Verschlüsselung.

Ob diese Maßnahmen ausreichen, um zu verhindern, dass sich Nutzer unwohl fühlen, bleibt abzuwarten. Apple hat entweder das richtige Gleichgewicht zwischen Nutzen und Privatsphäre gefunden oder bereitet sich auf erheblichen Verbraucherprotest vor.