Hacker nutzen Face ID in Apple iPhone X um Gefühlslage zu überwachen

Während des Hackerthon 2018 in Westkanada stellte ein Hackerteam die Proof-of-Concept-App Loki vor, die zeigt wie in der Praxis beispielsweise durch die Werbebranche, die Gefühls- und Stimmungslage von iPhone X Nutzer in Echtzeit erkannt werden kann. Das für die App verantwortliche Team besteht aus den Entwicklern Lansi Chu, Kevin Yap, Nathan Tannar und Patrick Huber. Auch verschiedene andere Entwickler hatten schon vor dem Hackerthon vor dem großen Missbrauchspotential, das von der Gesichtserkennungsfunktion Face ID des iPhone X ausgeht, gewarnt.

Die Funktion könnte von Werbetreibenden und Marketingfachleuten dazu genutzt werden, Werbung auszuspielen die noch personalisierter ist als bisher, indem in Echtzeit und vollkommen automatisch erkannt wird, welche Stimmung der Nutzer aktuell hat und welche Reaktion die Werbung beim Nutzer auslöst. Code wie der der App Loki der dies möglich macht, könnte auch in andere Apps integriert werden. Die eigentliche Erkennung der Gefühle basiert auf dem maschinellen Lernen. Anfangs wurden der App knapp 100 Personen vorgeführt und deren Gefühlslage eingegeben.

Bisher kann die App die Gefühle "wütend" (angry), "glücklich" (happy), "traurig" (sad) und "überrascht" (surprised) korrekt zuordnen. Nachdem das Training abgeschlossen war, konnte Loki bereits die Gefühle in Echtzeit und ohne große Fehlerquote zuordnen.

Das Hackerteam um Chu und Co. nennt als Anwendungsmöglichkeiten Werbung in sozialen Netzwerken wie Facebook und Twitter. Anbieter von Werbung könnten mit Hilfe von Loki Werbung nicht nur anhand der demografischen Daten und der Interessen der Nutzer auswählen, sondern zusätzlich auch die Stimmung einbeziehen. Außerdem können sie auch die Reaktion der Nutzer auf verschiedene Inhalte aufzeichnen und dies nutzen um die Werbung weiter zu optimieren.

Interessierte Personen können den Code von Loki auf Github herunterladen. Zum Betrieb des Backend Servers ist Phyton 2 und Postgres 9.4 oder aktueller erforderlich.

Aktuell kann Loki in der Praxis noch nicht eingesetzt werden. Apple müsste dies den App Entwicklern erst erlauben, da die Funktion standardmäßig nicht freigegeben ist. Die gültigen Developer-Bedingungen verbieten die Nutzung der TrueDepth-Kamera für Werbezwecke.

Entwickler können allerdings schon jetzt eine Schnittstelle, die direkt von Apple zur Verfügung gestellt wird nutzen, über die sie 52 Mikrobewegungen des menschlichen Gesichts auswerten können. Die so erhaltenen Daten können ebenfalls genutzt werden, um die Stimmung der Nutzer zu erkennen. Sie sind aber weniger präzise.

Rinat Khanov der das Tool MeasureKit entwickelt hat, äußerte im Dezember bedenken. Laut ihm sei es möglich, dass Apps im Review-Prozess nicht genau geprüft werden und somit trotz verbotener Features in den App Store gelangen. Apple erklärte daraufhin, dass Anwendungen die solche Funktionen enthalten besonders intensiven Prüfungen unterzogen werden, bevor sie freigegeben werden.