In Australien gelten bald strikte Alterslimiten für soziale Netzwerke. Wir haben uns das Tool angeschaut, mit dem Instagram das Alter seiner Nutzer einschätzt – und dabei herausgefunden, wie man es manipuliert.
In rund einem Jahr dürfen Kinder und Jugendliche unter sechzehn Jahren in Australien keine sozialen Netzwerke mehr nutzen. Dies entschied das australische Parlament diese Woche mit grosser Mehrheit. Plattformen wie Instagram, Tiktok oder Snapchat müssen nun eine Altersbeschränkung einbauen. Damit stellt sich die Frage: Mit welcher Technologie werden die Firmen erkennen, wie alt ihre Nutzer sind?
Für Plattformen aus dem Meta-Konzern scheint die Antwort klar: Instagram und die Dating-Seite von Facebook erlaubt es Nutzern, eine staatliche ID hochzuladen. Wer das nicht machen kann oder möchte, kann ein Selfie von sich aufnehmen und sein Alter von einer KI schätzen lassen.
Dazu arbeitet Meta schon seit zwei Jahren mit der britischen Firma Yoti zusammen. Yoti hat einen Algorithmus entwickelt, der das Alter von Menschen erstaunlich gut einschätzen kann. Bei Minderjährigen liegt die durchschnittliche Abweichung zwischen Schätzung und tatsächlichem Alter laut der Eigenangabe bei 1,4 Jahren. Unter 13-Jährige werden mit einer Sicherheit von 97 Prozent erkannt. Eine externe Untersuchung der amerikanischen Behörden bestätigt die Resultate im Grundsatz.
Je älter die Menschen werden, desto schlechter wird die Schätzung. Bei Menschen zwischen sechs und siebzig Jahren liegt die durchschnittliche Abweichung der Schätzung vom realen Alter bei 2,7 Jahren. Damit ist der Algorithmus aber immer noch wesentlich besser als der Mensch: Wir schätzen das Alter von anderen mit einer Genauigkeit von sechs bis acht Jahren.
Dass das Alter von Minderjährigen zuverlässiger erkannt wird, liegt unter anderem daran, dass sich bei Kindern und Jugendlichen die Gesichtszüge schneller verändern als bei Erwachsenen. Kinder sind also wegen ihrer Entwicklung einfacher in Alterskategorien zu platzieren. Ein glücklicher Zufall, da die Altersschätzung ja vor allem dazu da ist, Jugendliche und Kinder zu schützen.
Mit einem Hack entlockt man Yoti eine Altersschätzung
Wer Yoti, das Tool hinter Instagram, selbst ausprobieren möchte, kann eine Demo-Version benutzen, die allerdings etwas umständlich ist. Dazu muss man unter https://yoti.world/checkout/ selbst eine Alterslimite erfinden. Ins obere Feld gibt man am besten immer sein echtes Alter minus eins ein. Im unteren Feld muss man verschiedene Werte ausprobieren. Am besten, man startet mit seinem echten Alter.
Dann klickt man auf «continue» und auf «detect age». Danach muss man sein Gesicht in die Kamera halten. Kommt ein Meldefenster mit «age approved», kann man über den Knopf «restart demo» zurück zur Startseite. Dort gibt man dann ein zweites Alter, das man gerne testen möchte, ins untere Feld ein und wiederholt den Test.
Kommt statt «age approved» ein Informationsfeld mit «further information required», glaubt der Algorithmus, man sei jünger als das eingegebene Alterslimit. Dann muss man mit dem Zurück-Knopf wieder auf die Startseite und den Test neu beginnen, mit einer tieferen Alterslimite im unteren Feld. Mit Herumpröbeln kann man so ermitteln, wie alt der Yoti-Algorithmus einen schätzt.
Veriff: Einfach, aber weniger sicher
Einfacher zu bedienen, aber weniger sicher, ist das Tool Veriff. Auch Veriff verwendet einen KI-Algorithmus, der eine Altersschätzung auf der Basis eines Selfies macht. In den Nutzungsbedingungen versichert Veriff, dass es das Foto des Gesichts weder verkaufen noch teilen werde. Allerdings verspricht das Kleingedruckte bei Veriff anders als bei Yoti nicht explizit, dass die Bilder sofort wieder gelöscht werden. Deshalb ist nicht auszuschliessen, dass man in einer Datenbasis von Veriff landet, wenn man bei diesem Test mitmacht.
Wer es trotzdem ausprobieren möchte, kann auf https://www.veriff.com/demo/age-estimation klicken, den Nutzungsbedingungen zustimmen und dann auf «start challenge» klicken. Dann muss man der Website den Zugriff auf die Kamera des Geräts erlauben und das Gesicht ins Gesichtsfeld halten.
Im Test der NZZ funktioniert Veriff wesentlich schneller auf dem Smartphone als auf dem Laptop. Die Altersschätzung der KI liegt im ersten Versuch nur ein Jahr neben der Wirklichkeit. In einem zweiten Versuch machte mich der Algorithmus allerdings 6 Jahre älter, als ich bin. Der Unterschied: Im zweiten Live-Selfie hatte ich gelächelt.
Yoti schnitt besser ab: Das Tool schätzte mich auf mein tatsächliches Alter, lächelnd aber ebenfalls vier Jahre zu alt.
Lächeln macht alt
Der Effekt ist der Wissenschaft bekannt. Schon Ende 2022 zeigte eine Studie im renommierten Journal «Nature», dass lächelnde Menschen von Algorithmen älter geschätzt werden, als wenn sie mit ernstem Gesicht in die Kamera schauen.
Auf den ersten Blick mag das erstaunen, Menschen geben in der Studie schliesslich an, dass sie lächelnde Personen grundsätzlich als jünger einschätzten als solche mit ernster Miene. Dass der Algorithmus zu einem anderen Schluss kommt, liegt vermutlich an den Falten bei Augen und Mund, die beim Lächeln entstehen, so die Studie.
Obwohl die Technologie also nicht perfekt funktioniert, wird sie rege genutzt. Yoti arbeitet mit Dutzenden bekannten Marken zusammen, unter anderem auch mit dem Zigarettenhersteller Philip Morris, der Videospiel-Plattform Epic Games und der Pornografieseite Onlyfans.
Julie Dawson, die das Lobbying-Team von Yoti leitet, sagt, die Nutzer schätzten die Altersverifizierung über das Live-Selfie. «Wenn sie die Wahl haben zwischen dem Selfie und dem Hochladen eines Dokuments, entscheiden sich 80 Prozent für das Selfie», sagt sie.
Und die Kinder in Australien, die bald nicht mehr auf Instagram dürfen? Die beraten auf der Diskussionsplattform Reddit miteinander, wie sie die Altersverifizierung von Yoti umgehen können: «Verwende ein VPN», schreibt einer. Man möchte anfügen: falls lächeln nicht hilft.
