De opkomst van gezichtsherkenningstechnologie lijkt de wereld te verdelen in goed en slecht, waarbij de grenzen tussen die twee soms flinterdun lijken. De tweeledige aard van gezichtsherkenning komt op scherp te staan in het het recente boek Je gezicht is nu van ons van journalist Kashmir Hill.

Kashmir Hill, journaliste bij de New York Times, bracht afgelopen weken het boek Your Face Belongs To Us uit. Daarin beschrijft ze de ontwikkeling van de startup ClearviewAI. Die verkopen een applicatie waarin je gezichten kan opzoeken. Kort gezegd: stop je er een foto van een willekeurig iemand in en dan krijg je alle foto’s en informatie die van die persoon online te vinden is.

Samen met de originele release kwam ook de Nederlandse vertaling uit bij de fijne nieuwe uitgeverij POM.press. En die laten er geen twijfel over bestaan. ”We kunnen het tij nog keren. Lees Je gezicht is nu van ons, voor het te laat is” zo waarschuwen eigenaren Alexander Klöpping en Ernst-Jan Pfauth ons op de achterflap.

Niet deprimerend

Toen ik op Bluesky aankondigde dat ik het ging lezen kreeg ik dan ook de vraag of dat niet een ‘heel deprimerend’ boek was. En eerlijk, daar had ik me ook op voorbereid. Maar dat viel uiteindelijk reuze mee. En Klöpping en Pfauth klonken in hun podcast en live-event met Hill een stuk optimistischer dan ze in op de achterflap van hun eerste uitgave deden.

Aan de positieve kant van de medaille biedt gezichtsherkenning namelijk ongekende voordelen. Zo wordt het inmiddels door politiekorpsen wereldwijd ingezet voor de identificatie van criminelen en het oplossen van misdaden. Onze samenleving kan er dus een stuk veiliger op worden. En hoe handig is het niet als je geen wachtwoord meer moet onthouden maar toegang tot apparaten en systemen kan krijgen met alleen een (scan van) je gezicht?

Niet 100% accuraat

Aan de andere kant zijn er verontrustende gevallen bekend van misbruik. Denk aan China, waar gezichtsherkenning wordt ingezet om niet alleen verkeersovertredingen te monitoren, maar ook of burgers in pyama de straat op gaan. Of waarbij winkeldieven op een lijst worden gezet en hun identiteit openbaar wordt gemaakt.

Hill beschrijft in haar boek ook een misselijkmakend geval uit de VS. Ze vertelt hoe een zwarte man voor de ogen van zijn gezin werd opgepakt voor een misdrijf omdat de software van ClearviewAI hem per ongeluk verward had met iemand anders. Ja, de software van ClearviewAI is niet 100% accuraat. Sorry dat we je even een paar dagen in de cel hebben gegooid: foutje, bedankt!

Pimeyes

ClearviewAI is (nog) niet toegankelijk voor het grote publiek, en dat is misschien maar goed ook. Al bestaan er andere applicaties die hetzelfde doen, zij het in ‘lichtere mate’. Zo is er de bekende website Pimeyes waar je mensen in kan opsporen op basis van hun foto’s – ook al is dat niet de bedoeling (zo stelt ook de site zelf). Het geval van een (inmiddels verwijderd) TikTok-account dat mensen opzocht op Pimeyes en resultaten op TikTok deelde, laat zien hoe gemakkelijk het is dit soort informatie te misbruiken.

Wel is er een belangrijk verschil tussen ClearviewAI en Pimeyes. ClearviewAI haalt afbeeldingen en informatie van sociale media en heeft dubieuze methoden ingezet om bepaalde beeldbanken aan te maken, terwijl Pimeyes dat niet doet.

Regelgeving en Verantwoordelijkheid

Wat Hill in haar boek duidelijk maakt, is dat de toepassing van gezichtsherkenning moeilijk te voorspellen is. Mensen gebruiken het voor diverse doeleinden, soms in overeenstemming met de wet en ethiek, soms niet. De opkomst van gezichtsherkenning stelt ons dan ook voor een reeks belangrijke vragen. Hoe kunnen we deze technologie verantwoord inzetten? Hoe beschermen we de privacy van individuen? Het is een kwestie van striktere privacywetgeving en bedrijfsethiek.

De toekomst van gezichtsherkenning ligt dan ook in onze handen. Het is van cruciaal belang dat we de technologie op een verantwoorde manier benutten. Bedrijven moeten niet alleen uit zijn op winst, maar ook op ethische en verantwoorde toepassing.

Onze Rol in de Technologische Revolutie

Het boek Je gezicht is nu van ons toont ons de complexiteit van gezichtsherkenning. De technologie is een krachtig instrument, maar hoe we het gebruiken, bepaalt de toekomst. Het is aan ons om ervoor te zorgen dat we het in de juiste richting sturen, met respect voor de privacy en de waardigheid van elk individu.

Geen idee wat je zelf kan doen? Tijdens het POM-event deelden uitgever en auteur o.a. deze tips:

• Wees je bewust van wat je online zet. Andere mensen kunnen ook foto’s van je online zetten, soms zelfs onbewust, dat hou je niet tegen. Maar je kan zelf wel voorzichtig zijn met wat je op het net zet. Denk bijvoorbeeld ook aan foto’s van je kinderen.
• IJver mee voor striktere privacywetten en stimuleer beleidsmakers om na te denken over regels m.b.t. de content die je in een systeem of applicatie stopt (denk aan generatieve AI), regels over hoe het mag gebruikt worden (vb. hoe lang bepaalde data bewaard wordt).
• Organisaties kunnen ook zelf nadenken over hoe zij omgaan met gezichtsherkenning. Zo heeft de New York Times een interne route afgesproken waardoor journalisten niet zomaar foto’s in gezichtsherkenningsapplicaties mogen stoppen, verschillende afdelingen checken eerst of het wel ethisch verantwoord en legaal is.
• Lees het boek van Kashmir Hill en vertel erover aan je vrienden.
• Sluit je aan bij een beweging zoals Reclaim Your Face.

Wanneer Klöpping en Pfauth ons op het hart drukken dat ‘het tij nog te keren valt’ is dat laatste helemaal waar. Met het uitbrengen van de vertaling hebben ze alvast heel wat aandacht gegenereerd voor het onderwerp. Nu hopen dat nog meer mensen dit boek lezen.