• De Autoriteit Persoonsgegevens (AP) en de andere Europese privacywaakhonden roepen op tot een verbod op gezichtsherkenningscamera’s.
  • De risico’s van gezichtsherkenning zijn volgens de toezichthouders te groot.
  • “Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij”, zegt AP-voorzitter Aleid Wolfsen.

Slimme camera’s die gezichten van voorbijgangers scannen en mensen in een fractie van een seconde kunnen identificeren, zouden verboden moeten worden. Daartoe roepen de Autoriteit Persoonsgegevens (AP) en de andere Europese privacywaakhonden op. “‘Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij”, aldus AP-voorzitter Aleid Wolfsen.

De risico’s van gezichtsherkenning zijn te groot, vinden de toezichthouders. Zulke systemen kunnen volgens Wolfsen leiden tot een samenleving “waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn.”

De instanties hebben dezelfde bezwaren tegen systemen die stemmen, bewegingen of emoties moeten herkennen. Ook willen ze een verbod op kunstmatige intelligentie waarmee mensen kunnen worden ingedeeld op geslacht, geaardheid of etnische achtergrond. Dit kan namelijk leiden tot discriminatie. “Wij kiezen ervoor om te voorkomen dat systemen mensen kunnen discrimineren. Wij hebben in Nederland met de Toeslagenaffaire gezien hoe fout dat kan gaan.”

De waakhonden reageren op de plannen van de Europese Commissie. Brussel wil het onder meer mogelijk maken om kunstmatige intelligentie te gebruiken in de strijd tegen misdaad. Die plannen zijn nog niet klaar. Bovendien moeten de lidstaten en het Europees Parlement zich er nog over buigen.

Chinese AI-systemen

Uit een in januari gepubliceerd Brits-Amerikaans onderzoek blijkt dat in China maar liefst 27 bedrijven werken aan kunstmatige intelligentie die emoties kan herkennen. Een van die bedrijven is Taigusys.

Dat bedrijf heeft een AI-systeem voor emotieherkenning ontwikkeld dat de gezichtsuitdrukkingen van mensen volgen en gedetailleerde rapporten maken over hoe iemand zich precies voelt. Taigusys rekent multinationals als Huawei, China Mobile, China Unicom en PetroChina onder haar belangrijkste klanten, hoewel het onduidelijk is of deze bedrijven deze kunstmatige intelligentie ook daadwerkelijk gebruiken.

“Door de analyse van iemands gelaatstrekken kan het systeem berekenen hoe confronterend, gestrest of nerveus iemand is, naast andere statistieken. We kunnen ook iemands emotionele reactie analyseren en uitzoeken of ze iets verdachts van plan zijn”, zegt het bedrijf in een productomschrijving van het systeem.

LEES OOK: Chinese techbedrijven gebruiken software om te controleren of personeel wel 12 uur per dag werkt

Lees ook op Business Insider