Volgens Amnesty International levert het Wageningse bedrijf Noldus software aan China die ingezet kan worden voor surveillance van onderdrukte groepen zoals Oeigoeren. Directeur Lucas Noldus, bijzonder hoogleraar aan de Radboud Universiteit, stelt echter dat misbruik onmogelijk is.

Boosheid, verbazing, verdriet. Het zijn een paar van de emoties die het softwarepakket FaceReader van Noldus Information Technology kan detecteren. Universitaire labs over de hele wereld maken er gebruik van in wetenschappelijk gedragsonderzoek, van Amerika tot China. En dat laatste is problematisch, stelt Amnesty International deze week op basis van een eigen onderzoek.

Noldus leverde namelijk producten aan verschillende Chinese partijen die links hebben met veiligheidsdiensten. Dit zijn onder andere het Chinese ministerie van Openbare Veiligheid, en de Xinjiang Normal University. Het risico bestaat nu, zegt Amnesty, dat de Chinese overheid de software misbruikt voor leugendetectie bij verhoren of surveillance, zoals van onderdrukte Oeigoeren in de regio Xinjiang.

Ethische toetsing

Volgens Noldus Information Technology zelf is er echter niets aan de hand. ‘Die toepassingen verbieden wij, dat staat heel expliciet in de contracten die we afsluiten’, zegt directeur Lucas Noldus in een telefonische reactie. ‘Ons verkoopbeleid en end-use statement – een verklaring waarvoor de software gebruikt wordt – zijn besproken met het ministerie van Buitenlandse Zaken, de douane, onze ambassade in Beijing, en diverse ethische experts.’

Daarnaast wordt de software ‘onderworpen aan ethische toetsing en uitgevoerd met toestemming van deelnemers en respect voor hun privacy’, schrijft het bedrijf in een persverklaring.

‘Leugendetectie is niet mogelijk met onze software’

Noldus, sinds een jaar ook bijzonder hoogleraar Behaviour, information technology and innovation aan de Radboud Universiteit, baalt van de beschuldigingen. ‘Amnesty komt met zware aantijgingen, maar heeft geen enkel concreet bewijs van misbruik laten zien. Als dat er wel zou zijn of nog komt, kunnen we met één druk op de knop de software op afstand uitschakelen. Dat zouden we dan ook zeker doen.’

Belangrijker nog, FaceReader kán niet eens gebruikt worden om groepen massaal te volgen, stelt Noldus. ‘Je kunt alleen in een labsetting de emoties aflezen van iemand die recht voor de camera zit.’ Ook leugendetectie is onmogelijk, aldus de hoogleraar. ‘Wetenschappelijk is nog nooit aangetoond dat dat kan op basis van het observeren van gelaatsexpressies.’

Strengere regels

Die uitleg schiet tekort, zegt Amnesty-woordvoerster Yara Boff Tonella. ‘Noldus heeft niet laten zien dat het misbruik kan uitsluiten. Dat is internationaal wel verplicht.’ De mensenrechtenorganisatie hoopt dat gezichtsherkenning aan strengere regels wordt gehouden in nieuwe exportregels die de Europese Unie deze week bespreekt.

Moet je wel software voor gedragsonderzoek willen leveren aan landen als China? Noldus vindt van wel. ‘Moeten we dan 20 procent van de wereldbevolking hoogwaardige producten ontzeggen? Laat duidelijk zijn: wij zijn ook tegen mensenrechtenschendingen. Maar de minister-president zegt het zelf: je kunt beter in gesprek blijven met landen als China, en vervolgens goede regels hanteren over dual use van producten (technieken die in theorie ook misbruikt kunnen worden, red.). Dat doen wij via onze gebruikersovereenkomsten.’

Radboud Universiteit stelde kritische vragen

Voor de Radboud Universiteit is het Amnesty-rapport vooralsnog geen reden om de positie van Lucas Noldus als bijzonder hoogleraar te heroverwegen, zegt woordvoerder Martijn Gerritsen. ‘Voorafgaand aan de benoeming van Lucas Noldus als bijzonder hoogleraar zijn ook op dit punt kritische vragen gesteld tijdens de procedure. Hij gaf toen, net als nu, transparante en verhelderende antwoorden.’