Pepijn Stoop | De AI Act
Hij lijkt er eindelijk te komen: de eerste wetgeving voor AI. De Europese AI Act is op 11 mei door twee EU-commissies gekomen en mag door naar het Europese Parlement. Op dit moment werken veel Science Park-studenten aan hun scriptie over een AI-onderwerp. Wat gaat de AI Act betekenen voor het wetenschappelijk onderzoek en voor studenten?
Op het moment dat met de AI Act was ingestemd en ik ontspannen daarover zat te lezen, zat naast mij in het bedompte studiehok een studiegenoot te ploeteren voor zijn scriptie. Het eerste wat ik las, was dat bepaalde artificiële intelligentie straks niet meer zomaar op de markt mag komen. In het lijstje daaronder stond meteen als voorbeeld: ‘fraudedetectie’. Ik vroeg me af of zijn werk straks zou worden ingehaald door de nieuwe wet.
De AI Act is een eerste poging om de AI-sneltrein af te remmen. De wet categoriseert alle AI op basis van de risico’s die het uitrollen ervan oplevert, bijvoorbeeld voor de mensenrechten. De hoogste categorie, ‘onacceptabel’, wordt straks verboden. Hieronder valt ‘social scoring’, het geven van een ‘sociale score’ met gezichtsherkenning aan het gedrag van mensen. Black Mirror-achtige gezichtsherkenning zoals in China komt met de wet dan niet de EU-markt op.
Daarnaast gaat voor AI die niet ‘onacceptabel’ is, maar wel ‘hoog risico’, gelden dat deze alleen na EU-goedkeuring verkocht mag worden. Dat werd tijd: het is best gek dat mijn elektrische tandenborstel aan meer eisen moet voldoen dan een model dat bepaalt of ik fraude heb gepleegd. Het gaat hierbij niet alleen om fraudedetectie, maar ook om AI in de zorg en in het onderwijs. Zo gaan er waarschijnlijk strengere regels gelden voor anti-spieksoftware, waarvan inmiddels bekend is dat die studenten kan discrimineren.
De AI Act is vooral van belang voor bedrijven: zij moeten bij ‘hoog risico’-AI toestemming vragen voordat zij het op de markt mogen brengen. Een keuring gaat waarschijnlijk veel papierwerk opleveren. Merk je daar als student iets van? Waarschijnlijk wel. Zelfs als alleen bedrijven aan eisen moeten gaan voldoen, kan dat AI-innovatie remmen. Een afstudeerstage krijgen bij een AI-bedrijf wordt in dat geval moeilijker. Daarnaast voeden grote AI-ontwikkelingen door bedrijven, zoals gezichtsherkenning, de wetenschap, en andersom. Wat als je scriptie zelf nog wel legaal is, maar het eindproduct niet of beperkt ontwikkeld mag worden?
Gelukkig is de wet nog niet definitief en is er dus ruimte voor onderhandeling. De TU Eindhoven heeft wijzigingen voor de AI Act voorgesteld om het onderzoek meer te ontzien. De wet komt op zijn vroegst pas volgend jaar erdoor, dus afstudeerders kunnen nu zonder extra stress aan het werk. En hopelijk hebben we dan volgend jaar eindelijk een houvast om slechte AI in het onderwijs uit te bannen. Of in ieder geval net zo goed te controleren als mijn tandenborstel.
Pepijn Stoop is student kunstmatige intelligentie.
