Nieuws

Net als een pittig paard, toont kunstmatige intelligentie (AI) een onstuimige ijver en lijkt het totaal ontembaar te zijn. Paardentraining bracht echter een revolutie teweeg in transport, landbouw, de mobiliteit van legers, werk en vrije tijd, en droeg aanzienlijk bij tot de ontwikkeling van menselijke samenlevingen.

Dat is geruststellend en kunstmatige intelligentie moet worden gereguleerd om beter te voldoen aan de verwachtingen van de wereld waarin het is geboren. Het verwerpen ervan wordt al als een absurde houding beschouwd, aangezien AI onmisbaar is geworden in sectoren als gezondheid, financiën, mobiliteit, handel, energie, onderwijs, industrie en landbouw.

Sommigen zullen zeggen dat de komst van elektrische scooters de mobiliteit vloeiender had moeten maken en tegelijkertijd de CO2-uitstoot had moeten verminderen, maar dat het gebrek aan wetgeving om ze te reguleren er indirect toe heeft geleid dat hun gebruikers overal en onder alle omstandigheden kunnen rijden.

Om te voorkomen dat het gebruik ervan slecht wordt "beheerd" en om optimale omstandigheden voor de ontwikkeling ervan te garanderen, heeft de Europese Unie besloten het gebruik van kunstmatige intelligentie te reguleren.

Vier jaar geleden stelde de Europese Commissie een eerste regelgevend kader voor AI voor. Het Parlement heeft zich toen tot doel gesteld de veiligheid, de transparantie, de traceerbaarheid en het respect voor mens en milieu te waarborgen. Er werd ook een ranglijst gemaakt met de "risico's" die de verschillende toepassingen voor onze beschaving kunnen opleveren.

Op 13 maart 2024 werd een Europese verordening over kunstmatige intelligentie, bekend als de AI Act, aangenomen door het Parlement en vorige maand goedgekeurd door de Europese Raad. Deze baanbrekende wet heeft tot doel de regels voor AI te harmoniseren, met de nadruk op deze "risico's" om de verantwoorde ontwikkeling en het verantwoorde gebruik van deze technologie binnen de EU te waarborgen.

Maar wat zijn eigenlijk de risico's?

Gebaseerd op de EU-wet op kunstmatige intelligentie, volgt hier een gepopulariseerde samenvatting van deze wet en zijn vier "risicoklassen":

1. "Onaanvaardbare risico's", zoals sociale beoordelingssystemen en manipulatieve AI, zijn verboden. Deze onaanvaardbare risico's omvatten cognitieve en gedragsmatige manipulatie van kwetsbare personen of groepen, zoals stemspeelgoed dat kinderen aanzet tot gevaarlijk gedrag, alsook de sociale classificatie van individuen op basis van persoonlijke en sociaaleconomische criteria. Andere verboden zijn onder meer biometrische categorisering en identificatie, evenals real-time biometrische identificatiesystemen op afstand, zoals gezichtsherkenning. 

   Er kunnen echter uitzonderingen worden toegestaan voor bepaalde vormen van gebruik door wetshandhavingsinstanties.

2. AI-systemen met een "hoog risico" omvatten AI-systemen die misbruik kunnen maken van veiligheid en basisrechten: systemen die worden gebruikt in producten die onder de EU-wetgeving inzake productveiligheid vallen (auto's, luchtvaart, speelgoed enz.); maar ook die welke vallen onder specifieke gebieden die aan een databank van de Europese Unie moeten worden toegevoegd (werkgelegenheid, onderwijs, wetshandhaving, enz.).

3. AI-systemen met een "beperkt risico", onderworpen aan transparantieverplichtingen: burgers moeten weten dat ze interactie hebben met een AI (chatbots, deepfakes). Om dit te doen, is het nodig om duidelijk aan te geven welke media of inhoud door een AI zijn gegenereerd. Het is van essentieel belang te erkennen dat elk individu het recht heeft om bezwaar te maken tegen geautomatiseerde verwerking die geen menselijke tussenkomst in het besluitvormingsproces inhoudt. 

   Net als mensen zijn ook systemen vatbaar voor fouten, of deze nu worden veroorzaakt door technische storingen of door vooroordelen (discriminaties) die in de tool zijn ingebouwd.

4. AI-systemen met "minimaal risico". De laatste categorie is (nog) niet gereguleerd en omvat apps zoals videogames en AI-enabled spamfilters.

Deze wet, die in maart 2024 is aangenomen, zal pas over twee jaar volledig worden toegepast, hoewel sommige delen sneller zullen worden uitgevoerd.

Dit is een eerste "theoretische limiet" die verondersteld wordt het gebruik van dit wapen te reguleren, waarvoor specifieke "ethische" training moet worden gegeven aan al haar gebruikers voordat zij volledig beschikbaar wordt gesteld. Een soort AI-licentie misschien?

EU Artificial Intelligence Act : https://artificialintelligenceact.eu/fr/high-level-summary/
CNIL : https://www.cnil.fr/fr/intelligence-artificielle/intelligence-artificielle-de-quoi-parle-t-on

Wij danken graaf Pierre-Alexandre de Lannoy voor het schrijven van dit artikel.