AI-verordening gaat van kracht 

Het doel van de AI-verordening

De AI-verordening is de eerste uitgebreide wetgeving op het gebied van kunstmatige intelligentie. Het doel van deze verordening is om de fundamentele rechten van burgers te beschermen wanneer zij in aanraking komen met AI-systemen. Bedrijven, overheden en andere organisaties die AI-systemen ontwikkelen of aanbieden, moeten voldoen aan strenge vereisten. Organisaties die AI-systemen inzetten weten hierdoor dat de systemen van hoge kwaliteit zijn en geen fundamentele rechten schenden. Daarnaast zorgt deze wet ervoor dat iedereen in Europa erop kan vertrouwen dat AI-systemen veilig werken en dat grondrechten beschermd zijn. Bovendien heeft de wet als doel om de voordelen van AI-systemen te benadrukken. In de wet wordt namelijk ook een categorie AI-systemen genoemd die weinig risico’s met zich meebrengen, waardoor deze systemen veilig kunnen worden aangeboden. 

Categorieën AI-systemen

De AI-verordening deelt AI-systemen in op basis van het risico. Voor elke categorie gelden verschillenden vereisten, afhankelijk van het risico dat de betreffende categorie met zich meebrengt. De indeling van de categorieën is als volgt: 

1. Verboden AI-systemen: deze systemen brengen een onaanvaardbaar risico voor de fundamentele rechten van burgers met zich mee, waardoor ze volledig verboden zijn. Een voorbeeld is het automatisch indelen van mensen in categorieën op basis van biometrische gegevens. 
2. Hoog risico AI-systemen: deze systemen vormen een hoog risico voor de fundamentele rechten van burgers. Voorbeelden zijn AI-systemen voor werving en selectie van sollicitanten. Deze systemen moeten aan strenge vereisten voldoen, onder andere met betrekking tot transparantie. Daarnaast moet er een uitgebreide risico-analyse worden uitgevoerd. 
3. Beperk risico AI-systemen: deze systemen vormen een beperkt risico voor de fundamentele rechten van burgers. Het gaat hier veelal om AI-systemen die ervoor zijn bedoeld om in contact te komen met mensen, zoals chatbots. Deze systemen moeten voldoen aan enkele transparantieverplichtingen. Zo moeten bedrijven gebruikers informeren dat ze te maken hebben met een AI-systeem. 
4. AI-systemen met weinig risico: systemen die weinig tot geen risico opleveren voor de fundamentele rechten. Deze systemen hoeven niet aan extra vereisten te voldoen en kunnen veilig worden aangeboden en gebruikt. 

Wie krijgen er te maken met de nieuwe AI verordering?

De AI-verordening is van toepassing op zowel aanbieders en aanbieders van AI als organisaties die AI gebruiken in hun dienstverlening. Aanbieders en ontwikkelaars moeten ervoor zorgen dat AI-systemen voldoen aan de eisen voordat ze de systemen op de markt brengen. Organisaties die AI-systemen gebruiken, moeten onder andere zorgen dat er voldoende kennis is over het systeem binnen de organisatie en menselijk toezicht op beslissingen die door het systeem gemaakt worden. Naast aanbieders, ontwikkelaars en gebruikende organisaties zijn er ook andere categorieën die invloed ondervinden van de AI-verordening. Deze categorieën zijn: 

• AI-aanbieder: Brengt AI op de markt onder haar eigen naam 

• Importeur: Brengt AI naar de Europese markt 

• Gemachtigde: Is de vertegenwoordiger van de aanbieder op de Europese markt 

• Distributeur: Schakel tussen de aanbieder en gebruikersverantwoordelijke 

• Gebruikersverantwoordelijke: Bepaalt de wijze waarop AI wordt ingezet 

• Betrokkene/ getroffen personen: Merkt effect van het gebruik van AI 

• Gebruiker: Maakt gebruik van AI 

Niet al deze categorieën moeten voldoen aan de vereisten van de AI-verordening. Voor de betrokkenen zijn er rechten vastgelegd in de AI-verordening, waar hij een beroep op kan doen. Een voorbeeld van een dergelijk recht is het recht op uitleg bij AI-gegenereerde beslissingen, wat inhoudt dat de betrokkene kan vragen om een uitleg hoe de AI tot een bepaalde beslissing, die hem beïnvloedt, is gekomen. Dit borgt de transparantie van AI.  

Wat kunnen organisaties nu doen?

Hoewel het nog een aantal jaar duurt voordat de gehele AI-verordening in werking is getreden, is het aan te bevelen om als organisatie alvast voorbereidingen te treffen om tijdig aan de vereisten te voldoen. Als uw organisatie AI-systemen ontwikkelt, aanbiedt of gebruikt, kunt u de volgende stappen doorlopen: 

1. Bepaal in welke categorie uw AI-systeem valt. Indien het AI-systeem in de categorie ‘weinig risico’ valt, hoeven de volgende stappen niet te worden doorlopen.  
2. Indien uw AI-systeem valt in de categorie ‘verboden’, moet u zorgen dat dit systeem niet meer wordt aangeboden of gebruikt voor 1 februari 2025.  
3. Indien uw AI-systeem in één van de andere categorieën valt, kunt u starten met het voorbereiden op de verplichtingen die deze categorieën met zich meebrengen. 

Meer informatie

Wilt u weten hoe Van Oers u kan helpen om ervoor te zorgen dat uw organisatie volledig voldoet aan de nieuwe AI-verordening? Neem contact op met een van onze specialisten via onderstaande button of per mail: IT-Advies@vanoers.nl