Op 21 april 2021 heeft de Europese Commissie een wetgevingsvoorstel op tafel gelegd voor het gebruik van artificiële intelligentie (AI). In dit voorstel worden verplichtingen vastgesteld die zullen gelden voor aanbieders en gebruikers van risicovolle AI-systemen. De doelstellingen van deze nieuwe wetgeving zijn onder andere om ervoor te zorgen dat AI-systemen, die in de EU op de markt worden gebracht en gebruikt, veilig en te vertrouwen zijn en voldoen aan de grondrechten en waarden van de Unie.
Het voorstel volgt een op risico gebaseerde aanpak, waarbij in drie lijsten onderscheid wordt gemaakt tussen toepassingen van AI die i) een onaanvaardbaar risico, ii) een hoog risico, en iii) een laag of minimaal risico met zich brengen.
Op de rode lijst staan toepassingen met artificiële intelligentie, die bijvoorbeeld zien op het op afstand gebruik maken van “real time” biometrische identificatiesystemen in voor het publiek toegankelijke ruimten ten behoeve van de rechtshandhaving. Die toepassing is verboden, tenzij aan nadere voorwaarden wordt voldaan.
Een tweede lijst bevat AI-toepassingen met een hoog risico in sectoren als robotica, gezondheid, klimaat, overheid en politie. Die toepassingen moeten worden goedgekeurd voordat ze op de Europese markt komen. Voorkomen moet worden dat toepassing van een AI-systeem leidt tot discriminatie van bijvoorbeeld minderheidsgroepen bij het aanvragen van een krediet op uitkering.
De derde lijst betreft toepassingen met een laag of minimaal risico. Voor het gebruik van chatbots bijvoorbeeld, geldt dat transparantie is vereist. Het moet voor de gebruiker vooraf duidelijk zijn dat je met een robot spreekt en niet met een mens.
Op overtreding van de verordening staan boetes, die kunnen oplopen tot 30 miljoen euro of 6 procent van de omzet.
Het voorstel van de Europese Commissie moet nog worden beoordeeld door het Europees Parlement en de Raad van de Europese Unie. De verwachting is dat de verordening over een paar jaar in werking treedt.
