De ontwikkelingen op het gebied van artificial intelligence (AI) volgen elkaar snel op. De Europese Unie (EU) beoogt een inhaalslag te maken op AI-gebied. Streven is om op het wereldtoneel te kunnen wedijveren met de koplopers. Lees in de blog van Rens Goudsmit onze conclusies op de white paper van de EU over dit onderwerp.
Op 19 februari 2020 publiceerde de Europese Commissie (EC) een white paper over de regulering van AI binnen de EU. Door middel van deze Europese datastrategie beoogt de EU een toonaangevende positie te verwerven ten aanzien van (digitale) dataverwerking. Naast het bevorderen van innovatie op het gebied van AI wordt ook het belang van de ontwikkeling van ethisch verantwoorde en betrouwbare AI-technologie benadrukt. In dit white paper schetst de EC een kader voor betrouwbare AI dat rust op twee pijlers: (i) een ecosysteem van excellentie en (ii) een ecosysteem van vertrouwen.
Ecosysteem van excellentie
Het systeem van excellentie ziet op het afstemmen van inspanningen op het gebied van AI op Europees, nationaal en regionaal niveau. Het doel is om samenwerking tussen de private en publieke sector te bevorderen en investeringen en innovatie op AI-gebied te stimuleren. Daarnaast moet er tussen de lidstaten en de wetenschap nauw worden samengewerkt. Onder meer om AI-talent te behouden en/of naar Europa te halen. Een digital ‘innovation hub’ en een ‘AI-on-demand platfom’ in elke lidstaat moeten ervoor zorgen dat AI-technologieën beter en efficiënter kunnen worden ingezet en het ook mogelijk maken dat kleine en/of middelgrote ondernemingen toegang tot deze technologie krijgen. Tevens wordt benadrukt hoe belangrijk de toegang tot data is. De enorme hoeveelheid nieuwe data die nog verwerkt moet worden maar wel reeds beschikbaar is binnen de EU, stelt de EU in beginsel in staat om een toonaangevende positie te verwerven op het gebied van data en AI-transformatie.
Ecosysteem van vertrouwen
Het ecosysteem van vertrouwen ziet op het naleven van Europese normen en waarden. Door de fundamentele rechten van burgers in acht te nemen moeten burgers vertrouwen krijgen in de onderliggende (kunstmatige) technologie. Hierdoor ontstaat het benodigde vertrouwen waarmee bedrijven en publieke organisaties de mogelijkheid krijgen te innoveren met behulp van AI. Door de complexiteit en de (deels onbekende) risico’s die met AI-systemen gepaard gaan, is het winnen van vertrouwen van cruciaal belang. Om dit te bewerkstelligen tracht de EC een speelveld te schetsen waarbinnen de risico’s voor de grondrechten en de veiligheid van burgers zo veel mogelijk worden afgedekt.
Zeker binnen risicovolle sectoren zoals de zorg, handhaving en/of transport, zouden AI-systemen transparant moeten zijn en door mensen kunnen worden uitgelegd en gecontroleerd. Daarnaast moet het voor autoriteiten mogelijk zijn om voorafgaand aan de inzet van AI in dergelijke sectoren, de systemen te testen, controleren en te certificeren. Voor de minder risicovolle toepassing overweegt de EC vrijwillige keurmerken voor opererende bedrijven om aan te tonen dat zij derhalve voldoen aan de (betrouwbare) standaarden.
Conclusie white paper
AI biedt in potentie veel mogelijkheden en voordelen voor burgers, bedrijven en de samenleving. Essentieel in de ontwikkeling is dat de ethische en fundamentele normen en waarden zijn gewaarborgd. Belangrijk is daarbij een Europese governance ten aanzien van AI. De Europese aanpak moedigt innovatie op het gebied van AI aan met oog voor de Europese normen en waarden. Kortom, een belangrijke stap voorwaarts voor betrouwbaar innovatief gebruik van AI-toepassingen in de EU.
