Rechter tikt zoekmachines op de vingers over AI-overzichten

De manier waarop zoekmachines zoekresultaten presenteren, is aan het veranderen. Waar het zoekresultaat van een zoekmachine vroeger bestond uit een lijst met links, verschijnt steeds vaker een kant-en-klaar antwoord bovenaan de pagina: het zogeheten AI-overzicht. Bij Google wordt dit aangedreven door Gemini. Ook andere grote zoekmachines zoals Microsoft Bing (via Copilot) bieden vergelijkbare AI-samenvattingen.

Deze AI-overzichten vatten bronnen samen, trekken conclusies en geven gebruikers direct een antwoord, zonder dat zij verder hoeven te klikken. Voor bedrijven die afhankelijk zijn van online zichtbaarheid, is dat al een punt van zorg. Maar wat als dat AI-gegenereerde overzicht feitelijk onjuist is en een bedrijf onterecht in verband brengt met fraude of oplichting? Een recente uitspraak van een Duitse rechter maakt duidelijk dat Google daarvoor verantwoordelijk is.

Wat speelde er?

Twee Duitse uitgevers ontdekten dat het AI-overzicht van Google bij zoekopdrachten op hun bedrijfsnaam stellige uitspraken deed: zij zouden bekendstaan om frauduleuze en oneerlijke handelspraktijken, klanten in abonnementsvallen lokken en banden hebben met andere, niet-gerelateerde ondernemingen. Die beweringen waren aantoonbaar onjuist. De uitgevers klaagden bij Google, maar daar deed Google niets mee. Daarna stapten zij naar de rechter en vorderden via een kort geding een verbod op deze uitingen.

De Rechtbank München wees de vordering grotendeels toe. Deze uitspraak gaat verder dan de casus alleen en bevat een principieel oordeel over de status van AI-gegenereerde zoekresultaten.

Geen doorgeefluik meer, maar een uitgever

De kern van de uitspraak draait om een fundamenteel onderscheid. Google kan zich voor haar zoekmachinediensten beroepen op de bescherming die de Digital Services Act (DSA) biedt aan platforms die als passieve tussenpersonen andermans inhoud doorgeven. Een hostingprovider is volgens artikel 6 DSA alleen aansprakelijk als hij wist dat de gedeelde inhoud illegaal was, of als hij de informatie niet verwijderde nadat hem was meegedeeld dat de inhoud illegaal was.

De rechter stelt vast dat Google met haar AI-overzicht een actieve rol heeft gespeeld en dus niet alleen een doorgeefluik was. Het AI-overzicht bevat niet alleen een samenvatting van wat op afzonderlijke webpagina's staat, maar Google structureert, evalueert en trekt zelfstandige conclusies op basis van de informatie uit de zoekresultaten in het AI-overzicht. Daarnaast formuleert (of stelliger gesteld: hallucineert) Google in het AI-overzicht antwoorden die in de onderliggende bronnen simpelweg niet te vinden zijn. In dit geval beweerde Google in het AI-overzicht dat de uitgevers van naam en URL wisselden om herkenning te bemoeilijken, een stelling die in geen van de geciteerde bronnen voorkwam. Google creëert daarmee eigen uitingen, waarvoor Google de volledige verantwoordelijkheid draagt.

Opmerkelijk is ook het oordeel over controleerbaarheid. De rechter wijst erop dat Google de AI-output technisch had kunnen toetsen aan de eigen bronpagina's die als basis dienen voor het overzicht, zonder daarvoor contact te hoeven opnemen met externe partijen. Dat maakt het argument dat proactieve controle onmogelijk is, onhoudbaar. Juist omdat de output controleerbaar is via interne bronnen, kan Google zich niet achter de praktische bezwaren verschuilen.

Kan een AI een mening hebben?

De rechtbank kwalificeert een deel van de AI-uitingen als meningsuitingen, wat in het Duitse recht een bepaalde mate van grondwettelijke bescherming geniet. Hierbij merkt de rechter wel op dat de geuite mening door AI is gegenereerd en dus geen uitdrukking is van een overtuiging van een persoon. Het is volgens de rechter daarmee primair een uiting van commerciële activiteit en 'hoogstens in tweede instantie' een mening. Die 'mening' verdient daarmee aanzienlijk minder bescherming dan een echte menselijke meningsuiting, zeker wanneer zij berust op onjuiste feiten.

Deze overwegingen van de Duitse rechter roepen de vraag op: kan AI een mening hebben? Het idee dat AI een mening kan hebben, veronderstelt een subjectiviteit die bij een algoritme per definitie ontbreekt. Toch heeft die kwalificatie juridisch gewicht, omdat zij bepaalt welk toetsingskader van toepassing is. De uitkomst in deze zaak is helder: een AI-gegenereerde "mening" die feitelijk onjuist is, biedt Google geen schild.

Hoe zou deze zaak in Nederland uitpakken?

De uitspraak heeft directe praktische relevantie voor elke onderneming die online actief is. AI-overzichten van Google en andere zoekmachines verschijnen ook in Nederland en zijn gebaseerd op vergelijkbare algoritmen. De redenering van de Duitse rechter is breed toepasbaar en sluit naadloos aan op de DSA, die als Europese verordening ook in Nederland geldt. Het is realistisch te verwachten dat Nederlandse rechters bij vergelijkbare feiten tot hetzelfde oordeel komen.

Concreet betekent dit dat Google of een andere aanbieder van een AI-systeem aangesproken kan worden als een AI-overzicht feitelijk onjuiste uitspraken doet over een persoon of onderneming of uitspraken die als misleidende handelspraktijk kwalificeren. Dat de output door een algoritme is gegenereerd, is dus geen verweer.

Wat kun je doen als dit jou overkomt?

De eerste stap is het documenteren van de gewraakte AI-output, inclusief de datum van de zoekopdracht, de ingevoerde zoektermen en een afdruk of screenshot van het volledige overzicht. Daarna is het zaak Google of een andere aanbieder formeel op de hoogte te stellen van de onrechtmatigheid van de inhoud van het AI-overzicht, bij voorkeur via een aangetekende sommatie met een duidelijke omschrijving van welke uitingen onjuist zijn en waarom. Reageert Google niet of onvoldoende, dan biedt een kort geding de mogelijkheid snel een verbod te vorderen, zoals de uitgevers in München met succes hebben gedaan.

TK heeft ruime ervaring met de aanpak van onrechtmatige online-uitingen, reputatieschade en de toepassing van de DSA in de praktijk. Lees ook het artikel in het Financiële Dagblad over dit onderwerp, waarin collega Lex Keukens zijn visie over deze uitspraak deelt.

Meer informatie?

Neem contact op met Maurits of één van de andere professionals uit het team voor een eerste oriënterend gesprek. Wij kijken graag met je mee naar wat in jouw situatie de meest effectieve aanpak is.