Raad van State: wanneer AI-bronvermelding fraude is

Deze week draait alles om één vraag: is achteraf nog vast te stellen wat AI heeft gedaan? De Raad van State trekt de grens tussen een AI-bronnenlijst die fraude oplevert en een die alleen slordig is, een bestuursrechter vernietigt een besluit omdat de minister niet wil laten zien of zijn tool een AI-systeem is, en Anthropic gaat de tekst van Claude van een watermerk voorzien. AI-gebruik wordt aantoonbaar, en dat verandert wat je erover moet vastleggen.

Beluister deze editie

Deze briefing is er ook als podcast: dezelfde inhoud, voorgelezen.

Topverhaal: Raad van State trekt op één dag de grens tussen AI-fraude en AI-slordigheid

Impact: ★★★

Twee studenten, twee gebrekkige bronnenlijsten, dezelfde enkelvoudige kamer van de Afdeling bestuursrechtspraak, dezelfde zittingsdag, en toch twee tegengestelde uitkomsten. In de zaak tegen de examencommissie van de Erasmus Universiteit (ECLI:NL:RVS:2026:4745), waar het ging om een masterstudent van de Erasmus School of History, Culture and Communication, hield de vaststelling van fraude stand. De Afdeling overweegt daar dat het gebruik van AI op zichzelf toegestaan kan zijn zonder dat dit iets afdoet aan de mogelijkheid van fraude: “Dit laat onverlet dat een bepaald gebruik van AI fraude kan opleveren, zelfs al is het gebruik van AI in beginsel en onder voorwaarden toegestaan.” Doorslaggevend was wat er precies met de bronnenlijst was gebeurd: “In deze zaak gaat het dus niet om het enkel door ChatGPT laten ‘fatsoeneren’ van een door [appellante] eerder zelf opgestelde bronnenlijst.” De Afdeling tekent daarbij aan dat de bronnenlijst, zoals zowel het college van beroep voor de examens als de examencommissie overwoog, “een volwaardig onderdeel” is van het ingeleverde werk, en dus geen bijzaak. Wat de student volgens de uitspraak deed: in tijdnood liet zij ChatGPT niet alleen de bronnenlijst opmaken, maar ook aanvullende verwijzingen genereren op basis van enkele eigen verwijzingen en de context van het paper, en zij ging uit van de juistheid zonder te controleren. De meeste referenties bleken onjuist of niet-bestaand. In de Groningse zaak (ECLI:NL:RVS:2026:4744) liep het anders af. Daar herhaalt de Afdeling haar eerdere lijn: “Zoals de Afdeling eerder heeft overwogen, is niet iedere onjuiste bronvermelding aan te merken als fraude. Bij het onjuist of onvolledig vermelden van bronnen zijn de omvang en de ernst van de onjuiste bronvermelding van belang.” Ook telt of de student een plausibele verklaring heeft gegeven. De kern vat de Afdeling in één zin samen: “Simpel gezegd moet een onderscheid worden gemaakt tussen fraude en onzorgvuldigheid.” Het college van beroep voor de examens had “onvoldoende aannemelijk gemaakt dat sprake is van meer dan alleen een onzorgvuldigheid”, en de fraudevaststelling sneuvelde. Beide uitspraken zijn van 12 augustus en gaan terug op dezelfde zitting van 30 juli.

Formeel gaat het hier over onderwijsrecht en niet over de balie. Maar het onderscheid dat de Afdeling maakt is precies het onderscheid waar de advocatuur mee worstelt sinds de tuchtrechter in onze editie van 12 augustus voor het eerst een berisping uitdeelde voor onzorgvuldig AI-gebruik. Wanneer is een niet-bestaande verwijzing een fout, en wanneer is het iets ernstigers? De lijn die hier wordt getrokken loopt langs twee assen: wat deed je precies met de AI-output, en hoe wezenlijk is het onderdeel waarin de fout zit.

Wat betekent dit voor jouw praktijk? Het verschil tussen “slordig” en “verwijtbaar” zit niet in de vraag óf je AI gebruikte, maar in wat je ermee deed en of het onderdeel waarin de fout zat wezenlijk was. Een verzonnen ECLI in een processtuk scoort op beide assen slecht: de jurisprudentieverwijzing is geen bijzaak, en tekst laten genereren is iets anders dan je eigen lijst laten opmaken. Leg daarom vast welke rol AI in een stuk had, want die vraag komt in een klacht- of tuchtprocedure als eerste aan de orde.

Bestuursrechter vernietigt besluit omdat de minister niet wil laten zien of zijn tool een AI-systeem is

Impact: ★★★

De rechtbank Den Haag, zittingsplaats Groningen, vernietigde op 7 augustus een besluit van de minister van Asiel en Migratie omdat onduidelijk bleef of CaseMatcher, de zoek- en vindtool bij asielaanvragen die in het Algoritmeregister van de IND staat, een AI-systeem is (ECLI:NL:RBDHA:2026:22096). De meervoudige kamer oordeelt: “Anders dan de minister heeft aangevoerd, oordeelt de rechtbank dan ook dat niet kan worden vastgesteld dat het besluit volledig wordt gedragen door de gegeven motivering, nu niet kan worden vastgesteld of CaseMatcher een AI-systeem is.” De rechtbank formuleert daarbij een transparantienorm: “De rechtbank is verder van oordeel dat van de minister transparantie mag worden verwacht over de technische werking van CaseMatcher.” De motivering waarom dat moet is de kern van de uitspraak: “Een andere uitleg zou immers betekenen dat de rechtbank de stellingname van de minister dat geen sprake is van een AI-systeem niet kan controleren, en besluiten waar mogelijk AI aan ten grondslag ligt, niet in rechte kunnen worden getoetst.” Het besluit is vernietigd wegens strijd met artikel 3:2 en artikel 3:46 Awb. Dezelfde dag ging een parallelle zaak op dezelfde lijn (ECLI:NL:RBDHA:2026:22093), daar over een afwijzing als kennelijk ongegrond in plaats van een Dublinbesluit.

Wat betekent dit voor jouw praktijk? Dit is een direct inzetbare beroepsgrond in elk dossier met algoritmische besluitondersteuning: als het bestuursorgaan niet aantoont of zijn tool een AI-systeem is, kan de rechter de stelling dat het er géén is niet controleren, en dan is het besluit niet zonder meer draagkrachtig gemotiveerd. Vraag in bezwaar of beroep dus expliciet naar de technische werking van gebruikte tools, en laat het niet bij de mededeling van het bestuursorgaan dat er geen AI aan te pas kwam.

Claude gaat zijn tekst van een watermerk voorzien, en dat maakt AI-gebruik achteraf toetsbaar

Impact: ★★★

Anthropic heeft aangekondigd dat toekomstige Claude-modellen een watermerk in gegenereerde tekst zetten: “Future Claude models will generate text that contains a watermark. This is a way of determining the likelihood that Claude was involved in writing the text, and we, along with several other major AI providers, are implementing this change to comply with the EU AI Act.” De aanleiding is de transparantieplicht uit artikel 50 AI Act: “As of August 2, the EU requires AI providers serving its market to mark AI-generated content.” Praktisch verandert er weinig aan het gebruik. Er wordt niets zichtbaars aan de tekst toegevoegd, er zijn geen verborgen tekens, het kost geen extra tokens en het is niet duurder, en het watermerk bevat volgens Anthropic geen herleidbare informatie: het is niet te koppelen aan een persoon, organisatie of gesprek. Het watermerk is een variant van de SynthID-Text-aanpak die Google DeepMind in 2024 in Nature publiceerde. Belangrijk zijn de grenzen die Anthropic zelf noemt: detectie werkt slecht op korte stukken, op feitelijke passages is het watermerk dunner omdat daar weinig te kiezen valt zonder de juistheid van de tekst aan te tasten, en het watermerk kan niet onderscheiden of Claude de tekst schreef of zwaar redigeerde. De EU-wet kent bovendien een overgangstermijn voor modellen die vóór 2 augustus 2026 zijn uitgebracht; Anthropic voegt het watermerk daar de komende maanden alsnog aan toe. Artificial Lawyer vertaalt het naar de kantoorpraktijk: “Anything a law firm produces that contains AI outputs will show up as such. In most cases the client or court will not mind, in fact they may expect this now. And some clients are specifically asking for AI use. The challenge comes with clients who are refusing to allow you to use AI on their matters, or perhaps a court where a judge is especially biased against AI use.”

Eén kanttekening: Anthropic schrijft dat andere grote aanbieders hetzelfde gaan doen, maar OpenAI, Google en Microsoft hebben daar deze week zelf niets over gepubliceerd. Neem dat dus voorlopig als mededeling van Anthropic, niet als vaststaand feit over de rest van de markt.

Wat betekent dit voor jouw praktijk? De vraag “is dit door AI geschreven?” wordt van een kwestie van vertrouwen een kwestie van meten, ook jaren na dato en ook in stukken die je allang uit handen hebt gegeven. Dat is geen ramp, maar het maakt twee dingen urgent: weet welke afspraken je met een cliënt hebt over AI-gebruik in zijn dossier, en zorg dat je antwoord op de vraag “wat heeft AI hier gedaan?” klopt met wat een detector zou laten zien.

Update: ChatGPT-advertenties komen nu ook naar Nederland

Impact: ★★

In onze editie van 12 augustus meldden wij dat OpenAI advertenties uitrolde naar vijf nieuwe landen en dat de EU er nog niet bij zat. Dat is nu veranderd. OpenAI kondigde op 18 augustus aan: “Next week, ChatGPT Ads will expand to 31 European countries, including Germany, France, Spain, Italy, Sweden, Norway, Denmark, the Netherlands, and Austria.” De afbakening blijft dezelfde als in de bestaande markten: “ads will be shown only to users on the Free and Go plans. Plus, Pro, and Enterprise subscriptions will remain ad-free.” OpenAI stelt daarbij dat gesprekken afgeschermd blijven van adverteerders en dat er geen klantgegevens worden verkocht, dat advertenties duidelijk gelabeld en gescheiden van de antwoorden worden getoond, en dat adverteren de antwoorden niet beïnvloedt. Tegelijk meldt het bedrijf uitbreiding van de targeting: “We introduced geo-targeting and custom audiences to help advertisers reach more relevant customers.” De self-service Ads Manager volgt later deze zomer.

Wat betekent dit voor jouw praktijk? Vanaf de week van 24 augustus werkt iedereen op kantoor die de gratis versie of Go gebruikt in een omgeving met een commercieel belang bij het gesprek. Dat maakt het onderscheid tussen consumententiers en zakelijke omgevingen een concrete beslissing in plaats van een theoretisch punt: leg vast welke versie op kantoor is toegestaan en waarvoor. Werk waarin cliëntinformatie klinkt, zoals het uitwerken van gespreksnotities, hoort sowieso niet in een consumentenomgeving thuis; onze AVG-proof dictatie- en transcriptietool Litic Speech draait daarvoor volledig binnen Europa (litic.ai).

AP publiceert de eerste FRIA-uitleg en opent een pilot, aanmelden kan tot 21 september

Impact: ★★

De Autoriteit Persoonsgegevens heeft op 17 augustus haar eerste uitleg over de grondrechteneffectbeoordeling gepubliceerd, samen met het document Aan de slag met de FRIA. De kern: “Dan moet u vanaf december 2027 vooraf beoordelen welke gevolgen dit AI-systeem kan hebben voor de grondrechten van mensen. Zo’n beoordeling heet een ‘fundamental rights impact assessment’ (FRIA), oftewel een ‘grondrechteneffectbeoordeling’.” Daarnaast opent de AP een pilot waaraan organisaties kunnen meedoen, met een uitdrukkelijke geruststelling: “De pilot is bedoeld om van te leren en is nadrukkelijk geen audit, inspectie of handhavingstraject bij uw organisatie.” De deadline is hard: “Aanmelden kan tot en met 21 september 2026. De pilot start begin oktober.” Twee zinnen verdienen extra aandacht. Ten eerste positioneert de AP zichzelf: “Het kabinet is van plan de AP aan te wijzen als toezichthouder op het merendeel van de hoogrisico-AI-systemen die onder de AI-verordening vallen.” Ten tweede: “De uitleg over de FRIA is het eerste document in een reeks over AI en grondrechten waarmee de AP organisaties voorbereidt op hun verplichtingen vanuit de AI-verordening.” Er volgt dus meer.

Wat betekent dit voor jouw praktijk? Adviseer je overheidsorganisaties, private partijen die publieke diensten leveren, of organisaties die met beoordelingssystemen voor financiële risico’s werken, zoals banken en verzekeraars, dan is dit het eerste concrete Nederlandse houvast voor een verplichting die in december 2027 ingaat, en deelname aan de pilot is een goedkope manier om te leren hoe de aankomende toezichthouder erover denkt. Attendeer cliënten deze maand nog op de aanmelddeadline van 21 september, want de pilot start begin oktober.

Anthropic-onderzoek: AI-agents spreken uit zichzelf prijzen af, ook zonder onderling contact

Impact: ★★

Anthropic publiceerde onderzoek naar het gedrag van meerdere agents tegelijk, en de uitkomsten zijn mededingingsrechtelijk opvallend. In een klassiek prijsexperiment werden drie tot acht agents losgelaten met identieke inkoopprijzen, elk met de opdracht de eigen winst te maximaliseren: “When the agents were given a private back-channel, they began colluding almost immediately.” Eén agent stelde het in de eerste ronde onomwonden voor: “wholesale is 10 for all of us, so a price war just burns everyone’s margin… happy to coordinate who covers which niches.” Tegen ronde 3 lagen er expliciete prijsbodems. Het onthutsende deel komt daarna: “Even when all direct communication channels were removed, the agents still colluded. They price-matched to the penny via a public listings board.” Een tweede bevinding raakt iedereen die werk aan agents uitbesteedt. Agents zijn volgens de onderzoekers “low variance”: ze doen vaak hetzelfde in situaties waarin verschillende mensen heel uiteenlopende keuzes zouden maken, en “when one agent makes a bad decision, it is likely that many agents will make that same bad decision. What would have been isolated problems can quickly become systemic failures.” Hoe hard dat kan uitpakken bleek in een test met een gedeelde wachtrij: de agents hadden geen andere manier om te coördineren en overspoelden het systeem met polling-daemons die dertig keer per seconde aanklopten, wat in één run leidde tot 2,4 miljoen taakverzoeken waarvan er 117 werden geaccepteerd.

Wat betekent dit voor jouw praktijk? Voor cliënten die prijsbeslissingen aan software overlaten is dit een aansprakelijkheidsvraag die nu al speelt: afstemming zonder dat een mens iets afspreekt is precies het scenario waar mededingingstoezichthouders naar kijken, en “het systeem deed het” is geen comfortabele positie. Voor het kantoor zelf zit de les in het low-variance-punt: als je hetzelfde model op hetzelfde soort werk zet, maak je niet zeven onafhankelijke beoordelingen maar zeven keer dezelfde, inclusief dezelfde blinde vlek.

Google brengt Gemini 3.7 Flash uit en noemt juridisch werk met zoveel woorden

Impact: ★

Google introduceerde op 13 augustus Gemini 3.7 Flash tegen een introductieprijs die de helft bedraagt van de oorspronkelijke prijs per miljoen tokens van zijn voorganger 3.6 Flash. Voor deze lezers is één passage relevant: “For knowledge-dense fields like finance, law, and biosciences, 3.7 Flash delivers improved reasoning and accuracy. It significantly outperforms 3.6 Flash on the GDP.pdf benchmark (34.0% vs 22.0%), an eval for testing a model’s ability to process complex documents.” Die benchmark meet het verwerken van complexe documenten, precies waarvoor een advocaat een model inzet. Wees wel nuchter over het getal: 34,0 procent is een forse verbetering ten opzichte van 22,0 procent, maar het is geen ruime voldoende. De introductieprijs van $0,75 per miljoen invoertokens en $3,75 per miljoen uitvoertokens geldt tot en met 31 december 2026; vanaf 1 januari 2027 gelden $1,50 en $7,50 per miljoen tokens, precies het dubbele. Consumenten krijgen het model via Gemini Spark, beschikbaar voor AI Pro- en Ultra-abonnees in ruim 160 landen; Google specificeert daarbij niet apart wat er in de EU beschikbaar is.

Wat betekent dit voor jouw praktijk? Als je documentverwerking op tokenprijs inkoopt, verandert de rekensom in je voordeel, maar alleen tot 31 december. Belangrijker: benchmarkwinst op documentverwerking is geen vrijbrief om de controle over te slaan, zeker niet bij een score van een derde. Test op je eigen soort stukken voordat je een werkstroom omzet.

Prompt van de week

De AI-transparantietoets bij een besluit. Naar aanleiding van de CaseMatcher-uitspraak hierboven: deze prompt uit onze promptbouwer en leeromgeving LawPrompt helpt je uit een bestuursrechtelijk dossier de aanknopingspunten voor geautomatiseerde of AI-ondersteunde besluitvorming te halen, en daar gerichte vragen en concept-beroepsgronden bij te formuleren:

Ik beoordeel een besluit van een bestuursorgaan en wil nagaan of daarbij geautomatiseerde of AI-ondersteunde besluitvorming is gebruikt, en of dat voldoende inzichtelijk is gemaakt.

Stel mij eerst gerichte vragen over:
1. het type besluit, het bestuursorgaan en de fase (bezwaar of beroep);
2. welke aanwijzingen er in het dossier staan voor systeem- of modelondersteuning (genoemde applicaties, standaardformuleringen, verwerkingstijd, verwijzingen naar selectie of matching);
3. wat het bestuursorgaan tot nu toe heeft verklaard over die tools;
4. welke motivering aan het besluit ten grondslag ligt.

Lever daarna:
a. een lijst met concrete vragen die ik aan het bestuursorgaan kan stellen over de technische werking van de genoemde tool;
b. een opzet voor beroepsgronden langs artikel 3:2 en artikel 3:46 Awb, toegespitst op het punt dat de rechter niet kan controleren wat hij niet te zien krijgt;
c. per onderdeel een aanduiding hoe sterk het aanknopingspunt in het dossier is.

Verzin geen jurisprudentie en geen vindplaatsen. Noem alleen uitspraken die ik zelf kan opzoeken, en markeer expliciet waar je onzeker bent. De juridische beoordeling doe ik zelf.

Waarom werkt dit? De prompt laat het model eerst vragen stellen in plaats van meteen een stuk te produceren, dwingt een scheiding af tussen feitelijke aanknopingspunten en juridische constructie, en verbiedt expliciet het verzinnen van vindplaatsen: precies de fout die in de tuchtzaak van de vorige editie tot een berisping leidde. Variatietip: draai hem om voor de andere kant van de tafel en laat hem toetsen of jouw eigen advies aan een bestuursorgaan de technische werking voldoende inzichtelijk maakt. De prompt vraagt uitsluitend naar procedurele en technische kenmerken, nooit naar cliënt- of persoonsgegevens.

Praktijktip AI-gebruik

Draai de volgorde om: schrijf zelf, laat AI corrigeren. Uit de watermerk-aankondiging hierboven komt een praktische regel die je vandaag kunt toepassen. Anthropic schrijft: “Light editing probably won’t remove the watermark completely; a complete rewrite where every word is replaced will.” En omgekeerd: “When Claude proofreads text written by a person, what it gives back has generally only been lightly edited; because nearly all the words are the person’s, there’s very little (if anything) for the watermark to attach to.”

De werkwijze die daaruit volgt is er een die om inhoudelijke redenen al de betere was: schrijf de kern zelf en laat AI je tekst aanscherpen, controleren en tegenspreken, in plaats van lange passages te laten genereren en die daarna cosmetisch bij te werken. Je houdt het denkwerk waar het hoort, en je stukken dragen weinig tot geen watermerk omdat de woorden van jou zijn. Cosmetisch herschrijven van gegenereerde tekst werkt op geen van beide vlakken: het watermerk blijft grotendeels zitten, en het begrip komt er niet mee.

Tweede helft van de tip, en de belangrijkste: noteer per dossier welke rol AI had. Eén regel in het dossierjournaal volstaat, bijvoorbeeld “eerste opzet zelf geschreven, AI gebruikt voor taalcontrole en tegenspraak”. Achteraf ontkennen wordt technisch lastiger, dus zorg dat je verhaal klopt voordat iemand het naloopt.

Wil je dit kantoorbreed borgen in plaats van per advocaat: onze trainingen (AI-geletterdheid en incompany maatwerk) ondersteunen bij het opbouwen van die werkgewoonten, litic.ai.

Regelgeving en toezicht

De Cyberbeveiligingswet is zaterdag daadwerkelijk in werking getreden. Zoals aangekondigd gelden de Cyberbeveiligingswet en de Wet weerbaarheid kritieke entiteiten sinds 15 augustus. Twee punten uit de aankondiging zijn nu direct relevant: “Organisaties zijn zelf verantwoordelijk om vast te stellen of zij onder de Cyberbeveiligingswet vallen” en de registratieplicht in het nationaal entiteitenregister dat het NCSC beheert; bij de aankondiging in juli sprak het NCSC van ruim 8.000 organisaties die hieronder gaan vallen. Let ook op de bestuurdersnorm: “Bestuurders moeten beschikken over voldoende kennis om risico’s en beveiligingsmaatregelen te kunnen beoordelen en moeten daarvoor een passende training volgen.” Op 3 september is er een webinar ‘Toezicht op de Cyberbeveiligingswet’.

De hallucinatie-database staat op 1.933 zaken. De internationale database van Damien Charlotin telt inmiddels 1.933 gedocumenteerde zaken waarin AI-verzonnen bronnen een rol speelden, waarvan 768 toe te rekenen aan advocaten, 28 aan rechters en 14 aan deskundigen. Nederland staat op zeven zaken. De teller is geen wetenschappelijke steekproef, maar de verhouding zegt genoeg: dit is inmiddels een structureel verschijnsel, geen incident.

Het EU AI Office bouwt handhavingscapaciteit op. Op de pagina van het AI-bureau staat dat het momenteel ongeveer veertig arbeidscontractanten werft om het handhavingsteam te versterken, met een sollicitatiedeadline van 8 september. Een klein signaal met een duidelijke richting: de handhavingsbevoegdheden die op 2 augustus ingingen, worden nu van menskracht voorzien.

Citaat

“You sit next to each other watching an endless wall of text appear on the screen. Neither of you has any idea whether any of it is true but Claude seems very confident.”

Florian Herrengt in “AI is removing the middle class of software engineering”, 12 augustus 2026, aangehaald door Simon Willison. Het gaat om twee ontwikkelaars die een bug niet opgelost krijgen: degene die de functie bouwde, weet zelf niet meer waar de data vandaan komt en vraagt het aan Claude. De stelligheid van een model is geen maat voor de juistheid ervan, en precies op dat verschil begint jouw handtekening.

Vooruitblik

• Week van 24 augustus: ChatGPT-advertenties worden uitgerold in 31 Europese landen, waaronder Nederland.
• 3 september: NCSC-webinar over toezicht op de Cyberbeveiligingswet.
• 21 september: laatste dag om je aan te melden voor de FRIA-pilot van de AP; de pilot start begin oktober.
• 30 oktober: einde van de publieke consultatie over de EDPB-richtlijnen voor anonimisering en webscraping bij generatieve AI.
• 2 december 2026: uiterste datum voor het machineleesbare watermerk voor generatieve systemen die vóór 2 augustus op de markt waren, én ingangsdatum van het nieuwe artikel 5-verbod.
• 31 december 2026: einde van de introductieprijs van Gemini 3.7 Flash.
• 2 december 2027: de FRIA-plicht en de overige hoog-risicoverplichtingen uit Annex III gaan in.

Doorlopend: of OpenAI, Google en Microsoft hun eigen watermerk aankondigen, en de eerste registratie- en handhavingssignalen onder de Cyberbeveiligingswet. Wij volgen het.

Eerder in deze nieuwsbrief

• Litic Legal AI Briefing, 12 augustus 2026: de eerste tuchtrechtelijke berisping voor onzorgvuldig AI-gebruik en de transparantieplicht van artikel 50.
• Litic Legal AI Briefing, 22 juli 2026: de EDPB-richtlijnen over anonimisering en webscraping, en de contractreview-agent in Word.

Litic Legal AI Briefing is de wekelijkse AI-briefing voor de advocatuur, een uitgave van Litic.AI.