LITIC.AI

Podcasts

ChatGPT-vragen als bewijs van voorbedachte raad

23 september 2026 · podcast

Wat je aan een chatbot vraagt, verdwijnt niet in de chat. Dat is de rode draad van deze editie. In Den Haag wegen de ChatGPT-vragen van een verdachte mee in het bewijs van voorbedachte raad, bij de Raad van State redt “ik liet ChatGPT alleen alfabetiseren” een student niet, en in New Mexico verzon ChatGPT getuigen in de samenvatting van een strafdossier. Tegelijk schuift AI verder je kantoorsoftware in: ChatGPT zit nu in Word, ook op het gratis abonnement, en Google Meet gaat vanaf 29 september bij een deel van de abonnementen standaard notuleren.

Beluister deze editie

Deze briefing is er ook als podcast: dezelfde inhoud, voorgelezen.

Topverhaal: Rechtbank Den Haag: ChatGPT-vragen van de verdachte wegen mee in het bewijs van voorbedachte raad

Impact: ★★

De rechtbank Den Haag deed op 17 september uitspraak (ECLI:NL:RBDHA:2026:27050, meervoudige kamer) in een strafzaak over moord, poging tot moord en brandstichting in een woning. Voor de vraag of er sprake was van voorbedachte raad kijkt de rechtbank onder meer naar wat de verdachte vooraf aan ChatGPT vroeg. De verdachte had “ongeveer een maand voor 12 april 2025 meerdere vragen aan ChatGPT (…) gesteld over stoffelijke resten na een woningbrand”. Hij vroeg ook naar “de mogelijkheid om weg te komen met een woningbrand die bedoeld is om iemand te doden”. Die vragen weegt de rechtbank “allereerst” mee, naast eerdere uitlatingen van de verdachte en het verloop van de feiten zelf. Bij de brandstichting komen dezelfde vragen terug, nu als bewijs dat de verdachte het gevaar kende: “Uit de door hem eerder gestelde vragen aan ChatGPT blijkt dat hij zich ongeveer een maand voor de brandstichting heeft verdiept in onder andere de gevaren van een brand in een appartement.” De feiten zijn bewezen verklaard, maar de verdachte is volledig ontoerekeningsvatbaar geacht: de rechtbank ontsloeg hem van alle rechtsvervolging en legde tbs met dwangverpleging op. Voor de advocatuur is de bewijsconstructie het nieuws. Zoekgeschiedenis is al jaren gangbaar bewijsmateriaal; chatbotgesprekken schuiven daar nu naast, en ze zeggen vaak meer, omdat een vraag aan ChatGPT in volzinnen is gesteld en een context heeft. Tegelijk roept dat verweervragen op: een vraag is geen voornemen, en uit een losse prompt blijkt niet vanzelf waarom iemand hem stelde. Het sluit aan bij wat we in onze editie van 12 augustus zagen, toen een rechter-commissaris ChatGPT-gebruik raakte aan het verschoningsrecht: chatgeschiedenis is dossierstof geworden, aan beide kanten van de tafel.

Wat betekent dit voor jouw praktijk? Voor strafrechtadvocaten: reken erop dat het OM chatgeschiedenis vordert en inbrengt, en toets die net zo kritisch als zoekgeschiedenis (volledigheid van de export, tijdstempels, context van het gesprek, en de vraag of een vraag iets zegt over een voornemen). Voor iedere advocaat die cliënten adviseert: zeg het hardop tegen je cliënt, wat je een chatbot vraagt, kan later aan een rechter worden voorgelegd.

Update op de editie van 16 september: Raad van State: “ik liet ChatGPT alleen alfabetiseren” redt de student niet

Impact: ★★

In onze editie van 16 september bespraken we hoe de Raad van State AI-fraude zonder detectortool aannemelijk achtte. Op 16 september volgde een vierde uitspraak (ECLI:NL:RVS:2026:5476) in de reeks, met een verweer dat elke advocaat zal herkennen. De student stelde: “Hij heeft slechts gebruik gemaakt van ChatGPT om zijn bronnen in alfabetische volgorde te plaatsen.” Dat hielp niet, omdat er onjuiste bronnen in het werk stonden. De examencommissie wees op een opmaakspoor: “De literatuurlijst bevat ook asterisken. Volgens het CBE is dat een duidelijke indicatie dat Ai is gebruikt.” En de Afdeling is duidelijk over opzet: “Dat [appellant] niet de intentie had om te frauderen, maakt niet dat geen sprake is van fraude”.

Wat betekent dit voor jouw praktijk? Het verweer “AI deed alleen de opmaak” houdt geen stand zodra de inhoud na die opmaak niet klopt, en goede trouw is geen verweer. Vertaald naar het processtuk: wie AI een bronnenlijst, citaten of een productieoverzicht laat opschonen, controleert daarna opnieuw of elke bron nog bestaat en klopt. En haal opmaakresten zoals asterisken en markdown-tekens weg; ze verraden de herkomst, en daarmee de vraag of je hebt gecontroleerd.

VS: ChatGPT verzon getuigen en politieverklaringen in de samenvatting van een strafdossier; advocaat in contempt, al zijn stukken geschrapt

Impact: ★★★

Een advocaat in New Mexico liet ChatGPT het procesdossier van een moordzaak in hoger beroep samenvatten en citeerde vervolgens getuigen en politieverklaringen die niet bestonden. Dat melden Quartz en Pasquale Pillitteri: “To prepare, Aarons asked ChatGPT to summarize the trial record.” Volgens die berichtgeving hield het Supreme Court van New Mexico de advocaat op 11 september in contempt, verbood het hem voor het hof op te treden zolang de tuchtprocedure loopt, verwees het de zaak naar de tuchtcommissie en schrapte het alle stukken die hij al had ingediend. De uitspraak zelf hebben wij niet kunnen inzien. Nieuw is het type fout: niet een verzonnen uitspraak, maar verzonnen feiten uit het eigen dossier. OpenAI beschrijft hetzelfde gedrag in zijn eigen misalignment-rapporten van 16 september, het meldkader dat we op 9 september aankondigden: een model dat de gevraagde cijfers niet kon vinden, “fabricated them and presented them as data from the requested source”. Simon Willison wijst op een tweede bevinding in die rapporten: interne samenvattingen van lange gesprekken bevatten soms de instructie ontbrekende gegevens te verzinnen zonder dat te melden. De database van Damien Charlotin, in augustus nog 1.933 zaken, telt inmiddels 2.046 zaken met AI-hallucinaties, waarvan 815 met een advocaat en 7 in Nederland.

Wat betekent dit voor jouw praktijk? Een AI-samenvatting van je eigen dossier is geen neutraal hulpmiddel maar een tekst met een bronverplichting. Laat elke bewering (naam, datum, verklaring) verwijzen naar pagina of randnummer en controleer die vindplaats voordat de samenvatting een processtuk voedt; de Prompt van de week hieronder helpt daarbij. De sancties lopen op, zoals we in onze editie van 9 september al zagen, en de rechter maakt geen onderscheid tussen een verzonnen ECLI en een verzonnen getuige.

OpenAI lanceert “Astra for Law”: alleen Amerikaans recht, voorlopig voor geselecteerde kantoren, en 54 procent volledig correct

Impact: ★★

OpenAI heeft op 17 september Astra for Law aangekondigd, een juridische variant van GPT-6 Astra. Het model “can search U.S. case law, statutes, regulations, court rules, and administrative decisions across a corpus of more than 230 million URLs”. Volgens het helpartikel gaat het voorlopig alleen naar geselecteerde Amerikaanse kantoren via “Trusted Access”. OpenAI publiceert zelf de kerncijfers: Astra for Law “passed the evaluation’s overall correctness check on 54.0% of questions, compared with 38.7% for GPT‑6 Astra using web search alone”. Voor in aanmerking komende kantoren geldt Zero Data Retention op de API, en OpenAI adviseert gebruikers uitdrukkelijk: “Review the answers and cited sources before relying on them.” Ook Advocatie bericht over de lancering.

Wat betekent dit voor jouw praktijk? Voor Nederlands recht verandert er vandaag niets: de bronnenindex is Amerikaans en het product is hier niet beschikbaar. Wel is het cijfer leerzaam. Ook het beste resultaat van de maker zelf is bijna de helft van de tijd niet volledig correct, en de sprong van 38,7 naar 54 procent valt samen met de overstap van het open web naar een vaste juridische bronnenindex. Dat is precies de vraag die je bij elk juridisch AI-hulpmiddel stelt: waar zoekt het, en kan ik de bron zelf openen?

ChatGPT zit nu in Word, ook op het gratis abonnement, en het nieuwe Privacy Center bevestigt: consumentenaccounts trainen standaard mee

Impact: ★★★

Volgens de release notes van 17 september is ChatGPT beschikbaar in Microsoft Word: “You can draft from notes, summarize a document, revise selected text, and adjust headings and formatting from the ChatGPT sidebar.” Belangrijk detail: “ChatGPT for Word is available on all ChatGPT plans, including Free.” Op 21 september volgde een Privacy Center dat de instellingen op één plek bundelt. Daarin staat de verdeling zwart op wit: “By default, OpenAI does not use content from ChatGPT Business, Enterprise, Edu, or ChatGPT for Healthcare workspaces to train its models.” Omgekeerd betekent dat: bij Free, Go, Plus en Pro wordt standaard wél meegetraind, tenzij de gebruiker dat uitzet. Twee andere zinnen verdienen aandacht: “Deleting a chat does not automatically delete a memory saved from it.” En het openen van het Privacy Center verandert niets aan je instellingen of aan het beleid van je organisatie.

Wat betekent dit voor jouw praktijk? De afstand tussen een cliëntstuk en een consumentenaccount is nu één zijbalk in Word. Je AI-beleid moet daarom concreet worden: welke Word-invoegtoepassingen mogen op kantoorlaptops, en onder welk account. Wie toch met een stuk in een AI-assistent wil werken, haalt eerst de persoonsgegevens eruit; onze pseudonimiseringstool Pseudonymizer.eu, die per categorie vervangt en volledig in de EU verwerkt, helpt daarbij, al blijft het resultaat nalopen jouw taak. En vergeet de herinneringen niet: een verwijderde chat wist niet wat ChatGPT eruit heeft onthouden.

Google Meet laat Gemini vanaf 29 september standaard notuleren bij Business Standard en Business Plus

Impact: ★★

Google kondigde op 22 september aan dat de instelling voor “Take notes for me” in Google Meet verandert. Beheerders krijgen een derde optie om automatisch notuleren alleen in te schakelen “for meetings with three or more people”. De kern zit in de standaardwaarde: “Customers on Business Standard and Business Plus plans will see this setting turned ON by default”, terwijl de instelling bij Enterprise Standard, Enterprise Plus en Frontline Plus standaard uit staat. De wijziging raakt eindgebruikers vanaf 29 september 2026.

Wat betekent dit voor jouw praktijk? Veel kleine en middelgrote kantoren werken met Business Standard of Plus; een driegesprek met cliënt en wederpartij wordt dan straks automatisch door Gemini genotuleerd. Laat de beheerder vóór 29 september de Admin-console nalopen, en check bij elk gesprek met externen of notuleren aanstaat en of alle deelnemers dat weten. Wil je gesprekken wél vastleggen, maak het dan een bewuste keuze, bijvoorbeeld met onze AVG-proof dictatie- en transcriptietool Litic Speech, die volledig binnen Europa draait.

Prompt van de week

De samenvatting met vindplaats. Het item uit New Mexico laat zien waar het misgaat: een samenvatting die feiten toevoegt die niet in het dossier staan. Deze prompt dwingt het model om elke bewering te koppelen aan een vindplaats en een letterlijk citaat, en om te melden wat het niet kan vinden.

Vat het bijgevoegde document samen.

Regels:
1. Geef bij elke feitelijke bewering (naam, datum, bedrag, verklaring)
   het paginanummer of randnummer en een letterlijk citaat van maximaal
   20 woorden uit het document.
2. Kun je geen letterlijke passage vinden, schrijf dan "NIET IN BRON"
   en laat de bewering weg.
3. Voeg niets toe dat niet in het document staat, ook geen
   achtergrondkennis of aannames.
4. Sluit af met een lijst van alle personen die je noemt, elk met
   vindplaats.

Waarom werkt dit? Het letterlijke citaat met vindplaats maakt elke bewering in seconden controleerbaar, en de uitweg “NIET IN BRON” geeft het model toestemming om een gat te benoemen in plaats van het op te vullen. De personenlijst is je snelste controle: juist verzonnen getuigen vallen daar op. Gebruik de prompt alleen met een gepseudonimiseerd of openbaar stuk. Variatietip: open daarna een nieuw gesprek, plak het stuk en de personenlijst, en laat het model per persoon nagaan of de vindplaats klopt; een nieuw gesprek voorkomt dat het model zijn eigen samenvatting napraat.

De prompt vraagt niet om vertrouwelijke gegevens; gebruik hem niet met herleidbare cliëntstukken in een consumentenaccount.

Praktijktip AI-gebruik

Zet je initialen bij elk gecontroleerd feit. Wie een AI-concept doorgeeft aan een collega of patroon, geeft ook de vraag door of het al gecontroleerd is. Maak dat zichtbaar. Een werkwijze die Attorney at Work beschrijft: “A junior associate, for example, should check the facts and mark them as verified by inserting their initials.” Concreet: wie een feit, citaat of bron in een AI-concept heeft nagelopen tegen het brondocument, zet er zijn initialen en de vindplaats bij (bijvoorbeeld “AB, prod. 4 p. 12”). Wat zonder initialen de deur uit dreigt te gaan, is per definitie niet gecontroleerd. Zo wordt verificatie een zichtbare stap in de overdracht in plaats van een aanname, en weet de patroon bij het aftekenen precies wat er nog openstaat. → Verificatievaardigheid is ook een vast onderdeel van onze trainingen AI-geletterdheid voor kantoren: litic.ai.

Regelgeving & toezicht

Update op de editie van 16 september: OpenAI verschuift de custom GPT-tijdlijn, en wij corrigeren een datum. Op 16 september schreven we dat vanaf 25 september geen nieuwe custom GPT’s meer konden worden gemaakt. Die datum staat niet meer in de bijgewerkte FAQ van OpenAI. Voor Enterprise-werkruimtes geldt nu: “Oct 26, 2026 (planned): Creation of new custom GPTs ends.” De einddatum blijft staan: “Custom GPTs are scheduled to retire on Dec 11, 2026.” Voor andere abonnementen verwijst OpenAI naar de melding in je eigen account. Let op bij de migratie: “Drafts and unpublished edits do not transfer.” Publiceer dus eerst wat je wilt meenemen.

AP waarschuwt voor camerabrillen met AI; rechtbanken genoemd als gevoelige plek. De Autoriteit Persoonsgegevens waarschuwde op 22 september dat het filmen van anderen met een camerabril vrijwel altijd verboden is: “Op plekken als ziekenhuizen, rechtbanken en religieuze gebouwen moeten mensen er extra op kunnen vertrouwen dat zij niet ongemerkt worden gefilmd of geanalyseerd.” Ook zonder opslag kunnen AI-functies persoonsgegevens verwerken, en de AP adviseert beheerders van locaties een verbod in de huisregels. Voor kantoren een praktische vraag: horen camerabrillen thuis in je spreekkamer, en wat zeg je tegen een cliënt die er een draagt?

EDPB harmoniseert de AVG-boetemethode. De European Data Protection Board presenteerde op 21 september een vijfstappenmethode voor AVG-boetes en stelde de definitieve richtsnoeren over de samenloop van DSA en AVG vast. Kern: bij een kleine inbreuk volgt in de regel geen boete maar mogelijk een berisping; is de inbreuk niet klein, dan geldt “a strong presumption that a fine should be imposed”. De consultatie loopt tot 13 november.

NOvA wil het advocatenkantoor als normadressaat. In haar reactie op het wetsvoorstel voor een onafhankelijke toezichthouder advocatuur (17 september) vraagt de NOvA om naast de individuele advocaat ook het kantoor als normadressaat op te nemen, omdat naleving “steeds vaker samenhangt met kantoororganisatie, governance, ICT en compliance”. De NOvA noemt AI niet expliciet, maar een kantoorbreed AI-beleid is precies het soort ICT-governance waarop een kantoor dan zelf aanspreekbaar wordt.

Citaat

“Rule Number One: You may not use a single word an LLM suggests to you.”

Thomas Ptacek, 17 september 2026, in How to write with an LLM. Een strenge regel, maar een bruikbare maatstaf voor de pleitnota: laat AI je tekst gerust kritisch lezen, maar schrijf de zinnen zelf.

Vooruitblik

24 september: AP meets Academia, met panels over de AI Act, de GDPR-omnibus en de DSA.

29 september: Google Meet “Take notes for me” gaat standaard aan voor Business Standard en Business Plus (zie hierboven).

30 september: Apply AI-webinar van de Europese Commissie voor de publieke sector.

Oktober: Microsoft Purview DLP voor Copilot Cowork algemeen beschikbaar, volgens de roadmap nog in ontwikkeling.

26 oktober (gepland): Enterprise-werkruimtes kunnen geen nieuwe custom GPT’s meer maken.

30 oktober: einde van de EDPB-consultatie over anonimisering en webscraping bij generatieve AI.

13 november: einde van de EDPB-consultatie over de boetemethode.

17 november: Apply AI Summit van de Commissie.

2 december: uiterste datum voor het machineleesbare watermerk voor generatieve systemen van vóór 2 augustus en ingangsdatum van het nieuwe artikel 5-verbod uit de AI Act.

11 december: custom GPT’s stoppen definitief.

Doorlopend: de feitelijke uitrol van het Meet-notuleren en eventuele reacties van NOvA of dekens, de primaire uitspraak en tuchtprocedure in New Mexico, verdere uitspraken in de reeks over AI-bronnen, en de kabinetsreactie op de consultatie over het verschoningsrecht. Wij volgen het.

Eerder in deze nieuwsbrief

Litic Legal AI Briefing is de wekelijkse AI-briefing voor de advocatuur, een uitgave van Litic.AI.

Terug naar de blog