Kunstmatige intelligentie kan een handige hulp zijn, maar wie er blind op vaart, komt bedrogen uit. Dat ondervond een Canadese advocaat, die voor zes maanden werd geschorst nadat ze in de rechtszaal met door AI verzonnen bronnen kwam.
Wat er gebeurde
De advocaat, Mary Hyun-Sook Lee, werd in 2025 betrapt tijdens een erfrechtzaak in Toronto. Ze voerde juridische documenten aan die niet bleken te bestaan, zowel op papier als mondeling in de zittingszaal.
Toen de rechter om bewijs vroeg, gaf ze toe dat de stukken "met AI waren gegenereerd". Het ging om ChatGPT, dat de niet-bestaande bronnen had verzonnen.
Een assistent die er niet was
Haar verklaring maakte het alleen maar pijnlijker. Lee wees eerst naar een assistent, een rechtenstudent, die het werk zou hebben gedaan, en noemde zichzelf "van de oude stempel". Later moest ze toegeven dat ze helemaal geen assistenten of stagiairs in dienst had.
En het bleef niet bij één keer. Na de eerste confrontatie gebruikte ze opnieuw ChatGPT, met het verwijt aan zichzelf dat ze "zo stom" was geweest zich op verzonnen bronnen te baseren.
De straf
Het tuchtcollege legde een schorsing van zes maanden op, plus een boete van 10.000 Canadese dollar, omgerekend ruim 6.000 euro. Volgens de berichtgeving is dit vermoedelijk de eerste keer dat een tuchtuitspraak over foutief AI-gebruik openbaar is gemaakt.
Ook dichter bij huis
De zaak staat niet op zichzelf. Het probleem van AI die overtuigend klinkende maar verzonnen feiten produceert, de zogeheten hallucinaties, speelt breder. Ook in Nederland hebben meerdere advocaten al waarschuwingen gekregen na verkeerd gebruik van AI.
De les
De kern is eenvoudig: AI verzint soms dingen die niet bestaan, en presenteert ze met volle overtuiging. In een vak waarin bronnen kloppen of niet, is dat gevaarlijk. De schorsing is zo een waarschuwing aan een hele beroepsgroep: gebruik de technologie gerust, maar controleer wat eruit komt, want de verantwoordelijkheid blijft bij de mens.
