Amerikaanse primeur: rechter betrapt man die AI probeert te manipuleren om proces te winnen
Een Amerikaan verstopte in zijn processtukken opdrachten die mensen niet konden zien, maar AI wel kon lezen. Als een rechter of advocaat het document door AI liet analyseren, moest het systeem de man gelijk geven. Een rechter in Connecticut ontdekte de truc en legde hem een sanctie op.
Samenvatting van het artikel
Een rechtbank in Connecticut buigt zich als eerste in de VS over ‘prompt injection’ in een processtuk. De zaak toont een nieuw risico nu AI steeds vaker juridische documenten verwerkt. De rechter verbiedt AI niet, maar benadrukt dat menselijke controle noodzakelijk blijft.
De opmerkelijke zaak speelt zich af in Connecticut. Matthew A. Elliott procedeert er zonder advocaat tegen New York Bariatric Group (NYBG), waar hij patiënt was. Het conflict begon toen hij zijn medische dossier opvroeg. Elliott vond dat de kliniek hem niet alle gegevens bezorgde waarop hij recht meende te hebben.
Vooral opnames van telefoongesprekken werden een twistpunt. Elliott trok uiteindelijk naar de rechter en breidde zijn klacht fors uit. Hij beriep zich onder meer op regels over medische dossiers, privacy, consumentenbescherming en discriminatie. De zaak groeide zo uit tot een juridisch gevecht met een hele reeks claims.
Om verder te lezen, abonneer u of gebruik een krediet.
