En domare i Kalifornien avslöjar nu hur han nästan lät sig övertygas av falska juridiska citat genererade av artificiell intelligens.
Juridisk mardröm: Advokater åker fast för AI-fusk
Åsa Wallenrud
Uppdaterad: 15 maj 2025Publicerad: 15 maj 2025
ANNONS
ANNONS
Mest läst i kategorin
Advokatbyråer som representerade käranden i ett fall tvingas nu betala över 325 000 kronor i sanktioner efter att ha lämnat in juridiska dokument med påhittade AI-referenser.
“Kärandens användning av AI vilseledde mig aktivt”, skriver den pensionerade domaren Michael Wilner, som tjänstgjorde som särskild medlare i fallet.
Han berättar att han initialt trodde att citaten var äkta och var “nära” att inkludera dem i ett domstolsbeslut, skriver Ars Technica.
Detta är inte första gången som advokater ertappas med att använda falska AI-genererade citat i sina inlagor. I vissa fall har motpartens advokater upptäckt bluffen och informerat domaren. I det aktuella fallet var det domaren själv som noterade att vissa referenser inte kunde verifieras, men han uttrycker oro över hur nära han var att basera ett beslut på de falska uppgifterna.
“Skrämmande” nära justitiemiss
“Direkt uttryckt, kärandens användning av AI vilseledde mig aktivt”, skriver domare Wilner i ett beslut daterat den 5 maj.
“Jag läste deras inlaga, blev övertygad (eller åtminstone intresserad) av de rättsfall de citerade och sökte upp dem för att lära mig mer – bara för att upptäcka att de inte existerade. Det är skrämmande. Det ledde nästan till det ännu mer skrämmande resultatet (ur mitt perspektiv) att inkludera dessa falska uppgifter i ett rättsligt beslut. Kraftfull avskräckning är nödvändig för att säkerställa att advokater inte faller för denna enkla genväg.”
Det visade sig att “AI-hallucinationerna inte låg alltför långt ifrån den faktiska juridiska substansen i sina återgivanden”, men enligt Wilner ursäktar inte det advokaternas användning av AI.
ANNONS
“Det är ett ganska svagt ‘ingen skada skedd’-försvar av agerandet här”, skriver han.
De sanktionerade advokaterna representerar Jackie Lacey, tidigare distriktsåklagare i Los Angeles County, som stämt försäkringsbolaget State Farm. Laceys stämning hävdar att bolaget vägrade att tillhandahålla juridiskt försvar åt hennes framlidne make, som stod inför en civilrättslig stämning efter att ha riktat ett vapen mot en grupp aktivister på deras veranda.
AI trollar fram Lego-byggen direkt från dina tankar
Forskare har gjort det omöjliga möjligt – en AI vid namn LegoGPT skapar detaljerade Lego-byggen enbart baserat på textinstruktioner. Ett team vid Carnegie
ANNONS
Senaste nytt
Stort advokatteam missade bluffen
Lacey representeras av vad Wilner beskriver som “ett stort team av advokater” från de stora byråerna K&L Gates och den mindre firman Ellis George LLP. Wilner beskrev händelsen som “ett kollektivt fiasko”.
“Advokaterna som företräder käranden i detta civilrättsliga mål lämnade in inlagor till den särskilda medlaren som innehöll falsk AI-genererad forskning”, skriver Wilner.
“Efter ytterligare förhandlingar och noggrant övervägande drar jag slutsatsen att ett beslut som kombinerar rättegångssanktioner mot käranden och ekonomiska betalningar från advokaterna och advokatbyråerna är lämpligt för att hantera detta felaktiga agerande.”
AI:s osynliga miljöpåverkan – företagen famlar i blindo
Den snabba utvecklingen av generativ AI har öppnat dörrar till innovation och effektivisering, men baksidan av myntet är en betydande miljöpåverkan. Trots
Wilner utsågs till särskild medlare för att övervaka en tvist angående State Farms påståenden om olika privilegier i bevismaterialet. Wilner fann att kärandens “kompletterande inlaga innehöll ett flertal falska, felaktiga och vilseledande juridiska citat och anföranden… ungefär nio av de 27 juridiska citaten på den tio sidor långa inlagan var felaktiga på något sätt. Åtminstone två av de åberopade rättsfallen existerar inte alls. Dessutom var flera citat som tillskrevs de åberopade domstolsbesluten påhittade och återgav inte materialet korrekt.”
ANNONS
Juridikprofessorn Eugene Volokh kommenterade händelsen och noterade att “båda de inblandade byråerna har, såvitt jag vet, utmärkt rykte, och felet är inte alls typiskt för deras arbete.”
Drömmen om att tala med djur närmare än någonsin
Kinesiska teknikjätten Baidu tar ett jättekliv mot att förverkliga drömmen om att förstå våra fyrbenta vänners hemliga språk. Genom ett nyligen inlämnat
Nytt försök innehöll fortfarande falska citat
“Advokaterna medger att Mr. Copeland använde olika AI-verktyg för att generera en ‘skiss’ till den kompletterande inlagan. Det dokumentet innehöll den problematiska juridiska forskningen”, skriver Wilner.
“Mr. Copeland skickade skissen till advokater vid K&L Gates. De införlivade materialet i inlagan. Ingen advokat eller anställd vid någon av byråerna kontrollerade uppenbarligen citaten eller granskade forskningen på annat sätt innan de lämnade in inlagan till den särskilda medlaren.”
Under Wilners första granskning av inlagan kunde han inte bekräfta riktigheten i två citat. Han mejlade advokaterna om detta, och K&L Gates “skickade in inlagan på nytt utan de två felaktiga citaten – men med de återstående AI-genererade problemen kvar i texten”, skriver Wilner.
Wilner upptäckte inte omfattningen av AI-bluffen förrän han begärde en mer detaljerad förklaring. Advokaternas redogörelse och den AI-genererade skissen avslöjade händelseförloppet.
AI-satsning i mångmiljardklassen – Prinsen i spetsen för jätteprojekt
Saudiarabien satsar miljarder på AI. Kronprinsen leder jätteprojektet som ska locka techjättar och göra landet till en global AI-hub. Saudiarabiens
Domaren: Outsourca inte research till AI
ANNONS
De inblandade advokaterna “agerade kollektivt på ett sätt som var liktydigt med illojalitet”, skriver Wilner. Han kritiserade användningen av AI utan verifiering. Han kritiserade även K&L Gates för att inte ha kontrollerat forskningen.
De sanktioner som Wilner utfärdade påverkar kärandens fall. Han underkände de inlagor som innehöll de falska uppgifterna och avslog yrkandena om edition.
Wilner beordrade Ellis George och K&L Gates att betala 325 000 kronor i sanktioner, men valde att inte straffa advokaterna personligen på grund av deras fullständiga ursäkter.
Absurt maktskifte: Trump sparkar toppchef mitt i AI-striden
Trump agerar i skuggan av AI-striden. Toppchef får sparken efter rapport om Musks metoder. Politisk turbulens skakar upphovsrättsvärlden. President Donald
Läs också:
Läkare slår larm: Systemet tappar livsviktiga ord. News 55
Riksbankens ledamöter väljer rörlig ränta – trots högre risk. E55
Milano tömmer London – rika flyr skatterna. Realtid
ANNONS
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
ANNONS
ANNONS
Senaste nytt
ANNONS
ANNONS