Gli esperti avvertono che i tribunali potrebbero trascurare le allucinazioni dell’IA nelle presentazioni legali

Un tribunale della Georgia ha annullato un ordine di divorzio dopo aver scoperto citazioni legali false, probabilmente generate da intelligenza artificiale, sollevando allarmi sui crescenti rischi nei sistemi di giustizia.

Il caso davanti a un tribunale della Georgia dimostra come l’intelligenza artificiale (AI) potrebbe minare silenziosamente la fiducia del pubblico nelle istituzioni legali americane. ArsTechnica riporta che il giudice Jeff Watkins della Corte d’Appello della Georgia ha annullato un ordine di divorzio perché ha trovato due casi inventati nel documento, che probabilmente erano contenuti generati dall’AI.

L’ordine era stato redatto dall’avvocato Diana Lynch, come riporta ArsTechnica, ora è una pratica comune nei tribunali sovraccarichi di lavoro. Questa crescente abitudine di utilizzare l’IA nelle pratiche legali rende particolarmente rischiosi i scorciatoie.

Lynch è stata sanzionata con $2.500, e il giudice Watkins ha scritto, “le irregolarità in questi documenti suggeriscono che sono stati redatti utilizzando l’IA generativa”, aggiungendo che le allucinazioni dell’IA possono “sprecare tempo e denaro”, danneggiare la reputazione del sistema e permettere a un “litigante […] di sfidare una sentenza giudiziaria sostenendo disingenuamente dei dubbi sulla sua autenticità”, come riportato da ArsTechnica.

Gli esperti avvertono che questo non è un caso isolato. John Browning, ex giudice di appello del Texas, ha dichiarato che è “spaventosamente probabile” che altri tribunali si basino erroneamente su citazioni false generate da IA, soprattutto in sistemi sovraccarichi. “Posso immaginare uno scenario del genere in una serie di situazioni”, ha detto ad Ars Technica.

Altri esempi recenti rispecchiano la preoccupazione. Il sistema legale del Colorado ha multato due avvocati che rappresentavano l’CEO di MyPillow, Mike Lindell, per un totale di 3.000 dollari dopo che hanno presentato documenti legali generati da IA con più di venti errori gravi. La giudice Nina Y. Wang ha scritto: “questa Corte non trae alcun piacere nel sanzionare gli avvocati”, ma ha sottolineato che gli avvocati sono responsabili della verifica dei documenti presentati.

In California, un altro giudice ha multato due studi legali per 31.000 dollari dopo che hanno presentato atti contenenti citazioni false. “È spaventoso,” ha scritto il giudice Michael Wilner, che era quasi stato persuaso dalle false sentenze. A meno che i tribunali non si adattino rapidamente, le allucinazioni dell’IA potrebbero diventare un incubo ricorrente nella giustizia americana.

Questo trend è particolarmente preoccupante se si considera quanto sia già costosa la rappresentanza legale. Le persone comunemente credono che gli onorari legali assicurino sia precisione che servizio professionale da parte dei loro avvocati. Tuttavia, man mano che gli avvocati utilizzano l’IA per prendere scorciatoie, i clienti potrebbero finire per pagare il conto per gli errori commessi da una macchina.

Queste allucinazioni non minacciano solo i risultati legali, potrebbero anche rafforzare l’ineguaglianza rendendo la giustizia ancora più difficile da raggiungere per coloro che possono permettersi meno di lottare per essa.