Gli Avvocati di Anthropic si Assumono la Responsabilità per l’Allucinazione AI in una Causa per Violazione di Copyright

Questo giovedì, un avvocato di Anthropic ha ammesso di aver utilizzato una citazione errata generata dal chatbot AI della società, Claude, durante un caso di copyright in corso nel Nord della California. L’azienda di AI è attualmente in una battaglia legale con Universal Music Group (UMG), che ha citato in giudizio Anthropic per l’uso di testi di canzoni protetti da copyright per addestrare i suoi modelli di AI.

L’avvocato, Ivana Dukanovic, associata presso Latham & Watkins, ha dichiarato in un atto giudiziario che Claude ha commesso un errore di citazione elencando il titolo e l’autore sbagliati di un articolo utilizzato nel caso. Tuttavia, ha sottolineato che la pubblicazione, il link, l’anno e il contenuto dell’articolo erano corretti.

“La nostra indagine sulla questione conferma che si è trattato di un onesto errore di citazione e non di una fabbricazione di autorità,” afferma il documento. “Ci scusiamo per l’inesattezza e qualsiasi confusione questo errore possa aver causato.”

Secondo Reuters, la spiegazione di Dukanovic arriva dopo che gli avvocati della UMG hanno detto che la data scientist Olivia Chen ha utilizzato fonti fabbricate dall’IA per difendere Anthropic nel caso.

Dukanovic ha spiegato che Chen ha utilizzato il corretto articolo dal giornale American Statistician, ma che i legali di Latham & Watkins hanno aggiunto l’errata nota a piè di pagina fornita da Claude:

Dopo che il team di Latham & Watkins ha identificato la fonte come un ulteriore supporto potenziale per la testimonianza della signora Chen, ho chiesto a Claude.ai di fornire una citazione legale correttamente formattata per quella fonte utilizzando il link all’articolo corretto. Purtroppo, sebbene abbia fornito il corretto titolo della pubblicazione, l’anno di pubblicazione e il link alla fonte fornita, la citazione restituita includeva un titolo impreciso e autori sbagliati. Il nostro controllo manuale delle citazioni non ha individuato quell’errore.

Dukanovic ha descritto la situazione come un “imbarazzante e involontario errore” e ha assicurato che hanno implementato nuove misure per garantire che non si ripeta.

Alcune settimane fa, durante una fase iniziale del caso, la giuria aveva deciso a favore di Anthropic e considerato le richieste di UMG troppo ampie. Questa nuova situazione potrebbe mettere a rischio il vantaggio di Anthropic nel caso.

Negli ultimi mesi, numerosi avvocati hanno presentato in tribunale negli Stati Uniti documenti generati da AI non corretti, sollevando preoccupazioni e problemi legali. Questa settimana, un giudice ha multato due studi legali di $31,000 per citazioni legali false generate da AI.