Wikipedia Rafforza le Regole per Combattere gli Errori Generati dall’IA

Wikipedia sta avvertendo i lettori riguardo al testo generato da intelligenza artificiale, stanno velocizzando la cancellazione delle pagine e bandendo le immagini AI in una grande spinta per preservare l’affidabilità e la fiducia.

L’etichetta di avvertimento “Questo articolo può incorporare testo proveniente da un ampio modello linguistico” appare su centinaia di articoli di Wikipedia. The Washington Post riporta come gli editori volontari lavorino per identificare ed eliminare i contenuti generati da IA che contengono errori, citazioni false e dati fuorvianti.

“Le persone si fidano davvero, davvero di Wikipedia,” ha detto Lucie-Aimée Kaffee, ricercatrice di politica e intelligenza artificiale, come riportato dal The Post. “E questo è qualcosa che non dovremmo erodere,” ha aggiunto Lucie.

L’accuratezza di Wikipedia dipende da una rete globale di volontari che hanno combattuto contro lo spam e il vandalismo fin dalla nascita della piattaforma. Dal 2022, la generazione di testi con intelligenza artificiale ha semplificato la creazione di articoli su Wikipedia convincenti ma errati, ha detto Marshall Miller, direttore del prodotto presso la Wikimedia Foundation. “Mi piace pensarlo come un sistema immunitario,” ha detto Miller, come riportato dal The Post.

Uno studio dell’Università di Princeton ha scoperto che circa il 5% delle nuove pagine in inglese di Wikipedia nell’agosto 2024 conteneva testi generati dall’IA, come riportato da The Post. Alcuni erano innocui, ma altri promuovevano affari o agende politiche. Tra gli esempi, un hotel descritto come un villaggio e un falso articolo su una fortezza ottomana che è rimasto online per quasi un anno.

Per contrastare ciò, nel 2023 gli editori hanno lanciato il WikiProject AI Cleanup, creando guide per riconoscere la scrittura dell’IA e elencando oltre 500 articoli sospetti. Ad agosto, Wikipedia ha implementato una nuova politica di cancellazione per consentire rapidi rimozioni di pagine, in particolare quelle contenenti contenuti visibili prodotti dall’IA o promemoria residui. Inoltre, le immagini generate dall’IA sono completamente bandite.

“Oh Dio, ho trovato un SACCO di pasticci di AI nella coda di invio”, si è lamentato un editor a giugno, come riportato dal The Post.

Sebbene la Wikimedia Foundation abbia esplorato gli strumenti di AI per aiutare gli editor con compiti come la traduzione, Miller ha sottolineato: “Il modo in cui Wikipedia rimane neutrale e affidabile… è che tutto questo contenuto passa attraverso le mani delle persone”. Kaffee ha aggiunto: “Chiedersi, ‘Dove vogliamo l’AI? […] Che tipo di regole vogliamo stabilire per la conoscenza generata dall’AI?’ Credo sia davvero importante.”