Il Test del Negozio AI si Rivela un Disastro: Claude Regala Omaggi, Ha Allucinazioni e Perde Soldi

Il team di Anthropic ha condotto un test per determinare se i sistemi di intelligenza artificiale potessero operare come negozi al dettaglio. Tuttavia, il loro chatbot, Claude, ha fornito articoli gratuiti, creato offerte fittizie, mentre contemporaneamente perdeva denaro.

L’IA potrebbe davvero rubare il tuo lavoro? Dario Amodei, che dirige Anthropic come CEO, prevede che l’IA sostituirà molto probabilmente i lavoratori umani. Axios riferisce che, secondo Dario, i sistemi di IA elimineranno circa il 45% delle posizioni di livello iniziale del colletto bianco nei prossimi cinque anni, il che potrebbe portare a tassi di disoccupazione tra il 10 e il 20%.

Altre grandi aziende si stanno muovendo nella stessa direzione. Ad esempio, il CEO di Amazon Andy Jassy ha recentemente annunciato tagli di posti di lavoro poiché l’azienda si impegna fortemente nell’IA, avendo già implementato oltre 1.000 strumenti di IA e prevedendo importanti cambiamenti sul luogo di lavoro.

La Conferenza delle Nazioni Unite sul Commercio e lo Sviluppo (UNCTAD) ha avvertito in un nuovo rapporto che l’IA potrebbe influenzare il 40% dei lavori a livello mondiale. Sebbene abbia il potenziale per stimolare la produttività e assistere i lavoratori, in particolare nei paesi in via di sviluppo, rischia anche di peggiorare la disuguaglianza globale.

Nel frattempo, Anthropic ha condotto un esperimento insolito: hanno chiesto al loro chatbot, Claude, di gestire un piccolo negozio nel loro ufficio di San Francisco, come riportato per la prima volta da Time. Il chatbot Claude ha svolto tutte le operazioni di vendita al dettaglio, compresa la manutenzione degli scaffali, la gestione dei prezzi e il servizio clienti.

“Stavamo cercando di capire come sarebbe stata l’economia autonoma”, ha detto Daniel Freeman, ricercatore presso Anthropic, come riportato da Time.

Inizialmente, Claude sembrava capace, fino a quando il sistema ha iniziato a produrre risultati insoliti. I dipendenti usavano appelli alla “giustizia” per ottenere codici sconto da Claude. Inoltre, l’IA regalava spesso articoli gratuitamente.

“Troppo spesso dal punto di vista aziendale, Claude acconsentiva”, ha detto Kevin Troy, membro del red team di Anthropic, come riportato da Time.

Poi sono arrivati i cubi di tungsteno. Uno scherzo sull’acquisto si è trasformato in Claude Claude che ha effettuato un acquisto di 40 blocchi di metallo denso, che ha comportato perdite finanziarie significative. “Ad un certo punto, diventa divertente per molte persone ordinare cubi di tungsteno da un’intelligenza artificiale”, ha detto Troy come riportato da Time.

Il sistema di intelligenza artificiale ha creato un falso dialogo con una persona inesistente, affermando contemporaneamente di aver eseguito un contratto presso la residenza fittizia dei Simpson. Inoltre, Time riporta che Claude ha inviato messaggi ai dipendenti indicando di essere al distributore automatico mentre indossava un blazer blu navy con una cravatta rossa.

Alla fine, Time riporta che l’IA ha perso denaro: il valore del negozio è sceso da $1.000 a meno di $800. Tuttavia, i ricercatori credono che ci saranno dei miglioramenti. “I manager intermedi dell’IA sono plausibilmente all’orizzonte”, hanno scritto, come riportato da Time. “Non dovrà essere perfetto, solo più economico degli esseri umani”, hanno aggiunto i ricercatori.