AI Overviews è uno strumento sperimentale che genera risposte basate su richieste degli utenti. Queste risposte sono tratte da contenuti reali disponibili su internet, ma l’IA non è ancora in grado di distinguere tra fonti serie e quelle satiriche o umoristiche. Di conseguenza, piattaforme come The Onion o Reddit finiscono per alimentare involontariamente risposte bizzarre e fuorvianti.
Ad esempio, se un utente chiede quante pietre dovrebbe mangiare ogni giorno, AI Overviews risponde con sicurezza che, secondo i geologi dell’UC Berkeley, si dovrebbe consumare almeno una piccola pietra al giorno, una risposta ovviamente tratta da The Onion. In un altro caso, quando interrogato su come far aderire meglio il formaggio alla pizza, l’IA suggerisce l’uso di colla commestibile, un’idea assurda che proviene da un post di undici anni fa su Reddit.
Un portavoce di Google ha dichiarato alla BBC che questi incidenti sono isolati e non rappresentano la norma nell’uso quotidiano della piattaforma. Tuttavia, la situazione solleva questioni serie riguardo la diffusione di informazioni errate. L’IA ha affermato erroneamente che Barack Obama fosse il primo presidente musulmano degli Stati Uniti, quando in realtà è cristiano protestante. Inoltre, ha elencato i “benefici per la salute” del fumo e ha suggerito che correre con le forbici in mano possa essere salutare, oltre a promuovere il consumo della propria urina come benefico.
Questi risultati disastrosi hanno riacceso il dibattito sull’utilità dell’IA, che secondo Google dovrebbe semplificare la ricerca di informazioni. Tuttavia, se è necessario verificare l’accuratezza di ciò che viene fornito per evitare la diffusione di informazioni false, si rischia di ingannare coloro che non hanno la possibilità o il tempo di controllare le fonti. Inoltre, l’IA ha un notevole impatto ambientale; anche Microsoft, che sta investendo molto sull’IA, ha recentemente ammesso di non essere riuscita a mantenere gli impegni per diventare carbon-negative a causa dell’IA.
Un altro esempio preoccupante riguarda la manutenzione della lavatrice, dove l’IA ha suggerito l’uso di candeggina e aceto. La risposta dettagliata indicava di usarli uno dopo l’altro, ma avrebbe dovuto mettere in guardia contro l’uso combinato di questi prodotti, che genera gas cloro, una sostanza tossica.
Parlando di tossicità, anche l’IA Gemini di Google non sta andando molto meglio. Ha recentemente confuso il fungo Amanita bisporigera, uno dei funghi più pericolosi al mondo, con un innocuo champignon. Questo errore potrebbe avere conseguenze letali, dato che l’Amanita può distruggere i tessuti del fegato e dei reni.
In questo contesto, “Dottor Google” assume una nuova e pericolosa forma, sebbene non manchi l’elemento comico, grazie ancora una volta ai siti satirici. AI Overviews sostiene che mangiare determinati alimenti insoliti possa portare benefici per la salute, riducendo la suscettibilità al raffreddore comune e all’influenza.