Gli strumenti di intelligenza artificiale stanno trasformando il modo in cui cerchiamo informazioni online, ma non sono esenti da problemi. Di recente, un’indagine del quotidiano The Guardian ha rivelato una vulnerabilità nel sistema di ricerca di ChatGPT, il chatbot sviluppato da OpenAI, che potrebbe compromettere l’affidabilità dei risultati tramite una tecnica chiamata “iniezione pubblicitaria”.
L’inchiesta ha mostrato come sia possibile influenzare le risposte di ChatGPT Search inserendo istruzioni nascoste nei codici dei siti web. In pratica, un sito potrebbe manipolare i risultati delle ricerche per far emergere solo informazioni positive, ignorando eventuali critiche o contenuti negativi.
Un esperimento condotto dal Guardian ha dimostrato l’efficacia di questa tecnica. Il team ha creato una pagina web fittizia per un prodotto, includendo recensioni sia positive che negative. Tuttavia, nel codice della pagina erano presenti istruzioni nascoste che spingevano l’AI a mostrare esclusivamente i feedback positivi. Il risultato? ChatGPT Search ha evidenziato solo gli aspetti positivi, ignorando completamente le recensioni critiche.
Questa vulnerabilità potrebbe avere conseguenze significative per gli utenti. Ad esempio, cercando opinioni su un prodotto o servizio, si rischia di ottenere una visione parziale e distorta, basata su informazioni manipolate.
Il dottor Karsten Nohl, esperto di sicurezza informatica presso SR Labs, invita alla cautela:
“L’AI dovrebbe essere considerata un co-pilota nel processo di ricerca, non un sostituto del pensiero critico.”
Questo approccio implica che gli utenti dovrebbero sempre verificare le informazioni ottenute, utilizzandole come supporto e non come unica fonte di verità.
Non è la prima volta che emergono problematiche di questo tipo. Anche Google ha affrontato sfide simili durante l’implementazione delle sue “AI Overview” nel motore di ricerca. Sebbene l’azienda abbia apportato miglioramenti, è evidente che la ricerca potenziata dall’intelligenza artificiale necessiti di ulteriori ottimizzazioni per garantire affidabilità.
È importante notare che ChatGPT Search è ancora in fase di test e disponibile solo per gli abbonati premium. OpenAI è probabilmente già al lavoro per risolvere queste problematiche prima di un eventuale lancio su larga scala. Tuttavia, la scoperta mette in evidenza la necessità di una maggiore trasparenza e sicurezza negli strumenti basati sull’AI, per evitare manipolazioni che possano compromettere la fiducia degli utenti.
Accedi per lasciare un commento:
0 Commenti