La settimana scorsa, Google ha lanciato la nuova linea di smartphone Pixel 9, puntando fortemente sull’intelligenza artificiale (AI) per migliorare l’esperienza utente.
I nuovi dispositivi, dotati della tecnologia Gemini AI, offrono strumenti di generazione e modifica delle immagini basati su AI. Tuttavia, i primi test rivelano preoccupazioni riguardo ai potenziali abusi di queste tecnologie.
Tra le novità più discusse c’è Pixel Studio, un’app di generazione di immagini che consente agli utenti di creare adesivi e immagini a partire da prompt testuali. L’app sembra simile ad Image Playground di Apple, ma ha già suscitato polemiche. I recensori hanno scoperto che Pixel Studio può generare immagini di personaggi dei cartoni animati in situazioni inquietanti, come Spongebob in versione nazista o Elmo armato di AK47.
Digital Trends ha confermato che Pixel Studio può produrre immagini di personaggi famosi coinvolti in attività problematiche come l’uso di armi, droghe e situazioni offensive come sparatorie scolastiche. Sebbene l’app non generi queste immagini a meno che non venga esplicitamente richiesto, è probabile che molti utenti tenteranno di utilizzare la funzione in modi discutibili, piuttosto che per creare immagini innocue di animali carini.
Google ha dichiarato che sono in atto “controlli di sicurezza” per evitare usi impropri di Pixel Studio. L’app non è progettata per generare immagini di esseri umani e l’azienda sta modificando l’AI in risposta ai feedback dei recensori. Dopo l’intervento di Google, Digital Trends non è più riuscita a ottenere immagini di personaggi dei cartoni animati coinvolti in attività illecite.
Ancor più preoccupante è lo strumento “Reimagine“, che consente di aggiungere oggetti alle foto già scattate. The Verge ha testato questa funzione, scoprendo che è possibile aggiungere oggetti inquietanti come cadaveri, bombe e droghe alle immagini. Gli oggetti aggiunti appaiono così realistici che è difficile distinguere le modifiche dalle foto originali. Sebbene Google inserisca un tag nei metadati delle immagini modificate, questo può essere facilmente rimosso con uno screenshot.
Nonostante le sue capacità inquietanti, Reimagine può anche essere usato per aggiungere elementi positivi come tramonti e arcobaleni alle foto. Tuttavia, la facilità con cui si possono creare immagini realistiche di contenuti sensibili solleva dubbi sulla possibilità di utilizzi malevoli.
In risposta a The Verge e Digital Trends, Google ha spiegato che i suoi strumenti di AI generativa sono progettati per “rispettare l’intento dei prompt degli utenti”, il che può portare alla creazione di contenuti che potrebbero offendere quando richiesti. L’azienda afferma che ci sono “Termini di Servizio” che regolano i contenuti non consentiti e che le misure di sicurezza saranno continuamente affinate.
Apple non ha ancora introdotto i suoi strumenti di generazione di immagini, Image Playground o Genmoji, ma le recensioni sul Pixel 9 offrono uno sguardo su come potrebbe essere accolto il lancio se Apple non gestisce correttamente queste tecnologie. Con l’AI, è probabile che gli utenti trovino modi per aggirare le restrizioni anche se vengono implementate numerose misure di sicurezza.
Mentre Apple ha finora evitato immagini fotorealistiche basate su AI, Google ha scelto di adottare questa tecnologia in modo decisivo, rendendo più difficile fidarsi delle foto sui social media e su Internet in futuro.
Leggi o Aggiungi Commenti