Durante il keynote della conferenza I/O 2018 di Google, ha colpito molto il sistema Duplex relativo all’intelligenza artificiale. Questa riesce infatti a sostenere conversazioni reali con esseri umani, ma proprio in considerazione di ciò sono immediatamente sorti dubbi sulle potenziali complicazioni.
Il sistema Duplex permette all’intelligenza artificiale di imitare la voce umana per prendere, ad esempio, un appuntamento. Google ha però chiarito tramite un comunicato che il sistema sperimentale includerà una funzione built-in di “svelamento”. Ciò significa che Duplex, una volta intrapresa una conversazione verbale con una persona, svelerà a quest’ultima che sta effettivamente dialogando con una AI.
«Capiamo e diamo peso alla discussione su Google Duplex – e come abbiamo detto sin dal principio, la trasparenza nella tecnologia è importante», ha dichiarato un portavoce di Google ai colleghi di The Verge poche ore fa. «Stiamo sviluppando questa tecnologia con una funzione “disclosure built-in”, e ci assicureremo che il sistema si identifichi in modo appropriato. Quella che abbiamo mostrato alla conferenza I/O era una iniziale demo di tale tecnologia».
Duplex non è stato ancora incorporato in un prodotto sul mercato, ma il modo in cui il sistema sia riuscito ad ingannare un essere umano (utilizzando anche frasi colloquiali come “uh” e “mh”) ha allarmato un po’ tutti, in particolare coloro che temono che le tecnologie AI vengano sviluppate senza la giusta supervisione e/o senza tener conto delle regolamentazioni. Ad esempio, il critico tech Zeynep Tufekci ha definito la demo “terrificante”, e ha affermato che l’iniziale reazione positiva a tale tecnologia durante l’I/O sia la conferma che “la Silicon Valley sia eticamente persa, allo sbando e che non abbia imparato nulla”.
Leggi o Aggiungi Commenti