Meta sta sperimentando una funzione particolare per Muse, il nuovo agente di intelligenza artificiale dell’azienda: alcune richieste telefoniche potrebbero essere gestite da operatori umani invece che esclusivamente dall’AI.
Il test è emerso da comunicazioni interne di Meta visionate da Reuters e riguarda la nuova funzione che consente a Muse di effettuare telefonate per conto dell’utente.
La novità apre però anche una questione delicata: quando chiediamo a un’intelligenza artificiale di telefonare al nostro posto, chi c’è realmente dall’altra parte del sistema?
- Apple punta sull’AI locale: i nuovi Mac sfidano Microsoft e Nvidia
- Shopping con l’AI, le banche lanciano l’allarme: rischi di truffe e frodi
- WhatsApp può diventare un assistente personale: Muse può prenotare viaggi e svolgere attività per te
Muse può telefonare alle aziende per conto dell’utente
Muse è stato progettato come un agente AI capace non soltanto di rispondere alle domande, ma anche di svolgere attività concrete.
Tra queste c’è la possibilità di telefonare ad attività commerciali negli Stati Uniti.
Un utente può, per esempio, chiedere a Muse di:
- prenotare un appuntamento;
- verificare la disponibilità di un prodotto;
- chiedere informazioni a un negozio;
- ottenere un preventivo;
- organizzare alcune attività pratiche.
Al termine della chiamata, Muse può fornire all’utente un riepilogo e una trascrizione della conversazione.
Meta aveva iniziato a testare internamente questa funzione già ad agosto.
Meta sta provando anche un “concierge umano”
La parte più interessante riguarda però un nuovo test interno.
Secondo Reuters, Meta ha attivato per una parte dei propri dipendenti una funzione chiamata internamente anche “human agent calls”.
In determinate situazioni Muse può quindi affidare la richiesta a un operatore umano addestrato, che effettua materialmente la telefonata e porta avanti l’attività richiesta.
In pratica, l’esperienza per l’utente può continuare ad apparire come una richiesta fatta a un assistente AI, mentre dietro una parte dell’operazione interviene una persona.
Il test sarebbe stato attivato per circa metà dei dipendenti Meta coinvolti nella sperimentazione, con la possibilità di scegliere di non partecipare.
Il nodo principale è la privacy
Ed è proprio qui che nasce il problema più delicato.
Alcuni dipendenti Meta avrebbero espresso preoccupazioni sulla possibilità che informazioni personali o sensibili possano essere condivise involontariamente con gli operatori incaricati di effettuare le chiamate.
Un utente potrebbe infatti utilizzare Muse per attività che richiedono informazioni personali, preferenze, appuntamenti o altri dettagli che normalmente immaginerebbe di affidare soltanto a un sistema automatizzato.
La presenza di un operatore umano cambia quindi in parte la percezione del servizio.
Diventa fondamentale sapere chiaramente quando una richiesta viene gestita dall’intelligenza artificiale e quando, invece, interviene una persona.
Meta: il test serve a migliorare sicurezza e protezioni
Meta ha spiegato a Reuters che la sperimentazione serve proprio a raccogliere feedback prima di un’eventuale distribuzione più ampia della funzione.
La società afferma inoltre di voler introdurre adeguate protezioni per sicurezza e privacy e di voler rendere disponibili funzioni di questo tipo soltanto quando saranno pronte e accompagnate dalle necessarie informazioni per gli utenti.
Muse è stato presentato da Meta come un sistema progettato con diverse misure di sicurezza, tra cui ambienti virtuali separati per le attività dell’agente e sistemi dedicati alla protezione delle informazioni sensibili.
Il test degli operatori umani mostra però quanto possa diventare complesso il confine tra automazione e intervento umano quando gli agenti AI iniziano a svolgere attività nel mondo reale.
Muse sta crescendo rapidamente
La questione arriva mentre Muse sta registrando una forte diffusione negli Stati Uniti.
Secondo i dati citati da Reuters, l’app avrebbe superato 2,5 milioni di download nelle prime due settimane dal lancio, raggiungendo le prime posizioni nelle classifiche statunitensi.
Meta considera Muse una parte importante della propria strategia sull’intelligenza artificiale personale.
L’obiettivo è costruire un assistente capace di operare attraverso diversi servizi e svolgere attività come inviare email, acquistare prodotti, organizzare viaggi e gestire richieste per conto dell’utente.
Gli agenti AI cambiano anche il problema della trasparenza
Il caso Muse mette in evidenza una questione destinata a diventare sempre più importante.
Con i chatbot tradizionali era relativamente semplice capire con chi stavamo interagendo: un software rispondeva a una domanda.
Gli agenti AI possono invece utilizzare browser, servizi esterni, telefonate e, come mostra il test di Meta, anche persone incaricate di completare alcune attività.
La distinzione tra “azione compiuta dall’AI” e “azione compiuta da un essere umano per conto dell’AI” diventa quindi molto meno evidente.
Per gli utenti sarà fondamentale sapere chi può accedere alle informazioni utilizzate durante queste operazioni e quando un essere umano può entrare nel processo.
La tecnologia degli agenti personali sta facendo rapidamente passi avanti.
Ma insieme alla capacità di fare sempre più cose al posto dell’utente cresce anche la necessità di rendere chiaro chi, concretamente, quelle cose le sta facendo.
