Un'UX progettata per favorire l'engagement piuttosto che la trasparenza
Design psicologico e responsabilità etica
"L'uso da parte di Meta della psicologia del design solleva preoccupazioni sull'etica del dispiegamento dell'IA. Integrando l'IA nelle interazioni regolari delle applicazioni senza chiari indicatori visivi né avvertimenti, gli utenti possono impegnarsi in interazioni che non avevano previsto, spesso senza rendersene conto."
aggiungendo:
"Le persone credono di conversare con un umano o di utilizzare semplicemente la piattaforma normalmente. Ma in background, l'IA di Meta impara da loro e immagazzina ciò che apprende."
Rischi specifici a seconda della piattaforma
Piattaforma | Rischi legati alla protezione della privacy | Punti chiave | Citazione di Adrianus Warmenhoven |
WhatsApp |  Grave | - Consenso parziale nelle chat di gruppo- Nessun opt-out globale- L'IA elude la crittografia end-to-end. | "Anche se non usi l'IA, i tuoi metadati potrebbero essere integrati senza il tuo consenso." |
Facebook | Grave | - Nessun rifiuto chiaro - Gli strumenti di IA si fondono nell'interfaccia - Raccolta passiva di dati comportamentali. | "Interagisci con l'IA prima ancora di rendertene conto ed è intenzionale." |
Instagram |  Alto | - Engagement implicito- Nessun parametro IA dedicato- Miglioramento dei segnali di engagement e dati comportamentali. | "L'attività del tuo feed diventa un dato di addestramento, che tu lo accetti o meno." |
Messenger |  Moderato | - Nessuna separazione chiara tra le chat IA/umane- Nessuna crittografia per le chat IA-. Divulgazioni oscure | "Due chat dall'aspetto identico possono avere implicazioni totalmente diverse in termini di protezione della privacy." |
Threads | Moderato | - Consenso implicito e specifico alla regione- Nessun opt-out- Analisi dell'engagement da parte dell'IA in background. | "Anche se ignori l'IA, continua a osservarti e a modellare la tua esperienza." |
"Per un dispiegamento responsabile dell'IA, servono funzioni universali di opt-in e opt-out. Un'impostazione che consenta alle persone di attivare e disattivare le funzioni di IA su tutte le piattaforme di Meta. Se non è un'opzione opt-in, almeno una spiegazione chiara fin dall'inizio su come saranno utilizzati i dati".
L'esperto conclude:
"L'IA può sicuramente coesistere con la privacy. Ma solo se aziende come Meta danno la priorità alla trasparenza, al consenso e alla sicurezza. Senza questo, la fiducia scompare e con essa, il valore a lungo termine dell'IA".