Eine UX, die auf Engagement statt auf Transparenz abzielt
Psychologisches Design und ethische Verantwortung
"Metas Nutzung der psychologischen Gestaltung wirft Bedenken hinsichtlich der Ethik der KI-Einführung auf. Durch die Integration der KI in reguläre App-Interaktionen ohne klare visuelle Hinweise oder Warnungen können Nutzer in Interaktionen verwickelt werden, die sie nicht vorgesehen haben, oft ohne es zu merken."
und fügt hinzu:
"Die Menschen glauben, sie kommunizieren mit einem Menschen oder nutzen einfach die Plattform normal. Doch im Hintergrund lernt die Meta-KI von ihnen und speichert, was sie lernt."
Spezifische Risiken je nach Plattform
|
Plattform
|
Risiken im Zusammenhang mit dem Schutz der Privatsphäre
|
Wichtige Punkte
|
Zitat von Adrianus Warmenhoven
|
|
WhatsApp
|
Schwer |
- Teilweise Zustimmung in Gruppenchats- Kein globales Opt-out- KI umgeht die Ende-zu-Ende-Verschlüsselung.
|
"Selbst wenn Sie die KI nicht nutzen, könnten Ihre Metadaten ohne Ihr Einverständnis integriert werden."
|
|
Facebook
|
Schwer |
- Kein klares Ablehnen - KI-Tools verschmelzen mit der Benutzeroberfläche - Passive Sammlung von Verhaltensdaten.
|
"Sie interagieren mit der KI, bevor Sie es überhaupt bemerken, und das ist beabsichtigt."
|
|
Instagram
|
Hoch |
- Implizites Engagement- Keine dedizierten KI-Einstellungen- Verbesserte Engagement-Signale und Verhaltensdaten.
|
"Die Aktivität Ihres Feeds wird zu Trainingsdaten, ob Sie es akzeptieren oder nicht."
|
|
Messenger
|
Mäßig |
- Keine klare Trennung zwischen KI- und Mensch-Chats- Keine Verschlüsselung für KI-Chats- Unklare Offenlegungen
|
"Zwei scheinbar identische Unterhaltungen können völlig unterschiedliche Auswirkungen auf den Schutz der Privatsphäre haben."
|
|
Threads
|
Mäßig |
- Implizite und regionsspezifische Zustimmung- Kein Opt-out- Analyse des Engagements durch KI im Hintergrund.
|
"Auch wenn Sie die KI ignorieren, beobachtet sie Sie weiterhin und gestaltet Ihre Erfahrung."
|
"Für eine verantwortungsvolle Einführung der KI sind universelle Opt-in- und Opt-out-Funktionen erforderlich. Eine Einstellung, die es den Menschen ermöglicht, die KI-Funktionen auf allen Meta-Plattformen zu aktivieren und zu deaktivieren. Wenn dies keine Opt-in-Option ist, dann zumindest eine klare Erklärung von Anfang an, wie die Daten verwendet werden."
Der Experte schließt:
"KI kann sicherlich mit der Privatsphäre koexistieren. Aber nur, wenn Unternehmen wie Meta Transparenz, Zustimmung und Sicherheit priorisieren. Ohne dies verschwindet das Vertrauen und damit der langfristige Wert der KI."

Schwer
Hoch
Mäßig