Meta AI gibt überraschend persönliche Nutzeranfragen öffentlich preis
Wie ein Discovery-Feed sensible Konversationen offenlegt.
Die Plattform macht Inhalte sichtbar, die viele Nutzer wahrscheinlich für privat hielten. In bestimmten Fällen sind Anfragen mit vollständigen Namen, Profilbildern oder anderen identifizierenden Details verknüpft. Beispiele hierfür sind die Offenlegung laufender medizinischer Probleme, geplanter Operationen, Wohnadressen oder rechtlicher Bedenken – von Anfragen nach Mustern für Mietvertragskündigungen bis hin zu Fragen zu möglichem Steuerbetrug.
Einige Nutzer gehen sogar so weit, Details über andere Personen, wie Familienmitglieder oder Kollegen, zu teilen. In mehreren Fällen wurde der Chatbot gebeten, bei der Formulierung von Erklärungen für Gerichtsverfahren zu helfen, wobei sowohl persönliche Daten des Nutzers als auch des Untersuchungsobjekts offengelegt wurden.
Gesundheitsbezogene Anliegen sind ein häufiges Thema – Verdauungsprobleme, Hautausschläge oder postoperative Probleme – oft begleitet vom Alter und Beruf des Nutzers. Viele dieser Interaktionen sind nachvollziehbar mit öffentlichen Social-Media-Profilen verknüpft.
Laut dem Unternehmen sind Chats standardmäßig privat, es sei denn, Nutzer durchlaufen aktiv einen mehrstufigen Prozess, um sie im Discover-Feed zu veröffentlichen. Es bleibt jedoch unklar, wie gut Nutzer diese Einstellung verstehen oder ob einige Beiträge das Ergebnis absichtlicher Sticheleien nach medialer Aufmerksamkeit sind.
Datenschutzexperten haben Bedenken hinsichtlich der Menge sensibler Daten geäußert, die unbeabsichtigt offengelegt werden. Viele glauben, dass Nutzer immer noch missverstehen, wie KI-Plattformen funktionieren und inwieweit ihre Eingaben öffentlich zugänglich sein könnten.
Trotz Warnungen schreitet die Entwicklung solcher KI-Tools rapide voran. Kürzlich berichtete das Unternehmen, dass seine KI-Assistenz auf seinen Plattformen inzwischen eine Milliarde Nutzer hat, und es wird angeblich ein neues Labor für die Entwicklung fortschrittlicher KI-Systeme aufgebaut.
In der Zwischenzeit tauchen immer noch öffentliche Anfragen auf, die die Risiken der Plattform selbst hinterfragen. Das KI-System antwortet oft, indem es die Möglichkeit einräumt, dass Nutzer unbeabsichtigt private Informationen teilen könnten, und verweist auf verfügbare Tools zur Verwaltung des Datenschutzes. Kritiker stellen jedoch die Frage, ob diese Maßnahmen wirklich ausreichend sind.
