Datenschutz [KI]

2 Übungsfragen mit Lösung und Erklärung.

☝️ SingleEin Product Owner möchte anonymisierte Kundendaten in ein öffentlich betriebenes Sprachmodell eingeben, um Nutzungsmuster zu analysieren. Welcher Einwand wiegt am schwersten?
Der Betriebsrat müsste jeder Einzelabfrage zustimmen
Kundendaten dürfen die Organisation unter keinen Umständen verlassen
Anonymisierung ist bei Verhaltensdaten schwer sicherzustellen; zusätzlich ist zu klären, ob Eingaben zum Training verwendet werden und wo verarbeitet wird
Sprachmodelle sind für Datenanalyse grundsätzlich ungeeignet
Verhaltensdaten lassen sich häufig über Merkmalskombinationen re-identifizieren, sodass aus vermeintlich anonymen Daten personenbezogene werden. Hinzu kommen Verarbeitungsort und die Frage der Trainingsnutzung. Ein pauschales Verbot ist dagegen keine fachliche Antwort.
✍️ OffenEin Product Owner möchte Kundenrückmeldungen und Supportanfragen automatisch auswerten lassen, um Produktentscheidungen zu stützen. Erläutern Sie, was vorab zu klären ist und welche methodischen Grenzen bestehen.
Musterantwort: Vorab zu klären sind drei Bereiche. Rechtlich: Welche personenbezogenen Daten sind in den Rückmeldungen enthalten, auf welcher Rechtsgrundlage werden sie verarbeitet, und ist der Zweck mit dem ursprünglichen Erhebungszweck vereinbar? Supportanfragen enthalten regelmäßig Namen, Vertragsnummern und teils besondere Kategorien. Zu klären sind ferner Verarbeitungsort, ob ein Auftragsverarbeitungsvertrag vorliegt, ob Eingaben zum Training verwendet werden und wie lange sie gespeichert bleiben. Anonymisierung ist kein Selbstläufer: Freitexte lassen sich häufig über Merkmalskombinationen re-identifizieren. Organisatorisch: Wer darf die Auswertungen sehen, und ist sichergestellt, dass daraus keine Leistungsbewertung einzelner Supportmitarbeitender wird? Das berührt die Mitbestimmung. Außerdem braucht es einen benannten Verantwortlichen für die Ergebnisse, weil die Auswertung Entscheidungen stützen soll. Methodisch bestehen mehrere Grenzen. Erstens die Auswahl: Wer sich meldet, ist nicht repräsentativ. Unzufriedene Nutzer verlassen das Produkt häufiger, als dass sie schreiben, und tauchen in den Daten gar nicht auf. Zweitens die Kategorisierung: Systematische Fehlklassifikation lässt ganze Themen unsichtbar werden, weshalb eine regelmäßige menschliche Stichprobenprüfung nötig ist. Drittens die Verwechslung von Häufigkeit mit Bedeutung: Ein oft genanntes kleines Ärgernis verdrängt leicht ein selten genanntes, aber gravierendes Problem. Viertens sind Rückmeldungen Lösungsvorschläge der Nutzer, keine Problembeschreibungen; die dahinterliegende Absicht muss erst erschlossen werden. Sinnvoll ist der Einsatz daher als Vorsortierung und zur Deutung von Mustern, nicht als Entscheidungsautomat. Die Auswertung ersetzt keine direkten Gespräche mit Nutzern und keine Verhaltensdaten; sie zeigt, wo man genauer hinsehen sollte.
Bewertet werden: Rechtsgrundlage, Zweckbindung, Verarbeitungsort und Trainingsnutzung + Grenzen der Anonymisierung bei Freitext + Mitbestimmung und Schutz vor Leistungsbewertung + Auswahlverzerrung durch Selbstmeldung + systematische Fehlklassifikation und menschliche Stichprobe + Häufigkeit ist nicht Bedeutung + Einsatz als Vorsortierung statt Entscheidungsautomat.
← Alle ThemenIm Quiz üben