KI-gestützte Assistenzsysteme benötigen zur bedarfsgerechten Personalisierung ihrer Anwendungen und Dienste in vielen Fällen verschiedene Daten zu der Person, mit der sie interagieren. Diese Daten werden über verschiedene Datenpunkte erhoben, beispielsweise über Sensoren, Kameras und Mikrophone. Anschließend können die Daten gespeichert und von unterschiedlichen Algorithmen ausgewertet. Doch gerade an diesem Punkt fallen viele Fragen an:
- Welche Daten werden erhoben?
- Wo und wie werden diese Daten gespeichert?
- Wer kann auf die Daten zugreifen?
- Wie und wofür werden die Daten ausgewertet?
- Wie kann ich sicherstellen, dass meine Daten nicht zweckentfremdet werden?
- Wie können Anwendende darüber bestimmen, was mit ihren Daten passiert?
Das Thema Datensouveränität und Datenschutz nimmt vor diesem Hintergrund eine besondere Rolle in dem Forschungsprojekt ein. Unter dem Begriff Datensouveränität verstehen wir dabei im Projekt die größtmögliche Kontrolle und Selbstbestimmung über die (eigenen) Daten. Aktuell sind diese Themen insbesondere im Zusammenhang mit Technologien, die auf Verfahren der künstlichen Intelligenz basieren, in breiten öffentlichen Diskursen sichtbar. So beschäftige sich zum einen die europäische Datenethik-Kommission mit der Thematik und zum anderen stand das Thema „KI und Datenschutz“ Anfang 2020 auf der Agenda der Enquete Kommission zu Künstlicher Intelligenz im Deutschen Bundestag.