Der folgende Beitrag stellt lediglich unsere Einschätzung der Thematik dar und basiert auf keiner formal-juristischen Prüfung.
Die neue Datenschutz-Grundverordnung (DSGVO) tritt am 25. Mail 2018 in Kraft und regelt den Datenschutz einheitlich für die gesamte EU. Die DSGVO stärkt grundsätzlich die Rechte der Bürger bzw. Nutzer und ermöglicht es diesen, leichter einsehen zu können, welche ihrer Daten vorgehalten und zu welchem Zweck genutzt werden. Die genaue Auslegung der DSGVO wird sich erst im Laufe der nächsten Jahre herauskristallisieren und bedeutet dadurch aktuell Unsicherheit für Unternehmen – zumal in Deutschland ohnehin ein hohes Niveau im Bereich Datenschutz vorherrscht und sich in vielen Bereichen vermeintlich “nur” Formulierungen ändern werden.
Diese Unsicherheit betrifft natürlich auch den Bereich Predictive Analytics/Machine Learning. Hier ist noch relativ offen, inwiefern Verbraucher tatsächlich ein sogenanntes “Recht auf Erklärung” haben, auf Basis welcher automatischen Prozesse (Algorithmen) es zu einer persönlichen Ansprache gekommen ist (vgl. Wachter, Mittelstadt, Floridi 2017). Definitiv haben Verbraucher weiterhin ein “Recht auf Vergessen”, also auf Löschung ihrer Daten.
Mit Blick auf diese beiden für den Bereich Machine Learning wesentlichen Inhalte der DSGVO treffen wir in unserem Produkt DataDrivenAction und in allen Projektaufträgen zwei wesentliche Maßnahmen:
Recht auf Vergessen/Löschung: Unsere Prognosemodelle profitieren von möglichst vielen historischen Daten. Sind diese Daten jedoch ein Mal verarbeitet worden, müssen diese nicht mehr vorgehalten werden und können dementsprechend ohne Qualitätsverlust des Prognosemodells gelöscht werden. Neue Daten werden in unserem Machine Learning Workflow dann genutzt, um die Prognosemodelle anzupassen. Die Modellerstellung ist an dieser Stelle nicht mehr auf die gesamten historischen Daten angewiesen.
Recht auf Erklärung algorithmischer Entscheidungen: Für jeden berechneten Wert (sei es Kündigungsrisiko, CLV, Kontaktzeitpunkt oder eine andere Kennzahl bzw. Empfehlung) halten all unsere Systeme jeweils die Entscheidungsbäume vor, die zu diesem Wert geführt haben. Auf diesem Wege ist es unseren Kunden bei einem möglichen Daten Audit möglich, z.B. jede personalisierte Ansprache eines Kunden durch ein vollständiges Regelwerk zu erklären.
Darüberhinaus beschäftigen wir uns intensiv mit der (kommenden) Rechtssprechung im Bereich der DSGVO um deren Einhaltung durch unsere Produkte und Dienstleistungen kontinuierlich sicherzustellen.
Verweise
Wachter, S., Mittelstadt, B., Floridi, L. (2017): Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law, 2017. Available at SSRN: https://ssrn.com/abstract=2903469.