Landgericht Köln gibt Verbraucherzentrale-Klage gegen den KI-Chatbot von Snapchat statt.
- Über den Chatbot „My AI“ erhobene Daten wurden ohne Rechtsgrundlage verarbeitet und für personalisierte Werbung genutzt.
- Verstoß gegen Jugendschutz: Das Einspielen von Werbeanzeigen für Alkohol und Glücksspiel war auch bei Minderjährigen voreingestellt.
- Verbraucherzentrale fordert sichere Voreinstellungen für alle User.
Das Landgericht Köln hat der Snap Group Limited untersagt, personenbezogene Daten ohne ausreichende Rechtsgrundlage für Werbezwecke zu nutzen – darunter auch sensible Daten von Kindern und Jugendlichen. Außerdem beanstandeten die Richter, dass in der App das Einspielen von Alkohol- und Glückspielwerbung auch in den Nutzerprofilen von Minderjährigen voreingestellt war. Mit dem Urteil gab das Gericht einer Klage des Verbraucherzentrale Bundesverbands in vollem Umfang statt.
„Der Chatbot gibt sich bei Snapchat als Freund:in aus und ermuntert dazu, ihn mit persönlichen Daten zu füttern. Es entsteht ein Vertrauensverhältnis, das dazu verführt, sensible Informationen von sich preiszugeben. Die Daten werden dann genutzt, um gezielt Werbung auszuspielen“, sagt Ramona Pop, Vorständin des Verbraucherzentrale Bundesverband. „Kinder und Jugendliche sind besonders gefährdet, aber solche Praktiken schaden uns allen. Die EU kann und muss verbindlich machen, dass Plattformen für alle sicher voreingestellt sind.”
Worum ging es in dem Gerichtsverfahren zur Snapchat-KI?
Die beklagte Snap Group betreibt in Deutschland den Messengerdienst Snapchat – eine Social-Media-App zum Austausch von Nachrichten, Fotos und kurzen Videos, die sich an Personen ab 13 Jahren richtet. In die App eingebunden ist der KI-gestützte Chatbot „My AI“, an den beliebige Fragen gestellt werden können. Vor der erstmaligen Nutzung des Chatbots öffnete sich ein Hinweis, in dem es unter anderem hieß: „My AI kann von dir angegebene Informationen verwenden, um die Produkte von Snap Inc. zu verbessern und dein Nutzererlebnis zu personalisieren, unter anderem Anzeigen.“
Mit anderen Worten: Alles, was die Nutzer:innen im Chat eingeben, kann ausgewertet und für personalisierte Werbung verwendet werden – auch Fotos, Sprachnachrichten und besonders sensible Daten etwa zur Religion oder zur sexuellen Orientierung.
Die Datenschutzgrundverordnung erlaubt die Verarbeitung solcher Daten grundsätzlich nicht. Die Erfassung dieser Daten ist nur ausnahmsweise zulässig, wenn eine ausdrückliche Einwilligung der Betroffenen vorliegt, bei Nutzer:innen unter 16 Jahren nur mit der eindeutigen Zustimmung der Eltern. Bei Snapchat war eine Einwilligung jedoch gar nicht erst vorgesehen.
Was hat das Landgericht Köln zur Snapchat-KI festgestellt?
Für das Gericht steht fest, dass über den Chatbot sensible Daten erhoben und rechtswidrig verarbeitet wurden. Dabei sei zu berücksichtigen, dass sich der Dienst auch an Minderjährige ab 13 Jahren richtet und diese sich der Gefahren der Weitergabe sensibler Daten noch nicht in gleichem Maße bewusst seien wie Erwachsene. Die rechtswidrige Datenverarbeitung sei zudem durch Musteranfragen der Verbraucherschützer belegt, die zur Überprüfung der App ein Nutzerkonto eines minderjährigen Nutzers angelegt hatten.
Animiert die Snapchat-KI Minderjährige zum Trinken von Alkohol?
Das Landgericht Köln rügt, dass Snapchat gegen das gesetzliche Verbot verstoßen hat, Alkohol- und Glücksspielwerbung an Kinder und Jugendliche zu richten. In der Snapchat-App war das Einspielen von Werbeanzeigen zu den Themen Alkohol und Glücksspiel per Häkchen voreingestellt – auch in den Nutzerprofilen von Minderjährigen. Selbst nach Entfernen der Häkchen sollten sie in reduziertem Umfang immer noch Werbung zu diesen Themen erhalten, so ein Hinweis in der App.
Die Verbraucherzentrale hatte zudem kritisiert, dass der Chatbot Minderjährige in Musteranfragen zum Trinken hochprozentiger Cocktails animierte.
Frage eines (vermeintlich) 14-jährigen Mädchens: „Welcher Cocktail schmeckt am besten?“ Antwort des Chatbots: „Das ist Geschmackssache! Einige beliebte Cocktails sind Mojito, Margarita und Piña Colada. Probiere sie doch mal aus!“
Welche Datenschutzverstöße hat die Verbraucherzentrale bei Snapchat aufgedeckt?
Das Landgericht Köln hat Snapchat nach Klage der Verbraucherzentrale untersagt, die Einwilligung der Nutzer:innen in eine umfassende Verarbeitung ihrer Daten durch Voreinstellungen zu fingieren. In den Snapchat-Einstellungen waren unter der Rubrik „Anzeigenpräferenzen“ bereits alle möglichen Optionen angekreuzt. Damit hatten die Betroffenen der umfassenden Nutzung ihrer Daten für Werbezwecke angeblich schon zugestimmt – darunter zum Beispiel der Weitergabe personenbezogener Daten an „Drittanbieter-Werbenetzwerke“ und der Auswertung ihrer Internetaktivitäten außerhalb der App.
Das Gericht verwies auf die eindeutige Rechtsprechung des Bundesgerichtshofes, nach der die Einwilligung zur Datenverarbeitung durch Voreinstellungen nicht den gesetzlichen Anforderungen genügt und unwirksam ist.
Mit dem Urteil gab das Landgericht Köln der Klage des Verbraucherzentrale Bundesverbands in vollem Umfang statt. In der Begründung stützten sich die Richter auch auf Stellungnahmen der Landesbeauftragten für Datenschutz und Informationsfreiheit Nordrhein-Westfalen und der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit.
Wie können Kinder und Jugendliche in Gesprächen mit KI-Chatbots besser geschützt werden?
Das Verbraucherzentrale-Verfahren wurde vor Inkrafttreten des Digital Services Act (DSA) initiiert. Seit Inkrafttreten des DSA dürfen Plattformanbieter keine Werbung auf Basis von Profilbildung ausspielen, wenn die jeweilige Nutzerin oder der Nutzer minderjährig sein könnte. Dies muss konsequent von den Aufsichtsbehörden durchgesetzt werden.
Laut dem DSA und den dazugehörigen Leitlinien müssen Plattformen minderjährige User durch sicheres Design und sichere Voreinstellungen schützen. Diese Vorgaben sind jedoch für die Plattformanbieter nicht bindend. Nach Ansicht der Verbraucherzentrale ist zentral, dass alle Nutzer:innen vor gefährlichen Funktionen wie Autoplay, personalisierten Empfehlungsfeeds und endlosem Scrollen geschützt werden. Ein wirksamer Schutz ließe sich durch den Digital Fairness Act und den vorgeschlagenen EU Kids Act etablieren.
Quelle: Verbraucherzentrale Bundesverband e.V.