Die EU hat ChatGPT gerade als Suchmaschine eingestuft, und das ändert, was es Ihnen schuldet

Die Europäische Kommission gab am Montag bekannt, dass sie ChatGPT gemäß dem Digital Services Act als sehr große Online-Suchmaschine eingestuft hat. Reddit und Roblox wurden gleichzeitig als sehr große Online-Plattformen bezeichnet. Es ist das erste Mal, dass ein KI-Chatbot unter dieses spezielle Regelwerk fällt, und für jeden in der EU, der ChatGPT nutzt, bedeutet dies, dass der Dienst nun rechtliche Pflichten hat, die er letzte Woche nicht hatte.

Der Auslöser ist eine Zahl. Im Rahmen des DSA unterliegt jede Online-Plattform oder Suchmaschine, die mindestens 45 Millionen durchschnittliche monatliche Nutzer in der EU erreicht, einer strengeren Aufsichtsebene, die direkt von der Kommission und nicht von nationalen Regulierungsbehörden betrieben wird. Alle drei Dienste erklärten, dass sie diese Grenze überschreiten. Die Kommission zählt ChatGPT zu den Suchmaschinen, da es sich um einen hybriden Dienst handelt: Er reagiert auf Eingabeaufforderungen und Anfragen, auch durch Durchsuchen des Internets, was ausreicht, um der Definition des DSA zu entsprechen. Die drei haben nun vier Monate, bis Januar 2027, Zeit, den zusätzlichen Verpflichtungen nachzukommen.

Was diese Verpflichtungen eigentlich sind. Das DSA sagt einem Unternehmen nicht, was sein Produkt sagen muss. Es weist das Unternehmen an, in seinen eigenen Diensten und Algorithmen nach systemischen Risiken zu suchen und etwas dagegen zu unternehmen. Die genannten Risikobereiche sind konkret: Verbreitung illegaler Inhalte, Schädigung Minderjähriger, Auswirkungen auf das körperliche und geistige Wohlbefinden der Nutzer, Grundrechte, Wahlen und öffentliche Sicherheit. In der Praxis bedeutet das jährliche Risikobewertungen, unabhängige externe Audits, den Datenaustausch mit Aufsichtsbehörden und geprüften Forschern sowie einen Transparenzbericht. Die Nichteinhaltung kann bis zu 6 % des weltweiten Jahresumsatzes kosten.

Hier erfahren Sie, was wirklich neu an der Anwendung auf einen Chatbot ist. Jeder bisher bezeichnete Dienst, von der Google-Suche bis hin zu TikTok, zeigt Ihnen größtenteils Inhalte an, die jemand anderes erstellt hat. ChatGPT generiert die Antwort selbst. Ein Regelwerk, das sich mit der Frage „Wie verstärkt diese Plattform die Inhalte anderer Leute“ befasst, muss nun auf ein System angewendet werden, das die Inhalte schreibt. Das hat noch niemand zuvor getan, und der erste Prüfungszyklus wird tatsächlich darüber entscheiden, was die Regeln in der Praxis bedeuten. Erwarten Sie Streit.

Was das für Sie bedeutet. Heute ändert sich nichts am Produkt und nichts, was Sie tun, muss sich ändern. Wenn Sie in der EU leben, sollten Sie im Laufe des nächsten Jahres sichtbarere Meldekanäle, klarere Erklärungen zur Funktionsweise des Systems und veröffentlichte Transparenzberichte sehen. Forscher sollten Zugang zu Daten erhalten, die bisher nicht zugänglich waren, und so schließlich unabhängige Beweise über diese Systeme liefern. Wenn Sie eher neugierig als technisch sind, ist die nützliche Erkenntnis kleiner und interessanter: Eine Regulierungsbehörde hat jetzt offiziell entschieden, dass das Stellen einer Frage an einen Chatbot dem Suchen nahe genug ist. Allerdings gibt es einen berechtigten Vorbehalt: Die Benennung ist der Beginn eines Prozesses, nicht das Ergebnis. Der eigentliche Test ist das, was die ersten Audits ergeben, und bis dahin wird es noch mehr als ein Jahr dauern.

Quellen

• Kommission benennt ChatGPT, Reddit, Roblox gemäß Digital Services Act (Europäische Kommission)
• Vollständige Pressemitteilung, IP/26/1772 (Europäische Kommission)
• Die EU unterliegt für ChatGPT, Reddit und Roblox strengste digitale Sicherheitsregeln (Euronews)