EDSA veröffentlicht Zwischenbericht zur ChatGPT-Taskforce
Am 23. Mai 2024 hat der Europäische Datenschutzausschuss (EDSA) seinen Zwischenbericht zur Einhaltung der Datenschutzbestimmungen bei Large Language Models (LLMs) wie ChatGPT herausgegeben. Der Bericht zeigt auf, dass es noch einige regulatorische Herausforderungen zu bewältigen gibt.
Welche Probleme sieht die ChatGPT-Taskforce?
Sammlung und Nutzung von Trainingsdaten: Für das Training von LLMs wie ChatGPT sind große Datenmengen erforderlich, die häufig durch web scraping gewonnen werden. OpenAI argumentiert, dass öffentlich zugängliche Daten genutzt werden. Die Taskforce weist jedoch darauf hin, dass die bloße Zugänglichkeit im Internet nicht automatisch als Zustimmung der betroffenen Personen zur Datennutzung gewertet werden kann. Maßnahmen zur Einhaltung der Datenschutzbestimmungen sind unerlässlich, auch wenn eine Einzelfallprüfung oft nicht möglich ist.
Nutzung von Eingabe- und Ausgabedaten: ChatGPT verwendet die Interaktion mit Nutzern zur Verbesserung seines Modells. Nutzer haben die Möglichkeit, dieser Nutzung zu widersprechen (Opt-out). Die Taskforce betont die Notwendigkeit, die Nutzer besser über die Verwendung ihrer Daten und die Opt-out-Option zu informieren.
Fairness: Das Datenschutzrisiko darf nicht auf die Nutzer abgewälzt werden. Betreiber von LLMs müssen damit rechnen, dass persönliche Daten eingegeben werden, und entsprechende Schutzmaßnahmen ergreifen. Die Taskforce stellt klar, dass OpenAI weiterhin für die Einhaltung der DSGVO verantwortlich ist.
Transparenz und Informationspflichten: Nutzer haben das Recht zu wissen, wie ihre Daten verwendet werden. Bei Daten, die durch web scraping gewonnen wurden, ist dies schwierig, aber bei durch Interaktionen gewonnenen Daten unerlässlich.
Richtigkeit der Daten: LLMs basieren auf Wahrscheinlichkeiten und können daher falsche Aussagen erzeugen. Die Taskforce betont, dass OpenAI sicherstellen muss, dass die von ChatGPT generierten Aussagen korrekt sind, da Nutzer diesen oft vertrauen.
Der Datenschutz bei ChatGPT bleibt ein komplexes Thema, bei dem die regulatorische Reaktion oft den technischen Entwicklungen hinterherhinkt. Es bleibt abzuwarten, welche Konsequenzen der endgültige Bericht für ChatGPT haben wird. Ein Verbot der Nutzung in Europa wäre technisch schwierig umzusetzen und könnte zu einem Wettbewerbsnachteil führen.
Hintergrundinformatonen
Hintergrundinformation: EDSA
Der Europäische Datenschutzausschuss (EDSA) wurde im Mai 2018 mit dem Inkrafttreten der Datenschutz-Grundverordnung (DSGVO) gegründet. Dieses unabhängige europäische Gremium besteht aus den nationalen Datenschutzbehörden der EU-Mitgliedstaaten sowie den Datenschutzbehörden der EWR-Staaten Island, Liechtenstein und Norwegen. Der EDSA koordiniert die einheitliche Anwendung der DSGVO und stellt sicher, dass Datenschutzregelungen in der gesamten EU konsequent umgesetzt werden.
Zu den Mitgliedern des EDSA zählen Vertreter der nationalen Datenschutzbehörden aller EU-Mitgliedstaaten. Der Vorsitz wechselt regelmäßig, um eine ausgewogene Vertretung sicherzustellen.
Im Januar 2024 wurde die ChatGPT-Taskforce gegründet, um die Datenschutzfragen im Zusammenhang mit ChatGPT zu untersuchen. Zu den Aufgaben der Taskforce gehören:
- Der Informationsaustausch zwischen den nationalen Datenschutzbehörden über die Interaktionen mit OpenAI und die laufenden Durchsetzungsmaßnahmen.
- Die Koordinierung der externen Kommunikation der Datenschutzbehörden.
- Die Identifizierung von Problemen, die einen gemeinsamen Ansatz erfordern.
Hintergrundinformation: ChatGPT
ChatGPT ist ein Produkt von OpenAI, einem führenden Unternehmen im Bereich der künstlichen Intelligenz. OpenAI wurde im Dezember 2015 von einer Gruppe prominenter Unternehmer und Wissenschaftler gegründet, darunter Elon Musk, Sam Altman, Greg Brockman, Ilya Sutskever, John Schulman und Wojciech Zaremba. Das Ziel von OpenAI ist es, künstliche Intelligenz zu entwickeln und zu fördern, die der gesamten Menschheit zugutekommt.
Entwicklung von ChatGPT
Die Entwicklung von ChatGPT begann mit der Forschung an generativen Sprachmodellen. Im Juni 2020 veröffentlichte OpenAI GPT‑3, das leistungsstärkste Modell seiner Art zu diesem Zeitpunkt. ChatGPT basiert auf dieser Technologie und nutzt die enormen Fähigkeiten von GPT‑3, um menschenähnliche Texte zu generieren. Seit seiner Einführung hat ChatGPT eine breite Palette von Anwendungen gefunden, von Kundensupport über kreative Inhalte bis hin zur Automatisierung von Schreibaufgaben.
Gesellschafter und Investoren
OpenAI startete ursprünglich als gemeinnützige Organisation, änderte jedoch 2019 seine Struktur zu einem “capped-profit” Unternehmen, um mehr Kapital für seine ambitionierten Projekte anzuziehen. Dies bedeutet, dass die Renditen für Investoren auf das 100-fache ihres Investments gedeckelt sind, während überschüssige Gewinne in die gemeinnützigen Ziele von OpenAI reinvestiert werden. Zu den bedeutenden Investoren gehören Microsoft, das im Jahr 2019 eine Milliarde US-Dollar in OpenAI investierte und dadurch eine starke Partnerschaft mit dem Unternehmen einging. Weitere bedeutende Investoren und Unterstützer sind Reid Hoffman und Khosla Ventures.
Finanzen und Gewinne
OpenAI hat durch seine Partnerschaften und Investitionen erhebliche finanzielle Ressourcen angezogen. Während genaue Gewinnzahlen nicht immer öffentlich zugänglich sind, wird geschätzt, dass OpenAI durch den Verkauf von KI-Diensten und ‑Produkten, einschließlich Lizenzen für GPT‑3 und damit verbundene Dienstleistungen, erhebliche Einnahmen erzielt. Die Investition von Microsoft und der darauf folgende Einsatz von OpenAI-Technologien in Microsoft-Produkten wie Azure und Office 365 tragen ebenfalls erheblich zum finanziellen Erfolg von OpenAI bei.
Hintergrundinformation: Web Scraping
Was ist Web-Scraping?
Web-Scraping ist eine Technik zur automatisierten Extraktion von Daten aus Webseiten. Dabei werden spezielle Programme oder Skripte verwendet, um den Inhalt von Webseiten auszulesen und in einer strukturierten Form zu speichern. Diese Technik wird häufig genutzt, um große Mengen an Daten aus dem Internet zu sammeln, die dann für verschiedene Zwecke weiterverarbeitet werden können.
Wie funktioniert Web-Scraping?
Der Prozess des Web-Scrapings umfasst in der Regel folgende Schritte:
- Anfrage an die Webseite: Das Scraping-Programm sendet eine Anfrage an die Zielwebseite, ähnlich wie ein normaler Webbrowser.
- Herunterladen des HTML-Codes: Die Webseite antwortet mit dem HTML-Code, der das Grundgerüst der Seite darstellt.
- Analyse des HTML-Codes: Das Programm analysiert den HTML-Code, um die relevanten Daten zu finden. Hierbei kommen oft HTML-Parser oder Bibliotheken wie Beautiful Soup (Python) oder Cheerio (JavaScript) zum Einsatz.
- Extraktion der Daten: Die gewünschten Daten werden extrahiert und in einem strukturierten Format wie CSV, JSON oder einer Datenbank gespeichert.
Anwendungsbeispiele für Web-Scraping
- Preisüberwachung: Unternehmen nutzen Web-Scraping, um die Preise ihrer Wettbewerber zu überwachen und ihre eigenen Preise entsprechend anzupassen.
- Marktforschung: Forscher sammeln Daten von verschiedenen Webseiten, um Markttrends und Verbrauchermeinungen zu analysieren.
- Content-Aggregation: Nachrichten-Websites und Blogs verwenden Web-Scraping, um Inhalte von verschiedenen Quellen zu sammeln und auf einer Plattform zu präsentieren.
- Datenintegration: Unternehmen integrieren Daten aus verschiedenen Quellen in ihre internen Systeme, um umfassendere Analysen durchzuführen.
Rechtliche und ethische Aspekte
Web-Scraping wirft verschiedene rechtliche und ethische Fragen auf, insbesondere im Hinblick auf die Einhaltung von Datenschutzbestimmungen und die Zustimmung der Website-Betreiber. Einige Webseiten verbieten ausdrücklich das Scraping ihrer Inhalte in ihren Nutzungsbedingungen. Zudem können durch Scraping gewonnene personenbezogene Daten unter die Datenschutz-Grundverordnung (DSGVO) fallen, was zusätzliche Verpflichtungen für die Datenverarbeitung mit sich bringt.