Fraunhofer-Institut für Angewandte Informationstechnik FIT
Die Nutzung von Systemen mit Künstlicher Intelligenz und insbesondere von großen Sprachmodellen (Large Language Models, LLMs) findet in vielen Bereichen Anklang. Sie haben ein großes Potential, Arbeitsabläufe zu automatisieren und effizienter zu gestalten. Sie analysieren Texte und Dokumente, unterstützen bei der Bearbeitung von Daten und erleichtern zahlreiche weitere Aufgaben.
Doch trotz dieser Möglichkeiten entstehen für viele Unternehmen auch neue Herausforderungen, denn zentrale Fragen rücken in den Fokus: Wie können generative KI-Services genutzt werden, ohne die Kontrolle über sensible Daten zu verlieren? Welche Informationen dürfen in ein KI-System überhaupt eingegeben werden? Und welche technischen sowie organisatorischen Maßnahmen sind dann erforderlich, um diese Risiken vorzubeugen?
Was bedeutet Datenschutz im Kontext von KI?
Datenschutz betrifft den gesamten Umgang mit personenbezogenen, sensiblen Daten – so auch bei der KI.
Werden solche in KI-Systeme eingegeben, ist dem Nutzenden in erster Linie nicht erkennbar, wo und wie die Eingaben verarbeitet, gespeichert und möglicherweise weiterverwendet werden. So können Themen wie mangelnde Transparenz und Sicherheitslücken zum Problem werden. Deshalb ist es entscheidend, Datenschutz und Sicherheit sowohl technisch als auch organisatorisch mitzudenken. Ohne klare Governance- und Kontrollmechanismen steigt das Risiko für Datenschutzverletzungen.
Warum können auch Sprachmodelle zum Datenschutzproblem werden?
Viele LLMs werden von Drittanbietern über cloudbasierte Services zur Verfügung gestellt. Dabei geben also Nutzende demnach einen Teil Ihrer Autonomie über ihre Daten sowie die technische Infrastruktur ab. Zugleich brauchen diese Anwendungen zunehmende Informationen, wenn sie eine kontinuierliche Unterstützung sein und hilfreiche Antworten für neue Anwendungsfälle liefern sollen.
Sicherheitsfragen werden somit auch dann kritisch, sobald LLMs mit realen Daten arbeiten, insbesondere mit vertraulichen und unternehmensinternen Informationen, denn je sensibler diese Daten sind, desto höher sind die Anforderungen an Zugriffsschutz und technischer Kontrolle. Es gibt allerdings gewisse Angriffstechniken, wie etwa die sogenannte Prompt Injection, durch die ein KI-System manipuliert und unter Umständen zur Preisgabe sensibler Informationen gebracht werden kann. Besonders problematisch wird dies, wenn es sich um einen Service handelt, der eigenständig auf interne Datenquellen zugreifen und exekutive Handlungen ausführen kann.
Ein Datenleck ist daher nicht das einzige Datenschutz- und Sicherheitsproblem, das vermieden werden sollte. Bereits die unbedachte Eingabe personenbezogener oder vertraulicher Informationen kann problematisch sein. Unternehmen sollten daher frühzeitig klären, welche Daten tatsächlich benötigt und wie verarbeitet werden dürfen.
Mehr Kontrolle durch die passende Architektur
Nicht jedes Problem hat dieselbe Lösung – so auch bei KI-Anwendungsfällen. Welche technische Architektur also geeignet ist, hängt vom Kontext ab: vom Nutzen, der Sensibilität der Daten, der Genauigkeit und den Ressourcen. So wird jeder Anwendungsfall für sich analysiert und dann entschieden, welcher Ansatz oder welche Kombination aus verschiedenen Modellen für die Lösung des entsprechenden Problems geeignet ist.