KI-SaaS-Vertrag: Trainingsdaten, Output-Rechte und AI-Act-Pflichten regeln

Der Fachbereich möchte noch in diesem Quartal ein generatives KI-Tool einsetzen. Der Anbieter stellt ein Online-Formular, Standardbedingungen und einen Bestelllink bereit. Nach wenigen Minuten wäre der Zugang gebucht. Doch genau an diesem Punkt beginnen die entscheidenden Vertragsfragen: Darf der Anbieter eingegebene Inhalte zum Training verwenden? Wer darf den erzeugten Output nutzen? Was passiert mit vertraulichen Kundeninformationen? Und welche Rolle hat dein Unternehmen nach dem AI Act?

Ein KI-SaaS-Vertrag ist kein gewöhnlicher Cloud-Vertrag mit zusätzlicher Chatfunktion. Generative KI verarbeitet häufig umfangreiche Eingaben, erzeugt neue Inhalte und kann in fachliche, geschäftliche oder rechtlich relevante Prozesse eingebunden werden. Einkauf, IT, Informationssicherheit, Datenschutz und Fachbereich sollten deshalb vor der Bestellung gemeinsam prüfen, welche Nutzung tatsächlich geplant ist und ob der Vertrag dazu passt.

Infografik zu KI-SaaS-Vertrag: Trainingsdaten, Output-Rechte und AI-Act-Pflichten regeln (KI-generiert).

Die geplante Nutzung zuerst konkret beschreiben

Viele Vertragsprobleme entstehen, weil die Bestellung zu allgemein formuliert ist. „Nutzung eines KI-Assistenten“ sagt nichts darüber aus, welche Daten eingegeben werden, wer die Ergebnisse verwendet und ob daraus automatisierte Entscheidungen entstehen.

Halte vor der Vertragsprüfung mindestens diese Punkte fest:

• Welche Fachbereiche und Nutzergruppen sollen das Tool einsetzen?
• Welche Inhalte werden eingegeben, etwa interne Dokumente, Quellcode, Vertragsentwürfe, Kundendaten oder Supportanfragen?
• Soll die KI nur Ideen liefern oder sollen Ergebnisse direkt veröffentlicht, an Kunden versendet oder in operative Prozesse übernommen werden?
• Wird das Tool mit eigenen Datenquellen, etwa einem Dokumentenmanagementsystem, CRM oder Ticketsystem, verbunden?
• Soll die KI Personen bewerten, priorisieren, überwachen oder Empfehlungen mit erheblichen Folgen vorbereiten?
• In welchen Ländern oder Regionen verarbeitet der Anbieter Daten?
• Welche Anforderungen bestehen an Verfügbarkeit, Support, Protokollierung und Löschung?

Diese Beschreibung ist die Grundlage für den Vertrag. Sie hilft dir auch, zwischen einem allgemeinen KI-Chat, einer Unternehmensversion mit administrativen Funktionen und einer individuell integrierten KI-Lösung zu unterscheiden. Für jede dieser Varianten können andere Risiken und Vertragsanforderungen gelten.

Eingabedaten und Trainingsdaten eindeutig trennen

Die wichtigste Klausel betrifft den Umgang mit deinen Eingaben. Dazu gehören nicht nur Texte in einem Prompt, sondern auch hochgeladene Dateien, Daten aus angebundenen Systemen, Gesprächsaufzeichnungen, Metadaten, Nutzungsprotokolle und Feedback der Nutzer.

Vertraglich muss klar zwischen der Leistungserbringung und dem Modelltraining unterschieden werden. Ein Anbieter benötigt regelmäßig bestimmte Rechte, um Eingaben technisch zu verarbeiten und einen Output zu erzeugen. Daraus folgt aber nicht automatisch, dass er die Daten für das Training, die Verbesserung allgemeiner Modelle oder eigene Analysezwecke verwenden darf.

Prüfe insbesondere diese Punkte:

• Der Anbieter darf Eingabedaten nur verarbeiten, soweit dies zur vereinbarten Leistung erforderlich ist.
• Eine Nutzung zum Training oder zur Weiterentwicklung allgemeiner Modelle ist ausgeschlossen oder setzt deine vorherige ausdrückliche Freigabe voraus.
• Auch pseudonymisierte, aggregierte oder abgeleitete Daten dürfen nicht pauschal für Trainingszwecke freigegeben werden.
• Die Regelung muss für den Anbieter, verbundene Unternehmen und eingesetzte Unterauftragnehmer gelten.
• Der Vertrag sollte festlegen, wie lange Eingaben, Dateien, Protokolle und Sicherungskopien gespeichert werden.
• Für Test-, Analyse- und Qualitätssicherungszwecke des Anbieters braucht es klare Grenzen und wirksame Schutzmaßnahmen.

Achte auf Formulierungen, nach denen der Anbieter Inhalte „zur Verbesserung der Services“ verwenden darf. Diese Klausel klingt oft harmlos, kann aber sehr weit reichen. Wenn „Services“ auch Modelle, Forschung, Produktentwicklung oder Angebote anderer Kunden umfasst, kann sie eine Trainingsnutzung ermöglichen.

Für vertrauliche Informationen sollte die sichere Grundregel gelten: Keine Trainingsnutzung ohne deine ausdrücklich dokumentierte Zustimmung. Kann der Anbieter diese Zusage nicht geben, musst du die zugelassenen Eingaben deutlich begrenzen oder eine andere Lösung wählen.

Rechte an KI-Outputs realistisch regeln

Bei KI-Outputs geht es häufig um Präsentationstexte, Marketingentwürfe, Softwarecode, Zusammenfassungen, Bilder, Übersetzungen oder Analysen. Unternehmen möchten diese Ergebnisse möglichst frei verwenden. Der Vertrag sollte daher ausdrücklich ein umfassendes Nutzungsrecht an den Outputs vorsehen.

Wichtig ist jedoch eine realistische Formulierung. Der Anbieter kann dir regelmäßig nur Rechte einräumen, soweit solche Rechte entstehen und soweit er selbst darüber verfügen kann. Insbesondere bei automatisch erzeugten Inhalten ist nicht immer sicher, ob urheberrechtlicher Schutz entsteht. Nach deutschem Urheberrecht setzt ein urheberrechtliches Werk grundsätzlich eine menschliche persönliche geistige Schöpfung voraus.

Das bedeutet für die Vertragspraxis:

• Der Anbieter sollte dir die Nutzung, Bearbeitung, Vervielfältigung, Veröffentlichung und kommerzielle Verwertung der Outputs erlauben.
• Die Rechte sollten zeitlich, räumlich und inhaltlich möglichst unbeschränkt sein.
• Du solltest Outputs an Kunden, Dienstleister und verbundene Unternehmen weitergeben dürfen.
• Der Anbieter sollte keine eigene exklusive Nutzung der konkret für dich erzeugten Outputs beanspruchen.
• Der Vertrag muss klarstellen, dass ähnliche oder identische Outputs für andere Kunden technisch möglich sein können.
• Für Veröffentlichungen, Produktivcode und rechtlich relevante Inhalte sollte eine fachliche Prüfung durch Menschen vorgesehen werden.

Eine Zusage wie „Du bist Eigentümer des Outputs“ reicht nicht aus. Eigentum passt rechtlich vor allem zu körperlichen Gegenständen. Besser sind präzise Nutzungsrechte sowie klare Regeln zur Weitergabe und Bearbeitung.

Besonders kritisch sind Anbieterbedingungen, die Output-Rechte zwar großzügig formulieren, zugleich aber jede Verantwortung für Rechtsverletzungen ausschließen. Dann darfst du den Inhalt zwar nutzen, trägst das Risiko aber allein. Für zentrale Anwendungsfälle solltest du zumindest eine angemessene Absicherung bei Ansprüchen Dritter verhandeln.

Geheimnisschutz und Datenschutz nicht in die Standardbedingungen drängen lassen

KI-Eingaben können Geschäftsgeheimnisse enthalten. Dazu zählen etwa Preislisten, technische Dokumentationen, Produktstrategien, unveröffentlichter Quellcode und Informationen über Kunden oder Lieferanten. Ein allgemeiner Hinweis des Anbieters auf Sicherheitsmaßnahmen ersetzt keine belastbare Geheimhaltungsregelung.

Der Vertrag sollte festlegen, dass der Anbieter vertrauliche Informationen ausschließlich zur Leistungserbringung verwendet, angemessen technisch und organisatorisch schützt und nur berechtigten Personen zugänglich macht. Auch Unterauftragnehmer müssen entsprechend verpflichtet werden.

Wenn personenbezogene Daten verarbeitet werden, ist zusätzlich zu prüfen, ob eine Auftragsverarbeitung vorliegt. Dann brauchst du in der Regel eine Vereinbarung zur Auftragsverarbeitung mit Angaben zu Gegenstand, Dauer, Datenarten, betroffenen Personen, Weisungsrechten, Sicherheitsmaßnahmen und Unterauftragnehmern.

Bei internationaler Verarbeitung sind außerdem die Datenstandorte und mögliche Übermittlungen in Drittländer relevant. Lass dir nicht nur eine Region für die primäre Speicherung nennen. Frage auch nach Supportzugriffen, Telemetriedaten, Protokollauswertungen, Sicherungskopien und Unterauftragnehmern.

Eine praxistaugliche Vertragsprüfung umfasst diese Fragen:

Prüffeld	Was du im Vertrag klären solltest
Vertraulichkeit	Zweckbindung, Zugriffsbeschränkung, Geheimhaltungspflichten, Rückgabe und Löschung
Datenverarbeitung	Rollen nach Datenschutzrecht, Auftragsverarbeitung, Unterauftragnehmer, Speicherorte
Sicherheit	Verschlüsselung, Zugriffskontrollen, Protokollierung, Sicherheitsvorfälle
Löschung	Fristen für Produktivdaten, Protokolle, Sicherungskopien und Daten nach Vertragsende
Export	Lesbarer Export von Eingaben, Outputs, Konfigurationen und Protokolldaten

Haftung nach Risiko und Einsatzgebiet ausgestalten

Standardbedingungen von KI-Anbietern enthalten häufig weitreichende Haftungsausschlüsse. Das ist besonders problematisch, wenn die KI in kundennahe Prozesse, Entwicklungsprojekte oder Entscheidungen mit wirtschaftlicher Bedeutung eingebunden wird.

Eine gute Haftungsregelung unterscheidet zwischen allgemeinen Leistungsstörungen und besonders sensiblen Risiken. Prüfe, ob Haftungsbegrenzungen auch bei Verstößen gegen Vertraulichkeit, Datenschutz, Schutzrechte oder wesentliche Sicherheitsanforderungen gelten sollen. Für solche Fälle ist ein pauschaler, sehr niedriger Haftungsdeckel oft nicht angemessen.

Verlange außerdem klare Regelungen zu Sicherheitsvorfällen. Der Anbieter sollte dich unverzüglich informieren, die Ursache nachvollziehbar darstellen, bei der Eindämmung unterstützen und die erforderlichen Informationen für eigene Bewertungen bereitstellen.

Bei KI-spezifischen Risiken solltest du intern zusätzlich organisatorische Leitplanken setzen. Dazu gehören Freigabeprozesse für externe Veröffentlichungen, Kennzeichnung von KI-Entwürfen, Vier-Augen-Prüfungen bei kritischen Ergebnissen und klare Verbote für bestimmte Eingaben. Vertrag und interne Nutzungsrichtlinie müssen zusammenpassen.

Rollen und Pflichten im AI Act prüfen

Der AI Act unterscheidet verschiedene Rollen, unter anderem Anbieter, Betreiber, Einführer, Händler und Bevollmächtigte. Für Unternehmen, die ein KI-SaaS-Tool einsetzen, ist häufig die Rolle des Betreibers relevant. Der Anbieter der SaaS-Lösung kann zugleich Anbieter eines KI-Systems oder eines Modells mit allgemeinem Verwendungszweck sein.

Die Rollen folgen der tatsächlichen Funktion, nicht der Überschrift im Vertrag. Eine Klausel, die dein Unternehmen pauschal zum „Anbieter“ erklärt, sollte daher genau geprüft werden. Ebenso kannst du durch erhebliche Änderungen am System, eine Vermarktung unter eigener Marke oder eine neue Zweckbestimmung in eine andere Rolle geraten.

Für den Einkauf sind vor allem diese Fragen wichtig:

• Für welchen Zweck ist das KI-System vorgesehen und welche Nutzungsgrenzen nennt der Anbieter?
• Stellt der Anbieter ausreichende Nutzungsinformationen, technische Dokumentation und Anweisungen bereit?
• Welche menschliche Aufsicht ist vorgesehen und wie kann dein Unternehmen sie umsetzen?
• Welche Protokolle, Informationen und Funktionen stehen für Überwachung, Fehlermeldungen und Nachvollziehbarkeit bereit?
• Gibt es Einschränkungen für bestimmte Einsatzfelder, etwa Personal, Kreditwürdigkeit, Bildung oder Zugang zu wesentlichen Leistungen?
• Wie informiert der Anbieter über wesentliche Änderungen am Modell, an Sicherheitsmaßnahmen oder an Funktionen?

Bei Hochrisiko-KI-Systemen können für Betreiber weitergehende Pflichten relevant sein, etwa zur Nutzung nach Anleitung, menschlichen Aufsicht, Protokollauswertung und laufenden Überwachung. Ob ein System tatsächlich als hochriskant einzuordnen ist, hängt vom konkreten Verwendungszweck ab. Eine allgemeine Chatfunktion ist nicht allein deshalb hochriskant, weil sie KI verwendet.

Passende Seminare und Termine findest du bei uns auf cmt.de.

Kündigung, Datenrückgabe und Anbieterwechsel vorbereiten

Gerade bei kurzfristig eingekauften KI-Diensten wird das Vertragsende oft übersehen. Prüfe deshalb, ob du Eingaben, Outputs, Konfigurationen, Rollenmodelle und relevante Protokolle exportieren kannst. Der Export muss in einem nutzbaren Format möglich sein und darf nicht von unverhältnismäßigen Zusatzkosten abhängen.

Der Vertrag sollte außerdem regeln, wann der Anbieter Daten nach Vertragsende löscht, wie Sicherungskopien behandelt werden und welche Nachweise du erhältst. Falls die KI in Geschäftsprozesse integriert ist, brauchst du einen Plan für Funktionsausfälle, Preiserhöhungen, Leistungsänderungen und die Migration zu einem anderen Anbieter.

Ein KI-SaaS-Vertrag ist dann belastbar, wenn er nicht nur den Zugang zur Plattform beschreibt. Er muss festlegen, was mit deinen Daten geschieht, welche Rechte du an Ergebnissen erhältst, wer welche Verantwortung trägt und wie du den Dienst wieder verlassen kannst.