Kurzantwort: Halluzinationen und fachliche Fehler lassen sich bei generativer KI nicht vollständig ausschließen. PrivacyMaster behandelt KI-Ausgaben deshalb als prüfbedürftige Arbeitsgrundlagen. Aussagen werden mit den bereitgestellten Unterlagen, aktuellen Primärquellen und dem konkreten Mandantenkontext abgeglichen. Beim Thema KI-Halluzinationen und Datenschutz ist entscheidend, plausible Formulierungen nicht mit belegten Tatsachen zu verwechseln.
Was ist eine KI-Halluzination?
Eine Halluzination liegt vor, wenn ein KI-Modell Angaben erzeugt, die überzeugend klingen, aber erfunden, veraltet oder sachlich unzutreffend sind. Das kann etwa nicht existente Urteile, falsche Artikelverweise, vertauschte Fristen oder angebliche Inhalte eines Vertrages betreffen. Auch unvollständige Schlussfolgerungen und übersehene Besonderheiten können ein Arbeitsergebnis verfälschen.
Wie erkennt PrivacyMaster mögliche Fehler?
Der Prüfablauf wird an Aufgabe und Risiko angepasst. Typischerweise werden mehrere Kontrollen miteinander verbunden:
- Ausgangsunterlagen und bekannte Tatsachen werden von KI-generierten Ergänzungen getrennt,
- Namen, Daten, Rechtsgrundlagen, Fundstellen und Zahlen werden gezielt kontrolliert,
- Aussagen werden mit Gesetzen, Behördenhinweisen oder anderen belastbaren Primärquellen abgeglichen,
- Ergebnisse verschiedener Modelle können gegenübergestellt werden, um Widersprüche sichtbar zu machen,
- fehlende Informationen und Unsicherheiten werden als offene Punkte gekennzeichnet.
Eine Übereinstimmung zweier Modelle beweist allerdings noch keine Richtigkeit. Beide können dieselbe fehlerhafte Annahme übernehmen. Der Modellvergleich ist daher ein zusätzlicher Hinweis, kein Ersatz für die fachliche Prüfung.
Welche Bedeutung hat der Datenschutz?
Bei personenbezogenen Daten verlangt der Grundsatz der Richtigkeit aus Artikel 5 Absatz 1 Buchstabe d DSGVO, unrichtige Daten angemessen zu berichtigen oder zu löschen. Die DSK-Orientierungshilfe zu KI und Datenschutz empfiehlt deshalb, Ergebnisse mit Personenbezug kritisch zu hinterfragen. Welche Prüftiefe erforderlich ist, hängt von Zweck, Schutzbedarf und möglichen Folgen einer Fehlentscheidung ab.
Wer entscheidet über die Freigabe?
PrivacyMaster kann Auffälligkeiten markieren, Prüfschritte strukturieren und Formulierungen vorbereiten. Die abschließende Bewertung und Freigabe erfolgen durch qualifizierte Menschen. Sie berücksichtigen Fachrecht, tatsächliche Abläufe und die konkrete Verwendung des Ergebnisses.
Mehr zum Verfahren erläutern Fachliche Prüfung von KI-Ergebnissen, Zwei KI-Modelle und die FAQ zu unterschiedlichen Modellergebnissen. Sie möchten den Prüfprozess für Ihre Unterlagen klären? Sprechen Sie uns an.