KI für Anwälte: Richter lehnt ‚ChatGPT-Geständnis‘-Verteidigung ab

Eine jüngste Gerichtsentscheidung hat der Rechtsgemeinschaft eine klare Botschaft bezüglich der Verantwortlichkeit im Zeitalter der künstlichen Intelligenz übermittelt: Ein Richter hat eine Verteidigung, die behauptete, „ChatGPT habe mein Geständnis geschrieben“, in einem Arbeitsrechtsstreit entschieden zurückgewiesen und damit unterstrichen, dass die menschliche Verantwortung für Aussagen, selbst solche, die von KI beeinflusst wurden, für Anwälte von größter Bedeutung bleibt.

• Das Urteil bekräftigt die menschliche Verantwortlichkeit für KI-generierte Inhalte in rechtlichen Kontexten.
• Anwälte müssen bei der Überprüfung von Informationen oder Aussagen, die von KI-Tools erstellt wurden, die gebotene Sorgfalt walten lassen.
• Der Fall beleuchtet die sich entwickelnden Beweisstandards für KI-generiertes Material vor Gericht.
• Anwaltskanzleien benötigen robuste Richtlinien für den ethischen und verantwortungsvollen Einsatz von KI für Anwälte.

Der Fall, der KI für Anwälte herausforderte

Der Vorfall entstand aus einer Kündigung, bei der ein Mitarbeiter nach Gehaltsverhandlungen entlassen wurde, ein Vorgang, der potenziell durch Arbeitsgesetze geschützt ist. In den nachfolgenden Gerichtsverfahren sah sich der Arbeitgeber mit Vorwürfen bezüglich der Kündigung konfrontiert. Ein kritischer Punkt entstand, als der Arbeitgeber versuchte, die Verantwortung für ein belastendes Eingeständnis abzulenken, indem er behauptete, die fragliche Aussage sei von einer künstlichen Intelligenzplattform, speziell ChatGPT, generiert worden und sollte daher nicht als direktes, wissentliches Geständnis zugerechnet werden.

Diese neuartige Verteidigung versuchte, die aufkommenden Fähigkeiten generativer KI zu nutzen, indem sie vorschlug, dass ein KI-Tool unbeabsichtigt Inhalte produzieren könnte, die, obwohl sie wie ein Eingeständnis erscheinen, die notwendige menschliche Absicht oder Urheberschaft vermissen ließen, um rechtlich bindend zu sein. Der Kern des Arguments des Arbeitgebers beruhte auf der Idee, dass, wenn eine Maschine die Aussage produzierte, der menschliche Nutzer nicht allein für deren Inhalt verantwortlich gemacht werden sollte, insbesondere wenn es sich um eine Falschdarstellung oder ein unbeabsichtigtes Eingeständnis handelte. Dieses Szenario verdeutlichte eine wachsende Spannung zwischen der Bequemlichkeit der KI-Unterstützung und der unerschütterlichen Forderung nach menschlicher Verantwortlichkeit innerhalb des Rechtssystems.

Warum scheiterte die „ChatGPT-Verteidigung“?

Der vorsitzende Richter wies das Argument, dass eine von ChatGPT generierte Aussage eine menschliche Partei von der Verantwortung entbinden könnte, unmissverständlich zurück. Die Begründung des Gerichts konzentrierte sich auf den Grundsatz, dass die letztendliche Verantwortlichkeit für jede Einreichung, Kommunikation oder jedes Eingeständnis in einem rechtlichen Kontext bei dem menschlichen Nutzer oder der Entität liegt, die es präsentiert. Unabhängig vom verwendeten Tool zur Formulierung der Aussage bedeutet das Präsentieren oder Übernehmen derselben eine menschliche Billigung. Die Entscheidung des Richters unterstrich, dass KI, obwohl ein mächtiges Hilfsmittel, keine Rechtspersönlichkeit oder die Fähigkeit zur Absicht besitzt, eine grundlegende Voraussetzung für rechtliche Eingeständnisse.

Dieses Urteil stärkt den etablierten Rechtsrahmen, in dem Absicht und Urheberschaft entscheidend sind. Während KI-Tools für Anwälte wie ChatGPT beim Entwerfen, Recherchieren oder Analysieren helfen können, besitzen sie keine Rechtspersönlichkeit oder die Fähigkeit zur Absicht. Daher wird jede Ausgabe eines solchen Tools, wenn sie von einem Menschen übernommen und präsentiert wird, zur Aussage dieses Menschen und unterliegt derselben Prüfung und denselben rechtlichen Konsequenzen, als wäre sie vollständig von einem Menschen verfasst worden. Die Haltung des Gerichts ist eine klare Anweisung: Der Mensch hinter der Maschine bleibt letztendlich für deren Ausgabe in einem rechtlichen Umfeld verantwortlich.

Ethische Implikationen für Rechts-KI und Anwälte

Dieses Urteil hat erhebliche ethische Implikationen für das aufstrebende Feld der Rechts-KI und für jeden Anwalt, der diese Technologien in seine Praxis integriert. Es dient als deutliche Erinnerung daran, dass KI zwar leistungsstarke Fähigkeiten für Aufgaben wie AI contract review, AI legal research oder AI document analysis bietet, aber die beruflichen Pflichten eines Anwalts nicht mindert. Anwälte sind ethisch verpflichtet, die Genauigkeit, Wahrhaftigkeit und Angemessenheit aller Informationen zu gewährleisten, die sie einem Gericht oder im Namen eines Mandanten präsentieren. Das Potenzial für „KI-Halluzinationen“ oder unbeabsichtigte Ausgaben erfordert ein erhöhtes Maß an Prüfung.

Der Fall unterstreicht die Notwendigkeit einer rigorosen Überprüfung von KI-generierten Inhalten. Ein Anwalt kann KI-Ausgaben nicht einfach kopieren und einfügen, ohne sie kritisch zu prüfen. Tools wie Harvey AI, Clio, ContractPodAi, Lex Machina oder Spellbook, obwohl zur Steigerung der juristischen Effizienz entwickelt, müssen umsichtig eingesetzt werden. Ihre Ausgaben sind Hilfsmittel, keine Ersatzmittel für das unabhängige professionelle Urteilsvermögen und die Sorgfaltspflicht eines Anwalts. Dies gilt unabhängig davon, ob Schriftsätze entworfen, Beweisanträge vorbereitet oder Mandanten beraten werden. Eine unzureichende Prüfung von KI-generiertem Material könnte zu berufsrechtlichen Sanktionen, nachteiligen Urteilen oder sogar Haftungsansprüchen führen, was die entscheidende Rolle der menschlichen Aufsicht bei allen Anwendungen von Rechts-KI betont.

Welche praktischen Erkenntnisse bietet dieses Urteil Anwälten?

Für Anwaltskanzleien, die die Macht der KI für Anwälte verantwortungsvoll nutzen wollen, liefert dieses Urteil eine entscheidende Lektion. Die Entwicklung klarer interner Richtlinien und die Bereitstellung umfassender Schulungen zum ethischen Einsatz von Rechts-KI-Tools sind nicht länger optional, sondern unerlässlich. Kanzleien müssen Protokolle festlegen, wie KI-generierte Inhalte überprüft, zugeschrieben und verifiziert werden, bevor sie in das Rechtssystem gelangen. Dies umfasst die Definition akzeptabler Anwendungsfälle, die Skizzierung von Überprüfungsverfahren und die Sicherstellung, dass Anwälte die Grenzen verschiedener KI-Plattformen verstehen.

Eine praktische Erkenntnis für Anwälte ist, KI-Ausgaben als Ausgangspunkt zu behandeln, der das gleiche Maß an Prüfung erfordert wie Informationen aus jeder anderen unbestätigten Quelle. Fragen Sie immer: „Kann ich das unabhängig überprüfen?“ und „Entspricht dies meinem professionellen Urteilsvermögen und meinem Wissen über die Fakten?“ Dieser proaktive Ansatz wird Risiken im Zusammenhang mit unbeabsichtigten Eingeständnissen oder Falschdarstellungen mindern. Die Implementierung robuster Qualitätskontrollmaßnahmen für alle KI-gestützten Arbeiten wird entscheidend sein, um die berufliche Integrität zu wahren und nachteilige rechtliche Konsequenzen in einer zunehmend KI-gesteuerten Rechtslandschaft zu vermeiden. Darüber hinaus sollten Anwälte sich über die spezifischen Funktionalitäten und potenziellen Verzerrungen der von ihnen verwendeten KI-Tools informieren, um deren kompetenten und ethischen Einsatz zu gewährleisten.

Gestaltung zukünftiger Beweisstandards für KI-generiertes Material

Dieses Urteil beginnt auch, die Landschaft der Beweisstandards für KI-generiertes Material zu prägen. Da KI immer ausgefeilter wird, werden sich Gerichte zunehmend mit Fragen der Authentizität, Zuverlässigkeit und Zulässigkeit von KI-produzierten Beweismitteln auseinandersetzen. Dieser Fall schafft einen Präzedenzfall, dass die Herkunft einer Aussage von einem KI-Tool die menschliche Verantwortung für deren Inhalt nicht grundsätzlich mindert, insbesondere wenn dieser Inhalt als eigener des Menschen präsentiert wird. Zukünftige Rechtsstreitigkeiten könnten tiefere Fragen zur Nachweiskette für KI-generierte Daten, zur Transparenz von KI-Modellen und zum Potenzial von Deepfakes oder synthetischen Medien zur Beeinflussung von Gerichtsverfahren untersuchen.

Während sich KI weiterentwickelt, wird die Unterscheidung zwischen KI-Unterstützung und menschlicher Verantwortlichkeit ein zentrales Thema in der Rechtsprechung bleiben. Dieses Urteil unterstreicht, dass KI zwar ein mächtiger Verbündeter sein kann, die letztendliche Verantwortung für rechtliche Handlungen und Aussagen jedoch fest beim menschlichen Rechtsexperten liegt. Anwälte müssen sich nicht nur an die Nutzung neuer KI-Tools anpassen, sondern auch die tiefgreifenden rechtlichen und ethischen Implikationen ihrer Integration in das Gefüge der Justiz verstehen.