Ein Gericht im italienischen Florenz hat vor den Risiken des Einsatzes künstlicher Intelligenz (KI) im Rechtsbereich gewarnt, nachdem ein Anwalt in einer Anhörung nicht existierende Entscheidungen angeführt hatte. Der Vorfall ereignete sich während eines Prozesses wegen Urheberrechtsverletzung, bei dem es um die Verwendung von Designs auf T-Shirts ging.
Die Anhörung fand im März statt, der Fall kam jedoch erst am Donnerstag, dem 17., ans Licht. Laut der juristischen Website Diretto.itAls Argument führte der Verteidiger einige angebliche Entscheidungen des Obersten Gerichtshofs an. Die Referenzen existierten jedoch nicht und wären vom Tool generiert worden ChatGPT.
Die Richter prüften die Unterlagen und stellten fest, dass es sich um Fehlentscheidungen handelte. Auf Nachfrage gab der Anwalt an, das Material sei von einem Kollegen der Kanzlei erstellt worden.
Das Gericht erwog, ein Verfahren auf Grundlage des Artikels einzuleiten, der diejenigen bestraft, die während des Prozesses in böser Absicht handeln. Die Richter entschieden jedoch, die Anklage nicht weiter zu verfolgen. Sie führten den Fehler auf den falschen Einsatz künstlicher Intelligenz zurück.
In einer Entscheidung vom 14. März wiesen die Richter auf das Phänomen hin, „Halluzinationen“ der KI. Der Begriff bezieht sich auf ungenaue oder völlig falsche Antworten, die von solchen Tools erzeugt werden, wenn sie Informationen präsentieren, die nicht durch echte Daten gestützt werden.
Justiz und Technologie
Die Situation entfacht die Debatte über den Einsatz von KI im Justizsystem neu. Obwohl es Ressourcen für Forschung und Analyse bietet, kann eine wahllose Nutzung die Integrität von Rechtsverfahren gefährden.
Das Gericht betonte, wie wichtig die menschliche Validierung der aus diesen Tools gewonnenen Informationen sei.
SIGA-NOS
