Künstliche Intelligenz kann nicht Gericht sein

Peter Heyers • • Datenschutz Aktuelle Nachrichten Compliance IT-Recht

Die Überlastung von Gerichten, die Verkomplizierung der Sachverhalte und der entsprechenden Lebenssachverhalte belastet Gerichte erheblich. Da könnte KI helfen...

Künstliche Intelligenz hat zweifelsohne die Tendenz der menschlichen Entwicklung zu dienen. Gerade in der Medizin ist das Durchforsten großer Datenmengen und das Erkennen neuer Zusammenhänge eine Chance der Menscheit unermesslilch zu dienen.

Die Forschung wird derzeit von wissenschaftlicher und wirtschaftlicher Neugierde getrieben, die Grenzen des Machbaren auszuloten. Dabei haben jedoch Fachwissenschaftler und Unternehmen meist nicht im Fokus, dass nicht nur das technisch Machbare zu verfolgen ist, sondern auch, ob dieses ethisch und rechtlich zulässig ist. Die Erfahrung zeigt, dass diese Kritierien - wie schon bei vielen IT-Projekten - sträflich vernachlässigt werden. Dabei ist einen Folgenabschätzung im technischen Bereich nichts unbekanntes und hat im Datenschutz auch bei der rechtlichen Betrachtung erstmals eine Datenschutzfolgeabschätzung als Rechtspflicht eingeführt.

Künstliche Intelligenz basiert immer nur aus Daten der Vergangenheit, ist damit immer rückwährtsgewandt. Die KI-Wissenschaft und Praxis muss ebenfalls Ethik und Recht als gleichberechtigten Partner anerkennen und entsprechend umsetzen. Leider werden die Protagonisten des technisch Machbaren hier ihrer ethischen und rechtlichen Verantwortung bisher nicht gerecht.

Wegen der Rückwärtsgewandheit hätte eine Künstliche Intelligenz sicherlich kein "neues" Grundrecht wie das "Grundrecht auf informationelle Selbstbestimmung" entdeckt, wie es das Bundesverfassungsericht tat. Vielleicht hätte eine Künstliche Intelligenz auch überhaupt keine Motivation in dieser speziellen Konstellation gehabt - sie hätte vermutlich ihre eigene Einschränkung nicht vorgeschlagen....

Daher gebührt den thüringischen Richtern Dank, dass sie den Einsatz von KI in der Rechtsprechung wohlüberlegt in den Fokus genommen haben.

Kritisiert werden muss jedoch, dass Entscheidungsvorschläge durch KI von Richter bearbeitet werden sollen. Dies ist ethisch problematisch, da der Mensch ( auch Richter sollen zu dieser Spezies gehören) dazu neigen, diese KI-Vorschläge unreflektiert aus Bequemlichkeit oder Zeitnot zu übernehmen.

Glücklicherweise wird die 74. Tagung der Präsidenten der Oberlandesgerichtsbezirke sich dem Thema umfassend annehmen, diskutieren und damit nicht alleine der IT und Wirtschaft dieses Themenfeld überlassen.