Corporate Governance Inside Legislation & Jurisdiction

KI oder nicht KI? – Das ist die Frage für Vorstand und Aufsichtsrat

Künstliche Intelligenz ist in aller Munde. Menschen fragen sich, was künstliche Intelligenz für sie bedeutet, wie sie ihr Leben und ihren Alltag, aber auch ihren Beruf verändert. Dies gilt auch für die Mitglieder von Vorstand und Aufsichtsrat. Auch sie sollten überlegen, ob und in welchem Umfang sie KI in ihrem Unternehmen bzw. in ihrer Gremienarbeit einsetzen können, dürfen und/oder vielleicht sogar müssen.

Dass bei dem Einsatz von KI der rechtliche Rahmen beachtet werden muss, sollte selbstverständlich sein (vergleiche dazu den gesonderten Beitrag "Allgemeine Rechtsfragen im Kontext von generativer KI" von Dr. Till Contzen). An dieser Stelle soll jedoch die vorgelagerte Frage beleuchtet werden, inwieweit Organmitglieder berechtigt und/oder möglicherweise sogar verpflichtet sind, Entscheidungen im Unternehmen durch Kl treffen zu lassen und/oder mit Unterstützung von KI zu treffen.

Die Möglichkeiten, die der Einsatz von KI bietet, sind vielfältig. Entsprechend zahlreich sind auch die potenziellen Konstellationen, wie sie in einem Unternehmen genutzt werden kann. Auch wenn die rechtlichen Fragen rund um das Thema noch sehr neu sind, lassen sich aus allgemeinen Vorschriften des Gesellschaftsrechts und aus den Regeln zur Delegation von Aufgaben an Mitarbeitende gleichwohl einige Regeln für den Einsatz von KI und die korrespondierenden Organpflichten von Vorstand und Aufsichtsrat ableiten:

1. KI kann den Vorstand nicht komplett ersetzen! Zwar gibt es hierzu tatsächlich Diskussionen, ob und wie dies mittels Gesetzesänderungen ermöglicht werden könnten. Nach aktueller Rechtslage ist es jedoch unverändert so, dass eine Aktiengesellschaft einen Vorstand benötigt und dieser eine natürliche, unbeschränkt geschäftsfähige Person sein muss. Angesichts dieser Regelung kann in Deutschland die Stellung eines Vorstandsmitglieds nicht einmal durch eine juristische Person oder sonstige Gesellschaft ausgefüllt werden – erst recht nicht durch eine wie auch immer geartete KI ersetzt werden.

Der Aufsichtsrat muss daher trotz der Möglichkeiten, die eine KI bieten kann, zumindest eine natürliche Person als Mitglied des Vorstands bestellen. Dies gilt für andere Gesellschaftsrechtsformen entsprechend.

2. Der Vorstand als Leitungsorgan der Gesellschaft sollte sich im Rahmen seiner Geschäftsleitung aber insbesondere fragen, ob und wie KI einzusetzen ist und ob sie dazu beitragen kann, administrative Aufgaben, Analysen und andere Geschäftsvorgänge sicherer, effizienter oder besser durchzuführen, um so der Gesellschaft im Wettbewerb einen Kosten- und/oder Geschwindigkeitsvorteil zu verschaffen. Insoweit ist zu differenzieren:

a) Soweit der Vorstand im Rahmen seines Rechts, Aufgaben zu delegieren, und seiner Organisationskompetenz dafür Sorge trägt, dass auf nachgelagerten Ebenen KI eingesetzt werden kann, gelten die üblichen Regelungen, die für eine Delegation von Aufgaben auf Mitarbeitende und die Einführung von neuer Technik im Unternehmen greifen.

Mithin muss der Vorstand die Vor- und Nachteile des Einsatzes der Technik einschließlich der möglichen Folgen von Fehlern derselben (hier der KI) gegeneinander abwägen. Er muss die Technik sorgfältig auswählen (lassen) und hat dafür Sorge zu tragen, dass diese rechtlichen Vorgaben entspricht, sie ordnungsgemäß und fortlaufend kontrolliert wird, die Mitarbeitenden sachgerecht eingewiesen und die Ergebnisse überwacht werden. Gerade bei KI spielt in diesem Kontext (insbesondere) auch die Frage der Daten, anhand derer die KI lernt, eine entscheidende Rolle, die zu überwachen ist. Sofern der Vorstand diesen (an die KI angepassten) Auswahl- und Überwachungspflichten genügt und seine Letztentscheidungsbefugnis bewahrt, verletzt er seine Pflichten nicht. Eine Erweiterung oder Vertiefung der Pflichten dürfte mit der Anpassung an die KI nicht verbunden sein.

b) Rechtlich schwieriger zu beurteilen sind die Sachverhalte, die nicht nachgelagerte Entscheidungen im Unternehmen betreffen, bei denen sich die Mitarbeitenden also der KI bedienen (sollen/dürfen), sondern die Fälle, in denen es um den Einsatz von KI durch den Vorstand selbst geht. Denn nach allgemeiner Auffassung gibt es einen Kernbereich der Geschäftsführung und Unternehmensleitung, den der Vorstand nicht delegieren kann. Ob hier eine Verwendung von KI möglich bzw. zulässig ist, ist problematisch.

Abzugrenzen ist dieser, dem Vorstand vorbehaltene Kernbereich der Unternehmensführung von dem Bereich der Vorbereitung und Sachverhaltsbeschaffung für seine Vorstandsentscheidungen. Diese Tätigkeiten dürfen auf andere Personen übertragen werden. Diese – jedenfalls auf den ersten Blick – scheinbar klare Abgrenzung ist in der Praxis im Detail allerdings schwierig. Spätestens dann, wenn ein komplexer Sachverhalt für eine Vorstandsvorlage komprimiert zusammengefasst werden muss, können die Auswahl der aufgezeigten Aspekte und ihre Formulierung einen nicht unerheblichen Einfluss auf die spätere Entscheidung des Vorstands haben.

Sofern der Vorstand diese Vorbereitungstätigkeiten auf Mitarbeitende delegieren kann, kann er sie auch auf eine KI übertragen. Die eben genannten Grundsätze gelten insoweit entsprechend, wenn KI eingesetzt wird. Gleichzeitig sind beim Einsatz von KI durch den Vorstand für eigene Zwecke dieselben, oben genannten Anforderungen zu beachten, die gelten, wenn sich Mitarbeiter der KI bedienen sollen. Auch hier muss der Vorstand die KI sorgfältig auswählen, Vorteil und potenziellen Schaden gegeneinander abwägen und auf das richtige Training der KI achten. Wie bei seinen menschlichen Mitarbeitenden muss der Vorstand auch hier besondere Sorgfalt walten lassen.

Ob und in welchem Umfang der Vorstand jedoch auch in seinem Kernbereich KI einsetzen darf, ist im Einzelnen umstritten. Die Details würden hier den Rahmen sprengen. Jedenfalls dann, wenn der Vorstand für die am Ende getroffene Entscheidung selbst einzustehen hat und die haftungsrechtliche Verantwortung dafür übernimmt, dürfte nichts dagegensprechen, KI auch im Rahmen von Entscheidungen im Kernbereich der Unternehmensleitung einzusetzen.

Ob es bei einer „falschen Entscheidung“ dann zu einer Haftung kommt, hängt von denselben Kriterien ab, die auch sonst bei der Beurteilung der Haftung relevant sind. Nicht möglich dürfte es jedenfalls sein, eine Haftung per se deshalb abzulehnen, weil sie auf KI gestützt wurde. Eine Enthaftung nach den Grundsätzen der ISION-Rechtsprechung1 wird in der Literatur aber diskutiert, wenn eine geeignete KI genutzt, das System mit umfassenden Informationen versorgt und anschließend eine eigene Plausibilitätsprüfung durch den Vorstand durchgeführt wurde.

3. Die Frage, ob es eine Pflicht gibt, KI einzusetzen, ist gesondert und losgelöst von Vorstehendem zu betrachten. Auch hierbei hat sich der Vorstand von der Überlegung lenken zu lassen, ob der Einsatz der KI zum Nutzen der Gesellschaft sein kann bzw. ob es möglicherweise der Gesellschaft schadet, wenn er keine KI verwendet, sei es durch seine Mitarbeitenden oder durch ihn selbst. Um eine entsprechende Pflicht annehmen zu können, wird das Ergebnis sehr eindeutig ausfallen müssen.

4. Der Aufsichtsrat selbst kann sich – wie der Vorstand – jedenfalls zur Vorbereitung seiner Entscheidungen der KI bedienen. Er hat darüber hinaus aber auch dafür Sorge zu tragen, dass der Vorstand die vorstehenden Pflichten einhält. Schließlich wird der Aufsichtsrat auch darauf zu achten haben, dass der Vorstand überhaupt mit Mitgliedern besetzt ist, die sich des Themas KI annehmen. Gleichzeitig muss er für sich Wege finden, wie er den Vorstand insoweit sachgerecht beraten und überwachen kann.

Die weitere Entwicklung in Literatur, Rechtsprechung, Gesetzgebung und Technik wird aufmerksam zu beobachten sein. So ist ohne Weiteres denkbar, dass sich die Antwort auf die Frage, „ob“ KI einzusetzen ist, zukünftig verschiebt und sie eher zu bejahen ist. Dies könnte etwa durch die weitere technische Entwicklung der KI ausgelöst werden, weil ihre Zuverlässigkeit allgemein anerkannt wird, praxisorientierter Richtlinien zum Einsatz von KI und zum Umgang damit bestehen sowie rechtliche Fragestellungen rund um den Einsatz von KI gelöst sind.

1 In seiner ISION-Rechtsprechung hat der Bundesgerichtshof festgelegt, wann Organmitglieder ausnahmsweise für Gesetzesverstöße (also nicht falsche unternehmerische Entscheidungen, bei denen die business judgement rule gilt) nicht haften, weil sie berechtigterweise auf eingeholten Expertenrat vertrauen durften. Dies ist vereinfacht gesagt dann der Fall, wenn der Berater fachlich kompetent und unabhängig ist, er durch das Organmitglied umfassend informiert wurde und das Organmitglied diesen Rechtsrats selbständig plausibilisiert hat.