KI im Unternehmen: Ein Gespräch über Chancen, Risiken und Verantwortung in der KI-Governance

Jakob: „Viele verbinden Governance mit Bürokratie und Innovationshemmung – spätestens seit der DSGVO. Was bedeutet Governance für dich?“

Kai: „Für mich ist Governance das Betriebssystem für KI. Sie legt die Regeln und Prozesse fest, mit denen man KI nicht nur regelkonform und ethisch wohlüberlegt einsetzen kann, sondern auch wertstiftend.“

Er führt aus: „Governance und Innovation schließen sich nicht aus. Sie sind notwendige Voraussetzungen füreinander und schaffen Orientierung und Sicherheit. Das ist gerade in einer sich so schnell entwickelnden Technologie und damit Arbeitswelt entscheidend.“

Jakob: „Also eher Orientierung als Einschränkung?“

Kai: „Genau. Wenn ich meiner Belegschaft ein völlig offenes Feld überlasse, weiß niemand, in welche Richtung er oder sie rennen soll. Governance gibt Richtung und beschleunigt damit sogar Innovation.“

Kai: „Und sie adressiert die Schnittstelle zwischen Mensch und Maschine. KI löst in der Arbeitswelt zu Recht Fragen, Bedenken und teils Ängste aus. Aufgabe der Governance ist, diese ernst zu nehmen, Risiken systematisch zu adressieren und damit die Ängste über die Zeit kleiner werden zu lassen. Auch wenn Governance sicherlich Ängste nicht komplett nehmen kann.“

Jakob: „Bevor wir tiefer in die Rolle der KI-Governance einsteigen, würde mich interessieren, wie du die Rolle von KI in Gesellschaft und Wirtschaft generell einschätzt?“

Kai: „KI ermöglicht großen und kleinen Unternehmen Effizienzsprünge und neue Möglichkeiten. Ich erlebe im Alltag, dass ich mit KI‑Hilfestellungen ganz andere Leistungen erbringen kann. Das macht total Spaß.“

Gleichzeitig mahnt er: „Wir sehen monopolistische, oligopolistische Strukturen bei großen Tech‑Unternehmen. Da wird sehr viel Geld reingesteckt, manchmal ohne Rücksicht auf Verluste. Das beobachte ich mit Sorge. Vor allem weil kleinere oder mittelständische Unternehmen, von denen wir in Deutschland ja sehr viele haben, da natürlich nicht in dem Maße mitgehen können.“

Jakob: „Stimmt, der Mittelstand ist besonders gefordert: 99,2 % der Unternehmen sind KMU, aber nur rund ein Drittel hat die KI‑Integration gestartet. Das zeigt die Lücke.“

Kai: „Genau. 98 % der Unternehmen sind klein oder mittelgroß – wenn die abgehängt werden, haben wir ein zentrales Problem. Hinzu kommen Fachkräftemangel und Demografie. KI kann helfen, aber nicht, indem man einfach allen Zugang zu ChatGPT oder Copilot gibt. Es braucht echte Integration und klare Regeln.“

Jakob: „Mittlerweile gibt es erste regulatorische Maßnahmen der Politik, den Einsatz von KI zu regeln. Wie siehst du beispielsweise den EU AI Act?“

Kai: „Ich sehe den EU AI Act grundsätzlich positiv, weil hier, statt nur zu reagieren proaktiv Verantwortung übernommen wird. Er ist eine Verbraucherschutzregelung und übernimmt Governance‑Logiken wie die risikobasierte Bewertung von Anwendungen, also Apps oder Anbietern, statt der Technologie an sich.“

„Ja, das Werk ist umfangreich. Viele stehen wie vor einem Berg. Aber man kann es pragmatisch angehen – dann wird es handhabbar“, so Kai.

Jakob: „Als Privatperson stimmt man vielen Punkten des AI Acts zu. Unternehmen sehen zunächst mal sehr viel Bürokratie. Aber als Impuls verstanden, hilft der Act, sich strategisch zu positionieren und Governance aufzubauen, die intern nützt und extern Vertrauen schafft. So sorgt beispielsweise das Tool-Register für Klarheit: Sowohl bei den Unternehmen selbst als auch bei den Kunden, für die transparent wird, welche Tools wofür eingesetzt werden und welche eben auch nicht.“

Jakob: „Wenn du es runterbrechen müsstest. Was sind die Gründe, um jetzt eine KI-Governance System einzuführen?“

Kai: „Es gibt drei zentrale Gründe für KI‑Governance:“

Jakob: „Das Schlüsselwort ist meines Erachtens Vertrauen. Eine gute KI‑Governance erklärt das Warum, sorgt für Transparenz und gibt Halt: Wo setzen wir KI ein und wo nicht? Welche Regeln gelten dabei?“

Kai: „Gute Governance heißt auch: erklären, unterrichten, Rechenschaft ablegen – intern wie extern. So wird aus der Blackbox etwas Verstehbares.“

Jakob: „Jetzt bin ich überzeugt, möchte loslegen und eine Governance einführen. Wie fange ich an?“

Kai: „Der erste Schritt ist leicht und wirksam: Zuhören und eine Bestandsaufnahme machen – welche Tools nutzt das Team, wofür, mit welchen Daten? Oft findet mehr KI‑Nutzung statt, als der Führung bewusst ist.“

„Dann folgt das Übersetzen der bestehenden Werte ins KI‑Zeitalter: Meist müssen Werte nicht geändert, sondern konkretisiert werden. Wenn ich mich als Unternehmen der Nachhaltigkeit verpflichtet fühle, kann ich beispielsweise in der Toolauswahl dieses Prinzip auch in der KI-Governance verfolgen. Und unbedingt inklusiv arbeiten – erst zuhören, dann formulieren. Keine generischen Vorlagen, keine Papiergebirge“, rät Kai.

Praxis‑Tipp: Governance erlebbar machen mittels FAQ, Checklisten, Sprechstunden, einer Tool‑Register‑Logik und auf der Richtlinie trainierten KI‑Assistenten. So wird der Rahmen ganz einfach im Alltag nutzbar.

Kai: „Und wie seid ihr bei neues handeln vorgegangen?“

Jakob: „Bei uns häuften sich Fragen: 'Darf ich dieses Tool nutzen? Welche Daten darf ich in welchem Tool nutzen?' Gleichzeitig fragten Kund*innen: 'Wie setzt ihr KI ein? Macht ihr das transparent?' Das war der Impuls, strukturiert vorzugehen.“

„Gestartet sind wir dann eben mit einer Bestandsaufnahme und Befragung (Nutzung, Potenziale, Sorgen). Organisatorisch entstand dann ein bereichsübergreifendes, interdisziplinäres KI‑Team, angedockt an die Agenturleitung, das die Operationalisierung verantwortet. Tools für die Integration sind aktuell Sprechstunden, Checklisten, FAQ, Tool‑Register und Impulse in die Teams. Wichtig ist uns nicht in Vollzeit‑Bürokratie zu verfallen, sondern mit vertretbarem Aufwand Strukturen zu schaffen, sodass die Governance sauber aufgesetzt ist.“

Kai: „Genau darum geht es: Governance befreit Zeit und Mindspace. Statt dass sich alle täglich dieselben Grundsatzfragen stellen, gibt es klare Verfahren. Das schafft Raum für kreative, kundennahe Arbeit.“

Kai: „Und woran merkt ihr, ob das klappt?“

Jakob: „Wir messen Erfolg qualitativ und quantitativ. Qualitativ durch Feedback und Fragen in den Sprechstunden: Wo wird Governance tatsächlich genutzt? Quantitativ durch Klickzahlen auf Checklisten und Bewegung im Tool‑Register: Kommen neue Tools dazu, werden andere bewusst ausgeschlossen (z. B. aus Datenschutzgründen)? Eine lebendige Governance ist der beste Indikator.“

Kai ergänzt: „Ein weiterer Gradmesser sind regulatorische Änderungen: Wenn neue Pflichten (z. B. Kennzeichnung) scharf geschaltet werden, zeigt sich, ob die Weichen richtig stehen. Also ob wir schnell justieren können und bereit sind.“

Jakob: „Abschließend noch die Frage, wie es deiner Ansicht nach weitergeht beim Thema KI-Governance?“

Kai: „Ich bin überzeugt, dass KI‑Governance nicht nur in Europa Standard wird. Es gibt internationale Bezüge wie ISO 42001 für KI‑Managementsysteme, die Orientierung bieten. Regulierung und Markt werden das Thema meiner Ansicht nach weiter vorantreiben. Wer also heute handelt, differenziert sich bei Kund*innen und Talenten und gestaltet mit Ruhe statt Schnellschuss.“

Jakob: „Ich denke, dass es am Ende nicht darum geht, Fortschritt einfach nur abzuhaken, sondern ihn verantwortlich zu gestalten.

Kai: „Das ist die Magie der KI‑Governance.“