Für das CRISAM® Team war AI Governance, also die Steuerung und Überwachung von künstlicher Intelligenz (KI), das Thema Nummer 1 der #RISK Expo Europe 2026 am 10. und 11. November 2026 im ExCeL London. Auf der BFSI Stage, im Statement des GRC-Analysten Michael Rasmussen und in den Antworten an CRISAM® Stand 13 stellte sich dieselbe Frage: Wie steuert man KI, die in Machine Speed entscheidet, also in der Geschwindigkeit von Maschinen? CRISAM® beantwortet sie mit Governed Autonomy (gesteuerte Autonomie), einem AI Governance Framework, in dem Menschen Zweck, Grenzen und das Recht zum Eingreifen festlegen und KI innerhalb davon handelt.
Wir sind mit einem Stand, einem Platz im Panel und einer Frage an alle, die wir trafen, zur #RISK 2026 nach London gefahren. Zurückgekommen sind wir mit derselben Antwort aus fast jeder Richtung: KI trifft im Unternehmen bereits Entscheidungen, und AI Governance muss damit Schritt halten.
Warum war AI Governance unser Thema Nummer 1 auf der #RISK 2026?
Weil KI aus den Pilotprojekten in Entscheidungen gewandert ist, die zählen: Kredit, Betrug, Preise, Schadenfälle, Beschwerden. Auf der #RISK 2026 ging es nicht mehr darum, ob Unternehmen KI einsetzen. Es ging darum, wie viel sie KI selbst entscheiden lassen, innerhalb welcher Grenzen, und wer sie stoppen kann. Das ist AI Governance, und sie war auf der BFSI Stage, in der Ausstellungshalle und in fast jedem unserer Gespräche Thema. Der Veranstalter GRC World Forums gab dem zweiten Tag eine eigene Konferenz, die PrivSec AI Governance.
Wir waren mit diesem Eindruck nicht allein. GRC World Forums eröffnete die Ankündigung der #RISK Expo Europe 2026 (auf Englisch) mit agentischer KI und geopolitischer Instabilität als den zwei Kräften, die die Bedrohungslage verändern, und nahm Workshops mit KI-Schwerpunkt (auf Englisch) ins Programm. Drittparteienrisiko, operationale Resilienz und Regulatorik wie der Digital Operational Resilience Act (DORA) standen ebenfalls auf dem Programm. KI war das Thema, das sich über die Bühnen hinweg zog.
Drei Punkte kamen immer wieder:
- GeschwindigkeitKI entscheidet in Millisekunden. Die meiste Aufsicht berichtet noch einmal im Quartal.
- VerantwortungNur wenige Unternehmen können für jede Entscheidung ihrer KI eine verantwortliche Person nennen.
- NachweisVorstände, Aufsichtsräte und Aufsichtsbehörden verlangen Belege dafür, dass KI unter Kontrolle war, gestern und heute.
Was ist Machine Speed Governance?
Machine Speed Governance bedeutet, KI-gestützte Entscheidungen in der Geschwindigkeit zu steuern, in der sie getroffen werden. Jede wesentliche KI-gestützte Entscheidung ist erfasst, hat einen freigegebenen Zweck und Grenzen, wird im laufenden Betrieb beobachtet und aufgezeichnet, und eine befugte Person kann jederzeit eingreifen. Governance läuft laufend statt einmal im Quartal.
Der Begriff beschreibt die Lücke, die die zwei Tage in London geprägt hat. KI entscheidet in Millisekunden, und zwischen zwei Sitzungen des Leitungsgremiums fallen Tausende Entscheidungen. Die Verantwortung bleibt beim Leitungsgremium.
Was sagte Michael Rasmussen über Governance in Machine Speed?
Michael Rasmussen, GRC-Analyst bei GRC 20/20 Research, hielt die Keynote am Vormittag der #RISK 2026 und führte durch das GRC Theatre und das Risk Theatre. Es war sein fünftes Jahr bei der Veranstaltung. Er kam am CRISAM® Stand vorbei und fasste die zwei Tage in rund einer Minute zusammen: KI verstärkt die Risiken, die Unternehmen ohnehin steuern, und offen ist, wie man ein Unternehmen steuert, das in Machine Speed läuft.
Sein Ausgangspunkt ist das Risiko- und Resilienzmanagement. Geopolitisches Risiko, operationelles Risiko und das Risiko in Entscheidungen und Strategie treffen gleichzeitig ein, und Unternehmen müssen dabei widerstandsfähig bleiben. Dann benennt er, was das Bild verändert: KI wirke sich darauf, in seinen Worten, „exponentially“ aus, also exponentiell.
„How do you govern risk, and how do you govern a business that’s running at machine speed?„Michael Rasmussen, GRC 20/20 Research, auf der #RISK 2026
Sinngemäß fragt er: Wie steuert man Risiko, und wie steuert man ein Unternehmen, das in der Geschwindigkeit von Maschinen läuft? Er benennt auch, was Unternehmen von ihren Anbietern für Governance, Risk und Compliance (GRC) brauchen: Unterstützung dabei, bessere Entscheidungen zu treffen, Ziele verlässlich zu erreichen, mit der Unsicherheit in diesen Entscheidungen umzugehen und integer zu handeln, während Unternehmen in Machine Speed arbeiten.
Was zeigte das Panel „Beyond Basel“ über AI Governance?
Die meisten Unternehmen nutzen KI für Entscheidungen, aber nur sehr wenige könnten ihrem Leitungsgremium binnen Minuten sagen, wenn eine dieser Entscheidungen falsch lief. Das war das Ergebnis eines Live-Tests im Panel „Beyond Basel: next-generation risk management for BFSI leaders“ am 10. November 2026. Andrew McIntyre von CRISAM® saß mit Oliver Greenslade, Chief Risk Officer bei Channel Capital Advisors, auf der Bühne für Banken, Finanzdienstleister und Versicherungen (BFSI). Chris Brown von Capgemini Invent moderierte. Zur Halbzeit bat Andrew den Saal aufzustehen und sich zu setzen, sobald die ehrliche Antwort „Nein“ lautet:
- F 01Ihr Unternehmen nutzt KI oder Modelle, um Entscheidungen zu treffen oder zu unterstützen.
- F 02Sie könnten heute jede Entscheidung auflisten, die KI oder Modelle in Ihrem Unternehmen treffen.
- F 03Jede dieser Entscheidungen hat eine namentlich benannte verantwortliche Person, die von ihrer Verantwortung weiß.
- F 04Diese Entscheidungen werden gegen Ihren Risikoappetit geprüft, bevor sie getroffen werden, nicht danach.
- F 05Würde ein Modell heute um 9:00 Uhr den Risikoappetit überschreiten, wüsste Ihr Leitungsgremium es um 9:15 Uhr.
Bei der ersten Frage stand fast der ganze Saal. Bei der fünften standen nur noch sehr wenige. Das ist kein Mangel an Governance. Es ist Governance, die für periodische, menschliche Entscheidungen gebaut wurde und nun auf Entscheidungen in Machine Speed trifft.
Andrews Vergleich ist die Luftfahrt. Sie hat auf volleren Luftraum nicht mit langsameren Flugzeugen reagiert. Sie hat die Flugsicherung aufgebaut, damit jeder Flug sichtbar ist, innerhalb freigegebener Grenzen bleibt und von einer befugten Person unterbrochen werden kann.
Zum ausführlichen Panel-Rückblick: Beyond Basel at #RISK London: governing AI at machine speed (auf Englisch)
Welche Risiken beschäftigen Risikoverantwortliche derzeit am meisten?
KI. Das war die häufigste Antwort an Stand 13 und in der Halle, wo wir so vielen Menschen wie möglich eine Frage gestellt haben: Welches aufkommende Risiko bereitet Ihnen heute die größte Sorge? Andrew McIntyre ist mit dieser Frage und einem Mikrofon durch die Halle gegangen.
Einige nannten zuerst Cybersicherheit und dann KI als Grund: Angriffe beschleunigen sich schneller, als die Abwehr folgen kann. Andere begannen mit geopolitischer Instabilität oder Klima und nannten KI im selben Atemzug. Ein Besucher erzählte uns, KI habe vor zwei Jahren noch niedrige Priorität gehabt, und die Regulatorik habe daraus inzwischen ein Feld gemacht, das alle abdecken müssen.
Ein Punkt ist uns geblieben. Viele Unternehmen führen KI ein, weil es alle tun, sagte ein Besucher, ohne zuerst das Problem zu benennen, das sie lösen soll. Zuerst die Problemstellung, dann die Lösung suchen.
Viele GRC-Werkzeuge werben inzwischen mit KI-Funktionen. Die Menschen, die wir getroffen haben, stellten eine andere Frage, und sie ist die Kernfrage der AI Governance: Können wir zeigen, dass die KI, die in unserem Unternehmen und in den Produkten unserer Lieferanten bereits läuft, unter Kontrolle ist?
Was ist Governed Autonomy?
Governed Autonomy ist ein Ansatz der AI Governance, bei dem Menschen den Zweck, die Grenzen und die Befugnis zum Stoppen eines Systems festlegen. Innerhalb dieser Grenzen arbeitet KI in ihrer eigenen Geschwindigkeit, und die Nachweise entstehen im laufenden Betrieb. Das Prinzip ist menschliche Autorität, nicht menschliche Freigabe.
CRISAM® AI Governed Autonomy ist das AI Governance Framework (auf Englisch), das auf diesem Ansatz aufbaut, für Unternehmen, die KI wesentliche Entscheidungen treffen lassen. Es hält sie in der Kontrolle über KI, ohne sie auf menschliche Geschwindigkeit zu bremsen. Der Unterschied zeigt sich in drei alltäglichen Situationen:
| Situation | Ohne Framework | Mit Governed Autonomy |
|---|---|---|
| Vor einer Sitzung des Leitungsgremiums oder einem Audit | Nachweise werden aus Screenshots, E-Mails und Tabellen zusammengesucht. | Die Nachweise sind entstanden, während die KI lief. Sie liegen vor. |
| Ein Modell wird aktualisiert | Der Test aus dem letzten Quartal beschreibt nicht mehr das Modell, das heute im Einsatz ist. | Die Änderung ist mit ihren Risiken und Kontrollen verknüpft, und neue Nachweise folgen. |
| Ein Schwellenwert wird überschritten | Niemand weiß sicher, wer das System stoppen darf. | Eine namentlich benannte Person hält es an, innerhalb vorab vereinbarter Grenzen. |
Das Framework hat vier Bausteine:
-
Menschliche Autorität
Die KI darf die Entscheidung treffen. Ein Mensch trägt die Autorität, unter der sie getroffen wird.
-
Angemessene Aufsicht
Enge Aufsicht, wo viel auf dem Spiel steht, Geschwindigkeit, wo es sicher ist.
-
Verbundene Kontrolle
Jede wesentliche KI-Entscheidung ist mit ihren Risiken, Pflichten, Kontrollen und Nachweisen verknüpft.
-
Laufende Assurance
Nachweise entstehen im Betrieb, nicht erst zum Berichtsstichtag.
Das Framework ist in drei Papieren für die Leitungsebene beschrieben, der Reihe Machine Speed Governance (auf Englisch):
- Paper One: The Control Question Facing Every Board
- Paper Two: Governed Autonomy
- Paper Three: Continuous Assurance for the Machine Speed Enterprise
Die wichtigsten Erkenntnisse der #RISK 2026
- Für CRISAM® war AI Governance das Thema Nummer 1 der #RISK Expo Europe 2026, auf der Bühne und in der Halle.
- Die Lücke ist die Geschwindigkeit: KI entscheidet in Millisekunden, während die meiste Governance noch einmal im Quartal berichtet.
- Im Live-Test des Panels nutzten fast alle KI für Entscheidungen, und nur sehr wenige konnten sagen, dass ihr Leitungsgremium binnen 15 Minuten von einer Überschreitung des Risikoappetits wüsste.
- Nach ihrem größten Risiko gefragt, nannten Besucherinnen und Besucher an CRISAM® Stand 13 am häufigsten KI, daneben Cybersicherheit und Geopolitik.
- Governed Autonomy schließt die Lücke mit menschlicher Autorität über jedes KI-System statt menschlicher Freigabe jeder einzelnen Entscheidung.
Accountable for AI, but no longer in control? Lessons from #RISK London
In 45 Minuten hören Sie, was Risikoverantwortliche auf der #RISK London uns über ihre Sorgen gesagt haben, und was es braucht, um die Kontrolle zu behalten, wenn KI schneller entscheidet, als ein Gremium tagt. Das Webinar findet auf Englisch statt.
- Datum
- Donnerstag, 26. November 2026
- Uhrzeit
- 10:00 Uhr britischer Zeit (11:00 Uhr MEZ)
- Format
- Live, 30 Minuten Inhalt, 15 Minuten Fragen, auf Englisch
- Gastgeber
- Andrew McIntyre und James Gray
Könnten Sie heute zeigen, dass Ihre KI unter Kontrolle ist? Lesen Sie die drei Papiere oder sprechen Sie mit unserem Team darüber.
Häufige Fragen zur #RISK 2026 und zu AI Governance
-
Die #RISK Expo Europe 2026 fand am 10. und 11. November 2026 im ExCeL London statt, veranstaltet von GRC World Forums. Sie bringt Verantwortliche aus Risikomanagement, GRC, Compliance, Security, Resilienz und Audit zusammen. CRISAM® war mit Stand 13 vertreten und saß im Panel „Beyond Basel“ auf der BFSI Stage.
-
Aus Sicht von CRISAM® war es AI Governance. Das Thema kam im Panel „Beyond Basel“ auf, im Interview mit dem GRC-Analysten Michael Rasmussen und in den meisten Antworten am CRISAM® Stand. Der Veranstalter widmete den zweiten Tag außerdem einer eigenen Konferenz, der PrivSec AI Governance.
-
Machine Speed Governance bedeutet, KI-gestützte Entscheidungen in der Geschwindigkeit zu steuern, in der sie getroffen werden. Jede wesentliche KI-gestützte Entscheidung ist erfasst, hat einen freigegebenen Zweck und Grenzen, wird im laufenden Betrieb beobachtet und aufgezeichnet, und eine befugte Person kann jederzeit eingreifen. Governance läuft laufend statt einmal im Quartal.
-
Governed Autonomy ist ein Ansatz der AI Governance, bei dem Menschen den Zweck, die Grenzen und die Befugnis zum Stoppen eines Systems festlegen. Innerhalb dieser Grenzen arbeitet KI in ihrer eigenen Geschwindigkeit, und die Nachweise entstehen im laufenden Betrieb. CRISAM® AI Governed Autonomy ist das AI Governance Framework, das auf diesem Ansatz aufbaut.
-
Das Panel „Beyond Basel: next-generation risk management for BFSI leaders“ fand am 10. November 2026 auf der BFSI Stage statt. Chris Brown von Capgemini Invent moderierte. Auf dem Podium saßen Oliver Greenslade, Chief Risk Officer bei Channel Capital Advisors, und Andrew McIntyre von CRISAM®.
-
Nein. CRISAM® ersetzt weder die Modelle noch die Datenplattformen oder das Monitoring eines Unternehmens. CRISAM® verbindet sie mit den Risiken, Kontrollen und Verantwortlichen, die jede Entscheidung vertretbar machen.
-
Ja. Am Donnerstag, 26. November 2026, um 10:00 Uhr britischer Zeit (11:00 Uhr MEZ) laden Andrew McIntyre und James Gray von CRISAM® zu einem 45-minütigen Live-Webinar mit den Erkenntnissen aus der #RISK London. Das Webinar findet auf Englisch statt.
Möchten Sie uns kennenlernen?
