Die KI, die Sie nicht gekauft haben: blinder Fleck der FSB-Grundsätze

Die neuen Grundsätze des Financial Stability Board (FSB) zur künstlichen Intelligenz (KI) im Finanzsektor setzen alle eines voraus: dass das Institut weiss, wo KI läuft ¹. Die meisten Inventare entstehen aus Projektfreigaben und übersehen deshalb KI, die erst später in bereits eingekauften Werkzeugen auftaucht. Wir halten das für die praktische Schwachstelle des Rahmenwerks. Wer als Verwaltungsrat fragt «Welche KI setzen wir ein?», sollte eine zweite Frage stellen: «Wie würden wir erfahren, dass ein Lieferant KI eingeschaltet hat?»

Was der FSB am 15. Oktober veröffentlicht hat

Am 15. Oktober 2026 hat der FSB die Endfassung von Sound Practices for Responsible Adoption of Artificial Intelligence veröffentlicht, nach einer Konsultation, die im Juni 2026 begann ¹². Sie enthält 12 Grundsätze in zwei Gruppen. Vier betreffen die Governance der gesamten Organisation, von der Aufsicht durch den Verwaltungsrat über Rollen und Risikorahmen bis zur Anpassungsfähigkeit. Acht betreffen den KI-Lebenszyklus, von der Wesentlichkeitsbeurteilung und Datenführung über die menschliche Aufsicht und das Cyber- und ICT-Risiko (Informations- und Kommunikationstechnologie) bis zum Risiko durch externe KI-Anbieter ².

Die Grundsätze sind unverbindlich und sollen angepasst werden. Der FSB «ermutigt» Verwaltungsrat und Geschäftsleitung aber ausdrücklich, sie zu nutzen, und verlangt eine verhältnismässige Anwendung ². Für Sicherheitsverantwortliche sind mehrere Punkte wichtig. Wesentlichkeit und Risiko eines KI-Anwendungsfalls gelten als verwandt, aber verschieden, und beide bestimmen das Mass der Aufsicht. Menschliche Aufsicht muss wirksam sein: Die Personen brauchen Fähigkeit, Befugnis und Anreiz einzugreifen, eine reine Pro-forma-Prüfung genügt nicht. Der Cyber-Grundsatz verlangt, KI-Szenarien in Tests und Übungen aufzunehmen und zu prüfen, ob das Patching mit der schnelleren, KI-gestützten Ausnutzung von Schwachstellen Schritt halten kann ¹.

Drei KI-Bestände, drei Arten, einen zu übersehen

Die Grundsätze wirken nur bei bekannter KI. Unserer Einschätzung nach lässt sich die KI eines Instituts in drei Bestände gliedern, die jeweils anders entdeckt werden. Dies ist unser Modell, nicht dasjenige des FSB.

Der FSB spricht die dritte Zeile an. Institute sollen in Drittwerkzeugen eingebettete KI-Komponenten identifizieren, die «nicht ausdrücklich als KI-fähig vermarktet oder verkauft» werden, und wesentliche Abhängigkeiten im Konzentrationsrisiko und in der Notfallplanung berücksichtigen ¹. Der Bericht ergänzt, dass KI-Funktionen erst nach dem Vertragsabschluss eines Werkzeugs hinzukommen können und dass Verträge die Mitteilung wesentlicher Änderungen des KI-Verhaltens vorsehen sollen ¹.

Dass diese Zeile wichtig ist, hat strukturelle Gründe. Gebaute und zugekaufte KI durchlaufen ein Tor: Jemand genehmigt ein Projekt oder einen Kauf. Eingebettete KI durchläuft kein Tor, weil das Produkt bereits einen Vertrag und eine Risikoeinstufung hat. Die Beurteilung beim Onboarding beschreibt das Produkt, wie es war, nicht wie es nach dem nächsten Release ist. Dieselbe Logik gilt für die menschliche Aufsicht: Der FSB verlangt zu prüfen, wie viel Aufsicht ein Anbieter ausübt, wenn er Modell-Updates und neue Versionen ausrollt ¹.

Drei Tests zeigen, ob ein Institut diese Lücke geschlossen hat:

• Entdeckung: Hat das Inventar eine Quelle, die nicht davon abhängt, dass ein Projektteam meldet?
• Auslöser: Löst eine Änderung des KI-Verhaltens beim Lieferanten eine erneute Risikobeurteilung aus oder nur eine Release Note?
• Verantwortung: Kann das Institut die Person nennen, die für KI in seinen Kernwerkzeugen geradesteht?

Unsere Einschätzung: Ein sinnvoller Anfang ist, die drei Tests für die zehn Lieferanten hinter den kritischsten Prozessen zu beantworten.

Was das für die Schweiz bedeutet

Die FSB-Grundsätze sind kein Schweizer Recht, aber ein neuer internationaler Referenzpunkt dafür, wie Aufsichtsbehörden ihre Fragen formulieren können. Die FINMA-Aufsichtsmitteilung 08/2024 vom 18. Dezember 2024 verlangt von den beaufsichtigten Instituten bereits, KI-Risiken zu identifizieren, zu beurteilen, zu steuern und zu überwachen, und nennt die wachsende Abhängigkeit von Dritten ausdrücklich ³. Ihre Umfrage 2025 bei rund 400 Instituten ergab, dass rund 50 Prozent KI nutzen oder erste Anwendungen entwickeln, weitere 25 Prozent dies innerhalb von drei Jahren planen und 91 Prozent der KI-Nutzer auch generative KI einsetzen ⁴.

Die Umfrage zeigt zudem, dass kleinere Institute oft ausschliesslich auf extern entwickelte Anwendungen setzen und dass die Abhängigkeit von BigTech-Anbietern mit der Verbreitung generativer KI zunimmt ⁴. Die FINMA wendet den Grundsatz «gleiche Geschäfte, gleiche Risiken, gleiche Regeln» an und bittet Institute, die KI in kritischen Prozessen planen, frühzeitig auf sie zuzukommen ⁴. Die Medienmitteilung zur Umfrage beziffert eingebettete KI nicht; wie gross dieser Bestand in der Schweiz ist, können wir daher nicht sagen. Für kleinere Firmen heisst das praktisch: Die Lieferantenbeziehung ist die KI-Governance.

Über den Finanzsektor hinaus stellt sich dieselbe Frage jeder Schweizer Organisation, die Software as a Service bezieht. Der FSB-Bericht taugt als Checkliste dafür, was eine Aufsicht fragen könnte, auch wo er nicht gilt.

Fragen an die Geschäftsleitung

1. Welche der drei Bestände deckt unser KI-Inventar tatsächlich ab, und woher stammen die Informationen?
2. Erfahren wir von KI-Funktionen in bestehenden Werkzeugen vom Lieferanten oder von unseren Mitarbeitenden?
3. Wer ist verantwortlich für das KI-Verhalten in den Werkzeugen, von denen unsere kritischen Prozesse bereits abhängen?
4. Was würde eine neue Risikobeurteilung auslösen, wenn ein Lieferant ein Modell änderte, das einen kritischen Prozess stützt, und wie schnell?
5. Wäre unsere menschliche Aufsicht über KI noch wirksam, wenn sich die Zahl KI-gestützter Entscheide verdoppelte?