Praxisnah. Erfolgsbewährt. Maßgeschneidert. Erfahren Sie mehr über unsere Case Studies.
Finanzinstitute bringen KI zunehmend in geschäftskritische Prozesse. Damit steigen nicht nur die Chancen, sondern auch die Anforderungen an Datenqualität, Governance, Nachvollziehbarkeit und Softwaretests. Unsere wichtigsten Eindrücke aus Frankfurt.
Der Handelsblatt Banken-Gipfel und die Konferenz AI in Banking fanden am 2. und 3. September 2026 parallel im Kap Europa in Frankfurt am Main statt. Mit einem gemeinsamen Ticket konnten die Teilnehmenden zwischen beiden Programmen wechseln; einzelne Masterclasses und Themenblöcke wurden konferenzübergreifend durchgeführt. Während der Banken-Gipfel die strategischen, wirtschaftlichen und regulatorischen Veränderungen der Branche in den Blick nahm, konzentrierte sich AI in Banking auf konkrete KI-Anwendungen, Skalierung, Governance und die organisatorischen Voraussetzungen für den produktiven Einsatz. Die offiziellen Programme spiegeln diese enge Verzahnung wider: Von KI-gestützter Produktentwicklung über KYC und Kreditprozesse bis zu Datenökonomie und agentischen Systemen reichte das Themenspektrum. (Programm AI in Banking, Programm Banken-Gipfel)
Für TestSolutions waren Enrico Ausborn, Head of Business Unit Financial Services, und Sabri Deniz Martin, CMO, vor Ort. In den Vorträgen, Panels und Gesprächen haben sie insbesondere darauf geschaut, welche Anforderungen der produktive KI-Einsatz an Prozesse, Daten und Qualitätssicherung stellt.
Unser stärkster Eindruck nach zwei Tagen: Die Branche diskutiert nicht mehr nur darüber, ob KI eingesetzt wird. Entscheidend ist inzwischen, wie Finanzinstitute aus vielversprechenden Piloten belastbare, wirtschaftliche und revisionssichere Systeme machen. Banken standen auf beiden Veranstaltungen im Vordergrund, viele der diskutierten Herausforderungen betreffen jedoch ebenso andere Finanzdienstleister. Damit wird KI im Finanzsektor zunehmend zu einer Qualitätsfrage.
Enrico Ausborn, Head of Business Unit Financial Services, und Sabri Deniz Martin, CMO.
In der Paneldiskussion „Von Use Cases zur Skalierung: Wie Banken AI nachhaltig in die Organisation bringen“ wurde deutlich, dass erfolgreiche KI-Einführung nicht isoliert in der IT stattfinden kann. Strategie, Fachbereiche, IT, Data Teams, Governance und Mitbestimmung müssen im Gleichschritt arbeiten.
Florian Mielke, Head of AI Office der DZ BANK, betonte die Bedeutung einer zentralen organisatorischen Verankerung und einer Inventarisierung der eingesetzten KI-Systeme – einschließlich ihrer Cloud-Umgebungen und Kosten. Ebenso wichtig sei es, Mitarbeitende zu befähigen und die Mitbestimmung ernst zu nehmen. Dr. Gerhard Svolba vom SAS Institute verwies darauf, dass viele der besten Use Cases aus den Fachabteilungen kommen dürften. Philipp Schwaab, Chief AI Officer der Helaba-Gruppe, hob wiederum Datenqualität als wesentliches Fundament hervor.
Damit zeichnet sich ein Muster ab: Bottom-up entstehen die konkreten Anwendungsfälle, Top-down müssen Mandat, Plattform, Leitplanken und Priorisierung geschaffen werden.
Ein Center of Competence oder AI Office kann dabei einen Use-Case-Funnel steuern, Standards etablieren und die Fachbereiche bei der Umsetzung unterstützen. Ohne Rückhalt des Top-Managements und ohne klare Zuständigkeiten bleiben viele Vorhaben jedoch im Pilotstatus hängen.
Sabri Deniz Martin, CMO bei TestSolutions, fasst die notwendige Sorgfalt so zusammen:
„Erfolgreiche KI-Projekte beginnen mit der Auswahl der richtigen Use Cases und klaren Metriken für Qualität, Risiko, Kosten und Nutzen. Das bedeutet Abstimmung und Projektierung. Unternehmen müssen dann die Voraussetzungen für die Umsetzung schaffen und den Systemen Zeit zum Lernen geben. KI-Agenten lassen sich dabei durchaus wie neue Mitarbeitende betrachten: Sie brauchen einen klaren Aufgabenbereich, gute Informationen, Feedback und Kontrolle. Vor allem brauchen sie eine verlässliche Datenbasis. Wer diese Grundlagen nicht hat, nicht schaffen kann oder will, sollte den produktiven Einsatz gegenwärtig kritisch hinterfragen.“
Mehrfach wurde die Frage gestellt, wie sich der wirtschaftliche Nutzen von KI in komplexen End-to-End-Prozessen bewerten lässt. Besonders greifbar sind die Potenziale dort, wo ein Prozess häufig ausgeführt wird und gut skaliert – etwa in der Kundenbetreuung, bei Know-Your-Customer-Prüfungen, in Kreditprozessen oder im Software Development Lifecycle.
Am Beispiel des Kreditgeschäfts wurde deutlich, dass KI nicht nur bei der Kreditentscheidung selbst ansetzt. Potenziale bestehen über den gesamten Lebenszyklus: bei der Auswahl geeigneter Kreditnehmender, bei schnelleren und konsistenteren Underwriting-Entscheidungen, der frühzeitigen Erkennung einer Verschlechterung, der Priorisierung wesentlicher Ausnahmen, der Reduktion wiederkehrender manueller Prüfungen und der Rückführung tatsächlicher Kreditergebnisse in einen Lernkreislauf. Der erwartete Wert verteilt sich entsprechend auf Wachstum, Risikoreduktion, Effizienz und eine risikoadjustierte Kapitalallokation.
Die entscheidende Betrachtungseinheit ist dabei nicht nur das Modell, sondern der gesamte Workflow. Für jeden Prozessschritt muss geklärt werden, welchen Beitrag KI tatsächlich leisten kann, welche Teile weiterhin deterministisch automatisiert werden sollten und welche Muster sich auf andere Prozesse übertragen lassen. Hinzu kommen Kosten für Infrastruktur, Modellnutzung, Integration, Betrieb, Überwachung und Datenaufbereitung.
Martin Flechl von Dynatrace machte auf einen weiteren Punkt aufmerksam: Ein nominell teureres Modell kann wirtschaftlicher sein, wenn es mit weniger Anfragen bessere Ergebnisse erzielt. Modellpreise oder Tokenkosten allein sagen daher wenig aus. Kosten, Antwortqualität, Latenz, Fehlerraten und fachlicher Nutzen müssen gemeinsam gemessen werden.
Ein Vortrag zum Einsatz von KI in Credit Risk und Lending konkretisierte diesen Gedanken als kontinuierlichen AI-FinOps-Kreislauf. Dazu gehören Transparenz über Ausgaben, Nutzung, Qualität und Ergebnisse je Workflow; die Optimierung unnötiger Aufrufe und übergroßer Kontexte; klare Budgets und Verantwortlichkeiten; sowie Forecasts und Benchmarks der Kosten pro Arbeitseinheit. Als Stellhebel wurden unter anderem Model Routing, ein Redesign von Workflows, besseres Context und Data Engineering sowie fachlich kuratierte Golden-Answer-Evaluationssets genannt. Kleine Modelle können beispielsweise Extraktion und Validierung übernehmen, während leistungsfähigere Modelle nur dort eingesetzt werden, wo tatsächlich Synthese erforderlich ist.
Der ROI eines KI-Systems ist folglich kein einmalig berechneter Business Case. Er ist eine laufende Betriebskennzahl, die technische und fachliche Qualitätsmetriken miteinander verbinden muss.
Datenqualität war eines der wiederkehrenden Themen beider Konferenztage. Sind Informationen über viele Systeme, Dokumente und Formate verteilt, entsteht bereits vor dem eigentlichen KI-Einsatz erheblicher Aufwand. Daten müssen gefunden, zugänglich gemacht, strukturiert, bewertet und in einen für das System nutzbaren Kontext überführt werden.
Das hat eine direkte wirtschaftliche Folge: Schlechte oder fragmentierte Daten erhöhen nicht nur das Fehlerrisiko, sondern auch die Implementierungs- und Betriebskosten eines KI-Use-Cases. Zusätzliche Retrieval-Schritte, wiederholte Modellaufrufe, manuelle Nacharbeit und komplexere Kontrollen treiben den Aufwand nach oben.
Für die Qualitätssicherung bedeutet das: Ein KI-System kann nicht sinnvoll getestet werden, ohne zugleich die Qualität seiner Eingabedaten, Wissensquellen und Schnittstellen zu prüfen.
Datenqualität wird damit zum Bestandteil der Teststrategie, nicht zu einer vorgelagerten Aufgabe, die beim Go-live als abgeschlossen gelten kann.
In mehreren Vorträgen ging es um sogenannte digitale Arbeitskräfte beziehungsweise KI-Agenten. Ein solcher Agent verbindet ein Sprachmodell mit Werkzeugen, Schnittstellen, Retrieval, Kontext und klaren Leitplanken. Er soll nicht nur eine Antwort generieren, sondern innerhalb eines definierten Aufgabenbereichs Ergebnisse liefern, bestehende Systeme nutzen, bei Unsicherheit an Menschen eskalieren und seine Arbeit revisionssicher dokumentieren.
Eine IBM-Masterclass stellte dem klassischen, sequenziellen Workflow einen agentischen Regelkreis gegenüber. Statt einer starren Folge aus Input, Regelprüfung, Bearbeitung, Freigabe und Output sollen Agenten Aufgaben verstehen und planen, Arbeitsschritte ausführen, Ergebnisse prüfen, Entscheidungsvorlagen erstellen und ihr Vorgehen anhand von Feedback anpassen. Der Mensch bleibt dabei „über dem Loop“: Er übernimmt Aufsicht und Freigabe und greift bei Eskalationen ein. Für einen beispielhaften KYC-Ablauf stellte IBM einer klassischen Bearbeitungszeit von mehreren Stunden eine deutlich kürzere maschinelle Vorarbeit mit anschließender menschlicher Prüfung gegenüber. Solche Werte sind als Anbieterbeispiel und nicht als allgemein übertragbares Leistungsversprechen einzuordnen.
Für die Umsetzung wurde ein schrittweises Vorgehen skizziert: Zunächst werden vorhandene Prozesse analysiert und optimiert. Anschließend werden sie in autonome, automatisierte und manuelle Einzelschritte zerlegt. Darauf aufbauend lassen sich die benötigten Skills, MCP-Schnittstellen, Systemanbindungen, Guardrails und Human-in-the-Loop-Punkte bestimmen. Die entscheidende Voraussetzung dafür ist eine belastbare Prozessdokumentation.
Gerade hier liegt jedoch eine der schwierigsten Qualitätsfragen: Ein Agent kann Unsicherheit nicht in jedem Fall zuverlässig erkennen oder signalisieren. Die Eskalation an einen Menschen ist daher nur so gut wie die Kriterien, anhand derer das System Unsicherheit, Widersprüche oder fehlende Evidenz erkennt.
Auch ein Feedback- und Lernkreislauf muss kontrolliert werden: Welche Korrekturen dürfen zurückfließen, wer validiert sie und wie wird verhindert, dass fehlerhafte Entscheidungen verstärkt werden? Guardrails allein lösen dieses Problem nicht.
Ein besonders konkretes Beispiel lieferte Yiping Li, Global Chief Operating Officer der Deutsche Bank Private Bank, in der Case Study „AI-Driven KYC Processes“. Im Private Banking müssen komplexe Vermögenshintergründe nachvollzogen, zahlreiche Nachweise ausgewertet und regulatorische Anforderungen erfüllt werden. Laut Vortrag entfallen rund 48 Prozent des Bearbeitungsaufwands auf Client Due Diligence und die Prüfung der Vermögensherkunft.
Die gezeigte End-to-End-Betrachtung reichte von Vorbereitung und Datensammlung über die Anlage des Kundenprofils und das Risk Rating bis zu Due Diligence, KYC-Memo und Akzeptanz. Bereits am Anfang kann eine geführte digitale Erfassung Daten standardisieren und Kundenprofile mit vorhandenen Informationen vorbefüllen. In späteren Schritten kann KI Dokumente prüfen, Auffälligkeiten markieren, Screening-Treffer priorisieren, False Positives reduzieren und KYC-Memos aus validierten Daten und freigegebenen Vorlagen erstellen. Der Schwerpunkt des Vortrags lag auf der Source-of-Wealth-Prüfung innerhalb der Client Due Diligence.
Der vorgestellte Multi-Agenten-Ansatz verteilt Aufgaben auf spezialisierte Komponenten: Ein Agent strukturiert unstrukturierte Daten, ein anderer bewertet Dokumente wie ältere Gehaltsnachweise, weitere Komponenten gleichen Kundenangaben mit Registern, öffentlich verfügbaren Informationen und internen Daten ab. Als Ergebnis soll unter anderem eine evidenzbasierte „Wealth Accumulation Journey“ mit Confidence Scores für einzelne Prüfschritte entstehen. Menschen bleiben dabei fortlaufend eingebunden.
Gerade dieser Use Case zeigt, weshalb klassische Testlogik allein nicht ausreicht. Ein technischer Test kann erfolgreich sein, obwohl eine fachliche Schlussfolgerung unplausibel ist. Wenn ein System beispielsweise aus einem Berufsprofil eine vermeintlich typische Sprachkenntnis ableitet, ist die Ausgabe syntaktisch korrekt und möglicherweise sogar statistisch plausibel – aber für die konkrete Person dennoch falsch.
Für uns lautet eine der zentralen Schlussfolgerung des Vortrags: In AI projects a lot more testing is required. In traditional IT projects, IT does certain testing and business analysts do others. But with AI projects, the tests may pass – and you still need to test much more because the output is non-deterministic. You need more test cases and more variance.
Die Konsequenz ist eine engere Zusammenarbeit von IT-Test, Fachbereich, Compliance, Second Line, Audit und gegebenenfalls Regulatorik. Neben Funktionen und Schnittstellen müssen unter anderem fachliche Plausibilität, Evidenzbezug, Robustheit, Varianz, Verzerrungen, Nachvollziehbarkeit und die Qualität der Human-in-the-Loop-Entscheidungen geprüft werden.
Ebenso pointiert war die Empfehlung, KI nicht zum Selbstzweck zu machen:
„Wherever you can use deterministic logic, do not use AI.“
Traditionelle Automatisierung ist in vielen Prozessschritten günstiger, reproduzierbarer und leichter zu kontrollieren. Die tragfähigsten Architekturen werden deshalb voraussichtlich hybrid sein: deterministische Logik, wo Regeln ausreichen – KI dort, wo unstrukturierte Informationen, komplexe Muster oder sprachliche Bewertungen verarbeitet werden müssen.
Ein Schichtenmodell des Business Engineering Institute St. Gallen machte sichtbar, dass Finanzinstitute ihre KI nicht auf einer einzigen Technologie aufbauen. Die Kette reicht von Energie, Rechenzentren und Chips über Cloud-Infrastruktur, Standards und Protokolle bis zu Daten, Modellen, Orchestrierung und den eigentlichen Anwendungen. Die Gestaltungsfreiheit ist dabei ungleich verteilt: Bei eigenen Use Cases, Anwendungen und Daten können Institute relativ viel selbst bestimmen; bei Orchestrierungsplattformen, Basismodellen, Cloud-Angeboten, Chips und Energieversorgung entstehen stärkere Abhängigkeiten von externen Anbietern.
Für die Qualitätssicherung folgt daraus, dass ein KI-System nicht nur gegen ein bestimmtes Modell getestet werden sollte. Modellwechsel, Cloud- oder Providerwechsel, neue Versionen von Orchestrierungsframeworks und Änderungen externer APIs können das Verhalten des Gesamtsystems beeinflussen. Portabilität, Austauschbarkeit, Ausfallszenarien und Regressionen über mehrere Schichten hinweg gehören deshalb in die Teststrategie. Das gilt ebenso für offene Protokolle und Agentenschnittstellen wie MCP oder A2A.
EU AI Act, DORA und DSGVO bildeten den regulatorischen Hintergrund vieler Diskussionen. Dabei ging es nicht nur um Richtlinien und Gremien, sondern um die Frage, wie Vorgaben im laufenden Betrieb kontrolliert werden können.
Als mögliches Betriebsmodell wird der „AI Control Tower“ beschrieben, der unter anderem zugelassene Modelle und Produkte, Nutzungsregeln, Guardrails, Monitoring, Kosten und Risiken überblickt. Für Finanzinstitute ist dabei entscheidend, Governance nicht als statische Dokumentensammlung zu behandeln. Vorgaben müssen in prüfbare Kontrollen, technische Schwellenwerte, Freigaben, Protokolle und Eskalationswege übersetzt werden.
Das schließt die Überwachung von Modell- und Systemverhalten ein. Welche Quellen wurden genutzt? Welche Werkzeuge hat ein Agent aufgerufen? Welche Rechte hatte er? Wann wurde ein Mensch beteiligt? Wurde das Ergebnis verändert oder verworfen? Nur wenn solche Fragen anhand belastbarer Evidenz beantwortet werden können, entsteht Auditierbarkeit.
Dr. Andrea Hammermann vom Institut der deutschen Wirtschaft beleuchtete den Einfluss von KI auf Arbeit und Organisation. Wissensintensive Dienstleistungen nutzen KI bereits breit, wobei jüngere Beschäftigte, Männer und Führungskräfte bislang häufiger damit arbeiten. Viele Beschäftigte nehmen eine höhere Arbeitsleistung wahr; gerade Berufsanfänger erleben eine steile Lernkurve.
Gleichzeitig führt ein verfügbares Tool nicht automatisch zu höherer Produktivität. Wenn Prozesse unverändert bleiben, wird KI häufig nur auf bestehende Arbeitsschritte aufgesetzt. Schatten-KI entsteht besonders dort, wo Beschäftigte keine geeigneten oder nicht genügend offizielle Werkzeuge erhalten.
Für Veränderungsprogramme ergibt sich aus unserer Sicht eine Leitfrage, die auch für Qualitätssicherung und Risikomanagement relevant ist: Welche Prozesse und Entscheidungen wollen wir künftig anders organisieren und welches Risiko akzeptieren wir?
Daran hängen konkrete Entscheidungen über Zeitaufwand, Qualitätsanforderungen, Fehlertoleranz, menschliche Kontrolle und Verantwortlichkeiten. Mitarbeitende und Mitbestimmung früh einzubeziehen ist deshalb keine Begleitmaßnahme, sondern ein Erfolgsfaktor.
Andreas Schranzhofer, CTO von Scalable Capital, zeigte, wie sich Banking-Funktionen neben Website und App künftig auch über KI-Assistenten, Command-Line-Interfaces und das Model Context Protocol ansprechen lassen könnten. Ein Agent erhält – abhängig von Rolle und Use Case – Informationen, Skills sowie abgestufte Lese- und Schreibrechte und greift über APIs auf bestehende Funktionalitäten zu.
Damit verändert sich nicht nur die Oberfläche. Wenn ein Agent beispielsweise mehrere Positionen analysiert und Stop-Loss-Aufträge vorbereitet oder ausführt, müssen Identität, Berechtigungen, Transaktionsgrenzen, Bestätigungen und Widerrufsmöglichkeiten über die gesamte Kette funktionieren.
Klassische API- und End-to-End-Tests bleiben unverzichtbar, werden aber um neue Angriffspunkte und Fehlermuster ergänzt: fehlerhafte Tool-Auswahl, Prompt Injection, Rechteausweitung, unvollständiger Kontext oder unerwartete Aktionsketten.
Die beiden Konferenzen zeigten einen Finanzsektor, der vom Experimentieren in die Operationalisierung wechselt. Die vielversprechendsten Anwendungsfälle liegen in KYC, Kreditprozessen, Kundenservice, Analyse, Softwareentwicklung und operativer Steuerung. Gleichzeitig wächst mit der Autonomie der Systeme die Verantwortung für ihre Qualität.
Für Finanzinstitute reicht es nicht, ein Modell zu evaluieren und anschließend in einen Prozess einzubauen. Getestet werden muss das gesamte sozio-technische System: Daten und Retrieval, Modelle, Prompts, klassische Software, APIs, Rollen und Rechte, Prozesslogik, Human-in-the-Loop-Punkte, Monitoring und Audit-Trails.
Die Kernfrage lautet deshalb nicht, ob eine KI im Demo-Szenario eine überzeugende Antwort liefert. Sie lautet: Liefert das Gesamtsystem unter realistischen Bedingungen wiederholt ausreichend gute, sichere, wirtschaftliche und nachvollziehbare Ergebnisse – und lässt sich das belegen?
Enrico Ausborn, Head of Business Unit Financial Services bei TestSolutions, sieht darin vor allem eine Chance für die Branche:
„Viele Finanzinstitute haben die Phase der reinen KI-Experimente sichtbar hinter sich gelassen. Jetzt geht es darum, tragfähige Anwendungen in die Breite zu bringen – mit klarem Business Value und einer Qualitätssicherung, die fachliche, technische und regulatorische Anforderungen verbindet. Wenn Institute ihre Prozesse Ende zu Ende betrachten und Qualität von Anfang an mitdenken, kann KI nicht nur Effizienz schaffen, sondern Services schneller, konsistenter und kundenfreundlicher machen.“
Genau an dieser Stelle treffen die großen Themen des Banken-Gipfels auf die Kernaufgabe professioneller Qualitätssicherung.
Sie haben Fragen rund um KI?
Melden Sie sich.
1 Min. Lesezeit
Die EuroSTAR ist Europas größte Software-Testing-Konferenz mit über tausend Teilnehmenden. TestSolutions war diesmal mit zwei Sprechern vertreten —...
1 Min. Lesezeit
Für viele von unserer Tochterfirma TestSolutions Rwanda Ltd. war es die erste Reise nach Europa – und gleich ging es mitten hinein in die Welt...
1 Min. Lesezeit
Der Go-live ist freigegeben, die fachlichen Anforderungen sind erfüllt und im Projektstatus stehen fast alle Zeichen auf Grün. Trotzdem bleibt eine...
Sabri Deniz Martin
Anupam Krishnamurthy
Sabri Deniz Martin