Die Kontrolle behalten, wenn Instrumente eigenständig handeln

Künstliche Intelligenz (KI) ist bereits in den Unternehmen, an denen Anleger beteiligt sind, in den von ihnen ausgewählten Vermögensverwaltern, in den von ihnen genutzten Analyseinstrumenten und in den betrieblichen Abläufen, die Anlageentscheidungen unterstützen, präsent. Bei der ersten bekannten Generation der generativen KI ging es vor allem um die persönliche Produktivität: Entwürfe erstellen, Zusammenfassungen verfassen, übersetzen, programmieren und Fragen beantworten.

Mit der Weiterentwicklung von generativer KI hin zur agentenbasierten KI verändert sich die Diskussion, da Letztere mehrstufige Prozesse unterstützen kann. Sie kann Informationen sammeln, Quellen vergleichen, Instrumente nutzen, den Kontext bewahren, Ergebnisse weiterleiten und Teams dabei unterstützen, festgelegte Ziele umzusetzen. Daraus ergeben sich neue Möglichkeiten: eine umfassendere Research-Abdeckung, eine schnellere Szenarioanalyse, eine präzisere Überwachung, eine bessere Dokumentation und weniger sich wiederholende Vorbereitungsarbeiten.

Doch auch die Frage der Governance stellt sich nun anders dar. Wird KI für eine einzelne Aufgabe eingesetzt, steht vor allem die Frage im Vordergrund, ob das Ergebnis für diese Aufgabe ausreichend genau ist. Wenn KI Teil eines Arbeitsablaufs wird, stellt sich die Frage in einem größeren Zusammenhang: Worauf wirkt sich das System aus, auf welche Daten greift es zu, welche Maßnahmen darf es unterstützen, und wer trägt die Verantwortung, wenn etwas schiefgeht? Anstatt KI einfach zu meiden, besteht die richtige Lösung darin, die Rahmenbedingungen festzulegen, unter denen sie sicher, verantwortungsbewusst und effektiv eingesetzt werden kann.

Die meisten KI-Risiken in einer Investmentgesellschaft lassen sich in vier praktische Kategorien einteilen. Es handelt sich um bekannte Governance-Risiken in einer schnelleren Form:

Ein sinnvoller Überwachungsrahmen basiert auf vier miteinander verknüpften Fragen. Die Anforderungen sollten mit der Tragweite der KI-gestützten Maßnahmen steigen. Beispielsweise benötigt die interne Zusammenfassung von Texten nicht dieselben Kontrollen wie Anlageempfehlungen, die Auswahl von Vermögensverwaltern oder die Kommunikation mit Kunden.

1. Verankerung: Woher stammt die Antwort?
Bei der Verankerung wird geprüft, ob eine KI-gestützte Ausgabe auf echtem, überprüfbarem Quellenmaterial basiert und nicht auf flüssig formulierten Mutmaßungen.

Bei einer Aufgabe mit geringer Tragweite kann es bedeuten, Quellen anzugeben und diese stichprobenartig zu überprüfen. Bei Aufgaben mit höherem Risikopotenzial müssen wesentliche Aussagen bis zu den Originaldokumenten oder autorisierten Datenquellen rückverfolgbar sein. Eine selbstsicher formulierte Antwort ohne nachvollziehbare Beweise darf eine Entscheidung von großer Tragweite nicht beeinflussen.

2. Stabilität: Hält das Ergebnis stand, wenn sich die Annahmen ändern?
Bleibt das Ergebnis auch bei veränderten Eingaben oder Rahmenbedingungen plausibel?

Hält die Schlussfolgerung auch bei einem anderen Zeitrahmen, einer anderen Kostenannahme, einer anderen Vergleichsgruppe, einem anderen Szenario oder einer anderen Formulierung der Fragestellung stand? Wenn eine Antwort bei minimalen Änderungen ins Gegenteil umschlägt, ist sie möglicherweise zu instabil, um sich darauf zu verlassen – selbst wenn sie überzeugend klingt. Für Investmentprozesse bedeutet Stabilität nicht, Unsicherheit gänzlich zu eliminieren. Ziel ist es, die Fehleranfälligkeit offenzulegen, noch bevor das Ergebnis an die nächste Entscheidungsebene weitergeleitet wird.

3. Berechtigungsprüfung: Was darf das System tun?
Bei der Berechtigungsprüfung wird gefragt, worauf das KI-System zugreifen, was es erstellen oder auslösen darf und wo eine menschliche Freigabe erforderlich ist.

Dasselbe Instrument darf unter Umständen interne Dokumente zusammenfassen und einen Empfehlungsentwurf zur menschlichen Prüfung erstellen, aber niemals ohne Genehmigung externe Mitteilungen versenden, ein Portfolio ändern, auf vertrauliche Daten zugreifen oder eine handelsseitige Maßnahme auslösen. Diese Regeln sollten schriftlich festgehalten, überprüft und, soweit möglich, durch Zugriffskontrollen, die Gestaltung von Arbeitsabläufen und Genehmigungsstufen in das System integriert werden.

4. Verantwortlichkeit: Wer ist verantwortlich und erteilt die Freigabe?
Verankerung, Stabilität und die Berechtigungsprüfung tragen zur Risikominderung bei, machen aber die menschliche Verantwortung nicht überflüssig.

Da KI immer leistungsfähiger wird, müssen Anleger wissen, wer die Verantwortung für den jeweiligen KI-gestützten Prozess trägt: Wer hat den Anwendungsfall genehmigt, wer hat das Ergebnis überprüft, wer hat es freigegeben, welche Aufzeichnungen wurden geführt und was passiert, wenn das System einen Fehler verursacht?

Je größer die Tragweite des KI-Einsatzes, desto eindeutiger muss die Beweiskette sein. Ein späterer Prüfer sollte nachvollziehen können, wofür KI eingesetzt wurde, was sie generiert hat, welche Quellen genutzt wurden, welche menschliche Überprüfung stattfand und welche Entscheidung darauf folgte. Diese Beweiskette ist für die Anlagedisziplin, das Kundenvertrauen, die interne Kontrolle und die regulatorische Konformität bedeutsam. Sie hilft auch dabei, die Rohdaten der Modellausgabe von unternehmensweit freigegebenen Arbeitsergebnissen zu trennen.

Eine unabhängige Evaluierung ist hier unerlässlich: Ein KI-gestützter Arbeitsablauf sollte nicht dadurch bewertet werden, lediglich das System zu fragen, ob es gute Arbeit geleistet hat. Bei Anwendungen mit großer Tragweite benötigen Unternehmen unabhängige Prüfungen darüber, ob die Ausgabe fundiert, stabil, autorisiert und nützlich war. Praktisch erfordert dies eine strikte Trennung zwischen dem Erstellungsprozess des Dokuments und dessen anschließender Validierung (siehe Abbildung 2).

Das realistische Nahzeitmodell basiert auf einer regulierten Zusammenarbeit zwischen Mensch und KI. KI kann vorbereiten, zusammenfassen, scannen, vergleichen, überwachen, entwerfen und eskalieren. Menschen legen die Ziele fest, werten die Fakten aus, genehmigen die materiellen Ergebnisse und tragen die Verantwortung für die Kapitalallokation, die Kundenergebnisse sowie die treuhänderische Verantwortung. Anders ausgedrückt dürften die effektivsten ersten Einsatzbereiche agentenbasierter KI eher unspektakulär sein, da ihr primärer Nutzen in der Beschleunigung und der Steigerung der Prozessqualität liegt.

Ein Thematic Equity Team könnte beispielsweise einen KI-gestützten Prozess nutzen, um Pflichtmitteilungen, Marktkommentare und Grundsatzdokumente zu einem langfristigen Anlagethema zusammenzutragen. Das System könnte Quellen bereinigen, relevantes Material verschlagworten, einen ersten Memo-Entwurf erstellen – dessen Sachbehauptungen direkt mit den Quelldokumenten verknüpft sind – und Unstimmigkeiten aufzeigen. Der Analyst würde dann mehr Zeit damit verbringen, die These kritisch zu hinterfragen, als die Unterlagen zusammenzutragen. Die Portfolioentscheidung würde nach wie vor beim Menschen liegen. Der Schlüsselbegriff lautet „regulierte Delegation“: Die KI unterstützt den Prozess, trifft jedoch keine Entscheidungen.

Die KI-Kompetenz wird zunehmend Bestandteil der Due-Diligence von Vermögensverwaltern. Anleger sollten es jedoch vermeiden, den Vermögensverwalter mit der eindrucksvollsten KI-Geschichte zu belohnen. Das Ziel besteht darin, echte, wiederholbare und kontrollierte Kompetenz von isolierten Experimenten oder reiner Marketing-Sprache zu unterscheiden. Eine beispielhafte Fragenliste könnte wie folgt aussehen:

• Wo kommt KI in Ihrem Anlage- und Betriebsprozess zum Einsatz?

• Befindet sich jeder Anwendungsfall in der Produktion, in der Pilotphase oder in der Erprobung?

• Auf welche Entscheidungen hat KI Einfluss?

• Entwurf, Zusammenfassung, Fehlerkennzeichnung, Empfehlung oder autonome Ausführung?

• In welchen Fällen ist eine menschliche Freigabe erforderlich?

• Welche Daten verwendet das System, und wie werden Datenschutz, Lizenzierung, Datenherkunft und Aufbewahrungsfristen geregelt?

• Wie werden die Ergebnisse vor ihrer Verwendung validiert und nach ihrer Bereitstellung überwacht?

• Können Sie die Daten, Annahmen, Ergebnisse und menschlichen Freigaben rekonstruieren, die einem wesentlichen KI-gestützten Prozess zugrunde liegen?

• Wer ist innerhalb des Unternehmens für die KI-Governance zuständig?

• Welche Schutzmaßnahmen gibt es gegen Fehlinterpretationen, Voreingenommenheit, ungenaue Berichterstattung, Datenmissbrauch und Abhängigkeit von Anbietern?

• Wie sieht das Fehlerprotokoll aus, wenn ein KI-gestützter Prozess einen Fehler verursacht?

Die Aussage eines Vermögensverwalters ‚Wir nutzen KI‘ reicht nicht aus: Das Vertrauen in diese Kompetenz muss aus dem kontrollierten Prozess um das Modell herum erwachsen.

Die Einführung von KI in Investmentgesellschaften wird sich voraussichtlich schrittweise vollziehen. Unternehmen müssen nicht umgehend die höchste Entwicklungsstufe anstreben. Eine solide Governance in den Phasen 1 und 2 bildet das Fundament für eine sicherere spätere Einführung.

Phase 1: KI als Assistent
Personen nutzen KI, um Zusammenfassungen zu erstellen, Entwürfe zu verfassen, Recherchen durchzuführen, zu programmieren, zu übersetzen und Analysen vorzubereiten. Diese Anwendungen gehören im Büroalltag bereits zum Standard. Der Schwerpunkt der Governance liegt vor allem auf dem Umgang mit Daten, der zulässigen Nutzung und der grundlegenden Überprüfung.

Phase 2: KI als Infrastruktur für Arbeitabläufe
KI wird in wiederholbare Prozesse eingebunden, wie etwa in die Research-Vorbereitung, die Überwachung der Vermögensverwalter, die Risikoberichterstattung, die Due-Diligence-Prüfung, die Richtlinienprüfung, die Kundenberichterstattung und die Dokumentation. Die Governance-Frage verlagert sich von ‚Welches Instrument nutzen Sie?‘ zu ‚Welcher Prozess wurde neu gestaltet und welche Kontrollen umgeben ihn?‘

Phase 3: KI als Netzwerk spezialisierter Assistenten
Immer mehr spezialisierte KI-Systeme übernehmen die Überwachung von Märkten, Portfolios, Vermögensverwaltern, operativen Risiken oder Governance-Abweichungen. Jedes System hat eine eng definierte Rolle und klare Berechtigungen. Jedes System eskaliert an den Menschen, sobald Grenzen erreicht sind. Diese Phase ist plausibel, sollte jedoch schrittweise aufgebaut und streng kontrolliert werden.

Anleger müssen keine KI-Expertise aufbauen. Sie benötigen jedoch ausreichend KI-Kompetenz, um bessere Fragen stellen zu können. Wo wird KI eingesetzt? Auf welche Entscheidung hat sie Einfluss? Auf welche Daten greift sie zu? Welche Beweise stützen das Ergebnis? Wie fundiert ist diese Schlussfolgerung? Was darf das System tun? Wer ist verantwortlich? Was geschieht, wenn etwas schiefgeht? Diese Fragen unterstützten verantwortungsvolle Innovationen.

Agentenbasierte KI wird voraussichtlich Teil der operativen Grundstruktur der Vermögensverwaltung und Teams dabei unterstützen, Beweise zu sammeln, Risiken zu überwachen, Informationen zu verarbeiten und Entscheidungen zu dokumentieren. Institutionen, die am meisten davon profitieren werden, sind nicht unbedingt jene, die KI am schnellsten einführen. Es wird sich dabei um solche Maßnahmen handeln, die kontrollierte Experimente erleichtern, ohne die Governance-Standards zu schwächen. Die Zukunft der Vermögensverwaltung wird wahrscheinlich nicht vollständig autonom sein, doch je mehr Aufgaben KI übernehmen kann, desto klarer müssen Menschen definieren, was sie tun darf.