Mantenere il controllo quando gli strumenti possono agire autonomamente

L’intelligenza artificiale è già presente nelle società di cui gli investitori detengono partecipazioni, dei gestori che selezionano, degli strumenti di ricerca che utilizzano e dei processi operativi che supportano le decisioni di investimento. La prima ondata visibile di IA generativa ha riguardato in larga misura la produttività personale: redigere testi, riassumere, tradurre, programmare e rispondere a domande.

Con l’evoluzione dall’IA generativa all’IA agentica, tuttavia, il contesto cambia, perché quest’ultima può supportare processi articolati in più fasi: è in grado di raccogliere informazioni, confrontare fonti, usare strumenti, preservare il contesto, indirizzare gli output e aiutare i team ad agire su obiettivi definiti. Tutto ciò crea opportunità: una copertura di ricerca più ampia, un’analisi degli scenari più rapida, un monitoraggio più puntuale, una migliore documentazione e meno attività preparatorie ripetitive.

Tuttavia, anche la questione della governance cambia. Quando l’IA viene utilizzata per un singolo compito, la preoccupazione principale è se il risultato sia sufficientemente accurato per lo stesso, ma quando diventa parte di un flusso di lavoro, la domanda diventa più ampia: che cosa influenza il sistema, a quali dati accede, quali azioni è autorizzato a supportare e chi è responsabile se qualcosa va storto? Invece di limitarsi a evitare l’IA, la risposta corretta è stabilire le condizioni alle quali può essere utilizzata in modo sicuro, responsabile ed efficace.

La maggior parte dei rischi legati all’IA in un’istituzione di investimento può essere ricondotta a quattro categorie pratiche. Si tratta di rischi di governance noti, inseriti in un involucro più chiaro:

Un framework di supervisione utile può essere costruito intorno a quattro domande correlate. Lo standard dovrebbe innalzarsi in base alle conseguenze dell’azione supportata dall’IA: ad esempio, un riassunto interno non richiede gli stessi controlli di una raccomandazione d’investimento, della selezione dei gestori o di una comunicazione rivolta alla clientela.

1. Solidità: da dove proviene la risposta?
La solidità riguarda il fatto che un output supportato dall’IA sia basato su materiale di partenza reale e verificabile, piuttosto che su mere congetture.
Per un compito a bassa rilevanza, la solidità può consistere nel citare le fonti e verificarne a campione la correttezza; per un compito a maggiore rilevanza, invece, le affermazioni importanti dovrebbero essere riconducibili a documenti originali o a fonti di dati approvate. Una risposta sicura priva di prove tracciabili non dovrebbe influenzare una decisione di grande rilevanza.

2. Stabilità: se cambiano le ipotesi, regge?
La stabilità concerne la capacità di far restare l’output ragionevole quando cambiano gli input o il contesto.
La conclusione regge in presenza di un intervallo temporale diverso, di ipotesi di costo differenti, di un gruppo di riferimento, di uno scenario diverso o di una formulazione diversa del prompt? Se una risposta cambiasse radicalmente a fronte di piccole variazioni, potrebbe essere troppo fragile per poterci fare affidamento su di essa, anche qualora sembri convincente. Per i processi di investimento, stabilità non significa eliminare l’incertezza, ma rendere visibile la fragilità prima che l’output venga portato a un livello decisionale superiore.

3. Autorizzazioni: cosa è consentito fare al sistema?
La gestione delle autorizzazioni definisce a cosa il sistema di IA è autorizzato ad accedere, cosa può produrre o attivare e in quali casi è richiesta l’approvazione umana.

Lo stesso strumento potrebbe essere autorizzato a riassumere documenti interni o a redigere una raccomandazione da sottoporre alla revisione umana, ma non essere mai autorizzato a inviare comunicazioni esterne, modificare un portafoglio, accedere a dati riservati o attivare un’operazione di trading senza approvazione. Queste regole dovrebbero essere messe per iscritto, riviste e, ove possibile, incorporate nel sistema tramite controlli di accesso, progettazione dei flussi di lavoro e punti di approvazione.

4. Responsabilità: chi è il responsabile e chi approva?
Solidità, stabilità e gestione delle autorizzazioni contribuiscono a ridurre il rischio, ma non eliminano la necessità della responsabilità umana.

Man mano che l’IA diventa più capace, gli investitori devono sapere chi è il responsabile di ciascun processo supportato da tale tecnologia: chi ha approvato il caso d’uso, chi ha rivisto il risultato, chi ha dato l’approvazione finale, quale documentazione è stata conservata e che cosa accade se il sistema produce un errore.

Quanto più rilevante è l’uso, tanto più chiara dovrebbe essere la tracciabilità: un revisore successivo dovrebbe essere in grado di ricostruire per cosa è stata usata l’IA, che cosa ha prodotto, quali fonti sono state utilizzate, che revisione umana ha avuto luogo e quale tipo di decisione ne è seguita. Questa tracciabilità è importante per la disciplina d’investimento, la fiducia della clientela, i controlli interni e la difendibilità sul piano normativo, aiutando inoltre a distinguere l’output grezzo del modello dal lavoro approvato dalla società.

In questo contesto, la valutazione indipendente è essenziale: un flusso di lavoro supportato dall’IA non dovrebbe essere valutato chiedendo soltanto al sistema se ha funzionato bene. Per gli utilizzi di grande rilevanza, le società hanno bisogno di verifiche indipendenti su solidità, stabilità, autorizzazioni e utilità dell’output. In pratica, ciò significa separare il flusso di lavoro che produce l’elaborato dal processo che lo valuta, come evidenziato nella Figura 2.

Il futuro realistico di breve periodo è una collaborazione tra esseri umani e IA sottoposta a governance dove la seconda può preparare, riassumere, scandagliare, confrontare, monitorare, redigere bozze ed effettuare escalation, mentre i primi definiscono l’obiettivo, interpretano le evidenze, approvano gli output rilevanti e rimangono responsabili dell’allocazione del capitale, dei risultati per la clientela e della responsabilità fiduciaria. In altre parole, le prime applicazioni più utili dell’IA agenziale potrebbero essere relativamente poco appariscenti e il valore potrebbe derivare dalla velocità e dalla qualità del processo.

Un team di azionario tematico, ad esempio, potrebbe avvalersi di un processo supportato dall’IA per raccogliere documenti regolamentari, commenti di mercato e testi normativi relativi a un tema di investimento di lungo periodo e il sistema potrebbe eliminare i duplicati tra le fonti, etichettare il materiale rilevante, redigere un articolo con affermazioni fattuali collegate ai documenti di origine e segnalare le incoerenze. L’analista, in tal modo, trascorrerebbe più tempo a mettere in discussione la tesi che ad assemblare il dossier; la decisione di portafoglio, tuttavia, resterebbe comunque di competenza umana. La frase chiave è “delega regolamentata”: l’IA supporta il processo, ma il giudizio resta all’essere umano.

La capacità di utilizzare l’IA sta diventando parte integrante della due diligence sui gestori. Gli investitori, tuttavia, dovrebbero evitare di premiare il gestore con la storia sull’IA più impressionante: l’obiettivo è distinguere una capacità reale, ripetibile e governata da una sperimentazione isolata o da un linguaggio meramente di marketing. Un elenco esemplificativo di domande potrebbe essere il seguente:

• Dove viene utilizzata l’IA nel vostro processo di investimento e operativo?

• Ogni caso d’uso è in produzione, in fase pilota o di sperimentazione?

• Quali decisioni sono influenzate dall’IA?

• La tecnologia redige bozze, riassume, segnala, raccomanda o esegue?

• Dov’è richiesta l’approvazione umana?

• Quali dati utilizza il sistema e come vengono gestiti privacy dei dati, licenze, provenienza e conservazione?

• In che modo vengono convalidati gli output prima dell’uso e come vengono monitorati dopo l’implementazione?

• È possibile ricostruire i dati, le ipotesi, i risultati e le approvazioni umane alla base di un processo rilevante assistito dall’IA?

• Chi è responsabile della governance dell’IA all’interno della società?

• Quali salvaguardie avete in vigore contro allucinazioni, bias, rendicontazioni imprecise, uso improprio dei dati e dipendenza dai fornitori?

• Qual è il protocollo di gestione degli errori qualora un processo supportato dall’IA produca un errore?
  

Un manager che afferma “usiamo l’IA” non basta: la fiducia nella capacità deve derivare dal processo governato che circonda il modello.

L’adozione dell’IA nelle istituzioni d’investimento probabilmente si articolerà in diverse fasi: le istituzioni non devono passare subito a quella più avanzata, in quanto una governance solida nelle fasi 1 e 2 è ciò che rende più sicure le adozioni successive.

Fase 1: IA come assistente
Gli esperti utilizzano l’IA per riassumere, redigere bozze, cercare, programmare, tradurre e preparare analisi, il che sta già diventando uno standard negli uffici. L’attenzione a livello di governance è rivolta principalmente alla gestione dei dati, all’uso accettabile e alla revisione di base.

Fase 2: IA come infrastruttura del flusso di lavoro
L’IA viene integrata in processi ripetibili, come la preparazione della ricerca, il monitoraggio dei gestori, la rendicontazione dei rischi, la due diligence, la revisione delle policy, la comunicazione alla clientela e la documentazione. La questione di governance si sposta da “che strumento stai usando?” a “quale processo è stato riprogettato e quali controlli sono stati predisposti intorno ad esso?”

Fase 3: IA come rete di assistenti specializzati
Sistemi di IA più specializzati iniziano a monitorare i mercati, i portafogli, i gestori, i rischi operativi o le eccezioni di governance. Ciascuno ha un ruolo ben definito e autorizzazioni chiare. Ciascuno segnala agli esseri umani quando vengono raggiunti i limiti. Questa fase è plausibile, ma va sviluppata gradualmente e sottoposta a una governance rigorosa.

Gli investitori non devono diventare ingegneri esperti di IA, ma devono possedere un’alfabetizzazione in materia sufficiente per porre domande migliori. Dove viene utilizzata l’IA? Quali decisioni influenza? A quali dati accede? Quali evidenze supportano l’output? Quanto è stabile la conclusione? Che cosa è autorizzato a fare il sistema? Chi è responsabile? Che cosa succede quando viene generato un errore? Queste domande rendono possibile un’innovazione responsabile.

L’IA agentica è destinata a diventare parte integrante del tessuto operativo dell’asset management, aiutando i team a raccogliere evidenze, monitorare i rischi, elaborare le informazioni e documentare le decisioni. Le istituzioni che ne trarranno maggior beneficio non saranno necessariamente quelle che adotteranno l’IA più rapidamente: piuttosto, saranno quelle che sapranno facilitare la sperimentazione controllata senza indebolire gli standard di governance. Il futuro dell’asset management difficilmente sarà completamente autonomo, ma quanto più l’IA sarà in grado di fare, tanto più chiaramente gli esseri umani dovranno definire che cosa le è consentito fare.