La IA agéntica y el buen gobierno: Mantener el control en los flujos de trabajo

La inteligencia artificial ya está presente en las compañías, en las gestoras, en las herramientas de análisis y en los procesos operativos que utilizan para sus decisiones de inversión. La primera oleada visible de la IA generativa se centró principalmente en la productividad personal: redactar borradores, resumir, traducir, programar y responder preguntas.

Con la evolución de la IA generativa a la IA agéntica, el debate cambia, ya que esta última puede realizar procesos con distintas etapas. Puede recopilar información, comparar fuentes, utilizar herramientas, mantener el contexto, canalizar los resultados y ayudar a los equipos a actuar en función de los objetivos definidos. Eso genera oportunidades: mayor amplitud de análisis, análisis de escenarios más rápido, supervisión más precisa, mejor documentación y reducción de tareas repetitivas.

Pero el buen gobierno también cambia. Cuando se utiliza la IA para una única tarea, lo que importa es si el resultado es lo suficientemente preciso para esa tarea. Cuando la IA se integra en un flujo de trabajo, la cuestión adquiere un carácter más amplio: ¿en qué aspectos influye el sistema?, ¿a qué datos tiene acceso?, ¿qué acciones está autorizado a llevar a cabo? y ¿quién asume la responsabilidad si algo sale mal? La respuesta adecuada consiste en establecer las condiciones para utilizarla la IA de forma segura, responsable y eficaz, en lugar de limitarse a eludirla.

La mayoría de los riesgos de la IA en una entidad de inversión pueden clasificarse en cuatro categorías prácticas. Se trata de riesgos de gobernanza ya conocidos, pero presentados de forma resumida:

Se puede elaborar un marco de supervisión útil a partir de cuatro preguntas interrelacionadas. El nivel de exigencia debería aumentar en función de las consecuencias de la actuación asistida por IA; por ejemplo, la elaboración de resúmenes internos no requiere los mismos controles que las recomendaciones de inversión, la selección de gestores o la comunicación con los clientes.

1. Fundamentación: ¿en qué se basa la respuesta?
   La fundamentación se refiere a si un resultado generado con IA se basa en material de referencia real y verificable, en lugar de en conjeturas plausibles.
   
   En el caso de una tarea de escasa importancia, la base de trabajo puede consistir en citar las fuentes y comprobarlas por muestreo. En el caso de una tarea de mayor importancia, las afirmaciones relevantes deben poder remontarse a documentos originales o a fuentes de datos contrastadas. Una respuesta dada con seguridad, pero sin base contrastable, no debería influir en una decisión de gran trascendencia.

2. Estabilidad: ¿se mantiene el resultado si cambian los supuestos?
   La estabilidad se refiere a si el resultado sigue siendo razonable cuando cambian los datos de entrada o el contexto.
   
   ¿Se mantiene la conclusión si cambiamos el periodo de tiempo, la hipótesis de costes, el grupo de referencia, el escenario o el tenor de la instrucción? Si una respuesta cambia con pequeños ajustes, puede que no haya que confiar en ella aunque parezca convincente. En lo que respecta a los procesos de inversión, la estabilidad no implica eliminar la incertidumbre. Significa poner de manifiesto las carencias antes de darle continuidad al resultado.

3. Gestión de permisos: ¿qué está autorizado a hacer el sistema?
   La gestión de permisos se centra en determinar qué puede acceder, generar o activar el sistema de IA, y en qué casos se requiere la aprobación humana.
   
   Una misma herramienta puede tener permiso para resumir documentos internos o redactar una recomendación para su revisión humana, pero no esta autorizada para enviar comunicaciones externas, modificar una cartera, acceder a datos restringidos o iniciar una operación bursátil. Estas normas deben plasmarse por escrito, revisarse y, siempre que sea posible, integrarse en el sistema mediante controles de acceso, diseño de flujos de trabajo y puntos de aprobación.

4. Responsabilidad: ¿quién es el responsable y quién da el visto bueno?
   La base sólida, la estabilidad y la concesión de permisos contribuyen a reducir el riesgo, pero no eliminan la necesidad de la responsabilidad humana.
   
   La IA tiene cada vez más capacidades, por lo que los inversores tienen que saber quién es responsable de cada proceso realizado con IA: quién aprobó el caso de uso, quién revisó el resultado, quién dio su visto bueno, qué registro se llevó y qué ocurre si el sistema genera un error.
   

Cuanto más trascendencia tenga un uso, más claro debe ser el historial de datos. Un revisor a posteriori debe poder reconstruir para qué se utilizó la IA, los resultados generados, las fuentes utilizadas, las revisión humana realizada y la decisión final. Este historial de datos es fundamental para la disciplina de inversión, la confianza de los clientes, el control interno y la justificación ante autoridades reguladoras. Además, ayuda a diferenciar los resultados preliminares del modelo del trabajo aprobado por la empresa.

En este sentido, es fundamental realizar una evaluación independiente: un flujo de trabajo asistido por IA no debe evaluarse únicamente preguntando al sistema si ha funcionado correctamente. En el caso de usos importantes, las empresas necesitan verificaciones independientes que confirmen que los resultados se basan en datos fiables, son estables, cuentan con la autorización necesaria y resultan útiles. En la práctica, esto significa separar el flujo de trabajo que genera la máquina del proceso que lo revisa, tal y como se destaca en la figura 2.

A corto plazo, el futuro se caracterizará por una colaboración controlada entre las personas y la IA. La IA puede preparar, resumir, analizar, comparar, supervisar, redactar y escalar. Las personas definen el objetivo, interpretan los datos, aprueban los resultados significativos y asumen la responsabilidad de la asignación de capital, los resultados para los clientes y sus obligaciones fiduciarias. En otras palabras, es posible que las primeras aplicaciones útiles de la IA agéntica parezcan algo mundanas; su valor residirá en la rapidez y la calidad de los procesos.

Por ejemplo, un equipo temático de renta variable podría utilizar un proceso basado en la IA para recopilar información regulatoria, comentarios de mercado y documentos normativos relacionados con un tema de inversión a largo plazo. El sistema podría eliminar fuentes duplicadas, etiquetar el material relevante, redactar un borrador de nota preliminar con afirmaciones basadas en hechos vinculadas a los documentos originales y señalar incoherencias. En ese caso, el analista dedicaría más tiempo a cuestionar la hipótesis que a recopilar la documentación. La decisión sobre la cartera seguiría correspondiendo a una persona. La clave reside en la expresión «delegación controlada»: la IA respalda el proceso, pero no es la responsable de la decisión.

Las capacidades de IA se están convirtiendo en elemento fundamental del proceso de diligencia debida de los gestores. No obstante, los inversores no deberían otorgar su confianza al gestor con la oferta de IA más impactante. El objetivo consiste en distinguir una capacidad real, repetible y controlada de la experimentación aislada o del lenguaje publicitario. A continuación incluimos una posible lista de preguntas:

• ¿Qué partes de su proceso de inversión y gestión utilizan la IA?

• ¿Los casos de uso se encuentran en fase de producción, piloto o experimental?

• ¿En qué decisiones influye la IA?

• ¿Redacta, resume, advierte, recomienda o ejecuta?

• ¿Cuándo es necesaria la aprobación de una persona?

• ¿Qué datos utiliza el sistema, y cómo se controlan la privacidad de los datos, las licencias, el historial y la conservación de los mismos?

• ¿Cómo se validan los resultados antes de su uso y cómo se supervisan tras su implementación?

• ¿Pueden reconstruirse los datos, hipótesis, resultados y aprobaciones humanas que subyacen a un proceso relevante asistido por IA?

• ¿Quién es responsable de la gobernanza de IA dentro de la empresa?

• ¿Qué procesos se han establecido para evitar las alucinaciones, los sesgos, la información inexacta, el uso indebido de datos y la dependencia de proveedores?

• ¿Cuál es el protocolo en caso de fallo si un proceso asistido por IA genera un error?

No basta con que un directivo afirme que «utilizamos la IA»: la confianza en su capacidad debe derivarse del proceso controlado que rodea al modelo.

La adopción de la IA por los inversores institucionales se producirá probablemente por etapas. Los inversores institucionales no tienen por qué pasar directamente a la fase más avanzada; un buen gobierno en las fases 1 y 2 hace que la adopción posterior sea más segura.

Fase 1: La IA como asistente
Las personas utilizan la IA para resumir, redactar, buscar, programar, traducir y analizar. Esto ya se está convirtiendo en práctica habitual en las oficinas. Los aspectos de buen gobierno se centran principalmente en el tratamiento de datos, el uso adecuado y la revisión básica.

Fase 2: La IA como infraestructura de flujos de trabajo
La IA se integra en procesos reproducibles, como preparación de análisis, supervisión por responsables, elaboración de informes de riesgos, diligencia debida, revisión de políticas, elaboración de informes para los clientes y documentación. La pregunta de buen gobierno pasar de ser «¿qué herramienta se utiliza?» a «¿qué proceso se ha rediseñado y qué controles lo acompañan?».

Fase 3: La IA como red de asistentes especializados
Los sistemas de IA más especializados comienzan a supervisar mercados, carteras, gestores, riesgos operativos o excepciones de buen gobierno. Cada sistema tiene una función específica y unos permisos bien definidos. Todos se remiten a personas cuando se alcanzan unos límites. Es posible que se llegue a esta fase, pero debe avanzarse de forma gradual y con controles estrictos.

Los inversores no tienen por qué convertirse en ingenieros de IA. Sin embargo, sí que necesitan tener los conocimientos suficientes sobre IA para plantear las preguntas más acertadas. ¿Para qué se utiliza la IA? ¿En qué decisiones influye? ¿A qué datos tiene acceso? ¿Qué datos respaldan sus resultados? ¿Hasta qué punto son sólidas sus conclusiones? ¿Qué está autorizado a hacer el sistema? ¿Quién es el responsable? ¿Qué ocurre cuando falla? Estas preguntas hacen posible una innovación responsable.

Es probable que la IA agéntica pase a formar parte del marco operativo de la gestión de activos, ayudando a los equipos a recabar datos, supervisar riesgos, procesar información y documentar decisiones. Las instituciones más beneficiadas no serán necesariamente aquellas que adopten la IA con mayor rapidez. Serán aquellas que faciliten la experimentación controlada sin comprometer las normas de buen gobierno. Es poco probable que el futuro de la gestión de activos sea totalmente autónomo, pero cuanto más pueda hacer la IA, con mayor claridad deberán definir las personas lo que tiene permitido hacer.