En la mayoría de las empresas energéticas con las que trabajamos hay hoy, en producción, un sistema de inteligencia artificial con más autonomía de la que alguien alguna vez le concedió formalmente.

No es negligencia. Es cómo funciona el éxito. El piloto funcionó. Se extendió a tres plantas porque dio resultados. Se le dio acceso de escritura porque ya estaba validado. Se lo conectó a otro sistema porque era el paso natural. Cada incremento fue razonable por separado. Nunca hubo una reunión donde alguien mirara el conjunto y decidiera.

Ese es el problema real del gobierno de la IA en operaciones críticas, y se parece muy poco a lo que suele discutirse en los comités.

CUANDO EL ERROR DEJA DE SER DIGITAL

En energía, petróleo y gas, generación o distribución, la inteligencia artificial no opera en un entorno aislado. Interactúa con activos físicos, infraestructura crítica y sistemas industriales de los que dependen la continuidad del servicio y la seguridad de las personas. El potencial es enorme y está bien documentado. Pero cuando una recomendación algorítmica influye sobre una intervención en terreno o una decisión de mantenimiento, el error deja de ser exclusivamente digital. Se traslada a disponibilidad, a integridad de activos y, eventualmente, a personas.

Conviene imaginar la escena concreta. Son las tres de la mañana en una sala de control. Un operador recibe una recomendación de un sistema que acertó las últimas doscientas veces. Tiene cuatro minutos para decidir y ochenta alarmas activas. La pregunta de gobierno, en ese momento, no es si el modelo es explicable. Es si esa persona tiene la información, el tiempo y la autoridad real para decir que no.

El problema no es que la IA se equivoque. Es que acierta.

Aquí está lo contraintuitivo, y es lo que más veo subestimado en las organizaciones.

Un modelo que falla tres de cada diez veces se descarta rápido. El peligroso es el que acierta noventa y cinco de cada cien: es exactamente confiable lo suficiente para que el supervisor deje de mirar. Para cuando llega el caso número cien, la revisión humana ya es una firma.

La confiabilidad produce complacencia. Y eso significa que la supervisión humana se degrada justo cuando el sistema mejora, que es lo contrario de lo que suponen casi todos los marcos de gobierno. Es un fenómeno estudiado desde hace décadas en aviación, medicina y sistemas de apoyo a decisiones. No hay ninguna razón para pensar que la IA sea inmune.

La consecuencia práctica es incómoda pero clara: no alcanza con medir la precisión del modelo. Hay que medir con qué frecuencia el supervisor interviene. Si la tasa de intervención cae a cero, el control desapareció, aunque el organigrama siga diciendo que existe.

LA AUTONOMÍA SE CONCEDE, SE DOCUMENTA Y SE REVISA

Gobernar la IA es más que aprobar algoritmos. Es definir qué decisiones puede recomendar o ejecutar un sistema, con qué datos opera, dentro de qué límites actúa, bajo qué evidencia se le autoriza y quién conserva la responsabilidad cuando se desvía.

Para que eso sea operable conviene dejar de pensar en tecnología y empezar a pensar en grados de autonomía. A efectos prácticos distinguimos cinco niveles de autonomía que representan cinco decisiones empresariales distintas.

Un sistema puede observar: detecta o resume. Y una persona decide. Puede recomendar: propone una acción con su evidencia, y una persona aprueba. Puede ejecutar con autorización dentro de permisos acotados. Puede ejecutar dentro de límites, con umbrales, monitoreo y reversión definidos. Y puede operar de forma autónoma, algo admisible sólo cuando el caso, la ingeniería, la regulación y la evidencia acumulada lo justifican.

Ninguno de esos escalones debería concederse por inercia de un piloto exitoso. El principio que aplicamos es simple: ningún sistema debería recibir más autonomía que la que la organización puede observar, explicar, limitar y revertir. Si no se puede revertir, todavía no es un caso de producción.

Esto pesa todavía más con los agentes, que ya no solo predicen sino que ejecutan acciones con herramientas y credenciales propias. Un agente con acceso transaccional no es un modelo más: es un actor capaz de intervenir sobre sistemas reales. Y hay que gobernarlo como tal.

UNA CORRECCIÓN QUE NOS INCLUYE

Durante años, buena parte de la consultoría, la nuestra incluida, puso el foco en políticas, principios y comités. Descubrimos que eso, por sí solo, no alcanza.

Lo que funciona no es el principio, es el umbral. Nadie necesita una declaración sobre responsabilidad algorítmica. Todos recuerdan que por encima de tal monto, o de tal nivel de criticidad, hace falta una segunda firma. El gobierno se vuelve real cuando tiene números, plazos y nombres.

De ahí se desprenden dos correcciones más, que también nos costó aprender.

La primera: no es cierto que haya que ordenar todos los datos antes de hacer IA. Esa secuencia produce programas de años sin resultado de negocio y, peor, mejora la calidad del dato que después nadie consume. El gobierno del dato y los primeros casos de uso se construyen en paralelo. El caso define qué dato hay que mejorar, el gobierno evita arreglarlo veinte veces.

La segunda: no todo gobierno acelera. El que agrega comités sin dueño y aprobaciones sin plazo frena de verdad, y con razón se lo resiste. El que acelera es el que define de antemano cómo se clasifica un caso, qué evidencia se exige en cada nivel y en cuántos días se decide. La diferencia no está en gobernar o no gobernar, sino en si el gobierno tiene tiempos y responsables.

En América Latina esto tiene un matiz adicional. Convivimos con marcos regulatorios heterogéneos, infraestructura mixta y madurez desigual. La respuesta no es un marco único regional, sino un estándar corporativo común con anexos por jurisdicción. Y conviene anticiparse: construir el gobierno sobre un sistema que ya existe cuesta una fracción de lo que cuesta improvisarlo cuando la norma llegue.

UNA PREGUNTA PARA SU PRÓXIMO COMITÉ

La ventaja competitiva del sector no será de quien implemente más inteligencia artificial. Será de quien sepa exactamente cuánta autonomía le concedió, por qué, y cómo la recupera si hace falta.

Así que la pregunta con la que cierro es una sola, y sirve para medir en treinta segundos dónde está parada una organización:

Si hay un nombre y tiene autoridad real para detenerlo, hay gobierno. Si hay que averiguarlo, hay un problema de gobierno.