SARAUTER · Gobernanza de IA: ¿agente externo o herramienta propia?

Por qué esta herramienta

Productividad con control, no una cosa o la otra

La IA ya está dentro de tu empresa, se haya aprobado o no. Y es lógico: la ganancia es real y se nota en horas —buscar información dispersa, redactar el primer borrador, montar el informe de todos los meses—. Precisamente por eso nadie espera a que exista una política. La adopción va por delante de las reglas, y ése es el punto de partida honesto de cualquier conversación sobre gobernanza.

Gobernar la IA, sin jerga, es decidir cuatro cosas: quién puede usarla, sobre qué datos, con qué límites y dejando qué rastro. Nada más. No es un comité que dice que no; es lo que permite decir que sí sin cruzar los dedos.

Error 1 · Sin control

Rápido hoy, caro mañana

Información confidencial pegada en cuentas personales y ningún registro de qué se consultó. El problema no se ve mientras todo va bien: aparece el día que hay que reconstruir qué pasó, y ya no se puede.

Error 2 · Control de más

Una política que nadie sigue

Tantas reglas y tantos permisos que usarla cuesta más que no usarla. La gente vuelve a su cuenta personal y acabas con el mismo riesgo de antes, más la falsa sensación de tenerlo cubierto.

El objetivo no es usar menos IA. Es usar más, sabiendo dónde están los límites.

Casi todas las empresas llegan al mismo cruce: usar la herramienta que ya existe, o construir la suya. Y casi todas lo resuelven por defecto —con lo que alguien se descargó— en vez de por decisión. Esta herramienta existe para tomarla a propósito: no da una opinión general sobre IA, da un plan para un caso concreto, con quién tiene que participar y cómo saber que cada fase está terminada.

Los dos modelos

Qué separa realmente a uno del otro

No es la calidad del modelo de IA: en los dos casos suele ser el mismo. Lo que cambia es dónde viven los controles y quién decide qué información puede ver la IA.

Agente externo

Claude, ChatGPT u otro, con plan de empresa

Persona usuaria

↓

App del proveedor

↓

Modelo de IA

↓

Respuesta

Los controles existen, pero viven en la consola de administración del proveedor. Configuras lo que el proveedor te deja configurar.

Aplicación interna

Construida por la empresa sobre la API de empresa

Persona usuaria

↓

Inicio de sesión corporativo y permisos por rol

↓

App interna

↓

Backend que decide qué se puede pedir

↓

Filtro de datos sensibles

↓

Motor de políticas

↓

Búsqueda interna que respeta permisos

↓

API de empresa del modelo

↓

Revisión de la salida

↓

Respuesta y registro de todo

Las 6 piezas del mínimo viable Se añaden cuando el riesgo lo pide

No hay que entrenar ningún modelo. El modelo se alquila por API; lo que la empresa construye es la capa de control que hay alrededor.

Si eliges el proveedor externo

Lo que hay que montar, y lo que no viene puesto

Es el camino que va a tomar la mayoría, y el que más se subestima. Contratar el plan de empresa se hace en una tarde; lo que viene después es lo que decide si de verdad estáis gobernando el uso de IA o solo pagándolo. Lo de abajo está pensado con Claude como ejemplo, pero sirve igual para cualquier proveedor serio.

1 · Lo que hay que activar el primer día

Inicio de sesión corporativo. Contra vuestro directorio: Okta, Entra ID o Google Workspace. Sin esto no sabéis quién está dentro.
Altas y bajas automáticas. Que quien deja la empresa pierda el acceso solo, sin depender de que alguien se acuerde de retirárselo.
Permisos por rol y por grupo. No todo el mundo necesita todas las funciones ni todos los conectores.
Bloquear las cuentas personales desde la red de la empresa. Éste es el control que de verdad ataca el Shadow AI: sin él, la gente sigue usando su cuenta desde el mismo ordenador y no os enteráis.

2 · Lo que hay que decidir, no solo activar

Cuánto tiempo se guardan las conversaciones. Es configurable, desde muy poco hasta indefinidamente. Es una decisión de negocio y de legal, no de informática.
Dónde se procesan los datos. Si tenéis exigencia de región, se puede pedir. Si no lo pedís, no se aplica solo.
Qué contratos hacen falta. Tratamiento de datos personales, y acuerdos específicos si manejáis información sanitaria.
Qué conectores a vuestros sistemas se aprueban. Cada uno que abrís amplía lo que la IA puede ver. Aprobadlos de uno en uno, no en bloque.

3 · Lo que ya viene y casi nadie usa

Registros de actividad, y acceso programático a ellos. Es lo que convierte «confiamos en el proveedor» en «podemos demostrar qué pasó». Sacadlos a vuestro sistema de seguridad en vez de dejarlos ahí.
Datos de adopción por equipo. Lo que os dice si la inversión sirve o si estáis pagando licencias que nadie abre.
Espacios de trabajo compartidos. Con la documentación común ya cargada, para que cada persona no pegue una y otra vez los mismos archivos.

4 · Lo que sigue siendo vuestro

Decidir qué datos pueden entrar. Ninguna consola lo decide por vosotros.
Revisar quién tiene acceso cuando cambian los equipos. No solo el día del despliegue.
Vigilar el gasto contra el uso real. Se paga por persona: las licencias dormidas cuestan lo mismo que las activas.
Tener escrito qué pasa si hay que salir. Si el proveedor cambia condiciones o cambiáis de opinión: cómo se recupera lo que el equipo lleva meses acumulando dentro.

5 · Lo que decide si esto sirve de algo: la gente

Comprar la herramienta no enseña a usarla. El error habitual es repartir los accesos, mandar un enlace y medir el éxito por cuánta gente ha entrado. Entrar no es usar, y usar no es usar bien. Aquí es donde se pierde la mayor parte de lo que se ha pagado.

Lo que funciona no es un curso, es una persona de referencia que se forma primero y forma después:

Que conozca el negocio, no la tecnología. Es el punto que más se falla: esto se asigna a sistemas por reflejo, y sistemas sabe cómo funciona la herramienta pero no qué tareas de marketing, de ventas o de finanzas merece la pena cambiar. Quien no conoce el trabajo no sabe dónde está la ganancia.
Que se forme a fondo antes de formar a nadie. No solo cómo pedir las cosas: también dónde falla la herramienta, qué datos pueden entrar según lo que habéis decidido, y cómo se reconoce una respuesta que suena impecable y es falsa.
Que se quede. Un curso externo termina; las preguntas no. Hace falta alguien a quien preguntar en enero, cuando ya nadie se acuerda de la sesión de octubre.

Un curso genérico enseña la herramienta; la formación interna enseña vuestro trabajo con la herramienta. Un ejemplo sacado de un informe real vuestro convence más que un temario entero.

El plan, en cinco pasos

Formar primero a esa persona. Que domine la herramienta con casos reales vuestros y que se sepa de memoria los límites que la empresa ha decidido.
Convertir tareas reales en guías cortas. Tres o cinco, de las que se repiten cada semana. No un manual: una página por tarea.
Formar por equipos, no en una charla general. Lo que necesita ventas no se parece a lo que necesita finanzas, y una sesión para todos no le sirve a nadie.
Abrir un sitio donde preguntar, con horario y con alguien detrás. Sin eso, la gente abandona a la primera respuesta mala y vuelve a su cuenta personal.
Medir uso real, no altas. Quién lo usa cada semana y para qué. Los datos de adopción del bloque 3 sirven exactamente para esto: donde no se usa, o se vuelve a formar o se retira el acceso.

La condición honesta: este papel necesita tiempo asignado de verdad. Si se le cuelga encima a alguien que ya va lleno, no ocurre — y volvéis al punto de partida, con la herramienta pagada y cada uno usándola a ojo.

La trampa de este camino: contratar el plan de empresa no es gobernar la IA, es la condición para poder hacerlo. La herramienta llega con casi todos estos controles apagados o en sus valores por defecto, y encenderlos y decidir sus valores sigue siendo trabajo vuestro. Una empresa con el plan contratado y nada de esto configurado está exactamente igual de expuesta que antes, pero convencida de que no.

Comparativa Las once diferencias que importan Control sobre los datos, permisos, trazabilidad, retención, coste, dependencia y capacidad de crecer, en los tres caminos.

Dimensión	Agente externo	Aplicación interna	Modelo propio
Qué información acaba saliendo	Lo que cada persona decida pegar en el chat. Si pega un contrato entero, sale el contrato entero	Lo que la aplicación deje pasar: puede tapar datos personales o bloquear documentos antes de enviarlos	Lo que la aplicación deje pasar, igual que la interna. La diferencia es que aquí nada sale de vuestra red
Acceso a información interna	Solo lo que alguien sube a mano, o las integraciones que el proveedor ofrezca de serie	Los sistemas que la empresa autorice, uno a uno: SharePoint, Drive, CRM, ERP	Los mismos sistemas que la interna, sin que la consulta cruce nunca hacia fuera
Permisos por persona	No sabe quién eres: cualquiera con acceso puede preguntar por cualquier documento subido al espacio compartido	Hereda los permisos de tus sistemas: cada persona solo obtiene respuestas de documentos que ya podía abrir por su cuenta	Igual que la interna: hereda los permisos de vuestros sistemas
Qué puedes demostrar después	Lo que el proveedor guarde en su consola, con el detalle que él decida y durante el tiempo que él fije	Lo que decidas registrar: quién preguntó, qué documentos se usaron, qué modelo respondió y qué se hizo con la respuesta	Lo mismo que la interna, y además el registro del propio modelo, que también es vuestro
Retención: cuánto se guarda	La política del proveedor. Se puede ajustar dentro de lo que permita tu plan, pero el que manda es él	La que fijes tú, y distinta por caso de uso si hace falta	Totalmente vuestra: nada se guarda fuera porque nada sale
Tiempo hasta tenerlo funcionando	Días	Semanas o meses, según cuántos sistemas conecte	Meses: hay que elegir infraestructura, montarla y validarla antes de escribir la aplicación
Coste	Cuota fija por persona y mes: pagas por cada licencia, la use o no	Desarrollo inicial y mantenimiento, más consumo por uso: pagas por lo que se consulta de verdad	Inversión en infraestructura y en quien la opere. Se paga esté en uso o parada
Dependencia del proveedor	Alta: cambiar de proveedor es cambiar de herramienta y de hábitos	Baja: el modelo es una pieza intercambiable detrás de tu aplicación	Ninguna: los pesos son vuestros. A cambio, todo el mantenimiento también
Shadow AI: uso por libre	Baja mucho si das cuentas de empresa, porque la gente deja de usar la suya	Baja solo si tu herramienta es más cómoda que la pública. Si es peor, vuelven a la suya	El mismo riesgo que la interna: si es incómoda, la gente usa otra cosa
Crecer hacia una IA que actúe	No llega: ayuda a una persona a trabajar, no ejecuta pasos de un proceso con aprobaciones	Es el camino: la arquitectura ya tiene dónde poner los límites, las aprobaciones y el registro	También es camino, con el mismo control y sin depender de que un proveedor lo permita
Quién la mantiene	El proveedor	Tu equipo, indefinidamente	Vuestro equipo, incluida la infraestructura y la evaluación de cada versión nueva del modelo

Desliza la tabla hacia los lados para ver las tres columnas.

El tercer camino Cuando el dato no puede salir, ni siquiera a un proveedor Modelo propio en vuestra infraestructura: cuándo es la respuesta, qué cuesta de verdad y por qué casi nunca hace falta.

Existe una tercera opción de la que se habla mucho y que casi nunca hace falta: un modelo de pesos abiertos corriendo en tu propia infraestructura, sea un centro de datos vuestro o una nube privada dedicada. Por dentro es la misma arquitectura de la aplicación interna; lo único que cambia es que el modelo vive dentro del perímetro en vez de detrás de la API de un proveedor.

Cuándo es la respuesta

Una norma sectorial os obliga a que cierta información no salga de vuestros sistemas.
Un cliente grande os lo exige por contrato, con una cláusula concreta.
Trabajáis con material clasificado o sujeto a control de exportación.

Qué os cuesta de verdad

Pasáis a ser responsables del ciclo de vida entero: parches, capacidad y quién responde si se cae.
Cada versión nueva del modelo hay que evaluarla antes de sustituir la anterior. Ya nadie lo hace por vosotros.
Dejáis de tener siempre el último modelo. A cambio, nadie os cambia el comportamiento sin avisar.
Requiere inversión en infraestructura y personas que la operen, y se paga esté en uso o parada.

La advertencia honesta: es el camino más caro y el que más a menudo se elige por la razón equivocada, que es la sensación de control y no una obligación real. Si en la reunión nadie sabe señalar la ley o la cláusula que lo exige, probablemente no haga falta: casi siempre se resuelve exigiendo al proveedor que trate los datos en vuestra región y con retención reducida o nula.

Ver las entrañas: lo que hay que montar y mantener

Si después de lo anterior este camino sigue sobre la mesa, esto es lo que hay debajo. No es una lista de requisitos técnicos: son las decisiones que alguien de vuestra empresa va a tener que tomar y sostener durante años.

a · La primera decisiónParece técnica y es jurídica

«Pesos abiertos» no significa que podáis usarlo como queráis. Cada familia de modelos viene con su propia licencia, y algunas limitan el uso comercial o lo condicionan al tamaño de la empresa. Hay que leerla antes de enamorarse del modelo, no después de montarlo.
Fijar la versión y no moverla. Ésa es justo la ventaja: nada cambia bajo vuestros pies. El precio es que quedarse atrás pasa a ser una decisión que alguien tiene que revisar a propósito, y no hacerlo también es decidir.

b · El tamaño del modeloNo es un número, es una cadena de consecuencias

El techo real no es la velocidad, es la memoria. Un modelo entra o no entra en el equipo que tengáis. Si no entra, no va más lento: no arranca.
Se puede recortar la precisión para que quepa un modelo mayor. Es lo que se hace en la práctica, pero cambia la calidad de las respuestas — y cuánto la cambia hay que medirlo con vuestros propios casos, no suponerlo.
El texto que la IA lee de una vez también ocupa memoria, aparte del modelo. Y esa parte se multiplica por cada persona que pregunta a la vez: un modelo que cabe holgadamente cuando lo prueba una sola persona puede no caber con el equipo entero dentro.

c · Lo que hay que montarEl modelo es la pieza pequeña

El servidor que atiende las peticiones y las pone en cola. Sin esta pieza, dos personas preguntando a la vez se estorban.
La búsqueda sobre vuestros documentos, y el proceso que los mantiene al día. Si el modelo tiene que responder sobre lo vuestro, ésta es la pieza que de verdad decide si acierta.
La capa de identidad y registro. El modelo no sabe quién pregunta ni le importa. Saber quién preguntó qué lo ponéis vosotros o no lo pone nadie.
Un banco de evaluación: preguntas vuestras con la respuesta correcta escrita. Es la pieza que más se salta y la que más se echa de menos: sin ella no podéis decidir nunca si una versión nueva entra o no, solo creerlo.
Filtros de entrada y salida, y límites de uso. Lo que en el plan de un proveedor viene puesto, aquí se construye.

d · El equipoEl coste que nadie presupuesta

No es un proyecto con fecha de fin, es un servicio con guardia. Alguien tiene que responder cuando se cae un martes por la noche, y eso se paga todos los meses, no una vez.
Son perfiles distintos, no uno. Quien mantiene la infraestructura no suele ser quien sabe juzgar si el modelo ha empeorado, y ninguno de los dos es el de seguridad.
El riesgo real no es técnico. Es que todo esto acabe viviendo en la cabeza de una sola persona. El día que se va, os quedáis con un sistema crítico sin dueño.

e · La salidaCómo se deshace esto si sale mal

La buena noticia: los pesos son vuestros. Nadie puede apagaros el servicio ni subiros el precio a mitad de año. Es la ventaja de fondo de este camino.
La mala: salir hacia un proveedor tampoco es gratis. Para entonces tendréis integraciones, instrucciones y evaluaciones construidas contra un modelo concreto.
La regla práctica que lo evita: montadlo detrás de una interfaz que pueda apuntar a otro modelo sin reescribir la aplicación. Es lo único que os deja cambiar de idea más adelante sin empezar de cero.

f · La pregunta intermedia¿Necesitáis la máquina, o que el dato no salga?

Son dos exigencias distintas, y casi siempre se confunden. La mayoría de las obligaciones de soberanía se cumplen con un despliegue dedicado dentro de vuestro propio entorno de nube: el dato no sale de vuestro perímetro, y no compráis hardware, ni contratáis guardias, ni os hacéis cargo del ciclo de vida.
Antes de aprobar la compra de equipos, releed la norma con esta pregunta en la mano. ¿Exige que la máquina sea vuestra, o exige que el dato no salga? Si es lo segundo, hay un camino bastante más barato que llega al mismo sitio.

Tres preguntas que hay que poder responder antes de aprobar esto

¿Quién ha leído la licencia del modelo? Con nombre, no «legal lo mirará».
¿Con qué banco de preguntas vais a decidir si una versión nueva entra? Si no existe, no vais a poder actualizar nunca con criterio.
¿Quién está de guardia? Y quién cubre a esa persona cuando esté de vacaciones.

Si alguna de las tres no tiene una respuesta con nombre y apellido, la decisión no está madura todavía. No significa que el camino sea equivocado: significa que aún no es el momento de firmarlo.

A favor y en contra Cuándo compensa cada uno Siete argumentos a favor y siete en contra de cada camino, con el porqué de cada uno.

Agente externo con plan de empresa

A favor

Funciona esta semana. No hay proyecto, ni presupuesto de desarrollo, ni equipo técnico: se contrata, se activa el inicio de sesión de la empresa y el lunes está en uso.
Tus datos no entrenan el modelo. En los planes de empresa esto va por contrato. En las cuentas personales, gratuitas o de pago, no siempre: ésa es la distinción que casi nadie mira.
Siempre la última versión. Cuando el proveedor mejora el modelo, tu equipo lo tiene sin que nadie migre nada.
Coste previsible. Sabes lo que pagas cada mes desde el primer día. No hay factura variable ni sorpresas de consumo.
Trae consola de administración. Puedes ver quién tiene acceso, retirárselo a quien se va y forzar el inicio de sesión corporativo.
Es la forma más rápida de sacar el Shadow AI a la luz. Si le das a la gente una cuenta de empresa que funciona bien, deja de usar la suya.
Si no funciona, se cancela. El compromiso es una suscripción, no una inversión que haya que amortizar.

En contra

El límite lo pone el criterio de cada persona. La herramienta no sabe si lo que le pegan es una plantilla o el contrato de tu mayor cliente. El único control es la formación, y la formación se olvida.
No distingue quién puede ver qué. Si subes documentación a un espacio compartido, la ve cualquiera del equipo con acceso, aunque en el sistema original no le correspondiera.
Los registros son los del proveedor. Si mañana alguien pregunta qué consultó tu equipo y con qué datos, dependes del detalle que ese proveedor guarde y de poder exportarlo.
Se paga por persona, no por uso. Quinientas licencias cuestan lo mismo las usen quinientas personas o cuarenta. En despliegues grandes esto pesa más de lo que parece.
No llega a los sistemas donde está el trabajo. Como no se conecta a tu CRM ni a tu ERP, la gente hace de puente copiando y pegando. Y ése es justo el punto por donde se escapa la información.
Cambiar de proveedor es cambiar de herramienta. No se cambia solo el modelo: se cambian los hábitos, las plantillas y la formación de todo el mundo.
No crece hacia procesos que actúan. Sirve para ayudar a una persona a trabajar. No para ejecutar los pasos de un proceso con aprobaciones y trazabilidad.

Aplicación interna sobre API

A favor

Decides qué ve la IA antes de que lo vea. El filtro está en tu lado: puedes tapar campos, sustituir datos personales o bloquear documentos enteros antes de que salgan.
Hereda los permisos que ya tienes. Nadie obtiene por la IA una respuesta basada en un documento que no podría abrir por su cuenta. Es la diferencia que más pesa en una auditoría.
Te deja demostrar qué pasó. Guardas quién preguntó, qué documentos se usaron, qué versión del modelo respondió y qué se hizo después con esa respuesta.
Es la única base para que la IA llegue a actuar. Si algún día quieres que prepare un asiento o abra un ticket, esta arquitectura ya tiene dónde poner las aprobaciones y los límites.
Cambias de proveedor sin rehacer nada. El modelo es una pieza intercambiable detrás de tu aplicación. La gente que la usa ni se entera.
Se paga por uso, no por persona. Puedes dar acceso a toda la empresa y pagar solo por lo que se consulta de verdad.
Vive donde ya trabaja la gente. Dentro de Teams, de Slack o de vuestro portal, con los datos ya cargados. Nadie tiene que copiar y pegar nada.

En contra

Es un proyecto, no una compra. Necesita a alguien de producto, a alguien de seguridad y a alguien de datos, con tiempo asignado de verdad. No sale de un presupuesto de licencias.
Lo difícil no es llamar al modelo. Eso se hace en una tarde. Lo caro es conectar las fuentes, respetar los permisos de cada una y mantener eso cuando cambien.
Exige clasificar los datos antes. Si nadie ha decidido todavía qué es confidencial y qué no, la aplicación no tiene ninguna regla que aplicar. Ese trabajo hay que hacerlo igual.
Alguien tiene que mantenerla. Cambian los modelos, los sistemas y los permisos. Si quien la construyó se va y nadie hereda el encargo, envejece rápido.
El coste por uso puede sorprender. Sin un techo de gasto y sin alertas, una consulta que recorre demasiados documentos sale mucho más cara de lo previsto.
Si es peor que ChatGPT, no la usan. Compites con una herramienta pública muy pulida. Si la tuya es lenta o incómoda, la gente vuelve a la suya: mismo riesgo que al principio, pero con el presupuesto gastado.
No arregla un proceso roto. Si el proceso de fondo está desordenado, acabas con una interfaz bonita sobre ese desorden.

¿Agente de IA externo o herramienta propia de la empresa?

Productividad con control, no una cosa o la otra

Rápido hoy, caro mañana

Una política que nadie sigue

Qué separa realmente a uno del otro

Agente externo

Aplicación interna

Lo que hay que montar, y lo que no viene puesto

Agente externo con plan de empresa

Aplicación interna sobre API

Tu caso, tu plan

Qué no debería poder hacer la IA en tu caso

Quién tiene que aprobarlo antes de producción

La parte difícil no es la tecnología