06 — GOBERNANZA Y CONTROL
La mayoría de las iniciativas de IA no mueren por limitaciones técnicas. Mueren porque nadie definió quién decide, qué puede hacer el sistema solo, con qué datos y bajo qué control. Este es el marco que implementamos, publicado completo.
Un agente comercial no alcanza datos de RRHH. Cada permiso se concede por tarea, no por comodidad.
EL DATO QUE DESACTIVA LA OBJECIÓN
Entre tres y cinco personas, reunión mensual. Gobernar la inteligencia artificial no es montar una estructura burocrática. Es tomar seis decisiones y escribirlas.
EL MARCO
Qué se puede usar, para qué, con qué datos y quién aprueba las excepciones.
01Qué información puede salir de la empresa, cuál nunca, y qué contratos con proveedores lo garantizan por escrito.
02Qué alcanza cada sistema y cada agente. Acceso mínimo por función, no acceso general por comodidad.
03Qué acciones requieren validación humana, qué queda registrado y quién revisa esos registros.
04Herramientas gratuitas donde alguien pega el contrato de un cliente, la lista de precios o los datos de la planilla. No se resuelve prohibiendo. Se resuelve dando una alternativa aprobada que funcione mejor.
LOS TRES ERRORES QUE VEMOS SIEMPRE
El sistema hace exactamente lo que se diseñó; el problema es que se diseñó con demasiado alcance.
Cuando algo sale mal, nadie puede reconstruir por qué.
Un PDF de proveedor, un correo o un formulario pueden contener instrucciones ocultas que el sistema ejecuta creyendo que son datos.
LA DIFERENCIA QUE CASI NADIE EXPLICA
Expone la conversación de un cliente.
Puede tocar registros, ejecutar acciones y generar costos antes de que alguien lo note.
Por eso el control de acceso y el registro no son un extra del proyecto: son parte del diseño.
NUESTRO PROCESO
Inventario de sistemas y fuentes externas, mapa de accesos, clasificación de riesgo por caso de uso.
Permisos granulares, aislamiento de entornos, gestión de credenciales, sanitización de entradas, puntos de control humano.
Registros de auditoría, alertas por comportamiento anómalo, pruebas periódicas, revisión de dependencias, protocolo de respuesta.
Seguridad, gobernanza y cumplimiento son el mismo problema visto desde tres ángulos. Un sistema técnicamente seguro puede incumplir una norma. Una política de gobernanza sin controles técnicos es un documento. El mismo equipo que construye es el que asegura: no hay una revisión de seguridad que llega al final y bloquea todo.
06 — GOBERNANZA Y CONTROL
Revisamos qué sistemas y fuentes externas tocas hoy, quién alcanza qué, y qué decisiones necesitan una firma. Con eso se escribe el marco.