Shadow AI y fuga de información
Herramientas no inventariadas reciben datos que no deberían salir de la organización.
Política de IA · DLP · inventario autorizadoGobernanza · Riesgos · Cumplimiento · Ciberseguridad
Agentes seguros
Un recorrido práctico para decidir qué datos, permisos, herramientas y acciones puede usar un agente; dónde debe detenerse; y qué evidencia necesitamos antes de confiarle más autonomía.
- 01 · LeerConsulta información
El riesgo se concentra en privacidad, acceso y calidad de las fuentes.
- 02 · EscribirPropone o modifica
Aparecen integridad, versiones, destinatarios y aprobaciones antes de guardar.
- 03 · EjecutarActúa en otros sistemas
Se necesitan permisos mínimos, límites, registro, detención y revisión humana proporcional.
Caso transversal
Separar la experiencia de las decisiones críticas.
Seguiremos un agente operativo que recibe información por WhatsApp y la transforma en datos revisables. Cada módulo agrega un control sin confundir interfaz, lógica, datos y acciones.
- 01
Entrada
WhatsApp Business recibe una foto, un documento o una instrucción.
Identidad del usuario · tipo de archivo · consentimiento - 02
Orquestación e IA
Make coordina el flujo y el modelo extrae o propone información.
Objetivo bloqueado · contenido no confiable · límites - 03
Datos y reglas
El backend valida y conserva una única fuente de verdad.
Esquemas · permisos · historial · retención - 04
Acciones y panel
Una persona revisa, aprueba y administra los resultados.
Human-in-the-loop · auditoría · reversión
Regla de diseño: el modelo puede proponer; el sistema confiable valida; la persona aprueba cuando la consecuencia lo exige.
Programa
Ocho decisiones para operar con criterio.
Cada módulo distingue concepto, riesgo, control y decisión práctica. El recorrido completo se realiza en el aula para alumnos.
- 01Acceso para alumnosRequiere acceso
Cuando un agente empieza a actuar
Reconocer el salto de leer a escribir y ejecutar, y dibujar la frontera de riesgo del caso.
- 02Acceso para alumnosRequiere acceso
Identidad, accesos y permisos
Aplicar IAM, RBAC, MFA y mínimo privilegio a personas, agentes, conectores y cuentas de servicio.
- 03Acceso para alumnosRequiere acceso
Protección del RAG, archivos y memoria
Clasificar datos, gobernar fuentes, evitar fugas y tratar las escrituras de memoria como operaciones privilegiadas.
- 04Acceso para alumnosRequiere acceso
Prompt injection y secuestro del objetivo
Diseñar para limitar el impacto de instrucciones directas, indirectas, persistentes o escondidas en contenido.
- 05Acceso para alumnosRequiere acceso
Conectores, herramientas y acciones
Definir contratos de herramienta, validación, presupuestos, destinos permitidos y aprobaciones por acción.
- 06Acceso para alumnosRequiere acceso
GRC aplicado sin burocracia
Convertir gobierno, riesgo y cumplimiento en dueños, reglas, evidencias y decisiones proporcionadas.
- 07Acceso para alumnosRequiere acceso
Pruebas, Red Team y monitoreo
Probar casos normales y adversariales, observar conductas y preparar detención, respuesta y recuperación.
- 08Acceso para alumnos · Proyecto finalIr al aula privada
Diseñar un agente seguro de punta a punta
Integrar arquitectura, controles, evidencia y riesgo residual en una decisión de salida a piloto.
Cinco riesgos prioritarios
Un hilo común en todo el recorrido.
Los controles se combinan. Una política sin configuración técnica, o una barrera técnica sin responsables y evidencia, deja huecos.
Acceso indebido
El agente hereda permisos amplios o actúa sin una identidad atribuible.
IAM · RBAC · mínimo privilegio · MFARespuestas falsas o sin sustento
Una salida convincente se transforma en una decisión o acción incorrecta.
Fuentes · validación · Human-in-the-loopPrompt injection
Contenido externo altera el objetivo o induce una acción no prevista.
Arquitectura en capas · evaluaciones · Red TeamUso malicioso
Credenciales, endpoints o canales legítimos se aprovechan para phishing, abuso o escalamiento.
MFA · endpoint · límites · monitoreo contextualContenido del curso
Comprender y medir antes de habilitar acciones.
El módulo inicial y el diagnóstico de 15 controles forman parte del curso pago. El diagnóstico orienta una conversación: no certifica seguridad ni reemplaza una revisión técnica, legal o de protección de datos.
Módulo 1 completo
Aprendé cuándo un agente deja de ser un asistente y cómo cambia el riesgo al leer, escribir y ejecutar.
Consultar por el cursoAntes de conectar tu agente: 15 controles esenciales
Evaluá propósito, datos, identidad, permisos, RAG, herramientas, revisión humana, pruebas y respuesta.
Abrir desde Mi aulaFundamentación
Buenas prácticas contrastadas, no teoría normativa.
El contenido traduce marcos autorizados a decisiones operativas. Se revisó con las versiones disponibles al 19 de septiembre de 2026.