¿Qué riesgos nuevos trae dejar un agente de Claude Code corriendo horas?

En la era de la inteligencia artificial aplicada a desarrollo de software, las herramientas como Claude Code y Claude Opus 5, desarrolladas por Anthropic, están revolucionando la productividad. Sin embargo, la creciente autonomía prolongada de estos agentes plantea nuevos riesgos en la seguridad y gestión operativa, especialmente cuando se dejan corriendo durante horas o de forma continua.

En este artículo analizaremos los riesgos y desafíos que presenta dejar un agente automatizado de código, como Claude Code, operando por largos periodos. Exploraremos cómo los cambios en la configuración por defecto, la fatiga de permisos, la relación entre métricas automáticas y revisiones manuales y el uso de clasificadores y reglas de bloqueo influyen en la seguridad. Además, mencionaremos casos de estudio y prácticas de control observadas en empresas clave como Adobe y Nuro.

Contexto: Herramientas y Modelos de Autonomía Prolongada

Claude Code es un asistente de programación basado en inteligencia artificial desarrollado por Anthropic, disponible bajo una modalidad Pro que cuesta $20/mes, o $17/mes si se paga anualmente. Está optimizado para trabajar en entornos de desarrollo colaborativos, integrándose con sistemas de control de versiones, revisión de código y despliegues automatizados.

Por otro lado, Claude Opus 5 es una versión mejorada para tareas más complejas, que incluyen análisis de arquitecturas y sugerencias automáticas de diseño, proporcionando un nivel mayor de autonomía. El problema principal que surge es: ¿qué pasa cuando se dejan estos agentes corriendo horas seguidas, realizando tareas a velocidad y escala que ningún humano puede igualar?

Riesgos derivados del cambio de configuración por defecto

Una de las fuentes más frecuentes de riesgos proviene del cambio no controlado en configuraciones por defecto. Algunas organizaciones, en búsqueda de maximizar la autonomía de Claude Code, modifican parámetros como:

• Tiempo máximo de ejecución
• Niveles de permisos para acceso a repositorios
• Frecuencia y profundidad de commits automáticos

Estos cambios, si bien pueden acelerar el desarrollo, alteran el equilibrio original de seguridad diseñado por Anthropic, aumentando la probabilidad de que el agente cometa errores críticos o realice cambios no deseados sin supervisión adecuada.

Por ejemplo, permitir que Claude Code tenga acceso de escritura seguridad con git reset --hard irrestricta a múltiples ramas sin filtros o reglas de aprobación implica un riesgo alto de integrar código erróneo, sin validación manual, lo que puede afectar la integridad del software producido.

Impacto en la seguridad

Desde una perspectiva de seguridad, un cambio en las configuraciones por defecto puede derivar en:

• Mayor superficie de ataque: El agente tiene más permisos y se vuelve una posible puerta de entrada para ataques si es comprometido.
• Acciones destructivas: Cambios automáticos que eliminan o corrompen código sin revisión.
• Pérdida de trazabilidad: Flechas de auditoría poco claras debido a múltiples cambios simultáneos.

Empresas como Adobe han reportado la necesidad de establecer políticas estrictas que controlen estos cambios, limitando ajustes a configuraciones con revisión previa.

Fatiga de permisos y riesgo humano

Aun cuando las configuraciones se mantienen estables, la fatiga de permisos es un problema invisible pero peligroso. Los equipos acostumbrados a permisos "ok ok ok" sin leer—una queja común en startups B2B—pueden bajar la guardia ante alertas del agente AI en flujo continuo. Esto genera:

• Supervisión insuficiente
• Revisión superficial de PRs generados automáticamente
• Incremento del riesgo humano porque el equipo confía excesivamente en la autonomía del agente AI

En Nuro, una empresa que integra robótica con software, han tenido que crear rotaciones regulares dentro de los equipos para evitar la fatiga mental y garantizar que el análisis y aprobación de PRs automatizados sean siempre realizados con foco y detalle.

Métricas de seguridad vs revisión manual: ¿cómo equilibrar?

Al monitorizar agentes como Claude Code en autonomía prolongada, las métricas de seguridad —como número de fallos detectados, incidencias bloqueadas, y tiempo hasta detección— son indicadores útiles pero no definitivos. La dependencia exclusiva de dashboards o alertas automatizadas puede esconder eventos que sólo un humano entrenado detectaría.

Por eso, la revisión manual sigue siendo un pilar clave. La recomendación de Anthropic resalta el herramientas de coding con AI uso de modelos de revisión iterativa combinada, donde:

1. El agente ejecuta sugerencias y reporta métricas de forma transparente.
2. Un equipo de revisores humanos valida aspectos clave, especialmente cambios que impactan la seguridad o rama principal.
3. Se utilizan sistemas automatizados de bloqueo para PRs que no cumplen reglas específicas.

Ejemplo de flujo controlado con Claude Opus 5

Fase Acción Responsable Herramienta Generación Propuesta de código/autocompletado Claude Opus 5 Agente IA Validación automatizada Pruebas estáticas, análisis de dependencias Sistema CI/CD Herramientas integradas (e.g. linters, scanners) Revisión manual Chequeo de seguridad y calidad Equipo humano Revisión de PR en GitHub/GitLab Bloqueo/Desbloqueo Aplicación de reglas y políticas Sistema de clasificación y reglas de bloqueo Plugins personalizados

Clasificador y reglas de bloqueo: el último filtro

Para intentar mitigar riesgos no detectados ni por métricas ni por revisión humana, se implementan clasificadores automáticos y reglas de bloqueo dentro del flujo de integración continua (CI/CD). Estos mecanismos controlan que:

• No se aprueben cambios con vulnerabilidades conocidas.
• No se introduzcan dependencias inseguras o fuera de política.
• Se bloqueen PRs sin la documentación requerida o pruebas asociadas.

Estos sistemas actúan como el último filtro para evitar que un Claude Code ejecutándose horas seguidas genere impactos negativos.

Conclusión: ¿vale la pena la autonomía prolongada sin controles estrictos?

El interés legítimo de empresas como Adobe, Nuro y otras startups por aprovechar el poder de agentes de AI como Claude Code y Claude Opus 5 debe ir acompañado inevitablemente de un diseño riguroso de controles de seguridad y supervisión. Dejar un agente de IA corriendo horas seguidas con configuraciones no adecuadas y sin revisión humana propicia fallos, fuga de datos y degradación del proceso de desarrollo.

El modelo de negocios Anthropic con su plan Pro de $20/mes, o $17/mes anual, es atractivo para escalar productividad. Pero si la seguridad no se adapta al aumento de autonomía, el costo de esas fallas puede superar con creces la suscripción.

Por eso, la recomendación práctica es: ajustar y limitar configuraciones por defecto, rotar responsabilidades para evitar fatiga, combinar métricas y revisiones manuales, y utilizar clasificadores y reglas de bloqueo activas.

Solo así el desarrollo automatizado con agentes como Claude podrá ser sostenible, seguro y escalable.

¿Y qué pasa cuando llevas 50 prompts seguidos pidiendo que el agente corra sin supervisión?

Aquí es justamente cuando el riesgo humano crece exponencialmente. Recuerda que nada reemplaza un control humano bien entrenado que sabe dónde hacer clic y qué configurar para que la autonomía sea una aliada robusta, no un caballo de Troya digital.