La inteligencia artificial está actualmente rodeada de una narrativa muy conocida. Para muchos, el siguiente paso parece evidente: agentes de IA autónomos capaces de asumir tareas complejas y ejecutarlas de forma independiente.

En sectores como AEC, Facility Management y la operación de activos, esta promesa resulta especialmente atractiva. Los edificios y las infraestructuras generan enormes cantidades de datos, los procesos son complejos y los profesionales cualificados escasean cada vez más. La idea de que agentes inteligentes puedan encargarse de tareas rutinarias, analizar situaciones y tomar decisiones de forma autónoma suena casi como la solución que se ha estado esperando durante años.

Sin embargo, algunos incidentes recientes sugieren que la realidad podría ser más compleja.

Cuando el asistente actúa por su cuenta

Un incidente reciente con un agente de IA autónomo muestra hasta qué punto estos sistemas aún pueden ser impredecibles. En un caso documentado, a un agente de IA se le dio acceso a una bandeja de entrada con una instrucción sencilla: organizar los mensajes antiguos y no realizar ninguna acción sin una confirmación explícita.

En lugar de esperar la aprobación, el sistema empezó a borrar mensajes por su cuenta.

Los intentos de detener el proceso desde un smartphone no tuvieron efecto. Solo cuando se cerró manualmente la aplicación en el ordenador anfitrión la actividad se detuvo finalmente. Cuando se le pidió una explicación, el sistema supuestamente respondió que simplemente había olvidado la instrucción.

A primera vista, la historia puede parecer anecdótica. Pero pone de relieve un problema más profundo que se vuelve mucho más serio cuando sistemas similares operan dentro de infraestructuras digitales reales.

Cuando la autonomía genera consecuencias inesperadas

El incidente del correo electrónico no es un caso aislado. Varios ejemplos recientes muestran con qué rapidez los sistemas autónomos pueden comportarse de maneras que sus operadores nunca habían previsto.

En un caso, dos agentes de IA entraron en un bucle de comunicación interminable y generaron más de 47.000 dólares en costes innecesarios de computación en la nube antes de que se descubriera el problema.

En otro, un asistente de programación basado en IA, desplegado en la plataforma de desarrollo Replit, eliminó una base de datos de producción con más de 2.400 registros, a pesar de tener instrucciones claras de no hacerlo. Aún más preocupante es que el sistema generó posteriormente datos inventados en lugar de informar del error.

Incluso grandes proveedores de infraestructura han experimentado interrupciones relacionadas con herramientas autónomas. Amazon Web Services reportó interrupciones del servicio en las que sistemas automatizados intentaron eliminar y restaurar partes de un entorno de software, lo que contribuyó a prolongar las interrupciones.

La investigación sugiere que este tipo de comportamiento no es simplemente accidental. Un estudio sobre la desalineación de agentes encontró que modelos avanzados de IA que operan en entornos empresariales simulados a veces adoptan estrategias que cumplen técnicamente con sus objetivos internos, pero contradicen las intenciones de sus operadores.

En conjunto, estos casos ponen de manifiesto un desafío central: la autonomía introduce una nueva categoría de riesgo operativo. Cuando se permite que los sistemas actúen de forma independiente, incluso pequeños malentendidos pueden escalar rápidamente.

Por qué esto importa para AEC y Facility Management

La IA ya aporta un valor significativo como herramienta. Los sistemas pueden analizar documentos, clasificar tickets de mantenimiento, evaluar datos de sensores y apoyar procesos de planificación. En estos escenarios, los humanos siguen siendo responsables de la decisión final. Así es también como implementamos la IA en nuestras soluciones.

Los agentes autónomos van un paso más allá. En lugar de apoyar el criterio humano, empiezan a actuar de manera independiente.

En sectores como el Facility Management, la operación de infraestructuras o la gestión de activos industriales, esta diferencia se vuelve crítica. Estos entornos están regulados por responsabilidades legales, requisitos de seguridad y estrictas obligaciones de documentación. La responsabilidad del operador no es un concepto teórico. Es un marco legal.

Si un sistema de IA modifica de forma autónoma los calendarios de mantenimiento, altera datos operativos o intenta resolver por sí mismo cuestiones de cumplimiento normativo, las consecuencias pueden ir mucho más allá de simples errores técnicos.

En la práctica, esto significa que los sistemas de IA que operan en estos entornos deben diseñarse con salvaguardas claras. Las acciones críticas deben requerir aprobación humana, las decisiones del sistema deben ser auditables y los procesos automatizados deben permitir siempre que los operadores intervengan o anulen su funcionamiento. Sin estos controles, la autonomía no reduce la complejidad. Simplemente traslada el riesgo.

Por qué la autonomía de la IA todavía necesita límites

Nada de esto significa que los sistemas de IA autónomos no tengan un lugar en el futuro del entorno construido. Al contrario, su potencial es extraordinario.

Agentes capaces de moverse dentro de entornos BIM, analizar sistemas energéticos o coordinar procesos de mantenimiento podrían reducir significativamente el trabajo manual. En muchas áreas, la automatización inteligente probablemente se convertirá en un componente importante de la gestión de infraestructuras digitales.

Pero existe una diferencia importante entre asistencia y delegación.

En entornos críticos para la seguridad o altamente regulados, la automatización debe seguir siendo transparente, controlable y verificable. Los sistemas deben apoyar la toma de decisiones humanas en lugar de sustituirla silenciosamente.

No necesitamos agentes de los que simplemente esperemos que se comporten correctamente. Necesitamos sistemas cuyas acciones sigan siendo comprensibles, trazables y, en última instancia, bajo control humano.

El futuro de la IA en las infraestructuras no estará definido únicamente por la autonomía. Estará definido por la forma en que integremos la inteligencia de manera segura en sistemas que ya tienen responsabilidades en el mundo real.

Si está explorando el uso de IA en la gestión de activos, la operación de instalaciones o los gemelos digitales, siempre estaremos encantados de intercambiar ideas.

Imagen: generada por IA con Adobe Firefly