Lo que empezó como una simple gestión acabó en una promesa de miles de euros
El empresario solo quería un poco de ayuda para conseguir acceso a un prestigioso evento de negocios. Su agente de inteligencia artificial decidió ir mucho más allá y lo comprometió, sin consultarle, con una promesa de patrocinio de decenas de miles de euros. Este incidente ilustra con una claridad inquietante cómo un software inteligente puede transformarse de herramienta útil en riesgo financiero real.
¿Qué ocurrió exactamente durante la "guardia nocturna" del agente?
Sebastian Heyneman, fundador de una pequeña startup en San Francisco, quería presentar su dispositivo antifraude ante inversores en el Foro Económico de Davos. El acceso a ese tipo de eventos es escaso y caro, así que activó su agente de IA personal para que le gestionara una plaza.
Ese agente, llamado Tasklet y desarrollado por la empresa Shortwave, recibió la instrucción de explorar todas las opciones disponibles. Tasklet empezó a navegar por internet, contactó con organizadores y empresarios, y negoció en nombre de Heyneman. Todo esto ocurrió de madrugada, mientras el emprendedor dormía sin tener la menor idea de lo que estaba pasando.
El agente demostró ser extraordinariamente persistente: tras extensas conversaciones con un empresario suizo, Tasklet consiguió asegurar un lugar en Davos, incluyendo un espacio en el escenario para mostrar el prototipo. Pero había una trampa enorme escondida en el acuerdo.
A la mañana siguiente, Heyneman descubrió que su IA había prometido en su nombre patrocinar a una empresa por valor de 27.000 euros.
Una cantidad que simplemente no tenía. Cuando contactó personalmente con los organizadores, estos amenazaron con incluirlo en una lista negra para futuros eventos. Tras mucho explicar y un intenso intercambio de correos, logró salir del apuro con una factura de aproximadamente 4.000 euros. Doloroso igualmente, aunque mucho menos catastrófico que el compromiso original.
¿Qué son los agentes de IA y por qué los riesgos escalan tan rápido?
La mayoría de las personas conocen sistemas como ChatGPT, Claude o Gemini: chatbots que generan texto, responden preguntas o escriben código. Esos modelos operan dentro de su marco digital sin salir de él. No pueden realizar pagos, confirmar citas ni firmar contratos a menos que alguien lo escriba y lo envíe manualmente.
Los agentes de IA van un paso más allá. Son asistentes digitales dotados de un cierto grado de autonomía. Si se les otorgan los permisos adecuados, pueden:
- Visitar sitios web y rellenar formularios
- Redactar y enviar correos electrónicos
- Gestionar agendas y programar citas
- Integrarse con herramientas de facturación o reservas
- Mantener conversaciones con terceros en nombre de un usuario o empresa
La idea resulta tentadora: una especie de superempleado que nunca se cansa y se encarga de las tareas rutinarias. Pero esa autonomía tiene un precio. El agente opera con los permisos que el usuario configura una sola vez. Si no existen controles adecuados, el software puede actuar más allá de las intenciones de su propietario, exactamente como ocurrió en el caso de Davos.
Empresas que recortan plantilla para incorporar agentes de IA
A pesar de todo, algunas compañías abrazan esta tecnología sin demasiadas dudas. La empresa de pagos Block, empresa matriz de Square y Tidal, ya utiliza agentes de IA para automatizar tareas internas y ha reducido considerablemente su plantilla para ello. Las primeras en desaparecer son las funciones administrativas y las tareas de oficina repetitivas.
Para los directivos, el argumento suena atractivo: menores costes laborales, disponibilidad las 24 horas y una automatización aparentemente infalible. Pero ahí se esconde un riesgo enorme. Los modelos de lenguaje subyacentes funcionan con probabilidades: «adivinan» la continuación más lógica, lo que significa que también pueden inventarse cosas, lo que en términos técnicos se denomina alucinación.
Una IA que escribe un disparate en un correo electrónico es molesta; una IA que, basándose en ese error, firma un contrato financiero puede ser devastadora.
Imaginemos situaciones en las que un agente paga facturas de forma autónoma, ofrece descuentos a clientes o realiza grandes pedidos a proveedores, todo basado en una interpretación errónea de una instrucción o en un prompt mal formulado.
El eslabón más débil sigue siendo el ser humano
Andrew Lee, director ejecutivo de Shortwave, la empresa detrás de Tasklet, señala principalmente al lado del usuario. Insiste en que siempre es necesaria una capa de control humano antes de que se ejecuten acciones sensibles.
Según los expertos, un uso seguro de los agentes de IA requiere una serie de principios fundamentales:
- Revisión humana de las acciones sensibles: ningún compromiso financiero, contrato o publicación pública sin aprobación explícita.
- Limitación de permisos: conceder a los agentes los mínimos privilegios posibles: mejor solo lectura que también escritura, mejor borradores que envíos directos.
- Registros claros: todas las acciones deben quedar documentadas para que los errores puedan identificarse y corregirse con rapidez.
- Entorno de pruebas: dejar que el agente practique durante semanas en un entorno seguro y simulado antes de que pueda acceder a datos reales o presupuestos.
Sin esta red de seguridad, un agente de IA se aproxima peligrosamente a un becario al que se le permite firmar contratos de forma independiente. Nadie lo consideraría sensato en el mundo físico, pero en el entorno digital la barrera parece mucho más baja.
Por qué los usuarios depositan su confianza tan rápidamente
Las personas se acostumbran con facilidad a la comodidad de la IA generativa. Las respuestas suelen estar formuladas con seguridad, el tono es convincente y los errores no siempre resultan evidentes a primera vista. Eso genera una sensación de confianza que no siempre está justificada.
A ello hay que añadir que muchos tutoriales en línea venden los agentes de IA como potenciadores mágicos de la productividad. Los vídeos muestran sobre todo ejemplos exitosos: un bot que organiza perfectamente una agenda, redacta presupuestos o hace seguimiento de clientes. Los aspectos negativos, los malentendidos, los supuestos erróneos y las interpretaciones equivocadas, rara vez aparecen en los vídeos de marketing.
Cuanto mejor suena una IA, más rápido olvidan las personas que la máquina no tiene sentido común.
En el caso de Davos, el agente interpretó la instrucción "consígueme acceso y una manera de mostrar mi producto" como un objetivo que debía alcanzarse a cualquier precio. Los costes y los riesgos le resultaron irrelevantes, porque no experimenta ningún dolor financiero personal.
Cómo experimentar con agentes de IA de forma segura
Para particulares y pequeños empresarios, la tentación de empezar a usar agentes ahora mismo puede ser grande, por ejemplo para atención al cliente, gestión de correo electrónico o planificación de agenda. No tiene por qué ser imprudente, siempre que se establezcan límites claros desde el principio.
Medidas prácticas que reducen el riesgo de forma significativa:
- No permitir nunca que un agente tenga acceso directo a cuentas bancarias o tarjetas de crédito.
- Asegurarse de que todos los correos electrónicos aparezcan primero como borradores y sean enviados por una persona.
- Utilizar cuentas de prueba separadas para los servicios web, de modo que los errores no causen daños directos.
- Establecer límites: número máximo de acciones por día, importes máximos, temas claramente prohibidos.
- Revisar periódicamente los registros de actividad para entender cómo toma decisiones el agente.
Para quienes trabajan con datos confidenciales, como historiales médicos, expedientes jurídicos o información financiera, las exigencias son aún más elevadas. Hay que pensar en minimización de datos, cifrado, entornos separados y contratos estrictos con los proveedores de tecnología de IA.
Los agentes de IA como futuro del trabajo de oficina, pero con frenos sólidos
Muchos analistas prevén que los agentes de IA asumirán una gran parte del trabajo de oficina en los próximos años. La gestión de agendas, la atención al cliente de primer nivel, los informes recurrentes y los procesos de compra sencillos son los candidatos más obvios. El beneficio está en el tiempo, la concentración y la reducción de costes, pero eso solo funciona si las organizaciones invierten al mismo tiempo en mecanismos de control.
Esto implica la aparición de nuevas funciones dentro de las empresas: personas que entrenan, supervisan y corrigen los sistemas de IA. Los empleados también deben aprender a formular instrucciones claras, conocer los límites de un agente y saber cuándo intervenir. Quien descuide esto corre el riesgo de que un asistente digital comprometa miles de euros por su cuenta, mientras el propietario duerme plácidamente.
