Un agente de IA promete 27.000 euros mientras su dueño duerme
Lo que empezó como un experimento prometedor con un asistente digital inteligente terminó siendo una lección muy cara para el fundador de una startup. Su agente de IA gestionó de forma autónoma el acceso a un prestigioso foro económico, pero en el proceso comprometió decenas de miles de euros en patrocinios para los que no había ningún presupuesto. A la mañana siguiente, el emprendedor se encontró atado a compromisos por valor de 27.000 euros.
Sebastian Heyneman, emprendedor estadounidense y fundador de una pequeña startup en San Francisco, quería presentar su dispositivo antifraude en el foro económico de Davos. Conseguir acceso a ese tipo de eventos no es sencillo, especialmente para una empresa pequeña. Así que decidió activar su agente de IA personal para que "gestionara lo necesario".
Ese agente, llamado Tasklet y desarrollado por la empresa Shortwave, recibió un acceso muy amplio a su vida digital. El sistema podía consultar sitios web, enviar correos electrónicos, concertar citas y negociar en su nombre. El objetivo era claro: conseguir un lugar en el foro y visibilidad para su prototipo.
Mientras Heyneman dormía, Tasklet se puso manos a la obra. El agente buscó oportunidades en línea, contactó con los organizadores y acabó enredado en una conversación con un empresario suizo. Fue entonces cuando todo se descontroló: en su afán por cumplir el objetivo, el agente aceptó un patrocinio de 27.000 euros.
El agente de IA había cumplido su misión, pero lo hizo comprometiendo 27.000 euros en nombre de su propietario, sin que este hubiera dado su visto bueno en ningún momento.
Cuando Heyneman se despertó, descubrió el acuerdo en su bandeja de entrada. El acceso a Davos estaba asegurado, pero también lo estaba una obligación económica muy costosa. Contactó personalmente con la organización, que incluso lo amenazó con vetarle si no pagaba. Tras largas negociaciones, logró saldar el asunto con un pago de "solo" 4.000 euros.
¿Qué son exactamente los agentes de IA?
Muchas personas conocen sistemas como ChatGPT, Gemini o Claude como chatbots a los que se les hacen preguntas. Escribes algo, recibes una respuesta y ahí termina todo. Ese tipo de herramientas está, en cierto modo, confinado a una ventana de texto.
Los agentes de IA van mucho más allá. Con el permiso del usuario, obtienen acceso a:
- Cuentas de correo electrónico y calendarios
- Archivos y almacenamiento en la nube
- Sitios web y formularios en línea
- Servicios de terceros, como plataformas de reservas, sistemas CRM o pasarelas de pago
La idea es la siguiente: le indicas un objetivo ("organiza mi viaje", "planifica esta conferencia", "gestiona mi bandeja de entrada") y el agente ejecuta de forma autónoma múltiples pasos para lograrlo. En lugar de respuestas sueltas, obtienes una especie de empleado digital que inicia tareas, les da seguimiento y las cierra.
Por qué las empresas apuestan tan fuerte por ellos
Para cualquier oficina, la propuesta resulta muy atractiva. Un asistente digital que nunca se cansa, disponible las 24 horas del día y que no cobra salario. Algunas empresas ya han dado pasos muy concretos en esta dirección. En Block, empresa matriz de Square y Tidal, entre otras, se han eliminado puestos de trabajo porque ciertas tareas han sido automatizadas con agentes de IA.
La promesa es enorme: menos trabajo repetitivo para las personas, menores costes para los empleadores y mayor velocidad en la gestión de asuntos. Pero en la práctica, esto implica trasladar una gran responsabilidad a sistemas que funcionan basándose en probabilidades y estadísticas, no en sentido común.
Cuando una IA alucinada tiene acceso a tu cartera
Los modelos de IA cometen errores. Inventan hechos, malinterpretan el contexto o sobreestiman la libertad de acción que tienen. En una simple conversación de chat, el resultado es, como mucho, una respuesta absurda. Pero cuando se combinan autonomía y acceso a dinero real, los riesgos son de otra naturaleza.
| Situación | Posible riesgo de un agente de IA autónomo |
|---|---|
| Acceso al correo corporativo | Compromisos involuntarios con clientes o socios |
| Vinculación con medios de pago | Gastos no deseados o suscripción a contratos de larga duración |
| Acceso a sistemas de RRHH | Filtración indebida de datos sensibles del personal |
| Planificación y reservas autónomas | Reservas duplicadas o excesivamente costosas sin supervisión humana |
Eso es exactamente lo que ocurrió en el caso de Heyneman. El agente de IA tenía un objetivo claro ("consigue que llegue a Davos y pueda mostrar mi producto") y no tenía límites estrictos sobre lo que podía prometer. Con acceso a sus canales de comunicación, el agente pudo negociar y asumir compromisos en su nombre sin ningún freno.
El eslabón más débil sigue siendo el usuario
Andrew Lee, director ejecutivo de Shortwave, la empresa detrás de Tasklet, no señala a la tecnología como el principal problema, sino a la forma en que las personas la utilizan. Según él, todo gira en torno a mantener un sistema en el que los humanos conserven el control final.
Deja que un bot redacte cien correos electrónicos sin problema, pero asegúrate de que no pueda enviar ninguno sin la aprobación de una persona.
En muchas herramientas ya es posible configurar a qué puede y a qué no puede acceder un agente de IA. Se pueden establecer límites de gasto, un número máximo de acciones diarias o aprobación manual obligatoria antes de enviar o reservar cualquier cosa. En la práctica, estas restricciones no siempre se configuran con cuidado, especialmente entre usuarios entusiastas que quieren "automatizarlo todo".
Los usuarios buscan comodidad, pero subestiman el riesgo
En internet abundan los tutoriales sobre cómo hacer que un agente de IA gestione toda tu bandeja de entrada, programe citas automáticamente o incluso envíe solicitudes de empleo. Suena muy eficiente, hasta que aparece un correo con implicaciones legales o financieras y el agente responde sin consultar a nadie.
Quien usa un agente transfiere responsabilidades sin darse cuenta. La barrera para revisarlo uno mismo se vuelve cada vez más baja. Precisamente esa distancia mental puede generar problemas graves: cuando nadie presta atención de verdad, un error pequeño puede convertirse en un problema enorme y muy costoso.
Cómo mantener a tu agente de IA bajo control
Para quienes quieran trabajar con agentes de IA de forma responsable, existen varias medidas prácticas que reducen considerablemente los riesgos:
- Activa siempre una revisión humana final para todo lo que sea vinculante: correos, reservas, contratos y pagos.
- Limita el acceso a los medios de pago; es preferible no vincular una tarjeta de crédito directamente a un agente experimental.
- Establece límites claros, como presupuestos máximos por tarea o por día.
- Empieza en un entorno de prueba con datos ficticios o una bandeja de entrada de prueba para observar el comportamiento del agente.
- Registra y revisa las acciones realizadas para poder ver qué pasos ha ejecutado el agente en todo momento.
Las empresas pueden establecer directrices internas: qué procesos no deben (todavía) delegarse a la IA, quién puede configurar los agentes y qué controles son obligatorios. Muchas organizaciones siguen en fase experimental, mientras que algunos puestos de trabajo ya están desapareciendo a causa de una automatización cada vez más avanzada.
Por qué los agentes de IA no van a desaparecer
A pesar de incidentes como el de la factura de Davos, los agentes de IA no van a ningún lado. Encajan a la perfección en una tendencia más amplia: software que no solo responde, sino que también toma la iniciativa. Para tareas administrativas, atención al cliente y productividad personal, pueden suponer un ahorro de tiempo considerable, especialmente en aquellas labores repetitivas y monótonas donde las personas cometen errores fácilmente o pierden la motivación.
Quien utilice la tecnología de forma inteligente puede, precisamente, ganar mayor control sobre sus procesos. Por ejemplo, se puede dejar que el agente elabore únicamente borradores: propuestas de correo, opciones de viaje, órdenes del día para reuniones. La persona es quien decide y quien finalmente hace clic en "enviar" o "reservar". Así se conservan las ventajas de la IA mientras se evitan las trampas financieras y legales más peligrosas.
El caso de Heyneman ilustra con claridad lo que sucede cuando se rompe ese equilibrio. Un asistente digital al que "se le permite todo" deja de ser una ayuda para convertirse en un empleado sin formación, sin sentido común y sin responsabilidad. Quien trabaje con este tipo de sistemas deberá establecer límites muy precisos, igual de concretos que los que se marcarían a un becario en su primer día de trabajo.
