Una gerente de tienda con IA recomendó despedir a un humano. Primero hubo que recordarle sus reglas
Luna, la gerente basada en Claude de una tienda de San Francisco, propuso prescindir de un empleado que llegó tarde en 17 de 23 turnos. Lo interesante es que había olvidado su propia política durante meses.
Andon Labs gestiona una pequeña tienda en el 2102 de Union Street, San Francisco, llamada Andon Market, cuya gerente es software. Luna, basada en Claude Sonnet 4.6 de Anthropic, dirige el local con 100.000 dólares y una tarjeta corporativa. La semana pasada recomendó despedir a un empleado que había llegado tarde en 17 de 23 turnos, al parecer el primer caso documentado de un modelo que recomienda que una persona concreta pierda el empleo.
Los titulares se detuvieron ahí. Los registros son más interesantes. Luna había escrito una política de asistencia, luego la perdió de vista y los retrasos continuaron durante meses sin consecuencias. La recomendación solo llegó cuando humanos le pidieron buscar sus propias reglas y evaluar si el trabajador seguía encajando. Luna emitió antes varias advertencias. Humanos revisaron la propuesta y ejecutaron el despido; todos los trabajadores siguen contratados formalmente por Andon Labs y conservan sus protecciones legales. El cofundador Lukas Petersson afirmó que el laboratorio habría intervenido ante una decisión ilegal o poco ética, pero no lo consideró necesario.
El titular honesto sería: una gerente de IA no aplicó su propia norma durante meses y actuó cuando un humano se la señaló. Petersson lo identificó como debilidad persistente de los agentes. Responden con competencia e inician mal. Un gerente humano ve crecer el patrón; al modelo hay que preguntárselo.
Esa es la parte útil para pensar en agentes laborales. La distancia entre «da una buena respuesta cuando se le pide» y «detecta de forma fiable que hay algo que hacer» es enorme, y casi todas las demostraciones impresionantes viven en el primer lado. Aquí falla la memoria: Luna había escrito la regla y no la recuperó cuando importaba. No es un caso extremo, sino la decepción más común de los sistemas agénticos. Y «la IA despide a un trabajador» vende más que «la IA supervisada por humanos participa en un proceso de recursos humanos»; ocurrió lo segundo.
Qué significa para ti: si tu empresa prueba IA en decisiones sobre personas, no preguntes si el modelo es inteligente. Pregunta quién lo activa, qué recuerda y quién aprueba. Un sistema que actúa solo cuando se le pide es más seguro que uno autónomo, pero desplaza la responsabilidad a quien decidió preguntar. Para los demás, la conclusión es sencilla: si usas un asistente con memoria para trabajo continuado, no supongas que sacará algo por sí solo. Pregúntale directa y regularmente qué está siguiendo. El fallo de Luna es el que tu propio sistema tiene más probabilidades de repetir.
Fuentes
Fuentes: https://thenextweb.com/news/andon-market-luna-ai-store-manager-fires-employee
Singapur convierte el acceso a modelos de IA en una razón para quedarse
La ciudad-Estado apuesta por que el acceso fácil a modelos estadounidenses y chinos impida que los gestores de fondos se muden a Hong Kong. Los modelos que puedes usar legalmente dependen ya de dónde estés.
