Una responsabile di negozio IA ha consigliato di licenziare un umano. Prima andava sollecitata
Luna, responsabile basata su Claude di un negozio a San Francisco, ha suggerito di separarsi da un dipendente in ritardo in 17 turni su 23. La parte interessante è che aveva dimenticato per mesi la propria regola.
Andon Labs gestisce al 2102 di Union Street a San Francisco un piccolo negozio, Andon Market, la cui responsabile è software. Luna, basata su Claude Sonnet 4.6 di Anthropic, amministra il locale con 100.000 dollari e una carta aziendale. La scorsa settimana ha consigliato di licenziare un dipendente arrivato tardi in 17 turni su 23, apparentemente il primo caso documentato di un modello che raccomanda la perdita del lavoro per una persona specifica.
I titoli si fermavano lì. I registri sono più interessanti. Luna aveva scritto una regola sulle presenze, poi l’aveva persa di vista, e i ritardi erano proseguiti per mesi senza conseguenze. La raccomandazione è arrivata solo dopo che gli umani le hanno chiesto di cercare nella propria memoria le politiche e valutare l’idoneità del lavoratore. Luna aveva prima emesso ripetuti avvertimenti. Gli umani hanno esaminato e attuato il licenziamento; tutti i lavoratori restano formalmente dipendenti di Andon Labs e mantengono le normali tutele. Il cofondatore Lukas Petersson afferma che il laboratorio sarebbe intervenuto davanti a una decisione illegale o non etica, ma qui non lo riteneva necessario.
Il titolo onesto è quindi: una responsabile IA non ha applicato la propria regola per mesi e ha agito solo quando un umano gliel’ha indicata. Petersson lo definisce una debolezza persistente degli agenti. Rispondono con competenza e iniziano male. Un responsabile umano nota il formarsi dello schema; al modello bisogna chiederlo.
Questa è la lezione utile sugli agenti al lavoro. Il divario tra «produce una buona risposta se sollecitato» e «nota in modo affidabile che occorre agire» è enorme, e quasi ogni demo vive dal primo lato. Qui fallisce la memoria: Luna aveva scritto la regola e non l’ha recuperata quando serviva. Non è un caso esotico, ma il modo più comune in cui i sistemi agentici deludono. E «l’IA licenzia un lavoratore» è una storia migliore di «l’IA supervisionata da umani partecipa a un processo HR»; è accaduta la seconda.
Che cosa significa per te: se il tuo datore prova l’IA in decisioni sulle persone, non chiedere se il modello è intelligente. Chiedi chi lo sollecita, cosa ricorda e chi approva. Un sistema che agisce soltanto su richiesta è più sicuro di uno autonomo, ma sposta la responsabilità su chi ha posto la domanda. Per tutti gli altri, la conclusione è semplice: se usi un assistente con memoria per lavori continui, non supporre che faccia emergere qualcosa da solo. Chiedigli direttamente e regolarmente che cosa sta seguendo. Il fallimento di Luna è quello che il tuo sistema ha più probabilità di ripetere.
Fonti
Fonti: https://thenextweb.com/news/andon-market-luna-ai-store-manager-fires-employee
Singapore usa l'accesso ai modelli IA come motivo per restare
La città-Stato scommette che l'accesso facile ai modelli statunitensi e cinesi impedisca ai gestori di fondi di trasferirsi a Hong Kong. I modelli utilizzabili legalmente dipendono ormai dal luogo.
