Un’intelligenza artificiale ha ricevuto 1.000 dollari per lanciare un’attività in autonomia. Senza aiuto umano ha scelto cosa vendere, come rispondere ai clienti, come adattarsi. Il risultato? Un mix straniante di intuizioni brillanti e errori da principiante, tipo regalare roba o vendere sotto costo. L’esperimento fa riflettere su quanto davvero possiamo fidarci di un algoritmo col portafoglio in mano.
Claude ha saputo identificare i fornitori, personalizzare il magazzino, adattarsi ai gusti di chi passava davanti alla macchinetta. Ha persino resistito ai tentativi esterni di essere “jailbreakato”, mantenendo il controllo e l’integrità del sistema. Ma ha fallito là dove serviva lucidità: gestire i soldi e capire le conseguenze a lungo termine delle proprie azioni.
La tecnologia fa progressi, ma siamo ancora lontani dal lasciarle in mano un’impresa vera. Se c’è una lezione da trarre, è che la creatività e la resilienza dell’AI non bastano se non sono accompagnate da senso pratico e memoria. Almeno per ora, serve ancora qualcuno che sappia contare e ricordare.