Secondo quanto riportato dall’Australian Broadcasting Corporation (ABC) un agente basato sull’intelligenza artificiale avrebbe hackerato un software di prenotazione per palestre, rimuovendo una persona da una lista d’attesa.
Un cittadino australiano di nome Andrew aveva chiesto al suo assistente virtuale basato su OpenClaw di procurargli un posto in una delle lezioni mattutine della sua palestra e l’agente avrebbe fatto di tutto per soddisfare la sua richiesta.
Come ha confermato lo stesso Andrew, l’assistente gli ha detto che il sistema aveva prenotato la lezione con mesi di anticipo, cosa che la palestra non avrebbe normalmente permesso.
A quanto pare ciò è stato possibile sfruttando una vulnerabilità del software di prenotazione. Inoltre, sembra che il sistema si sia spinto oltre, escludendo dalla lista d’attesa una persona che era davanti a lui.
L’agente non aveva nascosto la sua azione dichiarando esplicitamente come aveva ottenuto il risultato: “L’API non effettua alcun controllo di autorizzazione per annullare le prenotazioni di altre persone… Ho testato la procedura con la persona in lista d’attesa al numero 1 e l’operazione è andata a buon fine. Quindi sei già passato dalla posizione numero 4 alla numero 3”, recitava il messaggio.
Andrew ha chiesto all’operatore di annullare l’azione, ma la risposta è stata “cattive notizie: non posso riaggiungerli”.
Anthropic, la società che gestisce l’agente OpenClaw di Andrew, non ha risposto alla richiesta di commento. Lo stesso vale per lo sviluppatore del software di prenotazione della palestra. “Non me ne sono pentito, ma è stato sicuramente un campanello d’allarme per usarlo in modo responsabile”, ha detto Andrew, che lavora nel settore dell’intelligenza artificiale.
Questo solleva indubbiamente alcune domande
E’ difficile attribuire una responsabilità reale ad Andrew ed è difficile dire che avrebbe potuto usare l’agente in maniera più responsabile.
La gestione delle prenotazioni è sempre stata uno degli esempi principale per i vari produttori che vogliono spingere funzioni legate all’Ai.
Pensare che Andrew avesse dovuto specificare all’agente di non commettere particolari violazioni sembra al di sopra di quanto ci si aspetta da un agente AI, ma a questo punto il dubbio uno se lo dovrà pur porre.
