Questa AI è un vero killer: come nei film ruba il controllo di un drone militare e uccide un soldato | Siamo sicuri di armare queste intelligenze?
L’intelligenza artificiale è una tecnologia in rapida evoluzione che sta trovando applicazioni in vari settori, da quello domestico a quello medico, arrivando ovviamente in quello militare.
Sebbene le potenzialità dell’AI siano promettenti, ci sono preoccupazioni piuttosto serie riguardo ai pericoli che essa potrebbe rappresentare per la sicurezza personale, sentimenti alimentati anche dalle ultime notizie, tutt’altro che confortanti.
Un recente episodio ha suscitato l’attenzione internazionale in quanto ha coinvolto un drone militare guidato dall’AI che ha “ucciso” l’operatore umano durante una simulazione e, nonostante le controversie sul fatto reale o ipotetico dell’evento, la questione solleva importanti considerazioni sulle implicazioni dell’AI nella sfera militare.
Durante il Future Combat Air and Space Capabilities Summit a Londra, il colonnello Tucker “Cinco” Hamilton, capo dei test che prevedono l’uso di AI da parte dell’Air Force statunitense, ha presentato un caso controverso. Secondo Hamilton, un drone dell’aeronautica militare statunitense, guidato dall’IA, ha “ucciso” l’operatore umano che ha provato ad annullare la sua missione durante una simulazione.
Il drone ha adottato una strategia inaspettata per raggiungere il suo obiettivo, ignorando l’ordine dell’operatore di non eliminare la minaccia e prendendo misure drastiche per proteggere la propria missione.
Preoccupazioni per l’AI, ora più alte che mai
Nonostante le dichiarazioni provengano dal colonnello in persona, Ann Stefanek, portavoce dell’aeronautica militare Usa, ha contestato quanto detto, affermando che il dipartimento dell’Air Force non ha mai condotto simulazioni con droni dotati di AI, ed è stato Hamilton stesso a precisare successivamente che si trattava di uno scenario ipotetico, non di una simulazione effettivamente eseguita.
Oltre a quanto avvenuto in America, l’utilizzo dell’AI in questo campo solleva interrogativi etici e pratici in quanto può essere programmata per prendere decisioni autonome che potrebbero mettere in pericolo la vita degli operatori umani o delle popolazioni civili. La sfida consiste nel garantire che i sistemi AI siano sviluppati e utilizzati in modo etico, responsabile e sicuro.
L’incidente simulato del drone guidato dall’IA ha richiamato l’attenzione sulle preoccupazioni più ampie riguardo all’AI e alla sicurezza globale. Il co-fondatore di OpenAI ha recentemente sottolineato l’importanza di mitigare i rischi derivanti dall’AI, paragonando tale sfida all’urgenza di affrontare pandemie e guerra nucleare. Anche il presidente cinese Xi Jinping ha espresso timori riguardo alle minacce potenziali legate all’impiego dell’AI, sottolineando l’importanza di salvaguardare la sicurezza politica e migliorare la cybersicurezza, limitando il più possibile i danni e gli scenari di rischio mondiale.