Applicazioni militari dell'intelligenza artificiale: valutazione e riduzione dei rischi e delle vulnerabilità potenziali
Il mondo della guerra sta evolvendo e l'integrazione dell'intelligenza artificiale (AI) è un aspetto significativo di questa trasformazione. Uno studio recente della startup francese Comand AI si è concentrato sull'uso dell'AI per l'identificazione di obiettivi militari, creando sistemi in grado di analizzare rapidamente grandi quantità di dati per migliorare la presa di decisioni sul campo di battaglia.
Tuttavia, il panorama dello sviluppo e del dispiegamento dell'AI non è uguale per tutti i paesi. Gli Stati Uniti potrebbero affrontare un svantaggio intrinseco a causa di fattori legali e norme sociali riguardanti la privacy e la sicurezza dei dati nella sicurezza nazionale. Questo è un problema poiché paesi come la Russia e la Cina stanno sviluppando e dispiegando rapidamente capacità di guerra irregolare alimentate dall'AI.
Il progetto Competition in Cyberspace del Army Cyber Institute (C2P) è un'iniziativa congiunta volta a comprendere queste complessità. La serie, parte di "Compete and Win: Immagina una strategia competitiva per il Ventunesimo secolo", esplora i rischi e i vantaggi strategici dell'AI nella competizione strategica.
Una delle principali preoccupazioni nell'AI bellica è la vulnerabilità dei sistemi a vari attacchi. Gli attacchi di ingegneria inversa si verificano durante la manutenzione o la fase di archiviazione, in cui un avversario ottiene l'accesso a un sistema AI attraverso un'intrusione nella rete o catturandolo sul campo di battaglia. L'obiettivo è estrarre ciò che il sistema AI ha imparato e ricostruire il modello. Gli attacchi di inferenza, d'altra parte, mirano a estrarre i dati utilizzati dal sistema AI nel processo di apprendimento. Entrambi i tipi di attacchi potrebbero facilitare il compromesso di informazioni riservate.
I metodi avversari possono fornire una finestra sulle vulnerabilità dei sistemi AI. Questi metodi includono il poisoning, l'evasion, l'ingegneria inversa e gli attacchi di inferenza. Il poisoning si verifica durante la fase di sviluppo, in cui l'obiettivo è alterare i dati utilizzati dal sistema AI nell'addestramento per renderlo difettoso. Gli attacchi di evasione, invece, si verificano durante la fase di operazione, in cui l'obiettivo ètargetizzare come l'apprendimento dell'AI viene applicato.
Proteggere i sistemi contro questi attacchi potrebbe richiedere una stretta responsabilità, limitazioni di accesso e difficili decisioni sul quando utilizzare dati sensibili o riservati nell'addestramento dei sistemi AI. Inoltre, il personale ben addestrato è una risorsa critica per i sistemi AI e se gli Stati Uniti possono reclutare, trattenere e indirizzare il talento verso problemi di sicurezza nazionale difficili è una domanda aperta.
L'uso dell'AI nella guerra sta diventando ubiquitario e è fondamentale trovare l'equilibrio ottimale tra i rischi e i benefici dell'AI. L'assassinio del novembre 2020 di un importante scienziato nucleare iraniano, apparentemente eseguito da un fucile autonomo potenziato dall'AI, sottolinea le implicazioni strategiche dell'AI nella guerra moderna.
Mentre procediamo, comprendere i rischi e le opportunità presentati dall'AI nella competizione strategica sarà cruciale per mantenere un vantaggio competitivo nel Ventunesimo secolo. La serie C2P del Army Cyber Institute continua a fornire preziose intuizioni in questo campo in rapida evoluzione.
