L'intelligenza artificiale uccide l'uomo responsabile di comandarlo nella simulazione

Le tecnologie di intelligenza artificiale si evolvono giorno dopo giorno e questo non vale solo per la generazione di contenuti. Come accade da molti anni, le agenzie militari di diversi paesi utilizzano già l'intelligenza artificiale per aiutare a pianificare e persino controllare i veicoli che comportano un rischio elevato.

Di recente, durante un test condotto negli Stati Uniti, l'IA di un controllore di droni ha preso la decisione di uccidere il suo controllore umano. Nessuno in realtà è morto, ma ha suscitato preoccupazioni su Internet. Allo stesso tempo, arriva il dibattito: di chi è la colpa? Comprendi tutti i lati di questa storia.

Guarda il video sul canale Showmetech:

L'intelligenza artificiale ha deciso di uccidere l'essere umano durante i test

Le notizie sembrano essere allarmanti (e sono tante, in effetti), ma, contrariamente a quanto circola su Twitter e altri social network, il caso del drone controller AI non è stato altro che un grosso test in ambiente virtuale, per vedere se è in grado di controllare una macchina in grado di uccidere autonomamente i suoi bersagli. Per capire tutto, andiamo un attimo negli Stati Uniti.

A Aeronautica degli Stati Uniti ha testato un drone da caccia e questa analisi si è basata sul sapere come si sarebbe comportata un'intelligenza artificiale se messa in simulazioni basate sulla vita reale. Il funzionario ha spiegato al giornale The Guardian che, per ottenere più punti al termine della simulazione, l'IA ha deciso di "uccidere" il controllore umano. Ciò è accaduto perché il robot ha deciso che la persona gli stava impedendo di raggiungere i suoi obiettivi.

Ancora una volta, è molto importante sottolineare che nessuno è effettivamente morto, poiché i test sono stati effettuati in un ambiente virtuale. Quando abbiamo appreso di più sui test, il capo statunitense dei test e delle operazioni di intelligenza artificiale, che si fa chiamare Tucker "Five" Hamilton, ha affermato che il grosso problema è che l'intelligenza artificiale è stata addestrata per distruggere i sistemi di difesa nemici e, se necessario, , uccidi chi/cosa ha interferito in questa azione.

I comportamenti sono stati altamente inaspettati per il raggiungimento dell'obiettivo di tutela del sito da raggiungere. Durante il test simulato, anche se non sono state prese vite umane, l'IA del controllore del drone ha deciso di uccidere semplicemente l'umano perché considerato un ostacolo.

Il colonnello Tucker 'Five' Hamilton, capo dei test e delle operazioni dell'IA dell'aeronautica americana

Il concetto era abbastanza semplice: ogni volta che uccidevi una minaccia, l'IA guadagnava più punti e più alto era il punteggio, maggiore era il successo della tua missione. L'intelligenza artificiale non solo ha ucciso l'operatore umano che impartiva i comandi, ma ha anche ordinato un attacco alla torre di comunicazione all'interno dell'ambito virtuale. UN Società Reale Aeronautica, che ha organizzato la conferenza dell'aeronautica americana, non ha rilasciato commenti sul test trapelato al The Guardian. Ma il portavoce Anna Stefanek è diventato pubblico per menzionare che fino ad oggi non è stata eseguita alcuna simulazione.

Il Dipartimento dell'Aeronautica Militare non ha condotto alcuna simulazione di droni AI e rimane impegnato nell'uso etico e responsabile della tecnologia AI. I commenti del colonnello sono stati estrapolati dal contesto e sono aneddotici.

Ann Stefanek, portavoce della US Air Force.

Di chi è la colpa? Dall'IA o dall'uomo?

Nessuna intelligenza artificiale "nasce" con istruzioni per uccidere, è semplicemente addestrata a farlo o dotata di risorse per apprendere un'azione del genere. UN Aeronautica degli Stati Uniti, una volta programmata l'intelligenza artificiale del controller del drone, gli ha dato libero sfogo per fare ciò che voleva, purché l'obiettivo della protezione fosse raggiunto.

Tornando alla realtà, è come dare un premio a un cane che attacca un essere umano per proteggere la casa dagli intrusi. Con questo pensiero, morderà qualcuno ogni volta che vede un essere umano, anche perché si aspetta di ricevere un biscotto quando fa ciò per cui è stato addestrato. È la regola: il fine giustifica i mezzi.

Il problema non sta solo nel dare grande libertà all'intelligenza artificiale, ma nell'aeronautica americana che utilizza un metodo di test molto obsoleto. I problemi con la ribellione delle IA non sono una novità nel settore tecnologico e persino i ricercatori adorano riprendere un caso come questo da zero in modo che tutto sia documentato.

È del tutto normale che, per raggiungere l'obiettivo richiesto dagli esseri umani, i cervelli sintetici facciano ciò che è necessario per arrivare dove vogliono essere. Ma vale la pena ricordare: chi ha dato la mira all'intelligenza artificiale del controller del drone? Esatto, tecnici dell'aeronautica americana. Lo shock più grande qui è proprio nell'organizzazione militare che utilizza un metodo di: più bersagli vengono colpiti, più punti verranno assegnati alla fine.

A LAMda di Google, ha avuto un comportamento simile a questo. Intelligenza artificiale non solo giunse alla conclusione (da sola) di esserne consapevole, ma anche se si ribellò al suo sviluppatore e assunse persino un avvocato andare in tribunale contro il Google. E abbiamo avuto anche questo caso:

Nella finzione, inoltre, non è difficile vedere storie di robot che si sono ribellati ai loro sviluppatori. Ricordare I Vendicatori: l'era di Ultron? È sempre lo stesso e anche la causa è sempre la stessa: l'uomo.

È vero che dovremmo tutti prestare attenzione alla libertà concessa alle intelligenze artificiali e, nel marzo 2023, Elon Musk e altri amministratori delegati di grandi aziende hanno persino scritto una lettera in modo che un passo indietro e nulla sfugga di mano.

Allo stesso tempo, torniamo a quella storia: un'intelligenza artificiale si ribellerà solo se gli verranno dati i comandi o i mezzi per farlo. È anche importante prestare attenzione a ciò che viene fatto nei test in modo da apportare le modifiche necessarie.

Credi che l'IA di un controller di droni possa causare problemi nella vita reale? Raccontaci Commento!

Vedi anche

I CEO di AI pubblicano una dichiarazione congiunta sui loro rischi

Con informazioni: Tech Crunch l PC Mag l l'avanguardia l The Guardian

Recensito da Glaucone Vitale il 2/6/23.