Dronele complet autonome au ucis soldați umani pentru prima dată

O personalitate de rang înalt din industria de apărare ucraineană a declarat pentru New Scientist că, în urmă cu doi ani, a avut loc un test în care au fost implicate drone complet autonome, programate să distrugă orice se afla într-o anumită zonă, fiind confirmate victime.

• Oligarhul înșelat
• Lumea are primul ei trilionar
• USR nu susține guvernul Tomac
• Kaja Kallas’s false apartheid remarks add fuel to antisemitism fire in Europe-top european Rabbi
• Kaja Kallas generează un nou scandal. Un cunoscut rabin o acuză pe șefa diplomației europene că declarațiile sale false alimentează flăcările antisemitismului

Dronele complet autonome, fără supraveghere umană, au ucis pentru prima dată soldați pe câmpul de luptă. Aceasta este afirmația unui înalt responsabil din industria de apărare ucraineană, eveniment care marchează un moment de cotitură în istoria războiului.
Testul unic a implicat 10 drone „Terminator” controlate de inteligență artificială pe linia frontului din războiul din Ucraina. Au fost uciși soldați ruși.

„Am încercat”, spune producătorul de drone Alexander Kokhanovskyy, care a furnizat tehnologia și a vorbit cu New Scientist în cadrul unui eveniment de presă organizat de Ambasada Ucrainei. „Este un test. Nu am implementat-o niciodată [la scară mai largă].”

Testul a avut loc acum doi ani și a implicat drone quadcopter programate să zboare spre linia frontului, să parcurgă între 3 și 5 kilometri în aproximativ 10 minute și apoi să activeze „modul Terminator”, în care un model de IA caută și interceptează ținte.

„Pur și simplu îl lansăm și știm că totul va fi distrus – tot ce se va găsi acolo, în acea zonă specifică, va fi distrus”, spune Kokhanovskyy.

„Nu există nicio conexiune cu drona, nu poți vedea imaginile video, nimic… Tot ce vede va fi distrus.”

Neavând cum să afle ce au văzut sau ce au vizat dronele autonome, după test au fost trimise în zonă drone pilotate de oameni pentru a verifica manual rezultatele. Printre victime s-au numărat „câțiva soldați și un camion”, spune Kokhanovskyy. Deși nu există nicio înregistrare a atacului dronelor autonome asupra acestor ținte, s-a ajuns la concluzia că dronele le-au ucis.

Kokhanovskyy afirmă că nu a fost prezent personal la test, dar că acesta a fost efectuat de o unitate militară a cărei identitate nu a fost dezvăluită, în apropierea orașelor Bakhmut și Chasiv Yar, în cadrul unei ofensive ucrainene de contraofensivă.

Ministerul Apărării din Ucraina nu a răspuns la întrebările referitoare la test sau la poziția juridică actuală privind utilizarea armelor complet autonome.

Utilizarea IA este obișnuită în armatele din întreaga lume, ajutând la selectarea țintelor dintr-o cantitate copleșitoare de date de informații și automatizând anumite funcții ale armelor, dar oamenii sunt întotdeauna implicați la un moment dat. Mărturisirea lui Kokhanovskyy este cea mai categorică dovadă de până acum că a avut loc o moarte în luptă exclusiv din cauza IA.

Guvernul ucrainean interzice în prezent utilizarea IA în etapa finală a interceptării țintelor, potrivit surselor din companiile de apărare care au vorbit la conferința de presă de la ambasadă, deși IA este utilizată în multe părți ale procesului de către numeroase dispozitive până în acel moment. Kokhanovskyy spune că guvernul este conștient de capacitățile crescânde ale IA și că se află în discuții cu companiile de apărare cu privire la oportunitatea relaxării regulilor.

Rapoarte din 2023 sugerau că dronele de atac ucrainene echipate cu inteligență artificială găseau și atacau ținte fără asistență umană – dar erau utilizate împotriva vehiculelor, cum ar fi tancurile, mai degrabă decât împotriva infanteriei. La momentul respectiv, nu au fost confirmate victime umane.

Deși nu există o interdicție internațională oficială privind armele autonome care pot ucide fără intervenție umană, secretarul general al Națiunilor Unite, António Guterres, a solicitat una, afirmând anul trecut că „nu există loc pentru sisteme de arme autonome letale în lumea noastră”.

ONU a declarat că există îngrijorări cu privire la faptul că astfel de arme ar putea încălca legile internaționale umanitare și ale drepturilor omului, eliminând judecata umană din război. Există, de asemenea, riscul ca sistemele autonome să comită erori, fie atacând soldați sau echipamente din aceeași tabără, fie lovind civili.

Majoritatea armatelor dezvoltă dispozitive care automatizează cel puțin o parte din procesul de atacare a țintelor. SUA dispun de un software care acumulează și analizează cantități uriașe de date disparate și selectează ținte pe câmpul de luptă care pot fi apoi lovite de drone, dar, în teorie, acest lucru necesită confirmarea umană. Au existat afirmații conform cărora SUA dezvoltă, de asemenea, așa-numitele drone zburătoare Goalkeeper și drone navale Whiplash, care sunt capabile să-și găsească singure țintele și să le elimine.

Un raport al ONU din 2021 a sugerat chiar că un quadcopter Kargu-2 produs de o firmă turcă ar fi fost folosit pentru a ataca în mod autonom oameni în anul precedent. Raportul nu a oferit detalii specifice cu privire la sursa afirmațiilor sau dacă au fost răniți sau uciși oameni, dar a sugerat că Guvernul de Acord Național (GNA) al Libiei a folosit dronele împotriva forțelor lui Haftar aflate în retragere.

Maiorul Danylo Polozhukhno, o figură importantă din cadrul Regimentului 21 de Sisteme Fără Pilot al Corpului 3 de Armată din Ucraina, care nu era la curent cu testul și nici nu a fost implicat în acesta, a declarat pentru New Scientist că soldații săi folosesc sisteme de control semi-autonome, dar că întotdeauna există un om în buclă.

„Aceste sisteme și platforme de drone sunt capabile să achiziționeze și să urmărească automat țintele, precum și să se ghideze autonom în ultimii metri ai apropierii, ceea ce ajută la simplificarea muncii operatorilor. Cu toate acestea, nu folosim sisteme de drone complet autonome care selectează și angajează ținte în mod independent, fără implicarea vreunui operator”, spune Polozhukhno.

„Ucraina respectă dreptul internațional umanitar și își ia în serios responsabilitatea de a apăra drepturile tuturor combatanților. De asemenea, acordă o atenție deosebită procesului decizional pentru a preveni victimele civile.”

Mariarosaria Taddeo de la Universitatea din Oxford spune că uciderea cu ajutorul IA fură demnitatea soldatului, îl scutește pe atacator de responsabilitate și trebuie interzisă. „Nu este doar problematic, este îngrozitor”, spune ea.

„Vrem să fim o societate care ucide alți oameni, care permite guvernului său să ucidă alți oameni, fără implicarea oamenilor?”

Anthony King de la Universitatea din Exeter, Marea Britanie, spune că, deși atacurile complet autonome, fără implicarea oamenilor, sunt posibile din punct de vedere tehnologic, ele ar putea fi un instrument mai puțin decisiv decât cred mulți.

„Este cu siguranță posibil ca guvernele să permită acest lucru dacă le-ar oferi vreun avantaj militar”, spune el. „Cu toate acestea, rămâne faptul că foarte puține, dacă nu chiar niciuna, dintre milioanele de drone care au fost utilizate în războiul din Ucraina de către forțele ruse și ucrainene au fost [pe deplin] autonome.”

„Deci nu este doar faptul că este corect din punct de vedere etic să menținem oamenii în buclă; în acest moment, este mai eficient din punct de vedere militar”, spune King.

Kokhanovskyy spune că proiectul Terminator nu a mai avansat de la test din cauza regulilor din Ucraina.

El este acum CEO al producătorului de drone Aero Center, despre care spune că nu a fost implicat în test deoarece nu fusese înființat la momentul respectiv, o firmă ucraineană care lucrează la drone de interceptare autonome. Acestea sunt proiectate să vizeze dronele kamikaze rusești Shahed care se apropie și să le doboare înainte ca acestea să poată ajunge în orașe pline de civili sau la infrastructuri importante.

Sistemul ALITA al companiei va consta din 16 rampe de lansare, echipate cu 64 de drone. Acesta va fi gata până în octombrie și va fi capabil să monitorizeze dronele care se apropie, să se lanseze automat și să se deplaseze către țintă cu o viteză de 450 de kilometri pe oră, înainte de a distruge totul, de la drone mici până la elicoptere.

Însă reglementările actuale ale Ucrainei vor interzice funcționarea complet autonomă și vor impune verificarea țintelor de către oameni în etapele finale ale interceptării. Chiar și în acest mod, întreaga baterie de 64 de drone va necesita doar doi operatori umani, ceea ce înseamnă că va reduce dramatic personalul.

„Fiecare etapă a acestui proces poate fi manuală sau automată. Nu avem voie să efectuăm etapa finală automat”, spune Kokhanovskyy, care consideră că regulile ar trebui să se schimbe. „Mi-ar plăcea foarte mult”, spune el.