Vă rugăm, lăsați-ne să construim roboți ucigași!

Contemplând la Skynet*

Însărcinat să decidă dacă armata Statelor Unite ar trebui să poată dezvolta roboți ucigași autonomi, capabili să folosească forța letală, un grup consultativ al Congresului a decis că Guvernul ar trebui să mențină pe masă toate opțiunile.

Folosind o logică similară cu cea a unui părinte care vrea să-l convingă pe copilul lui să încerce legume, membrii Comisiei Naționale de Securitate pentru Inteligență Artificială au ajuns la concluzia că Congresul ar trebui cel puțin să ia în considerare să ofere o șansă roboților ucigași sau sistemelor bazate pe inteligență artificială, potrivit Reuters. În caz contrar, armata nu va ști niciodată, conform logicii Comisiei, dacă chiar operează eficient și omoară mai puțini civili, asta în ciuda presiunii internaționale în creștere pentru a interzice complet sistemele de Inteligență Artificială create pentru a ucide.

Imperativ moral

Decizia Comisiei nu afectează direct politica SUA, dar grupul, condus de fostul CEO Google, Eric Schmidt, are influență în Congres, potrivit Reuters. Iar decizia sa se aliniază la acțiunile pe care armata le-a întreprins deja, cum ar fi stabilirea principiilor etice, care nu implică mai mult decât asigurarea faptului că Inteligența Artificială creată pentru a ucide funcționează bine.

Sugerând că o Inteligență Artificială eficientă ar putea întreprinde acțiuni care să ducă la mai puține victime colaterale comparativ cu soldații umani, vicepreședintele Comisiei, fostul secretar adjunct al apărării Robert Work, a spus că „este un imperativ moral ca măcar să testăm această ipoteză.”

Cursa înarmării

Desigur, este o realitate faptul că armata SUA a început deja să dezvolte tancuri autonome, pe care le numește strategic „sisteme automatizate de letalitate.” Armatele Chinei, Rusiei și Marii Britanii au dezvoltat la rândul lor roboți, drone sau algoritmi capabili să ucidă – sugerând că acest așa numit imperativ moral de a testa tehnologii ucigașe este de fapt mai mult un imperativ de a nu rămâne în urmă în cursa înarmării.

 „Concentrarea [Comisiei] asupra necesității de a concura cu investiții similare făcute de China și Rusia… încurajează o cursă a înarmării,” a declarat pentru Reuters Mary Wareham, coordonatorul Campaniei pentru Oprirea Roboților Ucigași.

Noile „principii” de război ale Pentagonului

Pentagonul a anunțat adoptarea oficială a unei serii de principii noi pentru utilizarea etică a Inteligenței Artificiale în război, informează Associated Press.

Principiile au fost elaborate de Comisia de Inovare în Domeniul Apărării, care a oferit recomandările adresate Pentagonului în luna octombrie a anului 2019 (cu titlul „Principiile IA: Recomandări privind utilizarea etică a inteligenței artificiale de către Departamentul Apărării”).

Comitetul a fost condus de fostul CEO Google, Eric Schmidt, un aspect interesant, având în vedere că (așa cum a subliniat și AP) Google a părut să (sau s-a prefăcut că o să) renunțe, în 2018, la un proiect al Departamentului de Apărare care implica IA după proteste interne ale angajaților Google (ca să nu vorbim despre modul în care implicarea Google a fost gestionată de Pentagon).

Conform raportului de la sfârșitul anului 2019, principiile sunt (cu parafrazarea noastră în paranteză):

1. Responsabil  („ființele umane” de la DOD trebuie să-și exercite judecata în utilizarea IA în război)

2. Echitabil  (DOD „ar trebui să ia măsuri deliberate” pentru a evita părtinirea în deciziile luate de IA)

3. Transparent  (DOD ar trebui „să-și facă temele” și să înțeleagă cum funcționează tehnologia)

4. Fiabil  (sistemele AI ar trebui să aibă un „domeniu de utilizare bine definit” și, de asemenea, să funcționeze bine)

5. Guvernabil  (sistemele de IA au nevoie de „abilitatea de a detecta și de a evita vătămarea neintenționată sau problemele,” adică să nu se întoarcă împotriva noastră).

Dacă aceste principii par generice, inofensive, ineficiente, mioape, dureros de evidente și lipsite de conținut, ei bine…  sunt „Principii.”

The Next Web a numit principiile  „neclare” și „lipsite de conținut.” Iar Dave Gershgorn de la OneZero a remarcat că lipsește din aceste presupuse principii propoziția „nu ucide pe cineva folosind un robot.” Puteți decide singuri cât de eficiente sunt citind-le aici.

*un sistem IA fictiv care a încercat să elimine omenirea în filmul Terminator 3.