De geest van de machinemoordenaar blijft bestaan. Waar gelooft president Poetin in?

Voorstanders van militaire robots (1) stellen dat geautomatiseerde wapens meer mogelijkheden bieden om mensenlevens te beschermen. Machines kunnen dichter bij de vijand komen dan soldaten en de dreiging correct inschatten. En emoties verlammen soms het vermogen om de juiste beslissingen te nemen.

Veel voorstanders van killer-robots zijn ervan overtuigd dat ze oorlogen minder bloedig zullen maken omdat er minder soldaten zullen sterven. Ze merken op dat robots, hoewel ze geen medelijden hebben, immuun zijn voor negatieve menselijke emoties zoals paniek, woede en wraak, die vaak tot oorlogsmisdaden leiden.

Mensenrechtenactivisten gebruiken ook het argument dat het leger de afgelopen halve eeuw heeft geleid tot een enorme vermindering van het aantal burgerslachtoffers, en dat de robotisering van het leger een mechanisme mogelijk maakt om de oorlogswetten strenger af te dwingen. Ze beweren dat machines ethisch zullen worden als ze worden uitgerust met software die hen zal dwingen de oorlogswetten te gehoorzamen.

Natuurlijk deelt een groot aantal mensen, waaronder zeer bekende, deze mening al jaren niet. In april 2013 werd een internationale campagne gelanceerd onder de slogan (2). Binnen dit raamwerk eisen niet-gouvernementele organisaties een volledig verbod op het gebruik van autonome wapens. Deskundigen uit vele landen gingen voor het eerst om de tafel om dit onderwerp te bespreken tijdens de VN-conferentie over ontwapening in Genève in mei 2014. Een rapport dat een paar maanden later werd gepubliceerd door Human Rights Watch en wetenschappers van de Harvard University zeiden dat de autonome voertuigen te gevaarlijk zouden zijn - ze kozen hun eigen doelen en doodden mensen. Tegelijkertijd is het niet erg duidelijk wie verantwoordelijk moet worden gehouden.

2. Demonstratie in het kader van de actie "Stop killer robots"

Wat een zwerm kleine drones kan doen

Geschillen rond killer robots (ROU) duren al jaren en verdwijnen niet. De afgelopen maanden hebben nieuwe pogingen ondernomen om militaire robots te stoppen en een golf van berichten over dit soort nieuwe projecten, waarvan sommige zelfs in echte gevechtsomstandigheden worden getest.

In november 2017 is een video te zien dodelijke zwermen mini-drones ., in angstaanjagende actie. Kijkers hebben gezien dat we niet langer de zware oorlogsmachines, tanks of raketten nodig hebben die door de Predators worden gegooid om massaal en met machinegeweren te doden. Hoofddirecteur Stuart Russell, hoogleraar kunstmatige intelligentie aan Berkeley, zegt:

-

Vorige lente vijftig professoren 's Werelds toonaangevende universiteiten hebben een oproep ondertekend aan het Korea Institute of Advanced Science and Technology (KAIST) en haar partner Hanwha Systems. ze kondigden aan dat ze niet zouden samenwerken met de universiteit en KAIST-gasten zouden ontvangen. De reden was de constructie van ‘autonome wapens’, uitgevoerd door beide instellingen. KAIST ontkende de berichten in de media.

Kort daarna in de VS meer dan drie Google-medewerkers protesteerde tegen het werk van het bedrijf voor het leger. Ze waren bezorgd dat Google samenwerkte met een overheidsproject met de codenaam Maven dat tot doel heeft AI te gebruiken om objecten en gezichten te herkennen in militaire drone-video's. Het management van het bedrijf zegt dat het doel van Maven is om levens te redden en mensen te behoeden voor saai werk, en niet voor agressie. De demonstranten waren niet overtuigd.

Het volgende deel van de strijd was de verklaring deskundigen op het gebied van kunstmatige intelligentie, incl. werken aan een Google-project en Elon Musk. Ze beloven geen robots te ontwikkelen. Ze roepen regeringen ook op om hun inspanningen op te voeren om deze wapens te reguleren en te beperken.

De verklaring zegt gedeeltelijk dat "de beslissing om een ​​mensenleven te nemen nooit door een machine mag worden genomen." Hoewel de legers van de wereld zijn uitgerust met veel automatische apparaten, soms met een hoge mate van autonomie, vrezen veel experts dat deze technologie in de toekomst volledig autonoom kan worden, waardoor doden mogelijk wordt zonder enige tussenkomst van een menselijke operator en commandant.

Deskundigen waarschuwen ook dat autonome moordmachines zelfs nog gevaarlijker kunnen zijn dan ‘nucleaire, chemische en biologische wapens’, omdat ze gemakkelijk uit de hand kunnen lopen. In totaal werd in juli vorig jaar een brief onder auspiciën van het Future of Life Institute (FGI) ondertekend door 170 organisaties en 2464 individuen. In de eerste maanden van 2019 riep een groep medische wetenschappers verbonden aan de FLI opnieuw op tot een nieuwe brief om de ontwikkeling van door kunstmatige intelligentie (AI) gecontroleerde wapens te verbieden.

De VN-bijeenkomst van vorig jaar in Gniewo over de mogelijke wettelijke regulering van militaire ‘killer-robots’ eindigde in succes… machines. Een groep landen, waaronder de Verenigde Staten, Rusland en Israël, blokkeerde verdere werkzaamheden voor de invoering van een internationaal verbod op deze wapens (conceptverdrag inzake het verbod of de beperking van het gebruik van bepaalde conventionele wapens, CCW). Het is geen toeval dat deze landen bekend staan ​​om hun werk aan geavanceerde systemen van autonome en robotwapens.

Rusland richt zich op gevechtsrobots

President Vladimir Poetin wordt vaak geciteerd over militaire AI-systemen en gevechtsrobots:

-.

praat openlijk over de ontwikkeling van autonome wapens. De chef van de generale staf van de strijdkrachten, generaal Valery Gerasimov, vertelde onlangs aan het militaire persbureau Interfax-AVN dat het gebruik van robots een van de belangrijkste kenmerken van toekomstige oorlogen zal zijn. Hij voegde eraan toe dat Rusland het probeert automatiseer het slagveld volledig. Soortgelijke opmerkingen werden gemaakt door vice-premier Dmitry Rogozin en minister van Defensie Sergei Shoigu. Voorzitter van de Federatieraadscommissie voor Defensie en Veiligheid Viktor Bondarev zei dat Rusland ernaar streeft zich te ontwikkelen Roju-technologieënHierdoor zouden drone-netwerken als één geheel kunnen functioneren.

Dit is niet verrassend als we bedenken dat de eerste teletanks in de jaren dertig in de Sovjet-Unie werden ontwikkeld. Ze werden gebruikt aan het begin van de Tweede Wereldoorlog. Tegenwoordig is Rusland ook aan het creëren tankrobots worden steeds autonomer.

De staat van Poetin heeft onlangs zijn eigen staat naar Syrië gestuurd Onbemand gevechtsvoertuig Uran-9 (3). het apparaat verloor het contact met de grondcontrolepunten, had problemen met het ophangsysteem en de wapens functioneerden niet perfect en raakten geen bewegende doelen. Het klinkt niet erg serieus, maar velen beschouwen de Syrian wipe als een goede gevechtstest waarmee de Russen de machine kunnen verbeteren.

Roscosmos heeft een voorlopig plan goedgekeurd om tegen augustus van dit jaar twee robots naar het internationale ruimtestation te sturen. Fedor (4) in de onbemande Unie. Niet als een last, maar. Net als in de film RoboCop hanteert Fedor een wapen en demonstreert hij dodelijk schietvaardigheid tijdens schietoefeningen.

De vraag is: waarom zou een robot in de ruimte bewapend zijn? Er bestaan ​​vermoedens dat het niet alleen om grondtoepassingen gaat. Ondertussen toonde de Russische wapenfabrikant Kalashnikov op aarde een visualisatie de slaaf Igorekwat, hoewel het veel gelach veroorzaakte, aangeeft dat het bedrijf serieus werkt aan autonome gevechtsvoertuigen. In juli 2018 kondigde Kalashnikov aan dat hij een wapen aan het bouwen was dat hij gebruikt om beslissingen te nemen over ‘schieten of niet schieten’.

Aan deze informatie moeten rapporten worden toegevoegd dat de Russische wapensmid Digtyarev een klein wapen heeft ontwikkeld autonome tank Nerekht die stilletjes op eigen kracht naar zijn doel toe kan bewegen en vervolgens met krachtige kracht kan exploderen om andere of hele gebouwen te vernietigen. En Tank T14 Armata , de trots van de Russische strijdkrachten, is ontworpen voor mogelijke bediening op afstand en onbemand rijden. Spoetnik beweert dat Russische militaire ingenieurs eraan werken om van de T-14 een volledig autonoom pantservoertuig te maken.

Bezwaarrichtlijn

Het Amerikaanse leger zelf heeft een vrij duidelijke grens gesteld aan de mate van autonomie van hun wapens. In 2012 heeft het Amerikaanse ministerie van Defensie Richtlijn 3000.09 uitgevaardigd, waarin staat dat mensen het recht moeten hebben om bezwaar te maken tegen de acties van gewapende robots. (hoewel er enkele uitzonderingen kunnen zijn). Deze richtlijn blijft van kracht. Het huidige beleid van het Pentagon is dat de beslissende factor bij het gebruik van wapens altijd een persoon moet zijn, en dat dat oordeel ook zo moet zijn. voldoet aan de oorlogswetten.

Hoewel Amerikanen al tientallen jaren vliegende, Predator, Reaper en vele andere supermachines gebruiken, waren en zijn het geen autonome modellen. Ze worden door operators op afstand bestuurd, soms vanaf een afstand van enkele duizenden kilometers. Een verhitte discussie over de autonomie van dit soort machines begon met de première van het prototype. X-47B-drone (5), die niet alleen zelfstandig vloog, maar ook vanaf een vliegdekschip kon opstijgen, erop landen en in de lucht tanken. De betekenis is ook schieten of bombarderen zonder menselijke tussenkomst. Het project wordt echter nog steeds getest en beoordeeld.

5. Tests van de onbemande X-47B op een Amerikaans vliegdekschip

In 2003 begon het ministerie van Defensie te experimenteren met een kleine tankachtige robot. SPOES uitgerust met een machinegeweer. In 2007 werd hij naar Irak gestuurd. het programma eindigde echter nadat de robot zich grillig begon te gedragen en zijn geweer onregelmatig bewoog. Als gevolg hiervan heeft het Amerikaanse leger jarenlang de studie van gewapende grondrobots stopgezet.

Tegelijkertijd heeft het Amerikaanse leger zijn uitgaven aan operaties verhoogd van 20 miljoen dollar in 2014 naar 156 miljoen dollar in 2018. In 2019 is dit budget al gestegen naar 327 miljoen dollar. Dit is een cumulatieve stijging van 1823% in slechts enkele jaren. Experts zeggen dat het Amerikaanse leger al in 2025 een slagveld kan hebben meer robotsoldaten dan mensen.

Onlangs is er veel controverse veroorzaakt en aangekondigd door het Amerikaanse leger ATLAS-project () - automatisch. In de media werd dit gezien als een overtreding van de eerder genoemde richtlijn 3000.09. Het Amerikaanse leger ontkent echter en verzekert dat de uitsluiting van een persoon uit de besluitvormingscyclus uitgesloten is.

AI herkent haaien en burgers

Voorstanders van autonome wapens hebben echter nieuwe argumenten. prof. Ronald Arkin, roboticus aan het Georgia Institute of Technology, stelt dat in zijn publicaties In de moderne oorlogsvoering zijn intelligente wapens essentieel om burgerslachtoffers te voorkomen, omdat machinale leertechnieken effectief kunnen helpen onderscheid te maken tussen strijders en burgers, en tussen belangrijke en onbelangrijke doelen.

Een voorbeeld van dergelijke AI-vaardigheden is het patrouilleren op Australische stranden. drones Kleine Ripperuitgerust met het SharkSpotter-systeem ontwikkeld door de University of Technology Sydney. Dit systeem scant automatisch het water op haaien en waarschuwt de machinist als hij iets onveiligs ziet. (6) Het kan mensen, dolfijnen, boten, surfplanken en voorwerpen in het water identificeren om ze van haaien te onderscheiden. Het kan ongeveer zestien verschillende soorten met hoge nauwkeurigheid detecteren en identificeren.

6. Herkende haaien in het SharkSpotter-systeem

Deze geavanceerde machine learning-methoden verhogen de nauwkeurigheid van luchtverkenningen met meer dan 90%. Ter vergelijking: een menselijke operator in een vergelijkbare situatie herkent nauwkeurig 20-30% van de objecten op luchtfoto's. Bovendien wordt de identificatie voorafgaand aan een alarm nog steeds door een mens geverifieerd.

Op het slagveld kan de operator, die het beeld op het scherm ziet, nauwelijks bepalen of de mensen op de grond jagers zijn met AK-47's in hun handen of bijvoorbeeld boeren met snoeken. Arkin merkt op dat mensen de neiging hebben ‘te zien wat ze willen zien’, vooral in stressvolle situaties. Dit effect heeft bijgedragen aan het per ongeluk neerhalen van een Iraans vliegtuig door de USS Vincennes in 1987. Volgens hem zouden AI-gestuurde wapens uiteraard beter zijn dan de huidige ‘slimme bommen’, die niet echt bewust zijn. Afgelopen augustus raakte een Saoedische lasergeleide raket een bus vol schoolkinderen in Jemen, waarbij veertig kinderen om het leven kwamen.

“Als een schoolbus de juiste labels heeft, kan het relatief eenvoudig zijn om deze in een autonoom systeem te identificeren”, stelt Arkin in Popular Mechanics.

Deze argumenten lijken de actievoerders echter niet te overtuigen van automatische moordenaars. Naast de dreiging van killer-robots moet rekening worden gehouden met een andere belangrijke omstandigheid. Zelfs een ‘goed’ en ‘oplettend’ systeem kan worden gehackt en overgenomen door zeer slechte mensen. Dan verliezen alle argumenten ter verdediging van militair materieel hun kracht.