Noćna mora napretka: hoće li roboti ubojice biti zabranjeni? Noćna mora napretka: hoće li roboti ubojice biti zabranjeni Teslin radio-upravljani brod

Društvo Clearpath Robotics prije šest godina osnovala su tri prijatelja s fakulteta koji su dijelili strast za stvaranjem stvari. 80 stručnjaka tvrtke testira robote za neravne terene poput Huskyja, robota na četiri kotača koji koristi američko Ministarstvo obrane.

Također proizvode dronove i čak su napravili robotski čamac pod nazivom Kingfisher. Međutim, postoji jedna stvar koju sigurno neće izgraditi: robot koji može ubiti.

Clearpath je prva i za sada jedina robotička tvrtka koja se obvezala da neće stvarati robote ubojice. Odluku je prošle godine donio suosnivač tvrtke i CTO, Ryan Garipay, te je zapravo u tvrtku privukao stručnjake kojima se svidio jedinstveni etički stav Clearpatha.

eskimski

Etika robotskih tvrtki U zadnje vrijeme dolazi u prvi plan. Vidite, jednom smo nogom u budućnosti u kojoj postoje roboti ubojice. A mi još nismo spremni za njih.

Naravno, do toga je još dug put. Korejski Dodam Systems, na primjer, gradi autonomnu robotsku kupolu nazvanu Super aEgis II. Koristi termovizijske kamere i laserske daljinomjere za prepoznavanje i napad na ciljeve na udaljenosti do 3 kilometra. SAD također navodno eksperimentira s autonomnim raketnim sustavima.

Dva koraka od Terminatora

Vojnim dronovima poput Predatora trenutno upravljaju ljudi, ali Garipay kaže da će vrlo brzo postati potpuno automatski i autonomni. I to ga brine. Vrlo. “Smrtonosni autonomni sustavi oružja sada bi mogli sići s proizvodne trake. Ali smrtonosni oružani sustavi koji će biti izrađeni u skladu s etičkim standardima"Nisu čak ni u planu."

Za Garipay, problem je međunarodna prava. U ratu uvijek postoje situacije u kojima se uporaba sile čini nužnom, ali može ugroziti i nedužne promatrače. Kako stvoriti robote ubojice koji će uzeti ispravne odluke u bilo kojoj situaciji? Kako možemo sami odrediti koja bi odluka trebala biti ispravna?

Slične probleme već vidimo na primjeru autonomnog transporta. Recimo pas pretrči cestu. Treba li automobil robot skrenuti kako bi izbjegao udariti psa, ali izložio svoje putnike opasnosti? Što ako nije pas, nego dijete? Ili autobus? Sada zamislite ratnu zonu.

“Ne možemo se složiti oko toga kako napisati priručnik za ovakav automobil,” kaže Garipay. "A sada također želimo prijeći na sustav koji bi trebao samostalno odlučivati ​​hoće li koristiti smrtonosnu silu ili ne."

Pravite cool stvari, a ne oružje

Peter Asaro proveo je posljednjih nekoliko godina lobirajući za zabranu robota ubojica međunarodna zajednica, kao osnivač Međunarodni odbor o kontroli robotskih armija. On smatra da je došlo vrijeme za “jasnu međunarodnu zabranu njihovog razvoja i korištenja”. To će, kaže, omogućiti tvrtkama poput Clearpatha da nastave proizvoditi cool stvari "bez brige da bi se njihovi proizvodi mogli koristiti za kršenje ljudskih prava i prijetnje civilima."

Autonomne rakete zanimljive su vojsci jer rješavaju taktički problem. Na primjer, kada daljinski upravljane bespilotne letjelice rade u borbenim okruženjima, neprijatelj često ometa senzore ili mrežnu vezu tako da ljudski operater ne može vidjeti što se događa niti kontrolirati bespilotnu letjelicu.

Garipay kaže da umjesto razvoja projektila ili bespilotnih letjelica koje mogu samostalno odlučiti koju će metu napasti, vojska bi trebala trošiti novac na poboljšanje senzora i tehnologija protiv ometanja.

“Zašto ne bismo iskoristili ulaganja koja bi ljudi željeli napraviti za izgradnju autonomnih robota ubojica i uložili ih u povećanje učinkovitosti postojećih tehnologija? - on kaže. "Ako postavimo izazov i prevladamo ovu prepreku, možemo učiniti da ova tehnologija radi za dobrobit ljudi, a ne samo vojske."

U posljednje vrijeme sve se više govori i o opasnosti umjetna inteligencija. Elon Musk brine da bi odbjegla umjetna inteligencija mogla uništiti život kakav poznajemo. Prošli mjesec Musk je donirao 10 milijuna dolara za istraživanje umjetne inteligencije.

Jedno od velikih pitanja o tome kako će AI utjecati na naš svijet jest kako će se spojiti s robotikom. Neki, poput istraživača Baidua Andrewa Nga, brinu se da će nadolazeća AI revolucija ljudima oduzeti poslove. Drugi poput Garipaya strahuju da bi im to moglo oduzeti živote.

Garipay se nada da će njegovi kolege znanstvenici i konstruktori strojeva razmisliti o tome što rade. Zato je Clearpath Robotics stao na stranu ljudi. "Iako mi kao tvrtka ne možemo staviti 10 milijuna dolara na to, možemo staviti svoj ugled na to."

David Domingo Jiménez dijeli tajne modeliranja, teksturiranja i osvjetljenja Crazyja, svog lika robota.

Uvod

Uvijek sam to mislio osobni projekti moraju biti profesionalni kao radnici. Koristeći high-poly modeliranje, 8K teksture, realistične materijale i tehnički i umjetnički izvedenu rasvjetu, možete stvoriti jedinstveni lik s karakterom i atmosferskom scenom. U radu puno ovisi o rasvjeti jer ona pomaže da se sve u sceni postavi na pravi način. Posebna zahvala Victoru Lobi za kompoziciju.

Korak 1: Stvaranje koncepta

Prvi koncept sam uzeo iz glave, a budući da nisam konceptualni umjetnik, doradio sam ga koristeći bazni mesh i foto reference. Odaberite najprikladniji i najučinkovitiji tijek rada za sebe.

Cjevovod na kojem radim je: modeliranje osnovne mreže -> visokopoli modeliranje svih objekata -> UV kreiranje i konačno modeliranje -> UV uređivanje i teksturiranje -> postavljanje materijala i svjetla -> konačna kompozicija i postavljanje svjetla - > post

Korak 2: Modeliranje, Faza 1

Na slici je prikazan proces izrade modela robota od bazne mreže do skulptiranja u ZBrushu i retopologije, čime dobivamo mrežu s jednom razinom podjela

Nakon što imam osnovni model, odmah počinjem pojedinačno raditi na njegovim detaljima koristeći naredbe Extrude, Bevel, Connect Edge i Shell.

Napravio sam konačnu verziju mreže koristeći što manje poligona, koje sam kasnije povećao. Radio sam s naredbom Editable Poly s modifikatorom Turbosmooth, konačno aktivirajući parametar Show End Result.

Korak 3: Modeliranje, faza 2

Za detaljiziranje robotove odjeće korišteni su ZBrush kistovi kao što su Standard, Move, Smooth i ClayBuildup

Naravno da ih ima manje složene načine simulacije koje dopuštaju korištenje malog broja poligona, ali je u ovom radu bilo mnogo podjela. Zato najviše volim brza metoda, iako možda nije najlakše.

ZBrush koristim isključivo za izradu detalja na odjeći koristeći kistove kao što su Standard, Move, Smooth i ClayBuildup. Također je vrlo važno koristiti maske. Radim retopologiju u Topogunu.

Korak 4: Napravite UV kartu

Za izradu UV-ova korišten je UV raspored. Izrađene su 4 karte tekstura iste veličine i s istim brojem poligona

Za izradu UV-ova preporučujem korištenje UV rasporeda jer je stabilan i intuitivan jednostavan program. Prije nego počnete rezati predmet, morate zapamtiti da što je manje rezova na modelu, to bolje. Uvijek režem modele na mjestima koja su najmanje vidljiva kameri.

Za ovaj projekt izradio sam 4 karte iste veličine s jednakim brojem poligona, grupiravši ih na način koji mi je najviše odgovarao, tako da budu što prikladnije smještene u UV prostoru. Nije mi bitno kako su školjke točno postavljene u UV-ovima jer uvijek izrađujem zasebne osobne iskaznice za različite materijale.

Korak 5: Teksturiranje

Stvaranje različitih mapa tekstura u 8K rezoluciji

Prvo izrađujem razne karte u 8K rezoluciji. Posebno za ovaj rad napravio sam ID, AO, Displacement, Normal, Cavity i Snow karte. Da biste ih dobili u 3Ds Maxu: Rendering -> Render Surface Map. U ZBrushu se mogu dobiti koristeći ZPlugin -> Multi Map Exporter.

Korak 6: Teksturiranje u Photoshopu

Na u ovoj fazi već radimo na 4 karte tekstura s 8K rezolucijom

Ove karte se ne koriste samo za detalje teksture, one su posebno prikladne za rad jer nema potrebe napuštati Photoshop. Zahvaljujući tome, mogu vizualno procijeniti volumen našeg modela. Crazy lik se sastoji od 4 teksture rezolucije 8K koje odgovaraju BMP i SPC karticama.

Korak 7: Nastavite raditi na teksturama

Da biste dobili dobre teksture morate biti kreativni i raditi brzo

Uvijek radim s velikim teksturama pločica, jer je lakše smanjiti izvornu veličinu slike, a uz pomoć maski možete vrlo lako sakriti nepotrebno područje. Da biste dobili dobre teksture morate biti kreativni i raditi brzo. Koristio sam fotografije u ovom projektu.

Preporučio bih korištenje ZBrush, Mudbox ili Mari za slikanje tekstura na vrhu vaše mreže. Prljavština, ogrebotine, hrđa će dodati realizam 3D modelu, međutim, nemojte pretjerivati, inače će rezultat izgledati užasno. Svi dodatni dodaci modelu moraju se kombinirati s osnovnim materijalom, na primjer, u mom slučaju, metalom, magnetskim premazom, pijeskom i prašinom, uz usklađenu shemu boja i osvjetljenje.

Korak 8: Postavljanje materijala

Upotreba materijala omogućuje vizualno odvajanje različitih dijelova modela jedan od drugog

U radu sam koristio različite metalne materijale (čelik, željezo, aluminij); mat i sjajna plastika; kao i koža, tkanina i guma. Svim ovim materijalima dodijeljene su samo 3 mape teksture: Diffuse, Specular i Bump. U sceni nije bilo složenih materijala, osim TV ekrana i metalne oštrice sjekire.

Za sve materijale osim Reflection Glossiness i Fresnel Reflections, za koje su uneseni točni brojevi, korištene su informacije o osvjetljenju, uglavnom za Fresnel IOR, kao i podaci za Bump.

Korak 9: Završna prilagodba svjetla

Konačna postavka rasvjete također bi trebala osvijetliti karakter lika.

Konačna postavka svjetla trebala bi osvijetliti karakter lika, povoljno ga uklapajući u okoliš. Za svoj lik sam želio stvoriti agresivnu atmosferu. Koristio sam noćnu rasvjetu i malo posvijetlio scenu s HDRI-jem, pojačavši efekt električnim svjetlom. Koristi VRayLights za isticanje refleksije i uklanjanje prekomjernog kontrasta.

Kako bih usmjerio svjetlo i dobio jasno čitljivu siluetu lika, koristio sam SpotLights. Osim, pozadina je kreiran pomoću VrayLightsMaterial, za SpotLights sam koristio teksture, prozore i druge atribute da nekako naznačim zgradu. Također sam koristio SpotLights za osvjetljavanje cijele scene.

VrayLights su korišteni za poboljšanje refleksije i uklanjanje prekomjernog kontrasta

Korak 10: Naknadna obrada

U ovoj vrsti projekta ovo je najvažnija faza. Izveo sam scenu u jednoj shemi boja, naglasio osvijetljena područja, prilagodio kontrast i zamutio neke dijelove rada kako bih stvorio efekt dubine, prisiljavajući gledatelja da se fokusira. Sve ove korake vrlo je važno postići dobar rezultat.

U Photoshopu sam za postizanje bokeh efekta radio sa Saturation, Curves i Levels. Zatim sam konfigurirao mape tekstura koje će se renderirati: Reflection, Alpha i Specular. Rezultat je složena slika koja gledatelju prenosi emocije i povijest. Uz pomoć lika Crazyja demonstriram cijeli niz svojih radova i umjetnički stil kojim radim.

Dmitry Melkin te Pavel i Boris Lonkin nisu imali pitanja o tome koga uzeti u tim za sudjelovanje u bitkama robota. Dečki su se poznavali s Baumanke, potom su zajedno montirali i postavljali solarne elektrane. Jednog dana Dmitry je vidio oglas za natjecanje iz robotike i prijavio se. Prijatelji su podržali inicijativu, a mjesec dana kasnije prvi borbeni robot Solarbot tima, Brontosaurus, stajao je u garaži.

Prvi robot je kvrgav

Brontosaurus je težio cijeli centner i, kako sada priznaju njegovi kreatori, nije se razlikovao ni pouzdanošću ni domišljatim dizajnerskim rješenjima. Nije ni čudo: prikupljeno je dijelom iz hira, dijelom iz nejasnih snimki zaslona iz videa s natjecanja engleskih ratova robota.

Nakon Brontosaurusa, nekoliko puta prebrojavajući i prepravljajući glavne komponente, Dmitrij, Boris i Pavel sastavili su svog drugog robota. Iza vanjska sličnost sa školjkom se zvao Shelby, od engleske školjke - "ljuska". Shelby, sin teških pogrešaka, prvo je pobijedio sve na “Bitki robota - 2016.” u Permu, koju su organizirali Moskovski institut za tehnologiju (MIT) i tvrtka Promobot, a zatim, zajedno s automobilima još dva ruska tima , postala je sudionica međunarodnih natjecanja u Kini. Njegovi kreatori govore nam kako funkcionira pobjednički robot i što je bilo potrebno za njegovu izradu.

Dmitrij, idejni inspirator i majstor svih zanata:

“Naš najveći ponos je šasija Shelby. Doslovno nakon svake bitke petljali smo po šasiji njegovog prethodnika. Kad smo napravili Shelby, šasija je brušena, prepravljana i ponovno sastavljana mnogo puta, ali sada možete potpuno zaboraviti na to. U budućim projektima morat ćemo raditi samo na očuvanju pouzdanosti i povećanju snage. Bilo bi lijepo, na primjer, kada bi naš novi robot mogao pokretati ne jednog, nego dva neprijateljska robota odjednom.”

Shelbyjevi lanci su od mopeda, kotači su od trkaćeg kartinga, a električni motori su od modela automobila na radijsko upravljanje. Dijelovi za borbene robote se ne proizvode, pa ih morate tražiti na buvljacima i na internetu. Dobri dijelovi su vrlo skupi, a dizajneri ih obično izrađuju sami.

Boris, dizajner, stručnjak za čvrstoću:

“Shelby je tip peraja. Opremljen je pneumatskim sustavom koji snažno gura poklopac prema gore. Ovo je robotovo glavno oružje i njegova metoda stabilizacije: nakon što se prevrne, može se jednim trzajem prevrnuti i stati na kotače. Ali nismo mogli stvoriti visoki tlak u pneumatskom cilindru da bi poklopac snažno puhao - nismo imali potrebne ventile. Preostalo je još samo jedno: natjerati sustav da radi što je brže moguće. Pokazalo se da je rješenje jednostavno: riješili smo se viška hidrauličkog otpora i modificirali tvorničke ventile. U budućnosti će, naravno, biti potreban ventil visokotlačni. Gotovi je skup, oko 200 tisuća rubalja, pa sada razmišljamo o vlastitom dizajnu.”

Borbeni roboti nisu jeftin hobi: potrebno vam je najmanje 200-300 tisuća rubalja plus Potrošni materijal, rezervne gume i sve što se pokvari i mijenja se u borbi. A to ne uzima u obzir utrošeno vrijeme i rad. "Da bi sastavili robota, tim od troje ljudi treba prestati raditi dva mjeseca", smiju se inženjeri Solarbota. Nećete moći uštedjeti čak ni na elektroničkom punjenju.

Pavel, programer:

“Sjajna stvar kod Shelby elektronike je da ih ima jako malo. Kako ne biste uzimali lemilo nakon svake bitke, morate robotu osigurati potreban minimum "mozgova". Shelby ima jednostavne tvorničke kontrolere i samo ventile kontrolira mala strujna ploča. Vrlo ga je teško onemogućiti. Čak i kad smo u Kini umjesto uobičajenih olovnih baterija dobili snažne litijeve i žice su otkazale nakon nekoliko minuta, elektronika robota nije oštećena.”

Shelby borbeni robot

Brzina do 25 km/h Sila na šipki pneumatskog cilindra 2 t Snaga motora 2,2 kW Kapacitet pneumatskog udara bez promjene cilindra 30−35 Daljinsko upravljanje Pravila “Bitke robota” zabranjuju bilo kakve odvojive dijelove i limove, tako da Shelby ničim ne puca i ne maše, a tijelo mu je samo od metalnog profila.

Tim Solarbota napravio je čvrstog željeznog vojnika, ali on također ima prijelomnu točku. U Kini je patio od rotirajućih noževa kineskih spinnera, u Permu - od kandži robota matanga, koji s osam tona sile reže metalni profil poput maslaca. Na njegovim željeznim rebrima ima rana. Kreatori mu pripremaju sudbinu izložbe: sudjelovat će na festivalima (uskoro je ljetni Geek Picnic), au areni će ga zamijeniti novi borac - također peraja, samo brži, snažniji i još pouzdaniji. Sila podizanja poklopca bit će dvostruko veća od one kod Shelbyja, snaga motora će se povećati s 2,2 na 2,8 kW, a brzina će se povećati. S novim robotom ruski tim sanja o odlasku na Ratove robota u Engleskoj.

Ali buduća peraja nije ultimativni san Solarbota. Sada Dmitry pregovara s drugim timovima i traži sponzore: ako sve uspije, tada će se prvi "megabot" pojaviti u Rusiji - velik i zastrašujući poput japanskih, američkih i kineskih višetonskih čudovišta.

Zahvaljujući potpori Moskovskog tehnološkog instituta, Rusi su prvi put sudjelovali na međunarodnom turniru borbenih robota FMB Championship 2017 u Kini. Borbu su vodili Shelby, Kazan Destructor i St. Petersburg Energy koji su prošli u polufinale.

Vozili smo se Yandexom bez posade. Taxi" u Skolkovu, vojni inženjeri smislili su kako prilagoditi tehnologije bespilotnih vozila za stvaranje novog oružja.

U stvarnosti, tehnologija nije baš ono što se čini. Problem sa cjelokupnom tehnološkom evolucijom je taj što je granica između komercijalnih robota "za cijeli život" i vojnih robota ubojica nevjerojatno tanka i ne košta ništa prijeći je. Za sada biraju rutu, a sutra će moći birati koju će metu uništiti.

Ovo nije prvi put u povijesti da je tehnološki napredak doveo u pitanje samo postojanje čovječanstva: prvo su znanstvenici stvorili kemijske, biološke i nuklearno oružje, sada - "autonomno oružje", odnosno roboti. Jedina razlika je u tome što se do sada oružje smatralo nehumanim." masovno uništenje- odnosno ne birati koga ubiti. Danas se perspektiva promijenila: oružje koje će ubijati s posebnom diskriminacijom, birajući žrtve prema vlastitom ukusu, čini se puno nemoralnijim. I ako je bilo koju ratobornu silu zaustavila činjenica da bi u slučaju upotrebe biološkog oružja stradali svi oko njih, onda je s robotima sve kompliciranije - mogu se programirati da unište određenu skupinu objekata.

Godine 1942. kada je američki pisac Isaac Asimov formulirao je tri zakona robotike, koji su svi djelovali uzbudljivo, ali potpuno nerealno. Ti su zakoni tvrdili da robot ne može i ne smije ozlijediti ili ubiti ljudsko biće. I oni se moraju bespogovorno pokoravati volji čovjeka, osim u slučajevima kada bi njegove naredbe bile u suprotnosti s gornjim imperativom. Sada kada je autonomno oružje postalo stvarnost i moglo bi pasti u ruke terorista, pokazalo se da su programeri nekako zaboravili staviti Asimovljeve zakone u svoj softver. To znači da roboti mogu predstavljati opasnost i nikakvi humani zakoni i principi ih ​​ne mogu zaustaviti.

Projektil koji je razvio Pentagon sam otkriva ciljeve zahvaljujući softver, umjetna inteligencija (AI) identificira mete za britansku vojsku, a Rusija prikazuje bespilotne tenkove. Razviti robotske i autonomne vojne opreme V raznim zemljama Troše se kolosalne količine novca, iako malo tko to želi vidjeti na djelu. Poput većine kemičara i biologa, nisu zainteresirani da se njihova otkrića u konačnici iskoriste za stvaranje kemijskih ili biološko oružje, a većina istraživača umjetne inteligencije nije zainteresirana za stvaranje oružja temeljenog na njoj, jer bi onda ozbiljan javni protest naštetio njihovim istraživačkim programima.

U svom govoru na početku Opće skupštine Ujedinjenih naroda u New Yorku 25. rujna generalni sekretar Antonio Guterres nazvao je AI tehnologiju "globalnim rizikom" zajedno s klimatskim promjenama i rastućom nejednakošću prihoda: "Nazovimo stvari pravim imenom", rekao je. “Perspektiva da strojevi određuju tko živi je odvratna.” Guterres je vjerojatno jedini koji može pozvati vojne odjele da se urazume: prethodno se bavio sukobima u Libiji, Jemenu i Siriji i bio je visoki povjerenik za izbjeglice.

Problem je u tome što kada daljnji razvoj roboti će moći sami odlučiti koga će ubiti. A ako neke zemlje imaju takve tehnologije, a druge nemaju, tada će beskompromisni androidi i dronovi unaprijed odrediti ishod potencijalne bitke. Sve to u isto vrijeme proturječi svim Asimovljevim zakonima. Uzbunjivači bi mogli biti ozbiljno zabrinuti da će samoučeća neuronska mreža izmaknuti kontroli i ubiti ne samo neprijatelja, već i sve ljude općenito. Međutim, izgledi čak ni za potpuno poslušne ubojite strojeve nisu nimalo svijetli.

Najaktivniji rad na području umjetne inteligencije i strojnog učenja danas nije u vojsci, već u civilnoj sferi – na sveučilištima i u tvrtkama poput Googlea i Facebooka. Ali većina Te se tehnologije mogu prilagoditi za vojnu uporabu. To znači da će potencijalna zabrana istraživanja u ovom području također utjecati na civilni razvoj.

Početkom listopada američka nevladina organizacija Stop Killer Robots Campaign poslala je pismo Ujedinjenim narodima tražeći da se razvoj autonomnog oružja ograniči na međunarodnoj zakonodavnoj razini. UN je jasno dao do znanja da podržava ovu inicijativu, a u kolovozu 2017. pridružili su joj se Elon Musk i sudionici Međunarodna konferencija Ujedinjeni narodi o umjetnoj inteligenciji (IJCAI). No zapravo se SAD i Rusija protive takvim ograničenjima.

Posljednji sastanak 70 zemalja potpisnica Konvencije o određenim vrstama konvencionalnog oružja (nehumano oružje) održan je u kolovozu u Ženevi. Diplomati nisu mogli postići konsenzus o tome kako globalna politika u odnosu na AI može se implementirati. Neke zemlje (Argentina, Austrija, Brazil, Čile, Kina, Egipat i Meksiko) izrazile su potporu zakonodavnoj zabrani razvoja robotskog oružja; Francuska i Njemačka predložile su uvođenje dobrovoljnog sustava takvih ograničenja, ali Rusija, SAD, Južna Korea i Izrael izjavili su da nemaju namjeru ograničiti istraživanja i razvoj koji se provode u ovom području. U rujnu je Federica Mogherini, visoka dužnosnica Europske unije vanjska politika i sigurnosnu politiku, rekao je da oružje “utječe na naše kolektivna sigurnost“, dakle, odluka o pitanju života i smrti u svakom slučaju treba ostati u rukama čovjeka.

Hladni rat 2018

Službenici Američka obrana vjeruju da Sjedinjene Države trebaju autonomno oružje kako bi zadržale svoju vojnu prednost nad Kinom i Rusijom, koje također ulažu u slična istraživanja. Donald Trump je u veljači 2018. zatražio 686 milijardi dolara za obranu zemlje u sljedećoj fiskalnoj godini. Ti su troškovi uvijek bili prilično visoki i smanjili su se tek pod prethodnim predsjednikom Barackom Obamom. Međutim, Trump je - neoriginalno - potrebu njihova povećanja argumentirao tehnološkim natjecanjem s Rusijom i Kinom. Godine 2016. iz proračuna Pentagona za razvoj autonomnog oružja tijekom tri godine izdvojeno je 18 milijardi dolara. To nije puno, ali ovdje morate uzeti u obzir jedan vrlo važan faktor.

Većina razvoja umjetne inteligencije u SAD-u je u tijeku trgovačka društva, tako da su široko dostupni i mogu se komercijalno prodavati drugim zemljama. Pentagon nema monopol nad naprednim tehnologijama strojnog učenja. Američka obrambena industrija više ne provodi vlastita istraživanja na način na koji je to činila tijekom hladni rat“, ali koristi razvoj startupa iz Silicijske doline, ali i Europe i Azije. Istodobno, u Rusiji i Kini takva su istraživanja pod strogim nadzorom ministarstava obrane, što s jedne strane ograničava dotok novih ideja i razvoj tehnologije, ali s druge jamči državno financiranje i zaštita.

Prema stručnjacima iz The New York Timesa, vojna potrošnja na autonomna vojna vozila i bespilotne letjelice zrakoplovi premašit će 120 milijardi dolara tijekom sljedećeg desetljeća. To znači da se rasprava u konačnici ne svodi na to treba li stvoriti autonomno oružje, već na to koji mu stupanj neovisnosti dati.

Danas potpuno autonomno oružje ne postoji, ali potpredsjednik Združenog stožera general Paul J. Selva iz zračnih snaga rekao je još 2016. da će u roku od 10 godina Sjedinjene Države imati tehnologiju za stvaranje oružja koje može samostalno odlučiti tko a kada ubiti. I dok zemlje raspravljaju hoće li ograničiti AI ili ne, možda je prekasno.

Clearpath Robotics prije šest godina osnovala su tri prijatelja s fakulteta koji su dijelili strast prema izradi stvari. 80 stručnjaka tvrtke testira robote za neravne terene poput Huskyja, robota na četiri kotača koji koristi američko Ministarstvo obrane. Također proizvode dronove i čak su napravili robotski čamac pod nazivom Kingfisher. Međutim, postoji jedna stvar koju sigurno neće izgraditi: robot koji može ubiti.

Clearpath je prva i za sada jedina robotička tvrtka koja se obvezala da neće stvarati robote ubojice. Odluku je prošle godine donio suosnivač tvrtke i CTO, Ryan Garipay, te je zapravo u tvrtku privukao stručnjake kojima se svidio jedinstveni etički stav Clearpatha. Etika robotskih tvrtki nedavno je došla u prvi plan. Vidite, jednom smo nogom u budućnosti u kojoj postoje roboti ubojice. A mi još nismo spremni za njih.

Naravno, do toga je još dug put. Korejski Dodam Systems, na primjer, gradi autonomnu robotsku kupolu nazvanu Super aEgis II. Koristi termovizijske kamere i laserske daljinomjere za prepoznavanje i napad na ciljeve na udaljenosti do 3 kilometra. SAD također navodno eksperimentira s autonomnim raketnim sustavima.

Dva koraka od Terminatora

Vojnim dronovima poput Predatora trenutno upravljaju ljudi, ali Garipay kaže da će vrlo brzo postati potpuno automatski i autonomni. I to ga brine. Vrlo. “Smrtonosni autonomni sustavi oružja sada bi mogli sići s proizvodne trake. Ali smrtonosni oružani sustavi koji će biti izrađeni u skladu s etičkim standardima nisu ni u planu.”

Za Garipay, problem su međunarodna prava. U ratu uvijek postoje situacije u kojima se uporaba sile čini nužnom, ali može ugroziti i nedužne promatrače. Kako stvoriti robote ubojice koji će donijeti ispravne odluke u svakoj situaciji? Kako možemo sami odrediti koja bi odluka trebala biti ispravna?

Slične probleme već vidimo na primjeru autonomnog transporta. Recimo pas pretrči cestu. Treba li automobil robot skrenuti kako bi izbjegao udariti psa, ali izložio svoje putnike opasnosti? Što ako nije pas, nego dijete? Ili autobus? Sada zamislite ratnu zonu.

“Ne možemo se složiti oko toga kako napisati priručnik za ovakav automobil,” kaže Garipay. "A sada također želimo prijeći na sustav koji bi trebao samostalno odlučivati ​​hoće li koristiti smrtonosnu silu ili ne."

Pravite cool stvari, a ne oružje

Peter Asaro zadnjih je nekoliko godina lobirao za zabranu robota ubojica u međunarodnoj zajednici, kao osnivač Međunarodnog odbora za kontrolu robotskih vojski. On smatra da je došlo vrijeme za “jasnu međunarodnu zabranu njihovog razvoja i korištenja”. To će, kaže, omogućiti tvrtkama poput Clearpatha da nastave proizvoditi cool stvari "bez brige da bi se njihovi proizvodi mogli koristiti za kršenje ljudskih prava i prijetnje civilima."

Autonomne rakete zanimljive su vojsci jer rješavaju taktički problem. Na primjer, kada daljinski upravljane bespilotne letjelice rade u borbenim okruženjima, neprijatelj često ometa senzore ili mrežnu vezu tako da ljudski operater ne može vidjeti što se događa niti kontrolirati bespilotnu letjelicu.

Garipay kaže da umjesto razvoja projektila ili bespilotnih letjelica koje mogu samostalno odlučiti koju će metu napasti, vojska bi trebala trošiti novac na poboljšanje senzora i tehnologija protiv ometanja.

“Zašto ne bismo iskoristili ulaganja koja bi ljudi željeli napraviti za izgradnju autonomnih robota ubojica i uložili ih u povećanje učinkovitosti postojećih tehnologija? - on kaže. "Ako postavimo izazov i prevladamo ovu prepreku, možemo učiniti da ova tehnologija radi za dobrobit ljudi, a ne samo vojske."

U posljednje vrijeme sve su učestaliji i razgovori o opasnostima umjetne inteligencije. zabrinuti da bi odbjegla umjetna inteligencija mogla uništiti život kakav poznajemo. Prošli mjesec Musk je donirao 10 milijuna dolara za istraživanje umjetne inteligencije. Jedno od važnih pitanja o umjetnoj inteligenciji je kako će se spojiti s robotikom. Neki, poput istraživača Baidua Andrewa Nga, brinu se da će nadolazeća AI revolucija ljudima oduzeti poslove. Drugi poput Garipaya strahuju da bi im to moglo oduzeti živote.

Garipay se nada da će njegovi kolege znanstvenici i konstruktori strojeva razmisliti o tome što rade. Zato je Clearpath Robotics stao na stranu ljudi. "Iako mi kao tvrtka ne možemo staviti 10 milijuna dolara na to, možemo staviti svoj ugled na to."