Å lage morderroboter er en veldig, veldig dårlig idé. Dmitry, ideologisk inspirator og knallmann

En stor forsamling av forskere, industriledere og frivillige organisasjoner har lansert en kampanje for å stoppe drapsroboter, dedikert til å forhindre utvikling av autonome kampvåpensystemer. Blant de som meldte seg på var: Stephen Hawking, Noam Chomsky, Elon Musk og Steve Wozniak.

Disse store navn skaper mye oppmerksomhet og gir legitimitet til det faktum at morderroboter, en gang betraktet som science fiction, faktisk nærmer seg virkeligheten raskt.

En interessant studie publisert i International Journal of Cultural Research tar en annen tilnærming til ideen om "killer roboter" som et kulturelt konsept. Forskere hevder at selv de mest avanserte robotene bare er maskiner, som alt annet menneskeheten noensinne har laget.

"Tekken er at morderroboten som en idé ikke kom ut av løse luften," sa medforfatter Tero Karppi, en assisterende professor i medieteori ved universitetet i Buffalo. "Dette ble innledet av metoder og teknologier for å gjøre tenkning og utvikling av disse systemene mulig."

Med andre ord, vi bekymrer oss for morderroboter. Forfatterne utforsker temaet morderroboter i filmer som The Terminator eller I, Robot, der de teoretiserer at roboter langt i fremtiden vil ende opp med å slavebinde menneskeheten.

"I løpet av de siste tiårene har den utvidede bruken av ubemannede våpen dramatisk endret krigføringen, og ført til nye humanitære og juridiske problemer. Det har nå vært raske fremskritt innen teknologi, som et resultat av forsøk på å utvikle fullt autonome våpen. Disse robotvåpnene vil ha muligheten til å velge ild mot et mål uavhengig, uten noen menneskelig innblanding."

Forskerne svarer at disse alarmistiske dystopiske scenariene reflekterer et "tekno-deterministisk" verdensbilde, der teknologiske systemer gis for mye autonomi, noe som kan være ødeleggende ikke bare for samfunnet, men for hele menneskeheten.

Men hva om vi kodet maskinintelligens på en slik måte at roboter ikke en gang kunne se forskjell på et menneske og en maskin? Det er en spennende idé: hvis det ikke er "oss" og "dem" kan det ikke være noe "oss mot dem."

Faktisk foreslo Karppi at vi kan være i stand til å kontrollere hvordan fremtidige maskiner vil tenke om mennesker på et grunnleggende nivå.

Hvis vi ønsker å gjøre endringer i utviklingen av disse systemene, er tiden nå inne. Bare forby dødelige autonome våpen og ta tak i de grunnleggende årsakene til dette dilemmaet. For å virkelig unngå utviklingen av autonome drapsmaskiner.

Mens statsminister Dmitrij Medvedev og Arkady Volozh kjørte en ubemannet Yandex.Taxi rundt Skolkovo, fant militæringeniører ut hvordan de kunne tilpasse ubemannede kjøretøyteknologier for å lage nye våpen.

I virkeligheten er ikke teknologien helt som den ser ut til. Problemet med all teknologisk utvikling er at grensen mellom kommersielle roboter "for livet" og militære morderroboter er utrolig tynn, og det koster ingenting å krysse den. Foreløpig velger de en rute, og i morgen får de velge hvilket mål som skal ødelegges.

Dette er ikke første gang i historien at teknologisk fremgang har satt spørsmålstegn ved menneskehetens eksistens: For det første skapte forskere kjemiske, biologiske og atomvåpen, nå - "autonome våpen", det vil si roboter. Den eneste forskjellen er at til nå ble våpen ansett som umenneskelige." masseødeleggelse- det vil si å ikke velge hvem de skal drepe. I dag har perspektivet endret seg: et våpen som vil drepe med spesiell diskriminering, velge ofre etter sin egen smak, virker mye mer umoralsk. Og hvis noen krigersk makt ble stoppet av det faktum at hvis den brukte biologiske våpen, ville alle rundt dem lide, så med roboter er alt mer komplisert - de kan programmeres til å ødelegge en bestemt gruppe objekter.

I 1942, da den amerikanske forfatteren Isaac Asimov formulerte Robotikkens tre lover, virket det hele spennende, men fullstendig urealistisk. Disse lovene sa at en robot ikke kunne og ikke skulle skade eller drepe et menneske. Og de må utvilsomt adlyde menneskets vilje, bortsett fra i tilfeller hvor hans ordre vil være i strid med imperativet ovenfor. Nå som autonome våpen har blitt en realitet og godt kan falle i hendene på terrorister, viser det seg at programmerere på en eller annen måte glemte å legge Asimovs lover inn i programvaren deres. Dette betyr at roboter kan utgjøre en fare, og ingen humane lover eller prinsipper kan stoppe dem.

Det Pentagon-utviklede missilet oppdager mål på egen hånd takket være programvare, identifiserer kunstig intelligens (AI) mål for det britiske militæret, og Russland viser frem ubemannede stridsvogner. Å utvikle robot og autonom militært utstyr V forskjellige land Kolossale mengder penger brukes, selv om få mennesker ønsker å se det i aksjon. Akkurat som de fleste kjemikere og biologer ikke er interessert i at funnene deres til slutt blir brukt til å lage kjemiske eller biologiske våpen, er de fleste AI-forskere ikke interessert i å lage våpen basert på dem, for da ville alvorlig offentlig ramaskrik skade forskningsprogrammene deres.

I sin tale i begynnelsen Generalforsamling FN i New York 25. september generalsekretær Antonio Guterres kalte AI-teknologi en "global risiko" sammen med klimaendringer og økende inntektsulikhet: "La oss kalle en spade en spade," sa han. "Utsiktene til maskiner som bestemmer hvem som lever er ekkelt." Guterres er trolig den eneste som kan oppfordre militæravdelingene til å komme til fornuft: Han har tidligere behandlet konflikter i Libya, Jemen og Syria og fungert som høykommissær for flyktninger.

Problemet er at når videre utvikling roboter vil selv kunne bestemme hvem de skal drepe. Og hvis noen land har slike teknologier og andre ikke, vil kompromissløse androider og droner forhåndsbestemme utfallet av en potensiell kamp. Alt dette er i strid med alle Asimovs lover på samme tid. Alarmister kan være alvorlig bekymret for at et selvlærende nevralt nettverk vil komme ut av kontroll og drepe ikke bare fienden, men alle mennesker generelt. Utsiktene for selv fullstendig lydige mordermaskiner er imidlertid ikke i det hele tatt lyse.

Det mest aktive arbeidet innen kunstig intelligens og maskinlæring i dag er ikke i militæret, men i den sivile sfæren – ved universiteter og selskaper som Google og Facebook. Men mye av denne teknologien kan tilpasses for militær bruk. Dette betyr at et potensielt forbud mot forskning på dette området også vil påvirke den sivile utviklingen.

I begynnelsen av oktober sendte den amerikanske ikke-statlige organisasjonen Stop Killer Robots Campaign et brev til FN med krav om at utviklingen av autonome våpen begrenses på internasjonalt lovnivå. FN gjorde det klart at de støttet dette initiativet, og i august 2017 sluttet Elon Musk og deltakerne seg til det Internasjonal konferanse FN for kunstig intelligens (IJCAI). Men faktisk er USA og Russland imot slike restriksjoner.

Det siste møtet mellom de 70 landene som er part i konvensjonen om visse konvensjonelle våpen (umenneskelige våpen) fant sted i Genève i august. Diplomater har ikke klart å oppnå konsensus om hvordan global AI-politikk kan implementeres. Noen land (Argentina, Østerrike, Brasil, Chile, Kina, Egypt og Mexico) uttrykte støtte til et lovforbud mot utvikling av robotvåpen Frankrike og Tyskland foreslo å innføre et frivillig system med slike restriksjoner, men Russland, USA, Sør-Korea og Israel har uttalt at de ikke har til hensikt å begrense forskningen og utviklingen som utføres på dette området. I september, Federica Mogherini, en høytstående tjenestemann Den Europeiske Union på spørsmål utenrikspolitikk og sikkerhetspolitikk, uttalte at våpen "påvirker vår kollektiv sikkerhet«Derfor må avgjørelsen i spørsmålet om liv og død uansett forbli i menneskets hender.

Den kalde krigen 2018

Amerikanske forsvarsmyndigheter mener autonome våpen er nødvendige for at USA skal opprettholde sin militære fordel over Kina og Russland, som også investerer i lignende forskning. I februar 2018 krevde Donald Trump 686 milliarder dollar til landets forsvar neste år. regnskapsår. Disse kostnadene har alltid vært ganske høye og redusert bare under den forrige presidenten Barack Obama. Trump argumenterte imidlertid - uoriginalt - for behovet for å øke dem ved teknologisk konkurranse med Russland og Kina. I 2016 bevilget Pentagon-budsjettet 18 milliarder dollar til utvikling av autonome våpen over tre år. Dette er ikke mye, men her må du ta hensyn til en veldig viktig faktor.

Det meste av AI-utvikling i USA utføres av kommersielle selskaper, så det er allment tilgjengelig og kan selges kommersielt til andre land. Pentagon har ikke monopol på avansert maskinlæringsteknologi. Den amerikanske forsvarsindustrien driver ikke lenger sin egen forskning på samme måte som den gjorde under " kald krig", men bruker utviklingen av startups fra Silicon Valley, samt Europa og Asia. Samtidig, i Russland og Kina, er slik forskning under streng kontroll av forsvarsavdelinger, som på den ene siden begrenser tilstrømningen av nye ideer og utviklingen av teknologi, men på den annen side garanterer statlig finansiering og beskyttelse.

Ifølge eksperter Den nye York Times, militære utgifter på autonome militære kjøretøy og droner fly vil overstige 120 milliarder dollar i løpet av det neste tiåret. Dette betyr at debatten til syvende og sist ikke handler om hvorvidt man skal lage autonome våpen, men i hvilken grad av uavhengighet man skal gi dem.

I dag eksisterer ikke fullt autonome våpen, men nestleder i Joint Chiefs of Staff General Paul J. Selva i Air Force sa tilbake i 2016 at innen 10 år vil USA ha teknologien til å lage våpen som uavhengig kan bestemme hvem og når man skal drepe. Og mens land diskuterer om de skal begrense AI eller ikke, kan det være for sent.

Clearpath Robotics ble grunnlagt for seks år siden av tre collegevenner som delte en lidenskap for å lage ting. Selskapets 80 spesialister tester roboter i ulendt terreng som Husky, en firehjulsrobot som brukes av det amerikanske forsvarsdepartementet. De lager også droner og bygde til og med en robotbåt kalt Kingfisher. Det er imidlertid én ting de aldri kommer til å bygge sikkert: en robot som kan drepe.

Clearpath er det første og så langt eneste robotselskapet som lover å ikke lage morderroboter. Beslutningen ble tatt i fjor av selskapets medgründer og CTO, Ryan Garipay, og trakk faktisk eksperter til selskapet som likte Clearpaths unike etiske holdning. Robotselskapers etikk I det siste kommer i forgrunnen. Du skjønner, vi har en fot i fremtiden der morderroboter eksisterer. Og vi er ennå ikke klare for dem.

Selvfølgelig er det fortsatt en lang vei å gå. Koreanske Dodam-systemer bygger for eksempel et autonomt robottårn kalt Super aEgis II. Den bruker termiske bildekameraer og laseravstandsmålere for å identifisere og angripe mål i en avstand på opptil 3 kilometer. USA skal angivelig også eksperimentere med autonome missilsystemer.

To skritt unna Terminators

Militære droner som Predator blir for tiden pilotert av mennesker, men Garipay sier at de snart vil bli helautomatiske og autonome. Og dette bekymrer ham. Veldig. "Dødelige autonome våpensystemer kan rulle av samlebåndet nå. Men dødelige våpensystemer som vil bli laget iht etiske standarder"De er ikke engang i planene."

For Garipay er problemet internasjonale rettigheter. I krig er det alltid situasjoner der maktbruk synes nødvendig, men det kan også sette uskyldige tilskuere i fare. Hvordan lage morderroboter som vil ta riktige avgjørelser i enhver situasjon? Hvordan kan vi selv bestemme hva den riktige avgjørelsen skal være?

Vi ser allerede lignende problemer i eksemplet med autonom transport. La oss si at en hund løper over veien. Bør en robotbil svinge for å unngå å treffe en hund, men sette passasjerene i fare? Hva om det ikke er en hund, men et barn? Eller en buss? Tenk deg nå en krigssone.

"Vi kan ikke bli enige om hvordan vi skal skrive en manual for en bil som denne," sier Garipay. "Og nå ønsker vi også å gå over til et system som uavhengig bør bestemme om vi skal bruke dødelig makt eller ikke."

Lag kule ting, ikke våpen

Peter Asaro har brukt de siste årene på å lobbye for et forbud mot morderroboter i det internasjonale samfunnet som grunnlegger av Internasjonal komité om kontroll av robothærer. Han mener at tiden er inne for «et tydelig internasjonalt forbud mot utvikling og bruk av dem». Dette, sier han, vil tillate selskaper som Clearpath å fortsette å lage kule ting "uten å bekymre seg for at produktene deres kan brukes til å krenke folks rettigheter og true sivile."

Autonome missiler er av interesse for militæret fordi de løser et taktisk problem. Når fjernstyrte droner opererer i kampmiljøer, for eksempel, blokkerer fienden ofte sensorene eller Nettverkstilkobling slik at den menneskelige operatøren ikke kan se hva som skjer eller kontrollere dronen.

Garipay sier at i stedet for å utvikle missiler eller droner som uavhengig kan bestemme hvilket mål som skal angripes, bør militæret bruke penger på å forbedre sensorer og anti-jamming-teknologi.

"Hvorfor tar vi ikke investeringene som folk ønsker å gjøre for å bygge autonome morderroboter og bruker dem til å gjøre eksisterende teknologier mer effektive? - han sier. "Hvis vi setter utfordringen og overvinner denne barrieren, kan vi få denne teknologien til å fungere til fordel for mennesker, ikke bare militæret."

Den siste tiden har også samtaler om farene ved kunstig intelligens blitt hyppigere. bekymrer seg for at løpsk AI kan ødelegge livet slik vi kjenner det. Forrige måned donerte Musk 10 millioner dollar til forskning på kunstig intelligens. Et av de viktige spørsmålene om AI er hvordan det vil smelte sammen med robotikk. Noen som Baidu-forskeren Andrew Ng bekymrer seg for at den kommende AI-revolusjonen vil ta folks jobber bort. Andre som Garipay frykter at det kan ta livet av dem.

Garipay håper at hans medforskere og maskinbyggere vil tenke over hva de gjør. Det er derfor Clearpath Robotics tok parti for folket. "Selv om vi som selskap ikke kan sette 10 millioner dollar på det, kan vi sette vårt rykte på det."

Dmitry Melkin og Pavel og Boris Lonkin hadde ingen spørsmål om hvem de skulle ta med til laget for å delta i robotkamper. Gutta kjente hverandre fra Baumanka, så sammen monterte og installerte de kraftverk kl soldrevet. En dag så Dmitry en annonse for en robotkonkurranse og søkte. Venner støttet initiativet, og en måned senere sto den første kamproboten til Solarbot-teamet, Brontosaurus, i garasjen.

Den første roboten er klumpete

Brontosaurus veide en hel centner og, som skaperne nå innrømmer, ble ikke preget av verken pålitelighet eller geniale designløsninger. Ikke så rart: den ble samlet delvis på et innfall, delvis fra uklare skjermbilder fra videoer fra de engelske Robot Wars-konkurransene.

Etter Brontosaurus, etter å ha telt og laget om hovedkomponentene flere ganger, satte Dmitry, Boris og Pavel sammen sin andre robot. Bak ytre likhet med et skall ble det kalt Shelby, fra det engelske skallet - "shell". Shelby, sønnen til vanskelige feil, vant først alle på "Battle of Robots - 2016" i Perm, organisert av Moscow Institute of Technology (MIT) og Promobot-selskapet, og deretter, sammen med bilene til to andre russiske lag , ble deltaker i internasjonale konkurranser i Kina. Skaperne forteller oss hvordan den vinnende roboten fungerer og hva som måtte til for å lage den.

Dmitry, ideologisk inspirator og knallmann:

«Vår største stolthet er Shelby-chassiset. Vi fiklet med chassiset til forgjengeren bokstavelig talt etter hver kamp. Da vi laget Shelbyen ble chassiset slipt ut, bygget om og satt sammen mange ganger, men nå kan du helt glemme det. I fremtidige prosjekter skal vi kun jobbe med å opprettholde påliteligheten og øke kraften. Det ville for eksempel vært fint om vår nye robot kunne flytte ikke én, men to fiendtlige roboter samtidig.»

Shelbys kjeder er fra mopeder, hjulene er fra en racingkart, og elektriske motorer er fra radiostyrte modellbiler. Deler til kamproboter produseres ikke, så du må lete etter dem på loppemarkeder og på internett. Gode ​​deler er veldig dyre, og designere har en tendens til å lage dem selv.

Boris, designer, styrkespesialist:

«Shelby er en flipper-type. Den er utstyrt med et pneumatisk system som presser lokket kraftig oppover. Dette er robotens hovedvåpen og dens stabiliseringsmetode: etter å ha veltet, kan den snu med ett rykk og stå på hjulene. Men vi kunne ikke lage høyt trykk i den pneumatiske sylinderen for å få lokket til å blåse kraftig - vi hadde ikke de nødvendige ventilene. Det var bare én ting igjen å gjøre: få systemet til å fungere så raskt som mulig. Løsningen viste seg å være enkel: vi ble kvitt overflødig hydraulisk motstand og modifiserte fabrikkventilene. I fremtiden vil det selvsagt være behov for en ventil høytrykk. En ferdiglaget er dyr, omtrent 200 tusen rubler, så nå tenker vi på vårt eget design.»

Kamproboter er ikke en billig hobby: du trenger minst 200-300 tusen rubler pluss forbruksvarer, reservehjul og alt som går i stykker og blir erstattet i kamp. Og dette tar ikke hensyn til tid og arbeid brukt. "For å sette sammen en robot, må et team på tre personer slutte å gå på jobb i to måneder," ler Solarbot-ingeniørene. Du vil ikke kunne spare selv på elektronisk fylling.

Pavel, programmerer:

"Det fine med Shelby elektronikk er at det er veldig få av dem. For ikke å plukke opp et loddebolt etter hver kamp, ​​må du gi roboten det nødvendige minimum av "hjerner". Shelby har enkle fabrikkkontrollere og kun ventilene styres av et lite kretskort. Det er veldig vanskelig å deaktivere det. Selv når vi var i Kina, i stedet for de vanlige blybatteriene, fikk vi kraftige litiumbatterier og ledningene sviktet etter et par minutter, ble ikke robotens elektronikk skadet."

Shelby kamprobot

Hastighet opp til 25 km/t Kraft på den pneumatiske sylinderstangen 2 t Motoreffekt 2,2 kW Pneumatisk sjokkkapasitet uten å endre sylinderen 30−35 Fjernkontroll Reglene for "Battle of Robots" forbyr alle avtakbare deler og metallplater, så Shelby ikke skyter eller vinker med noe, og kroppen er kun laget av en metallprofil.

Solarbot-teamet har bygget en tøff jernsoldat, men den har også et bristepunkt. I Kina led han av de roterende knivene til kinesiske spinnere, i Perm - fra klørne til en matanga-robot, som med åtte tonn kraft kutter en metallprofil som smør. På jernribbene hans - rifter. Skaperne forbereder skjebnen til en utstilling for ham: han vil delta i festivaler (i nær fremtid er det en sommer Geek Picnic), og på arenaen vil han bli erstattet av en ny fighter - også en flipper, bare raskere, kraftigere og enda mer pålitelig. Løftekraften til lokket vil være det dobbelte av Shelby, motoreffekten vil øke fra 2,2 til 2,8 kW, og hastigheten vil øke. Med den nye roboten drømmer det russiske laget om å reise til Robot Wars i England.

Men fremtidens flipper er ikke den ultimate drømmen til Solarbot. Nå forhandler Dmitry med andre lag og ser etter sponsorer: hvis alt ordner seg, vil den første "megaboten" dukke opp i Russland - like stor og formidabel som de japanske, amerikanske og kinesiske multitonnmonstrene.

Takket være støtten fra Moskva Teknologisk institutt For første gang deltok russere i den internasjonale turneringen for kamproboter FMB Championship 2017 i Kina. Kampen ble arrangert av Shelby, Kazan Destructor og St. Petersburg Energy, som gikk videre til semifinalen.

Elon Musk uttrykte nylig sin sterke motstand mot at AI brukes til å lage morderroboter. Vi snakker ikke om Terminators ennå, men om robotsystemer som er i stand til å utføre noen oppgaver som vanligvis er soldatenes ansvar. Militærets interesse for dette temaet er forståelig, men deres vidtrekkende planer skremmer mange.

Men ikke bare moderne krigere drømmer og ser maskingevær som kan erstatte ti, eller til og med hundre soldater samtidig. Disse tankene besøkte hodene til figurer fra forskjellige tidsepoker. Noen ganger ble noen ideer realisert, og de så ganske bra ut.

Robotridder Da Vinci

Leonardo var et geni på nesten alle felt. Han klarte å oppnå suksess på nesten alle områder der han viste interesse. På 1400-tallet skapte han en robotridder (selvfølgelig var ikke ordet "robot" i bruk da).

Maskinen kunne sitte, stå, gå, bevege hodet og armene. Skaperen av den mekaniske ridderen oppnådde alt dette ved hjelp av et system av spaker, gir og gir.

Ridderen ble gjenskapt i vår tid - en fungerende prototype ble bygget i 2002. Den ble laget "basert på" Da Vinci-prosjektet av Mark Rosheim.

Tesla RC båt

I 1898 viste oppfinneren Nicola Testa verden den første oppfinnelsen i sitt slag - fjernstyrt kjøretøy(liten båt). Demonstrasjonen ble holdt i New York. Tesla kontrollerte båten, og den manøvrerte og presterte ulike handlinger som ved magi.

Tesla prøvde senere å selge sin andre oppfinnelse til det amerikanske militæret - noe sånt som en radiostyrt torpedo. Men av en eller annen grunn nektet militæret. Riktignok beskrev han skapelsen ikke som en torpedo, men som en robot, en mekanisk mann som er i stand til å utføre vanskelig arbeid i stedet for deres skapere.

Radiostyrte tanks fra USSR

Ja, ingeniører Sovjetunionen de var ikke kuttet ut for det. I 1940 skapte de radiostyrt kampkjøretøyer på basen lett tank T-26. Rekkevidden til kontrollpanelet er mer enn en kilometer.

Operatørene av disse militære terminatorene kunne åpne ild fra maskingevær, bruke en kanon og en flammekaster. Riktignok var ulempen med denne teknologien det Tilbakemelding var fraværende. Det vil si at operatøren bare kunne observere tankens handlinger direkte på avstand. Naturligvis var effektiviteten av operatørens handlinger i dette tilfellet relativt lav.

Dette er det første eksemplet på en militærrobot i aksjon.

Goliat

Nazistene skapte noe lignende, men i stedet for å utstyre konvensjonelle stridsvogner med radiokontroll, skapte de miniatyrsporsystemer. De kunne fjernstyres. Goliatene ble startet med eksplosiver. Ideen var som følger: en kvikk gutt tok seg til en "voksen" fiendtlig tank og, en gang i nærheten, utførte operatørens kommando om å ødelegge alt med en eksplosjon. Tyskerne laget både en elektrisk versjon av systemet og en minitank med motor intern forbrenning. Totalt ble det produsert rundt 7000 slike systemer.

Halvautomatiske luftvernkanoner

Disse systemene ble også utviklet under andre verdenskrig. Grunnleggeren av kybernetikk, Norbert Wiener, hadde en finger med i deres skapelse. Han og teamet hans var i stand til å skape luftvernsystemer, som justerte nøyaktigheten til brannen selv. De var utstyrt med teknologi som gjorde det mulig å forutsi hvor fiendtlige fly ville dukke opp neste gang.

Smarte våpen i vår tid

På 1950-tallet forsøkte det amerikanske militæret å vinne Vietnamkrigen skapte for første gang laserstyrte våpen, så vel som autonome luftinnretninger, faktisk droner.

Riktignok trengte de menneskelig hjelp til å velge et mål. Men det var allerede nær det det er nå.

Rovdyret

Sannsynligvis har alle hørt om disse dronene. MQ-1 Predator ble introdusert av det amerikanske militæret en måned etter hendelsene 9/11. Nå er Predators de vanligste militære dronene i verden. De har også eldre slektninger - Reaper UAV.

Sappers

Ja, i tillegg til morderroboter, finnes det også sapperroboter. Nå er de veldig vanlige, de begynte å bli brukt for flere år siden, i Afghanistan og andre hot spots. Disse robotene ble forresten utviklet av iRobot - det er selskapet som lager de mest populære rengjøringsrobotene i verden. Vi snakker selvfølgelig om Roomba og Scooba. I 2004 ble 150 av disse robotene (ikke støvsugere, men sappere) produsert, og fire år senere - allerede 12.000.

Nå er militæret fullstendig spredt. Kunstig intelligens (dens svake form) lover store muligheter. USA kommer til å dra full nytte av disse mulighetene. Her opprettelse pågår morderroboter av en ny generasjon, med kameraer, radarer, lidarer og våpen.

Det er de som skremmer Elon Musk, og med ham mange andre lyse hoder fra ulike aktivitetsfelt.