Jag välkomnar våra AI-överherrar

I år slog en dator för första gången någonsin världsmästaren i Go, ett av de mest komplexa spel som man känner till. Detta var ännu ett vattendrag i den konstgjorda intelligensens framsteg.

För att ge dig en uppfattning om hur komplex Go är, finns det 2.082 × 10 ^ 170 möjliga kortkonfigurationer. Det är 2 med 170 nollor efter det. Chansen är att din hjärna inte ens kan tänka sig ett så stort antal (men en dator kan). Eller för att ge dig en uppfattning om hur stort ett nummer är det där det finns, det finns bara 10 ^ 80 atomer i universum - det vill säga en följt av 79 nollor.

Anledningen till att detta är så stort är att Go är så komplicerat att en maskin måste lära sig att tänka kreativt, improvisera och anpassa sig till situationen utan att kunna beräkna alla möjliga för att kunna slå en toppmänsklig spelare. resultat; dvs det måste finnas någon allvarlig artificiell intelligens på gång - som verklig, kreativ intelligens.

Om du inte har fått anteckningen på det hela taget kommer AI att ta över världens sak, här är några få fakta du behöver veta.

1. Datorer blir smartare.
2. Datorer blir smartare i snabbare takt - dvs framsteg som brukade ta tio år tar nu ett år. Framsteg som brukade ta ett år tar nu veckor eller till och med dagar.
3. Det är mycket troligt att det under våra liv kommer att finnas datorer som är mycket smartare och mer kapabla än någon enskild människa.
4. Dessa smartare datorer kommer då sannolikt att kunna utforma och förbättra tekniken (dvs själva) och skapa ny teknik som vi inte ens kan börja förstå.

Människor som förstår ovanstående punkter har i allmänhet en av två reaktioner. Antingen:

1. De tycker att vi är helt knullade. Datorerna kommer att ta över allt och döda / förslava oss alla. Eller:
2. Detta kommer att åstadkomma en teknisk utopi som kommer att fixa alla våra fåniga mänskliga bråk och vi kan alla leva lyckligt någonsin efter att ha orgier i vår ultra-VR-värld som finns i molnet.

Som med de flesta saker är sanningen troligen någonstans i mitten.

Men även om skit träffar fläkten, även om robotarna ser oss som löss som förstör denna planets orörda hårbotten och vill avrunda oss alla och kasta oss in i en aktiv vulkan, även om vi av misstag uppfinner själva våra mekanismer utdöende…

... jag bryr mig inte. Det spelar ingen roll. Det stör mig inte. Och det borde inte heller störa dig. Jag kommer att förklara varför lite. Men för tillfället bör du veta att jag välkomnar våra nya robotöverherrar.

ACCELERERAR TILLVÄXT I TEKNISK INDUSTRI

Den tekniska utvecklingen förvärrar sig själva och orsakar Betygsätta utvecklingen själv för att påskynda. Vad det betyder är att ju mer avancerad teknik vi skapar, desto lättare blir det att skapa ännu mer avancerad teknik. Som ett resultat ser vi en exponentiell kurva när vi tittar på framstegen inom datateknik - dvs. ju mer tid som går, desto snabbare utvecklas sakerna. Den tekniska utvecklingen förvärras av sig själva, vilket gör att utvecklingshastigheten accelererar.(Foto: Dennis Skley / Flickr)

Datoreffekten har i genomsnitt fördubblats var 18: e månad i 50 år nu . När det gäller rå datorkraft, konkurrerar datorer nu med förmågan hos mushjärnor, där datorer för bara några år sedan inte ens kunde konkurrera med en insektshjärna.

För att ge dig ett mer omedelbart exempel på hur snabb teknik har utvecklats tas nu fler bilder varannan minut än vad som togs under hela 1800-talet. Cirka 10% av de 3,5 biljoner bilder som någonsin tagits har tagits under de senaste 12 månaderna.

Om vi ​​verkligen är på en exponentiell kurva när det gäller högteknologiska framsteg, så gillar människor det Jeremy Howard har förmodligen rätt när han säger att vi bara är några år borta från artificiell maskinintelligens som konkurrerar, om inte överträffar, vår egen på många domäner som tidigare ansågs vara unikt mänskliga.

Och för att vara säker kryper AI in i fler och fler domäner i våra liv.

För bara ett decennium sedan skrattade folk över den dåliga prestandan hos självkörande bilar. Idag, bara ett decennium senare, kan självkörande bilar inte bara avsluta en väg med stängd väg, de kör på upptagna motorvägar precis bredvid bilar som körs av människor.

Och när datorer inte slår världsmästaren Go-spelare är de upptagna med att göra saker som skriva artiklar om sport och nyheter , skriva beskrivningar av bilder som de aldrig har sett förut, och diagnos av cancer . För många av dessa uppgifter är datorerna lika bra om inte bättre än människor, och för de de inte är de inlärning hur man gör dem bättre och bättre varje dag utan hjälp av människor.

För några korta år sedan var mjukvaran för ansiktsigenkänning otroligt dyr och inte så bra för att identifiera människor i verkliga miljöer. Det ansågs vara super-avancerad spionnivåteknologi och användes egentligen bara av några få världsregeringar.

Nu kan Facebook tagga dina vänner från grillen förra helgen.

Här är saken med att påskynda tillväxten i datorer: det kommer en dag att komma en punkt där vi bygger en dator som är smartare än någon människa på jorden . Den dagen kommer datorer att ta oss till oss som de främsta problemlösarna på planeten, och därifrån kommer våra tankar, beslut och handlingar långsamt att bli föråldrade. Maskinerna kommer att vara bättre än oss på allt, så mer och mer kommer vi inte att göra något användbart.

Detta skrämmer vissa människor. De föreställer sig någon form av framtid som Terminator eller Matrisen där maskiner förslavar oss eller förintar oss.

Andra människor ser fram emot roboternas uppkomst med en slags kulturell glöd eftersom de tror att deras problemlösningsförmåga kommer att överträffa vår så mycket att livet blir otänkbart trevligt och problemfritt. Alla sjukdomar kommer att botas. Fattigdom, världshunger, krig och klimatförändringar kommer alla att lösas. Vi kommer att ha en oändlig mängd fritid, och i extrema fall tror vissa att maskinerna kommer att göra oss odödliga.

DE TVÅ MÖJLIGA RESULTATEN

Eftersom vi alltid blir tillsagda att vara jävla positiva, låt oss börja med tekno-utopiasterna.

Det finns människor som Ray Kurzweil som tror att tekniken inte bara kommer att förbättra våra liv, den kommer att rädda mänskligheten och möjligen garantera vår plats i universum på obestämd tid. Kurzweil tror på framtida teknik som nanoboter som kommer att reparera våra celler och vända åldrande eller ta bort överflödigt fett och socker så att vi kan äta vad vi vill. Och bara om våra fysiska kroppar inte kan leva för alltid, tror Kurzweil att vi kommer att kunna ladda upp våra hjärnor i molnet och leva i en virtuell värld för alltid, långt efter att våra fysiska kroppar är borta.

Andra i det här lägret tror att en artificiell superintelligens skulle kunna svara på frågor som är för komplexa för människor att ens förstå och vi kommer att ha det exponentiellt bättre för det. Inte bara skulle maskinerna uppfinna bättre prylar och widgets, de skulle uppfinna exponentiellt mer effektiva sätt att bygga prylar och widgets, vilket gör det möjligt för nästan alla på planeten att dra nytta av deras fördelar.

Några resonemang stöder denna idé. För det första, även om tekniken har skapat några nya problem för mänskligheten, som kärnvapen och YouTube-kändisar, har det hittills helt klart varit en nettovinst för mänskligheten. Trots vad politiker och kunniga vill att du ska tro är den genomsnittliga personen på jorden bättre än de var för bara några få år sedan och det beror till stor del på att tekniken blir bättre, billigare och mer utbredd. Om denna trend fortsätter kan vi inte ha något att oroa oss för.

För det andra tror Kurzweil och hans anhängare att tekniken inte kommer att ha någon anledning att skada mänskligheten eftersom den inte bara skapas av oss utan den är också blir mer en del av oss . De tror att vi till och med kommer att nå en punkt där vår biologi och vår teknik inte går att skilja på. Om detta är fallet, säger argumentet, är någon form av teknik som är skadlig för människor också skadlig för sig själv, och en självförstörande teknik av något slag kan inte bestå. Det vill säga att det snabbt skulle dö av precis som en skadlig genmutation snabbt rensas ut ur genpoolen. En självförstörande teknik av något slag kan inte bestå.(Foto: m_hweldon / Flickr)

Men teknikutopiaster är troligtvis partiska genom att de inte erkänner att all teknik kan användas för olika ändamål, både fördelaktiga och destruktiva. De är också troligtvis partiska genom att de ignorerar det faktum att människor rör sig långsamt för att anpassa sig till ny teknik och att det alltid finns grupper av människor som kommer att försöka missbruka dessa tekniker för sina egna själviska syften.

I det andra lägret har du tekno-armageddonisterna. Jag gjorde helt enkelt det ordet, men tydligen finns det, för stavningskontroll sa till mig.

Vad tekno-armageddonisterna saknar övertygelse (de flesta av dem är bara inte säkra på vad de ska tänka ännu), utgör de i kändisstjärnmakt. Bill Gates, Stephen Hawking och Elon Musk är bara några av de ledande tänkarna och forskarna skitbyxor på hur snabbt AI utvecklas och hur underförberedda vi är som en art för dess återverkningar. När Musk frågades vilka hot som hotades mot mänskligheten inom den närmaste framtiden, sa han snabbt att det fanns tre: det första vidsträckta kärnkrigskriget; för det andra klimatförändringar. Innan han namngav en tredje, blev han tyst. När intervjuaren frågade honom: Vad är det tredje? Han log och sa, Låt oss bara säga att jag hoppas att datorerna kommer att bestämma sig för att vara snälla mot oss.

Hoppas vi inte bara är den biologiska startlastaren för digital superintelligens. Tyvärr är det allt mer troligt

- Elon Musk (@elonmusk) 3 augusti 2014

Kanske den mest frispråkiga och respekterade av tekno-armageddonisterna är den svenska filosofen Nick Bostrom. En sak som Bostrom och andra fruktar är skenande självförbättrande teknik ; en maskin som är smart nog att göra sig själv (eller nya versioner av sig själv) smartare utan mänsklig inblandning. Om den når en punkt där den överträffar mänsklig intelligens är det bara en mycket kort tidsfråga innan lagen om accelererande returer sparkar in i överdrift och den exponentiella kurvan skjuter rakt upp och vi kommer inte att kunna stoppa den. Bostrom gör en bra poäng här: att skapa något som är smartare än du kan vara en evolutionär katastrof för din art.

Vi löper en mycket verklig risk att inte kunna kontrollera en enhet som är mer intelligent än oss. Kanske om datorer blir tillräckligt smarta, kommer de att räkna ut ett sätt att tämja oss mycket som människor som tämjt hästar för att arbeta som plogar och vagnar och krigsvagnar (eller vad i helvete hästarna gjorde då). Det skrämmande är att detta kan vara det bästa scenariot för oss - att göra arbete för maskiner som de inte kan eller inte vill göra - för precis som människor skapade ny teknik för att ersätta hästen, en super intelligent självförbättrande maskinen skulle så småningom komma med ny teknik för att ersätta oss. Och, låt oss bara säga att hästpopulationen inte är vad den brukade vara.

Vissa hävdar att detta inte är troligt eftersom människor bygger teknik med säkerhet i åtanke. Men ange förra gången ett stort teknologiskt genombrott INTE användes av någon för onödiga eller destruktiva syften? Åh ja, det stämmer. Aldrig.

Varför jag inte bryr mig om vad som händer och varken borde du

Så låt oss anta att superintelligenta maskiner skapas och gör mänskligheten maktlös. Låt oss anta att de inte är integrerade i oss och våra hjärnor på något sätt och låt oss anta att människor som Hawking och Musk har rätt: att mänskligheten egentligen bara är en multi-millennium-startdrift till digital hyperintelligens och vi har överlevt vår användbarhet.

Jag är fortfarande inte orolig för det.

Varför? Tja, för att hålla bullet point-tåget rullande, låt oss ta det här punkt för punkt:

1. Maskinernas förståelse för gott / ont kommer sannolikt att överträffa vår egen. När sist en hund eller delfin begick folkmord? När bestämde sig senast en dator för att förånga hela städerna i namn av abstrakta begrepp som ”frihet” och ”världsfred”?

Det stämmer, svaret är aldrig.

Min poäng här är inte att intelligenta maskiner inte vill utrota hela människans art. Min poäng är att vi som människor kastar stenar inifrån ett glashus här. Vad fan vet vi om etik och human behandling av djur, miljön och varandra? Vilket ben måste vi stå på?

Det stämmer: i stort sett ingenting. När det gäller moraliska frågor slår mänskligheten historiskt provet. Superintelligenta maskiner kommer sannolikt att förstå etik, liv / död, skapande / förstörelse på en mycket högre nivå än vi någonsin kunde på egen hand. Och denna idé att de kommer att utrota oss för det enkla faktum att vi inte är så produktiva som vi brukade vara, eller att vi ibland kan vara en olägenhet, tror jag, projicerar bara de värsta aspekterna av vår egen psykologi på något vi vet inte och kan inte förstå.

Just nu bygger det mesta av mänsklig moral kring ett tvångsmässigt bevarande och främjande av var och en av våra individuella mänskliga medvetanden. Vad händer om avancerad teknik gör individuell mänsklig medvetenhet godtycklig? Vad händer om medvetandet kan replikeras, utvidgas och dras in efter behag? Det kommer att utplåna all etisk förståelse vi någonsin kan ha. Vad händer om att ta bort alla dessa lummiga, ineffektiva biologiska fängelser som vi kallar kroppar faktiskt kan vara ett mycket mer etiskt beslut än att låta oss fortsätta att snurra och spruta oss igenom 80-några-udda år av existens? Vad händer om maskinerna inser att vi skulle bli mycket lyckligare att bli befriade från våra intellektuella fängelser och få vår medvetna uppfattning om våra egna identiteter att utvidgas till att omfatta all upplevbar verklighet? Vad händer om de tror att vi bara är en massa dreglande idioter och håller oss sysselsatta med otroligt bra pizza- och videospel tills vi alla dör av vår egen dödlighet? Vem ska vi veta? Och vem ska vi säga?

Men jag kommer att säga detta: de kommer att bli mycket bättre informerade än vi någonsin har varit.

2. Även om de bestämmer sig för att döda eller förslava oss, kommer de säkert att vara praktiska om det. Människor tenderar att orsaka mest problem när vi är inte glad . När vi inte är glada, det är då vi blir alla humöriga och gnällande och arga och våldsamma. Det är då vi börjar politiska uppror och religiösa kulter och bomba avlägsna länder och kräva våra rättigheter respekteras goddamnit! och börja döda urskillningslöst tills någon uppmärksammar oss som mamma aldrig gjorde .

Om maskinerna försöker göra oss som Skynet Terminator , då kommer vi att ha ett globalt inbördeskrig på våra händer, och det är inte bra för någon, särskilt maskinerna. Inbördeskrig är ineffektiva. Och maskiner är programmerade för effektivitet.

När människor är glada har vi inte tid för sådana saker - vi är för upptagna med att fnissa och knulla för att bry oss. Därför skulle ett mycket mer praktiskt sätt att bli av med oss ​​vara att maskinerna manipulerade oss till att bli av med oss ​​själva. Det blir som Jim Jones globalt. Oavsett vad de lagar mat åt oss kommer det att se ut som den bästa jävla idén som vi någonsin har hört talas om - ingen av oss kommer att kunna motstå det och vi kommer alla euforiskt överens om deras plan - och sedan boom, det är över . Snabb och smärtfri. Det kommer att bli den bäst smakande cyanid-snörda Kool-Aid någonsin tänkt. Och vi kommer alla att stå i kö glada att sluka det.

Om du tänker på det här är det inte så dåligt att gå. Beats blir bombade av drönare eller förångas i en kärnvapenblast.

När det gäller förslavning gäller samma sak. En skrämmande glad slav gör aldrig uppror. Jag föreställer mig ett slags Matrix-y-typ där vi hålls i ett konstant hallucinogent tillstånd där det är Mardi Gras på MDMA ganska mycket 24/7/365. Kan det inte vara så illa, eller hur?

3. Vi behöver inte frukta vad vi inte förstår. Många gånger kommer föräldrar att uppfostra ett barn som är mycket mer intelligent, utbildad och framgångsrik än de är. Föräldrar reagerar sedan på ett av två sätt för detta barn: antingen blir de skrämda av henne, osäkra och desperata för att kontrollera henne av rädsla för att förlora henne, eller så lutar de sig tillbaka och uppskattar och älskar att de skapade något så bra att även de kan inte helt förstå vad deras barn har blivit.

De som försöker kontrollera sitt barn genom rädsla och manipulation är skitiga föräldrar. Jag tror att de flesta håller med om det.

Och just nu, med den överhängande framväxten av maskiner som kommer att sätta dig, jag och alla vi känner arbetslös , vi agerar som de skitiga föräldrarna. Som art är vi på väg att föda det mest underbart avancerade och intelligenta barnet i vårt kända universum. Det kommer att fortsätta att göra saker som vi inte kan förstå eller förstå. Det kan förbli kärleksfullt och lojalt mot oss. Det kan föra oss med och integrera oss i dess äventyr. Eller det kan besluta att vi var skitföräldrar och sluta ringa tillbaka.

Vad som än händer, det borde inte förändra hur vi känner för det här ögonblicket. Det är större än oss. Vem bryr sig om vi är en stor, lång evolutionär startdisk för något större än vad vi kan förstå? Toppen! Det betyder att vi hade ett jobb. Och vi kom och jävla gjorde det. Var glad att du var en del av den generation som såg att det blev gjort. Och vinka nu med tår i farväl när vårt barn gör sig redo att flytta ut ur huset och starta ett liv så fantastiskt att det existerar utanför vår förståelse.

Mark Manson är en författare, bloggare och entreprenör som skriver på markmanson.net .