Framstegen för artificiell intelligens kan leda till slutet på den mänskliga existensen som vi känner den, enligt ett extremt kort öppet brev som släpptes i går (30 maj) och som undertecknades av stora tekniska chefer, AI-forskare, akademiker och, något inkongruent, musikern Grimes .
'Mindrar riskerna för utrotning från A.I. bör vara en global prioritet vid sidan av andra samhällsrisker som pandemier och kärnvapenkrig', påstående läser. Den publicerades av Center for A.I. Safety (CAIS), en ideell organisation fokuserad på att skydda teknikens utbyggnad.
Den korta varningen, som inte innehöll kontextuell information om dess allvarliga antagande, följer på två nyligen öppnade brev som anspelar på potentiella faror som A.I. forskning och genomförande.
I mars kom mer än 1 000 branschexperter inklusive Elon Musk och Apples grundare Steve Wozniak undertecknade ett brev kräver en sex månaders paus på A.I. utveckling för att studera riskerna och utveckla säkerhetsprotokoll. Följande månad, ännu ett brev publicerades av medlemmar i Association for the Advancement of Artificiell Intelligens, inklusive Microsoft s chief scientific officer Eric Horvitz, varnar för A.I:s förmåga att ge dåliga skådespelare.
Brådskan i de två tidigare meddelandena bleknar i jämförelse med CAIS:s kortfattade uttalande, som hävdar att dess mål är att 'skapa gemensam kunskap om det växande antalet experter och offentliga personer som också tar några av avancerade A.I:s allvarligaste risker på allvar. ”
Bortom Grimes, andra oväntade anhängare av brevet inkluderar podcastaren Sam Harris, TED-chefen Chris Anderson och Kersti Kaljulaid, den tidigare presidenten i Republiken Estland. Undertecknarna som sticker ut är dock inte de som verkar malplacerade utan snarare de som har byggt karriärer på just den teknik som de nu varnar för kan orsaka utrotning.
tar ambien under dagen
Sam Altman, vd för OpenAI
Sam Altman, chef för ChatGPT-tillverkaren OpenAI , undertecknade brevet tillsammans med medgrundarna Ilya Sutskever, John Schulman och tre andra OpenAI-chefer.
Lanserades först 2015 som en ideell verksamhet som syftar till att utveckla A.I. På ett säkert sätt övergick företaget till en hybrid 'capped-profit'-modell 2019. I november släpptes A.I. chatbot ChatGPT, som snabbt blev viralt och väckte oro angående dess potential att skriva skoluppgifter och byta ut arbetskraften.
gratis omvänd telefonsökning gratis
OpenAI:s marknadsvärdering var mellan 27 och 29 miljarder dollar från och med april.
Trots sitt stöd för brevets brådskande varning har Altman tidigare lovordat uppkomsten av allt mer sofistikerade A.I. system. 'Denna revolution kommer att skapa fenomenal rikedom,' sa han i en 2021 blogginlägg . 'Priset på många typer av arbetskraft (som driver kostnaderna för varor och tjänster) kommer att falla mot noll när tillräckligt kraftfull AI 'ansluter sig till arbetsstyrkan.'
Geoffrey Hinton, A.I. pionjär
Två medlemmar av en trio av datavetare kända som 'gudfäderna till A.I.' lovade också sitt stöd till det senaste brevet.
Undertecknarna Geoffrey Hinton och Yoshua Bengio har arbetat i A.I. fältet i årtionden och, tillsammans med Yann LeCun, hjälpte till att lägga grunden för teknikens utveckling. De tre tilldelades Turing Award 2018.
Hinton och Bengio, för närvarande professorer vid University of Toronto respektive Universite de Montreal, har båda uttryckt oro över A.I:s framsteg.
Tidigare denna månad berättade Hinton för New York Times han slutade sitt jobb kl Google att tala ut om riskerna med A.I ., och tillägger att han nu ångrar sitt livsverk. 'Det är svårt att se hur du kan förhindra de dåliga skådespelarna från att använda det för dåliga saker,' sa han.
Bengio uttryckte liknande känslor till BBC I dag (31 maj) har avslöjandet av A.I:s hot fått honom att ifrågasätta hans år av forskning. 'Man kan säga att jag känner mig vilsen', sa han.
Under tiden LeCun, chef A.I. forskare vid Meta, valde att inte skriva under brevet.
Jag hoppas att du hittar det här mejlet bra
Demis Hassabis, vd för Google DeepMind
Flera Google-anställda, inklusive mer än tio som arbetar för dess maskininlärning A.I. startup DeepMind, är undertecknare av uttalandet. Listan inkluderar DeepMinds VD och medgrundare Demis Hassabis, som tidigare arbetade som A.I. programmerare för tv-spel på Lionhead och Elixir.
DeepMind köptes av Google 2014 för cirka 500 miljoner dollar. Hassabis har uppmanat företaget att fortsätta med försiktighet och hävdar att artificiell allmän intelligens (A.G.I), en term som syftar på datorer med kognitiva förmågor jämförbara med människors, kan dyka upp inom det närmaste decenniet .
'Jag skulle förespråka inte rör sig snabbt och slår sönder saker, Hassabis berättade Tid i januari och tillade att han tror att vinster från A.G.I. bör omfördelas jämnt.
Hassabis division har dock tagit fart under de senaste månaderna. Google DeepMind bildades i april, efter att Google kombinerat AI-fokuserade divisioner DeepMind och Brain för att ' påskynda framstegen mot en värld där AI kan hjälpa till att lösa de största utmaningarna som mänskligheten står inför .” Och tidigare i år, Google tillkännagav i sitt resultat för fjärde kvartalet 2022 att DeepMinds finansiella information nu kommer att rapporteras under Alphabets företagskostnader i takt med att den blir allt mer använd av företaget.
Grimes, musiker och producent
Grimes, den eklektiske musikern och tidigare romantiska partnern till OpenAI-grundaren Musk, har experimenterat med tekniken under hela sin karriär, särskilt med hjälp av den för att skapa en A.I. vaggvisa för sin son och en A.I. chatbot tränade på sina egna manér.
'Jag tror att A.I. är jättebra', sa hon till New York Times. 'Jag känner bara att jag kreativt tror att A.I. kan ersätta människor.'
Den senaste A.I. projekt från Grimes, vars riktiga namn är Claire Boucher, släpptes denna månad i form av Elf.Tech, en A.I. programvara som låter fans duplicera hennes sång att skapa sina egna låtar. 'Jag gillar idén att öppna all konst och döda upphovsrätten,' twittrade artisten, som erbjuder en 50-procentig royaltydelning för framgångsrika låtar som härrör från A.I. program.
new york city på 80-talet
Dario Amodi, VD för Anthropic
Antropisk Dario Amodei stödde uttalandet tillsammans med grundarna Jared Kaplan och Chris Olah. Hans syster Daniela Amodei, Anthropics president, skrev också under brevet.
Amodei arbetade tidigare på Google, Baidu och OpenAI innan han lämnade det senare företaget 2020 för att leda sin egen A.I. börja, som värderades till 4,1 miljarder dollar i mars .
Den Google-stödda uppstarten också samlade in 450 miljoner dollar i en finansieringsrunda denna månad, den största A.I. finansieringsrunda 2023 sedan Microsofts OpenAI-investering tidigare i år.
Anthropics primära produkt är Claude, en chatbot som den började testa i januari med en utvald grupp användare. Claude tränades med en uppsättning moraliska riktlinjer för att undvika stötande svar från A.I. chattverktyg, som bygger på FN:s deklaration om mänskliga rättigheter och Apples regler för datasekretess. Startupens process att skapa en 'ofarlig A.I. assistent” anlades i en December vitbok .
Tidigare denna månad, tillsammans med andra A.I. VD:ar som Altman, Amodi träffade president Biden för att diskutera hur man implementerar bestämmelser i A.I. industrin för att minska sin risk.
Kevin Scott, CTO på Microsoft
Chefer från A.I. Powerhouse Microsoft skrev också under brevet, inklusive företagets tekniska chef Kevin Scott.
Microsoft är en investerare i OpenAI – ett partnerskap som förlängdes i januari i en affär på flera miljarder dollar. Den driver sin sökmotor Bing med ChatGPT.
Scott, som sa att 2023 kommer att vara 't det mest spännande året som A.I. samhället någonsin har haft, ” hävdar att Microsoft förbättrar sitt ansvariga A.I. processer utformade för att mildra teknikens skada.
Men trots att han undertecknat ett uttalande som hävdar att A.I. har potentialen att förstöra den mänskliga civilisationen, skrev Scott 2020-boken Omprogrammerar den amerikanska drömmen , som gör gällande att A.I. kan revolutionera företagandet på landsbygden. Microsoft har också fokuserat hårt på A.I. under de senaste månaderna, hävdar pushen kommer att resultera i ökade vinster för företaget över tid.
Vad kommer ännu ett öppet brev att åstadkomma?
Det faktum att så många undertecknare har ekonomiska band till A.I. forsknings- och utvecklingsföretag har fått en del att undra om de senaste uppmaningarna till försiktighet är ett PR-trick eller kanske ett sätt att skaffa sig en konkurrensfördel i en allt mer trång industri.
Tidigare denna månad tillfrågades Microsofts CTO balansen mellan stora A.I. företag som söker regler som bara gynnar dem och ett regelverk som består av mindre konkurrenskraftiga nystartade företag. 'Jag tycker att vi borde ha båda,' sa Scott Verge . 'Jag tror inte att det finns något A priori där det ena utesluter det andra.'
Altman har också efterlyst mer reglering i A.I. industrin, uttrycker oro för att tekniken skulle kunna utnyttjas av auktoritära regimer eller användas för cyberattacker, men hans önskan om tillsyn över reglerna verkar vara selektiv, som Altman också tidigare hävdat att OpenAI får lämna EU. på grund av regionens potentiella 'överreglering' av A.I.
den-siste-mannen-på-jorden
Med fokus på de upprörande men osannolika konsekvenserna av A.I. implementering flyttar tillsynsmyndigheternas uppmärksamhet bort från faktiska risker som artificiell intelligens utgör, föreslog juridikprofessor Ryan Calo vid University of Washington i en serie tweets . 'Att hantera de omedelbara effekterna av AI på arbete, integritet eller miljö är kostsamt. Att skydda mot AI på något sätt att 'vakna upp' är inte.'
