”Fallhardy i bästa fall och vilseledande och farlig i värsta fall”: Tro inte hype – här är varför konstgjord allmän intelligens inte är vad miljardärerna säger att det är
Hype runt konstgjorda intelligens (AI) riskerar att spiralera ut ur kontroll när påståenden kring den nya tekniken eskalerar till det absurde området. AI är en stor penningföretag, skriv författarna till den nya boken, ”AI Con: Hur man bekämpar Big Tech’s Hype och skapar den framtid vi vill ha”(2025), och marknadsföringsfanfare som vi ser är avsedd att främja intressena för Big Tech och göra en sak: Sälj AI -produkter.
I den här nya boken, författare Emily M. Benderprofessor i lingvistik vid University of Washington, och Alex Hannaforskningsdirektör vid Distribuerade AI Research Institute, utmanar vår förståelse för vad AI är – och vad det inte är. I slutändan försöker de se igenom många av de överdrivna påståenden och sensationella för att förstå den verkliga inverkan AI har på samhället.
I detta utdrag kämpar författarna med idén om konstgjord allmän intelligens (AGI), ursprunget till den idén och vad termen faktiskt betyder. I detta extrakt hävdar de att de verkliga definitionerna av AGI och en hypotetisk ”superintelligens” i bästa fall är fuzzy, och i praktiken tjänar bara till att mata företagets AI -hype -maskin.
Om du lyssnade på chefer och forskare på stora teknikföretag, skulle du tro att vi var på gränsen till ett robotuppror. I februari 2022 tweetade Openais huvudforskare Ilya Sutskever ”Det kan vara så att dagens stora neurala nätverk är något medvetna.”
I juni 2022 rapporterade Washington Post att Google Engineer Blake Lemoine var övertygad om att Googles språkmodell Lamda var känslig och behövde juridisk representation. Lemoine avskedades över denna incident – inte för hans falska påståenden (som Google gjorde förnekar), utan för att läcka privat företagsinformation. I ett blogginlägg i augusti 2022 svarade Google VP -kollegan Blaise Agüera Y Arcas på Lemoine -berättelsen, men snarare än att motverka Lemoines påståenden föreslog han att Lamda verkligen ”förstår” begrepp och att debatten om huruvida Lamda har känslor eller inte är känslor eller inte beslutbara eller ”vetenskapliga meningsfulla”
I april 2023 publicerade ett team på Microsoft Research under ledning av Sébastien Bubeck ett icke-peer-granskat papper som kallas ”Sparks of Artificial General Intelligence: Early Experiment med GPT-4,” där de hävdar att visa att språkmodellen GPT-4 ”kan lösa nya och svåra uppgifter som spänner över matematik, kodning, vision, vision, medicin, lag, lag, lagstiftning”, kan lösa nya och svåra uppgifter som spänner över matematik, kodning, vision, vision, medicin, lag, lag, lag, psykologiska, psykologier ”kan lösa nya och svåra uppgifter som spänner över matematik, kodning, vision, vision, medicin, lag, lag, lagstiftning”, kan lösa nya och svåra uppgifter som spänner över matematik, kodning, vision, syn, medicin, lag, lag, lagstiftning ”, kan lösa nya och svåra uppgifter som spänner över matematik, kodning, vision, syn, medicin, lag, lag, lagstiftning” kan lösas.
Släkt: GPT-4.5 är den första AI-modellen som klarar ett autentiskt Turing-test, säger forskare
Ordet ”Sparks” framkallar en bild av något som ska ta eld och spridning av sig själv. Frasen ”konstgjord allmän intelligens” här är avsedd att skilja från vanliga tekniker som kallas ”AI” och är särskilt vanligt i modern diskurs kring tänkande, känsliga eller medvetna maskiner.
Dessa påståenden är inte nya. För över 60 år sedan gjorde forskare, företagsledare och myndigheter att göra liknande bombastiska påståenden om arten av datorinformation och risken för att övermänsklig underrättelse ersätter människor på jobbet, hemma och, kanske mest oroande, på slagfältet.
Det olyckliga ursprunget till ”allmän intelligens”
Trots påståenden om att maskiner en dag kan uppnå en avancerad nivå av ”allmän intelligens” har ett sådant koncept inte en accepterad definition. (Openai har undvikit frågan genom att föreslå att de kommer att tillåta deras styrelse att bestämma när deras algoritmer har uppnått konstgjord allmän intelligens.) Men projektet att identifiera allmän intelligens är i bästa fall rasistiskt och kapabelt till sin kärna, vilket gör projektet att jaga konstgjord allmän intelligens dold i bästa fall och i bästa fall och farligt i sämre.
Microsofts ”Sparks” -papper innehåller en preliminär definition av allmän intelligens, en som inte har några referenser till fält som kan ha något att säga i en sådan sak, som psykologi eller kognitiv neurovetenskap. Trots att det är ett papper som hävdar att vissa statistiska modeller har visat inkomsterna av ”konstgjord allmän intelligens”, finns det ingen välskådad definition av vad komponenterna i allmän intelligens är.
I en tidigare version av uppsatsen citerade författarna en 1994 -redaktion från Wall Street Journal undertecknad av en grupp av 52 psykologer som hade gett denna definition: ”Konsensusgruppen definierade intelligens som en mycket allmän mental förmåga som bland annat innebär förmågan att resonera, planera, lösa problem, tänka abstrakt, förstå komplexa idéer, lära sig snabbt och lära sig av erfarenhet.” ”
Tyvärr är målet att skapa konstgjord allmän intelligens inte bara ett projekt som lever som en hypotetisk i vetenskapliga artiklar. Det finns riktiga pengar i detta arbete, mycket av det kommer från riskkapitalister.
Mycket av detta kan bara vara riskkapitalister (VC) efter mode, men det finns också ett antal AGI -sanna troende i denna blandning, och några av dem har pengar att bränna. Dessa ideologiska miljardärer-bland dem Elon Musk och Marc Andreessen-hjälper till att sätta dagordningen för att skapa AGI och ekonomiskt stöd, om inte direkt proselytizing, en modern eugenik. Detta är byggt på kombinationen av konservativ politik, en besatthet av pro-födelsepolitik och en högerattack mot multikulturalism och mångfald, allt dold bakom en fasad av teknisk framsteg.
Hype ”superintelligens”
Varför verkar så många människor som är involverade i att bygga och sälja stora språkmodeller ha fallit för idén att de (kan vara) känsliga? Och varför spenderar så många av dessa samma människor så mycket tid på att varna världen om ”existentiell risk” för ”superintelligens” samtidigt som de spenderar så mycket pengar på det?
Med ett ord är påståenden kring medvetande och känslighet en taktik att sälja dig på AI. De flesta i detta utrymme verkar helt enkelt sträva efter att göra tekniska system som uppnår det som ser ut som mänsklig intelligens för att komma vidare i det som redan är en mycket trångt marknad. Marknaden är också en liten värld: forskare och grundare rör sig sömlöst mellan ett fåtal stora tekniska spelare, som Microsoft, Google och Meta, eller så går de till hittade AI -startups som får miljoner i riskkapital och utsädesfinansiering från Big Tech.
Som en datapunkt, 2022 lämnade 24 Google -forskare att gå med i AI -startups (medan en av oss, Alex, lämnade för att gå med i en ideell forskning). Som en annan datapunkt, 2023 ensam, 41,5 miljarder dollar i venture -erbjudanden ut till generativa AI -företag, enligt pitchbook -data. Utbetalningen har uppskattats vara enorm. Det året föreslog McKinsey att generativ AI snart kan lägga till ”upp till 4,4 biljoner dollar” årligen i den globala ekonomin. Uppskattningar som detta är naturligtvis en del av hype -maskinen, men VC: er verkar inte tro att faktum borde hindra rusningen att investera i dessa verktyg.
Denna hype lutar sig på troper om konstgjord intelligens: Sentientmaskiner som behöver beviljas roboträttigheter eller matrisstil superintelligens utgör ett direkt hot mot ragtag mänskliga motståndare. Detta har konsekvenser utöver cirkulationen av medel bland VC: er och andra investerare, särskilt för att vanliga människor får höra att de kommer att vara ute av ett jobb.
