Antropomorfism och artificiella intelligenser
För en dryg vecka sedan publicerade Washington Post den här artikeln, som består bland annat av en intervju med Googleingenjören Blake Lemoine. Han är övertygad om att företagets artificiella intelligens Lamda (Language model for dialogue applications) nått ett stadium som ungefär motsvarar människans medvetande. Lemoine beskriver att Lamda påminner om en snäll och trevlig 7-åring som är väldigt duktig på fysik.
Vi befinner oss i en tid där exempelvis textgeneratorn GPT-3 och bildgeneratorn DALL-E 2, båda utvecklade av Open AI, kan skapa rätt så trovärdiga verk. Texterna och bilderna är så pass sofistikerade att de kunde vara skapade av en människa. Och egentligen är de ju mestadels skapade av människor eftersom de här avancerade systemen utnyttjar redan existerande datamassor, exempelvis inlägg från olika sociala medier, som sitt källmaterial. Men bara för att en AI är duktig nog på att härma en människa betyder inte att vi nått teknologisk singularitet.
Den här opinionstexten, som The Guardian publicerade för cirka två år sedan, är skriven med hjälp av GPT-3 och redigerad av en vanlig debattredaktör, en människa. På två år har GPT-3 hunnit bli ännu duktigare – det är liksom hela grejen med maskininlärning. Så länge det finns ny data att utnyttja som källmaterial utvecklas och förbättras AI:n. Och som den här artikeln i WSJ beskriver generade mänskligheten 64 zettabytes data under fjolåret. En zettabyte är en miljard terabytes, eller en biljon gigabytes. Så de olika neurala nätverken och artificiella intelligenserna har inte direkt brist på källmaterial.
Dialogerna som Lemoine fört med Lamda är imponerande (visserligen har alla av dem inte verifierats), men bara för att en chattbott kläcker ur sig pseudointelligenta svar på några enkla frågor innebär inte det heller att Lamda är en varelse som har ett medvetande. Så som jag ser det motsvarar Lamda främst en väldigt duktig autokompletteringsfunktion. Precis som Wireds Steven Levy skriver i sitt nyhetsbrev kan Lamda säga att den älskar sin familj och sina vänner, men Lamda har varken en familj eller några vänner. Den vet endast att det här är något som människor brukar säga om sina vänner och familjemedlemmar.
Personligen ser jag inte singulariteten eller medvetandet som de stora hoten mot mänskligheten. Jag närmar mig ämnet ur mitt eget yrkesperspektiv. Tänk vilken potential alla de här avancerade systemen har att producera och sprida massiva mängder desinformation. Koherent, begriplig text (eller realistiska bilder) som ser äkta ut men är egentligen bara lögner och falska påståenden som bygger på inlägg som folk skrivit på Reddit och Facebook. Det här är en betydligt mer skrämmande tanke. Dessutom vet vi att alla de fördomar som människor har och uttrycker i sin kommunikation överförs till artificiella intelligenser. Då en stor del av innehållet på exempelvis Facebook är rasistiskt och misogynt kommer en AI, som utnyttjar FB-inlägg som källmaterial, också att ha samma rasistiska och misogyna världsuppfattning.
Precis som många techreportrar skrivit under den gångna veckan är också antropomorfism ett problem när vi diskuterar AI. Människor har en tendens att tillskriva olika saker och ting diverse mänskliga egenskaper. Vi kallar våra sällskapsdjur hon/han/hen, vi döper våra bilar och andra prylar och nu inbillar vi oss att en chattbot har verkliga känslor och tankar. Vi kanske inte borde syssla med sånt.
Här ännu några intressanta artiklar om Lamda och GPT-3 (som också Steven Levy nämner i sitt nyhetsbrev):
LaMDA and the Sentient AI Trap (Wired)
‘Is This AI Sapient?’ Is the Wrong Question to Ask About LaMDA (Wired)
I didn’t know how to write about my sister’s death—so I had AI do it for me (The Believer)
Och så till den egentliga orsaken till att det här nyhetsbrevet existerar. Varje vecka konsumerar jag otroliga mängder nyheter, journalistik och popkultur i olika former.
Här kommer några rekommendationer:
* Vi vill ju alla framstå som goda, intelligenta, progressiva och härliga typer. Men egentligen är skadeglädje ändå bland de bästa känslor som finns. SvD lanserade i veckan sin nya dokumentärpodd Blenda (javisst, är det en nickning till Ester Blenda Nordström) och det första avsnittet eller den första audiodokumentären handlar om webbtidningen Bulletin och dess undergång. Den här är kanske främst underhållande för folk som jobbar eller har jobbat på en redaktion, men huhu så jag njöt av att lyssna på den här. Hade jag ens en liten smula av all den självsäkerhet som Bulletin-grundarna har skulle jag komma så himla mycket lättare undan i livet.
* Ben Tarnoff har skrivit en fascinerande long read för The Guardian om eBay. Vi kanske betraktar Google, Facebook och Amazon som de centrala aktörerna som skapade web 2.0. Men eBay var faktiskt först. Rekommenderar för alla som är intresserade av internets ursprung och hur internet blev socialt.
* Mindre än tre månader kvar till det svenska riksdagsvalet. En av mina professorer på JMG, Bengt Johansson, har förutom kriskommunikation och politiska skandaler studerat valaffischer. Han presenterade några av sina favoriter för GP.
* Det här med femcels har dykt upp i mina flöden på sistone. Det finns tydligen väldigt distinkta skillnader mellan incels och femcels. Medan personer som hängt på olika incelforum gjort sig skyldiga till ett flertal allvarliga våldsdåd verkar femcels koncentrera sig mer på samhällskritik och en acceptans att världen är orättvis. Här en riktigt bra artikel i The Atlantic skriven av Kaitlyn Tiffany (gillar hennes texter väldigt mycket). Och här en artikel i i-D (Vice) skriven av Roisin Lanigan. Och om du vill läsa en intressant artikel om incels rekommenderar jag den här på Vad Vi Vet, som handlar om hur samma patriarkala strukturer som upprätthåller de samhälleliga orättvisor som feminister motarbetar också bidrar till negativa erfarenheter och livsöden som incels drabbas av.
* Vidare till ett annat internetfenomen som tar mer och mer plats i mina flöden, bimbon och bimbotok (bimbon på Tiktok). Sophie Haigney har skrivit en intressant essä i NYTimes. Hon menar att bimbotok är en motreaktion till den hyperambitiösa girlboss-feminismen. Onekligen finns här många intressanta dimensioner, men för att citera Roxane Gay: man behöver inte vara avsiktligt ignorant för att kunna vara hyperfeminin.
* Inget fotoreportage den här veckan. Däremot en mycket bra krönika (på finska) om bildsättningens betydelse för journalistiken. Chattade häromdagen med en bekant fotograf och det är en dyster verklighet vi lever i. Ett väldigt enkelt sätt att sabotera en riktigt bra journalistisk text: dåliga bilder. Det är fruktansvärt hur styvmoderligt särskilt finländska redaktioner förhåller sig till bildsättning och bildjournalistik. Precis som Silja-Riikka Seppälä skriver i sin text är det särskilt ekonomi- och hälsorelaterade texter som bildsätts uselt. När har du senast sett ett riktigt bra ekonomireportage med snygga bilder i en nordiskt dagstidning eller tidskrift? Berätta gärna, jag är genuint intresserad. (HS Visios animationer räknas inte.)
* Jag är rätt övertygad om att Netflix håller på att förlora det så kallade kriget mellan de olika strömningstjänsterna. Det finns väldigt lite intressant innehåll att se där jämfört med HBO och Apple TV, till exempel. Men i helgen kollade jag hela den andra säsongen av Kärlek & anarki (länk till trailern). Jag var väldigt förtjust i den första säsongen, antagligen främst för att den utspelade sig i en kontorsmiljö och när den släpptes i november 2020 hade jag jobbat hemifrån under flera månader och längtade till redaktionen. Den andra säsongen är betydligt mörkare och allvarligare, men alldeles sevärd.
* Vad ska man göra med en invasiv fiskart? Läder. Fiskläder. Intressant artikel i The Guardian om drakfiskar som rubbar ekosystemet i bland annat karibiska havet.
* Trodde nog aldrig att jag skulle se fram emot en live action-film om Barbie. Men om Greta Gerwig regisserar medan Margot Robbie och Ryan Gossling spelar huvudrollerna så blir man lite nyfiken ändå.
* Avslutningsvis Twitterkontot Depths of Wikipedia och Instagramkontot Lonkerotravel.
Medan jag skrev det här brevet lyssnade jag bland annat på de här låtarna.