Max Tegmarks sommarprat och AI-hotet

Hörde någon som kallade denna sommar för just ”AI-sommaren”, något som verkade som ett udda benämning då jag gissar att det nog oftare är vädret, någon sommarplåga eller världsnyhet som får folk att minnas en viss sommar. Vädret önskar jag nog att förtränga, nyheter har kanske varit befriande odramatiskt och jag tror knappt att jag valt att se någon enskild nyhetssändning. Kanske är det därför det fått stort utrymme nu.

Det är förstås svensken Max Tegmark som även verkar vara stor internationellt inom AI-forskning som skapat rubriker främst på grund av sitt sommarprat. Tidigare har han alltså släppt en populärvetenskaplig bok på ämnet och inte minst varnat i en gemensam artikel med bland annat Elon Musk om riskerna med den snabba utveckligen som skett på senaste tiden, inte minst med ”Chat GPT” eller ”GPT 4” som jag hört att den senaste versionen kallas. Helt enkelt en internationell auktoritet inom AI-forskningen så att säga.

Uppriktigt har jag nog bara varit måttligt intresserad kring AI då maskininlärning nog inte är så nytt längre och att tydligen en miniräknare även kan räknas som AI. Jag har inte sett det som något nytt fenomen men efter att lyssnat på sommartalet så känner jag att det åtminstone är aktuellt på ett sätt som jag inte upplevt tidigare och jag blev uppriktigt förvånad över hur övertygande han framställde riskerna med AI. Upplever det åtminstone inte hittills såsom riskerna med kärnvapenhot, världskrig, ”klimatkollaps”, meteornedslag eller allt vad foliehattar förmodligen tävlar om att beskriva som risker för mänskligheten. Däremot fick jag intryck av något mycket intressant som kan gå att förebygga för att utvinna de fördelar inte minst inom medicin och arbete mot fattigdom som åtminstone i teorin skulle gynnas av ”superintelligens”. Här finns det åtminstone något i teorin på plussidan, såsom kanske inte finns på samma vis med de andra fenomen som verkar vilja hota oss och som närmast verkar beskrivas alarmistiskt i stil med en ny milleniebugg.

Helt uppriktigt är det nog ett av de sommarprat jag uppskattat mest, inte minst då jag upplever att han har en rimlig balans mellan att varna kring något som faktiskt kan behöva uppmärksamhet, tala övertygande om olika alternativ till reella risker och även vinster kring den framtid som till sist möjligtvis slutar i medborgarlön för de flesta när arbeten automatiserats. För övrigt berättade han om ett AI-verktyg som programmerats till att ta sig förbi ”captcha”-kontroller mot just botar, något som ledde till att AI:n försökt att anställa någon person online som skulle utföra uppdraget eftersom den uppgav sig vara synskadad. På något vis som att verkligen kryper närmare science fiction-rullarna kanske, och det är väl kanske den risk som ska förebyggas på något sätt.

Riktigt intressant sommarprat som naturligtvis rekommenderas och finns här.