Om populärvetenskap

Jag fortsatte läsningen av Liv 3.0kapitel 1 som heter ”Välkommen till vår tids viktigaste samtal” (jag läser den svenska översättningen). Och jag mindes återigen varför jag ibland tycker det är jobbigt att läsa populärvetenskap. I inledningsavsnittet hängde jag upp mig på luckorna i resonemanget, och man kan väl säga att det fortsätter. I första delen av första kapitlet finns en kort historisk översikt över universum och livets uppkomst. Det säger sig självt att det inte kan vara särskilt djupt och heltäckande på två sidor, men jag fastnar ändå: ”Vårt universum expanderade och svalnade av och blev allt intressantare när partiklarna började kombineras till alltmer komplexa objekt. Under den första bråkdelen av en sekund såg den starka kärnkraften till att gruppera kvarkarna i protoner (vätekärnor) och neutroner, […]”  Det finns mycket man kan undra över, oändligt mycket, som ”det svalnade av”, jamen varför då, hurdå? Och det värsta av allt, det fanns visst inte bara partiklar utan den starka kärnkraften också, och varifrån kom den helt plötsligt i den här soppan? Så jag får kämpa vidare, jag vet att det viktiga i boken inte handlar om universums begynnelse, och om jag vill läsa om det, antar jag att jag får spendera ett antal år på det för att få en någorlunda bild av det. Och det vill jag inte heller riktigt. Jag tänker att det måste vara ett elände att välja hur man ska formulera sig för att optimera så att de flesta helt enkelt klarar av att ta sig förbi till väsentligheterna, med en hygglig bild av en bakgrund. Lagom för det man egentligen vill berätta. Men, jag tycker i alla fall det är lite jobbigt.

Och sen ger kapitlet mest en bakgrund till de frågor som ska diskuteras senare, om artificiell intelligens, hur vi ska förhålla oss till den och hur vi ska kontrollera den. En liten kul grej i kapitlet är när Tegmark beskriver en konferens som han och några andra tog initiativ till och genomförde i januari 2015. Det finns bilder på gruppen, alla är namngivna, det ska vara de viktigaste, mest framstående AI-forskarna från olika ämnes-områden*. Man undrar lite om man vill efterlikna Solvay-konferenserna, där den första hölls 1911 med bara inbjudna deltagare, t ex Albert Einstein och Marie Curie.

Såhär långt är boken lättläst och roande. Definitionen av intelligens är bred: ”Förmåga att nå komplexa mål.” Genom att definiera det så behöver man inte hamna i diskussioner om huruvida medvetande behövs för intelligens eller inte, och vad medvetandet i så fall är. Det är praktiskt. Medvetande definierar Tegmark fö med ”subjektiv upplevelse”, vilket nästan känns som en cirkeldefininition, subjektiv måste väl nästan förklaras med medvetande? Men det kanske klarnar senare.

Som en utvikning kom jag att tänka på deskriptivism och Kripkes Naming and Necessity när jag läste avsnittet om Kontroversiella myter. Och det beror bara på att jag nyss läst det i filosofi-kursen Medvetande och Språk. Det handlar om hur man refererar till namn, med begränsad kännedom om sakförhållanden. Och det är precis det Tegmark skriver om, missuppfattningar som kommer sig av felaktig, eller vinklad, information. Nu gjorde jag bara den kopplingen utan att direkt inse vad det skulle kunna innebära, och resten av dagen kommer jag att grubbla ihjäl mig över hur det, om det, hänger ihop på ett mer robust sätt, och hur man isåfall skulle kunna använda sig av de här språkfilosofiska övervägandena. Jag vill ju gärna att världen ska hänga ihop. Och när jag har tröttnat på att tänka på det, läser jag väl nästa kapitel i Liv 3.0.

*) Saknar vi förresten inte vår svenske AI-alarmist, jag tror han skulle platsa i gränsområdet mellan ”Bakåtsträvare och Rörelsen för välvillig AI”, professor Häggström? Fast jag skulle egentligen inte precis säga bakåtsträvare, men som jag uppfattat betydligt mer ”varnande” än vanliga, every day teknikoptimister.

Liv 3.0 – I

Nu när julfirandet är avklarat, vidtar det verkliga jullugnet. Jag har en fantasi om det eviga läsandet; långa dagar i läsfåtöljen. Men hela tiden avbryts läsandet av annat som behöver göras. Det är barn som ska skjutsas, det är internet som ska fixas, det är middag som ska lagas, mat ska handlas, det ska promeneras och pratas. Ibland verkar andra, mot min vilja, tycka att jag är ett lika trevligt sällskap som jag själv tycker att jag är. Eller så har de bara långtråkigt. Det är ju ibland mindre trevligt för mig, eftersom jag då får tillbringa mindre tid med mig själv. Nåja, det är trevligt när barnen kräver ens sällskap, även om det skulle råka vara på reservplats.

Jag började i alla fall läsa Max Tegmarks Liv 3.0 idag. Jag läste första avsnittet som handlar om Omegateamet, några ingenjörer, får man förmoda, som utvecklar en AI som fortsätter utveckla sig själv och så småningom tar över världen. Bland det första den gör i denna mission, är att producera TV-serier och filmer med simulerade skådespelare. Världen jublar men förstår inte att det ligger en världsherraväldestanke bakom. Ja, och så eskalerar det, och till slut styrs regeringar upp och rikedomar fördelas och hej och hå. Det är inte helt klart om denna AI är ond eller god, eller hur den kan utvecklas med en viss strategi när den nu ska programmera sig själv. Om det nu är Omegateamet som ligger bakom det hela, och styr AI:n (den släpps t ex inte ut på internet) så är det ju egentligen inte en AI. I alla fall inte en som är ”medveten” och självständig, utan bara en extremt bra programmerad regeringsalgoritm, som kan reglera hela samhället via input, output och snabba beräkningar.

Det stör mig att den här berättelsen lämnar så många luckor. Jag kommer ifrån huvudpoängen, fast jag förstår den, och grubblar mer på varför människorna, i den tänkta situationen, inte frågar sig varifrån dessa simulerade skådespelare kommer. Det är inte helt klart att de ska uppfattas som simulerade, t ex. AI:n skulle ju behöva operera utan att synas, och att helt öppet använda simuleringar, betyder ju bara att man vet att det finns någon som är duktig på simuleringar. T ex ett datorprogram. Och med den hastighet de spottas ut måste det antingen vara hundratusentals programmakare, samspelta, eller en dator. Och då borde folk vara AI:n på spåren. Men för att de inte ska vara det måste ju de simulerade skådespelarna verka inte simulerade, och med tanke på hur nyfikna folk är på kändisar av det slaget, kommer de snart att räkna ut att de helt enkelt inte existerar, och så var AI:n avslöjad igen.

Jag grubblar på det här, jag tycker inte berättelsen om Omegateamet är en tillräckligt intrikat historia om AI. Det bekymrar mig lite inför fortsättningen av boken. Vilka är den egentligen skriven för? De som inte ser luckor och hopp i resonemang, eller?

För övrigt såg jag just att inlämningar börjar trilla in i skrivkursen, jag trodde första inlämningen av text var i februari, men det var det ju inte alls, det är om en vecka. Så nu måste jag sluta ströskriva och skruva till min egen text. Jag ska försöka undvika de där luckorna.