Klart vi ska bygga robotar!

Något som brukar uppröra mig storligen är när människor vill begränsa människans kreativitet, nyfikenhet, föreställningsförmåga och uppfinningsförmåga. Jag finner det outsägligt enfaldigt, eftersom de är, måste vara, de egenskaper som allra mest definierar människan. Istället för att ägna oss åt teknisk utveckling t ex, borde vi ägna oss att förstå människan. Men misstaget man gör med den attityden är, enligt min uppfattning, att teknisk utveckling i väldigt stor utsträckning handlar om att förstå människan. Det gör man genom att försöka leta efter våra gränser, försöka se vad som sträcker på dessa gränser. Jag brukar t ex hävda att utveckling av robotar, av AI, inte är något annat än försök att förstå oss själva.

Detta sätt att se på saken tycks dock inte vara vanligt alls, istället står rädslan och vidskepelsen som spön i backen. Därför blev jag mycket glad i dag när jag röjde undan gamla tidningar, och satt och slöbläddrade, och fick upp följande uppslag:

Här kan man ladda ner och läsa hela artikeln, och ännu mer om robotar. Och annat. Om man vågar.

Lägg märke till att jag inte påstår att det är det enda sättet som finns; jag är ju ingenjör, så jag vill inte förbjuda några tankar, någon kreativitet, några idéer eller något sätt att lösa problem. De filosofiska problem som kan uppstå om (verkliga eller förmodade) intressen ställs mot varann får man ta ställning till och diskutera längs vägen.

Vi behöver Big Data, nyckeltal och automatisering

När man läser om riksrevisorns, den som just avgått, göranden och låtanden, om kompistillsättningar, obefintlig integritet och allmänna klantighet kan man inte låta bli att tänka att det vore bra om människor inte vore inblandade i vissa frågor. I alla fall vissa människor.

Man får anta att denna form av bristande professionalism och rena dumhet alltid har förekommit, men att den på senare tid bara blivit mer synlig med hjälp av digitalisering och allsköns kvalitetsprocedurer, och människor, som vaskar fram alla detaljer. Men så kan vi ju inte ha det, alltså frånvaro av integritet och professionalism. Så jag har ett förslag; nu när det är så himla lätt att samla in en massa information av alla slag, när drömmen om Big Data fortfarande lever och nyckeltalen bara ligger där och gömmer sig och vill bli upptäckta. Varför inte utnyttja det? Människor visar sig ju gång på gång ha uselt omdöme, och göra de mest horribla dumheter i sin tjänsteutövning, särskilt i offentlig förvaltning verkar det som. Varför helt enkelt inte lägga ner lite mer krut på automatiseringen.

Jag vill inte gå så långt som att ersätta hela den offentliga förvaltningen med robotar. Inte än. Men nog skulle robotarna kunna ta hand om tjänstetillsättningen? Svart på vitt är vad som skulle gälla, meriter. Inte vem som är kompis med vem och vem som kan övertalas till vad. Naturligtvis är meriterna också utfärdade av automatiska system som bedömer vad som åstadkommits tidigare via genialt konstruerade nyckeltal. Snacka om integritet! Vi får förvaltning som består av människor, men tillsatta på objektiva kriterier. Ingen kan muta systemet, så det är ingen idé att ägna sig åt något annat än att göra ett bra arbete, CFX-583 kommer ändå inte bry sig om ifall du bjuder henom till ditt lantställe över helgen, eller kan ge henom någon annan fördel. Hm … eller, tänk om CFX-583 hellre vill ha en tjänst som tjänstetillsättare på försäkringskassan än på riksrevisionen, då blir det problem. Hur du arbetar kommer nämligen att gradera henom som tjänstetillsättare … Äsch, det löser vi lätt med att att alla tjänstetillsättare får slumpvisa uppdrag.

Sådärja, nu har vi tjänstetillsättare och tjänstemän med integritet. Det var väl inte så svårt?

Man skulle kunna tänka sig att man, dessutom, i all insamlad data om folk tidigt kommer att kunna identifiera nästa stjärnutredare hos datainspektionen.

Medvetandet är matematiskt!

Ett av barnens vanligaste uttryck är Du är så weird, när de ska säga något om mig. Men det tycker jag är rent förtal.

Som jag skrev igår längtade jag efter att läsa Thomas Nagels artikel What is it like to be a bat? Jag råkade snubbla över den när jag läste om Turing någonstans. Det kan ha varit när jag kollade i referenslistan i Here be dragons för att se om Turings essä Kan en maskin tänka? fanns med, det måste den nämligen enligt min uppfattning, och om den inte skulle ha funnits med hade jag blivit upprörd och bränt boken. Eller kanske inte förresten. Men den fanns med. Och där någonstans hittade jag bat-referensen, fast kanske inte just i Here be dragons, nej ser jag, och den enda anledningen att jag liksom noterade det lite mer medvetet, var att jag just beställt Nagels bok Vad är meningen med alltihop? som jag tänker fuskläsa nu i sommar, eftersom den tycks ingå i kurslitteraturen i den kurs i filosofi som jag sökt till hösten, och som jag helt kallt räknar med att komma in på.

Ja, så när jag läst klart Turings essä, alla invändningar, där jag lätt upprört konstaterar att han tycker att invändning med hänvisning till parapsykologiska fenomen är den starkaste, särskilt telepati är han visst svag för, och en beskrivning av ett självlärande system, intressant att straff och belöning tycks vara en förstahandsinlärningsmetod, går jag över till bat-artikeln medan jag smälter Turing en stund.

Den är skriven 1974, och behandlar medvetandet och ”mind-body”-problemet och inledningsvis inser man att reducera medvetandet till atomer inte är Nagels grej. Redan i andra stycket föll jag i tankar: ”Without consciousness the mind-body problem would be much less interesting. With consciousness it seems hopeless.” Vilken situation!

Jag minns en typ av aha-upplevelse, eller snarare grubbleri, som jag hade i elva-årsåldern (jag tror jag var äldre än tio, men yngre än tolv). Jag hade en kompis, som jag tänkte om hur kan hon vara så omedvetenDet var som om allting var nu för henne. Så man skulle kunna tänka sig att medvetande är minne, att det ena hakar i det andra och man kommer ihåg vad man gjorde förut. Men, det gjorde hon förstås, mindes. Men hon tänkte inte på det hon mindes, hon reflekterade inte över det. Hon relaterade inte det ena till det andra. Hon bara var.

Jag var synnerligen konfunderad över att hon inte insåg att det här skulle innebära det där. Jag tänkte på det där igen, nu när jag läste Nagels artikel. Och helt plötsligt stod allting klart gör mig. Medvetandet är rent matematiskt. För det första krävs minne:

x(t) = a*x(t-1)+b*x(t-2)+ …

men inte bara det, utan det krävs också att man kan reflektera över minnet:

g(t) = f(x(t),x(t-1),x(t-2), ….)

och den funktionen behöver ju inte alls vara linjär, den kan vara mer eller mindre komplicerad, och det bestämmer individens intellektuella förmåga. Den kan se ut som

g(t) = x(t)*x(t-35)+a(t)*b(x(t-2))*x(t-6)*x(t-17)+ ….

osv.

a, b etc är förstås konstanter i medvetandemodellen, tidsberoende och minnesberoende eventuellt, x(t-n) är minnen. Och g(t) och f(*) är reflektioner.

Sådärja. Nu ska jag läsa vidare. Jag räknar med att resten är ren bekräftelse på min lösning ovan. Eller …?

Framtidens intelligenta teknik

Jag håller på att läsa om Turings essä, den jag nämnde i gårdagens inlägg, lite mer noggrant. Det kan inte hjälpas att jag tycker det är ett intressant ämne. Det är intressant på flera olika sätt. Särskilt intressant är människors reaktioner när artificiell intelligens diskuteras. De liknar ofta ganska mycket en blandning av Turings två första invändingar, den teologiska invändningen som handlade om människans unika egenskap att ha en odödlig själ, given av Gud. Den andra invändningen var av slaget ”men det vore ju så hemskt om det vore sant, så det kan bara inte inträffa”. Nu är kanske det där med odödlig och Gud lite nedtonat i de moderna invändningarna. Men de har inslag av att människan är unik, det finns ”något” hos människan, typ en själ, som inte kan åstadkommas i en maskin, som bara inte kan (hoppas vi brukar det sägas) skapas i en maskin.

Man skulle kunna säga att invändningarna har både ett inslag av överlägsenhet, vi människor är minsann unika vi, och ett inslag av rädsla, det kan (får) inte bli så!

Visst kittlar det lite? Jag känner hornen sticka fram lite, visst känner man hur man bara måste fråga ”Varför?” Fråga varför det inte kan/får bli så, varför skulle inte mänskligheten kunna dö ut? Av vilka skäl måste vi se till att mänskligheten ska leva vidare? Egentligen. Det är ju inte precis så att varken vår generation, eller våra barns kommer att drabbas av maskinernas domedag. Förresten kanske det blir paradiset på jorden, vem vet, när allt sköts objektivt och förnuftigt utan en massa agg och krig som kommer sig av emotionella tillkortakommanden, illvilja och maktgalenhet. Hur många generationer ska vi ta ansvar för? Och varifrån kommer denna oändliga plikt?

Frågorna är både existentiella, moraliska och etiska. Och jag vill leta efter någon slags grund för dem, reda ut tanketräsket kring våra odödliga själar.

Som av en slump tog jag mig en liten slösurf på antagning.se idag, skulle se om det var någon kurs jag kunde göra sen anmälan till, fast jag egentligen bestämt mig för att i höst ska jag bara läsa filosofi och litteraturvetenskap. Eller så. Och då råkade jag hitta några distanskurser vid Luleå Tekniska Universitet, om Framtidens intelligenta teknik. Tyvärr är de på avancerad nivå, det var ju synd, tänkte jag, tills jag kom på att jag faktiskt har både en grundexamen och lic-examen på synnerligen tekniskt område att dra nytta av. Så jag sökte den som handlade om neurovetenskap och matematik. Till våren 2017. Det blir väl trevligt? Tills dess hinner jag läsa en del mer filosofi och beta av en del böcker på ämnet. Hoppas jag. Sen ska vi minsann räkna på saken!

Matematikens kulturhistoria och Turings tänkande maskin

Matematiken hade inte stor plats i kursen i idéhistoria. Jovisst fanns talsystemet med, den ursprungliga nyttan att räkna och mäta. Pythagoras, Archimedes. Spinozas geometriska Etik, Descartes, Leibniz, Newton. Men det tunnades ut. Fysiken hade ett större utrymme, och därmed matematiken som fysikens språk, indirekt. Varför försvann matematiken? Försvann den från vanliga människors tankevärld, eller bara i den kurs jag läste nu, trots allt behöver ju ett urval göras? Blev matematiken alltför abstrakt för att vanliga människor ska kunna hänga med? Fysiken kan man ofta hyggligt förklara i ord, i princip i alla fall, men matematiken. Den som undersöker allehanda märkliga begrepp som är svåra att förstå hur de ska användas.

Jag började undersöka saken, krafsa på ytan, på de delar av matematiken som är nära tillämpningar, numerisk analys, statistik, sannolikheter.

Det visade sig att min bokhylla innehåller en liten klenod i ämnet: Sigma. En matematikens kulturhistoria. I sex band. Inköpt för en del år sen på antikvariat. Jag har inte mer än bläddrat lite i den, kul att ha, kan vara bra att ha. Och det var den. I band 6 finns ett avsnitt om Matematikmaskiner: Kan en maskin tänka? Den innehåller tre essäer, av giganter på området: En allmän och logisk teori för automater av John von Neumann. Kan en maskin tänka? av Alan Turing, och En schackspelande maskin av Claude Shannon.

Den här kulturhistorien är sammanställd 1956, i en tid när maskinintelligens måste ha gått från science fiction till möjlighet. Jag har inte haft tid att läsa och begrunda alla essäerna noggrant än, förutom Turings. Han beskriver ”härmspelet”, som helt enkelt är det som numera kallas Turingtestet. Det mest intressanta avsnittet i essän är det som handlar om avvikande åsikter i frågan kring om en maskin kan tänka. Där går han igenom förekommande invändningar.

Den första invändningen är den teologiska invändningen. Där man säger att tänkandet är en funktion av människans odödliga själ. Och Gud har givit en odödlig själ till människor, inte djur eller maskiner. Djur och maskiner kan därmed inte tänka.

Den andra invändningen är den troskyldiga invändningen. Den är lite intressant, ungefär ”det vore alltför hemskt, hoppas det inte kan hända.”

Och den tredje är en matematisk invändning som bygger på Gödels ofullständighetssats, som säger att det finns satser inom ett logiskt system som varken kan bevisas eller motbevisas om inte systemet innehåller motsägelser. Ett system kan inte bevisas inifrån systemet, ungefär. Och det tänker man sig applicerat på en maskin, dvs det finns saker en maskin inte kan göra. Som människor kan göra. Och vips har man bevisat bort artificiell intelligens. Tänker man.

Turing redovisar fler invändningar. Men det här tredje är ju intressant, om man tänker matematik. Och jag tänker att just det argumentet måste man tänkt en del på under de mer än sextio år som gått sen Turing skrev detta.

Essän finns med i referenslistan i Here be dragons, alltså antar jag att det också finns något resonemang i frågan. Man skulle ju t ex kunna resonera som så att Systemet Människan också är långt ifrån ett motsägelsefritt system, men även om inte Gud gett oss våra odödliga tänkande själar, tycker vi att vi både har medvetande och kan tänka. Så invändningen tycks aningens svag redan där.

Sen avslutar Turing, första meningen i sista stycket: ”Vi kan hoppas på att maskiner till slut kommer att tävla med människor på alla rent intellektuella områden.

Visst blir man ohyggligt nyfiken på ett vidare resonemang i den frågan?

Texten kan förresten läsas här.

Att förutsäga världen. Prediktionens existentiella ångest

Efter en god natts sömn, och en powerwalk med Rara Dottern imorse är hjärnan fit for fight igen. Men jag tycker ändå vi tar det lite lugnt och ägnar oss åt matematik.

Det är tydligen Mathematics awareness month nu, läste jag. I år handlar det om prediktion. Det är intressant, sådant ägnar jag en väldigt stor del av mitt yrkesliv åt. På ett tillämpat vis. Dvs, jag predikterar.

När man ska göra en prediktion, behöver man en (matematisk) modell av den process man vill prediktera. Eftersom det, i min värld, lyckligen ofta är fysikaliska processer det handlar om, finns det några fysikaliska lagar man kan använda sig av för att åstadkomma den här modellen.

Sen kan det hända att allt faktiskt, hör och häpna, inte kan beskrivas med fysikaliska lagar, man får ta till approximativa samband, korrelationer, som tagits fram med hjälp av experiment. Så modellen består av en blandning av fysikaliska lagar och korrelationer. Som man förstår gäller de fysikaliska lagarna i ett ganska stort ”arbetsområde” (tänk Newtons gravitationslag som gäller dig här på jorden, liksom planeterna i solsystemet), medan korrelationerna förstås bara gäller i det arbetsområde som man hade data ifrån när man tog fram dem.

För att se att modellen fungerar som den ska, jämför man modellens resultat mot mätningar. Låt oss inte gå in så mycket på det, då kommer vi att tappa bort oss. Låt oss bara säga att inte ens mätningar är en sann bild av verkligheten. Mätningar görs med instrument, och instrumenten tolkar verkligheten, det kan vara så enkelt att instrumentet bara fördröjer mätvärdet lite, det tar lite tid att mäta och skicka ut mätvärdet. Som delay i en telefonsamtal via satellit. Instrumentet kan förvränga mätvärdet också (låter brorsan verkligen sådär?), eller så kan det knastra på ledningarna så man knappt hör vad brorsan säger (det kan introduceras brus i mätningen). Och hur noggrant man kan mäta beror på instrumentets precision.

Av allt detta förstår man att det finns vissa osäkerheter, man inte kan använda sin modell hur som helst, man får tänka på att man inte extrapolerar utanför modellens giltighetsområde, helt enkelt. Om man gör det, kan man definitivt vara säker på att resultatet är om inte helt fel (det beror på bl a på hur snäva korrelationer man har, och hur man omvandlat sin modell från ekvationer till datorkod), så i alla fall osäkert.

Och det här är väl själva kärnan i prediktionen, dess existentiella ångest; hur kan man använda sin modell, vilka osäkerheter finns, vilka mätningar behöver man göra för att man ska anse att modellen är användbar, hur gör man om man inte kan göra mätningar, eller få fram data, men är i stort behov av att förutsäga något, i alla fall en smula?

Häggström beskriver problemet med prediktion på ett intressant sätt, tillämpningen är klimatmodeller (say no more, om vi talar svårigheter, korrelationerna står som spön i backen, liksom de historiska mätvärdenas noggrannhet, och till och med existens):

The further we push atmospheric CO2 levels above those of the last several million years, the less reliably we can predict the future climat.

Det stämmer förstås, om vi går utanför det område som modellen har validerats för, kommer den inte att gälla. Men detta påstående genererar ändå en mängd frågor. Klimatmodellen, antar jag, har koldioxid som en ytterst viktig designparameter. Det är väl effekterna av koldioxiden man oftast bekymrar sig för, vad jag förstår. Och om vi bara kan använda koldioxidhalter inom valideringsområdet, dvs det som redan uppmätts, gör ju modellen inte stor nytta. Då kommer vi inte få några temperaturökningar som beror av ökning av koldioxidhalten i alla fall. (Kanske kan vi få ökningar som beror av nuvarande koldioxidhalt i kombination med någon annan parameter som varierar på något olyckligt sätt, vad vet jag). Även om det är matematiskt rätt, tycks det göra modellen praktiskt meningslös, och det vill vi ju inte.

Man kan ju tänka sig att man genom att vara sträng med valideringsområdet i det här fallet använder modellen för att förbjuda koldioxidnivåer över (eller under för all del, lägre nivåer är inte heller acceptabelt att extrapolera till) de som finns i modellens databas.

När man jobbar med att ta fram modeller för prediktion på detta sätt, brukar man också prata om modellens extrapolationsområde, eftersom en viktig anledning att göra en modell är att kunna förutsäga just vad som händer när man gör något nytt. Modeller behöver vara extrapolerbara till en viss gräns. Var den gränsen går måste man försöka ta reda på. Den går inte nödvändigtvis vid gränsen för ingående data. Ofta gör man mätningar vartefter och lägger till i sin databas och modifierar modellen i den mån det behövs för att hantera vidgad databas.

Något modellen ofta inte kan hantera är stora avvikelser från valideringsdatabasen, men jag har svårt att tro att koldioxidnivån kommer att öka, eller minska, i ett stort steg från ett mättillfälle till ett annat, så att det hamnar väldigt långt från nuvarande datamängd.

Alltså, man får lov att hålla sig nära valideringsdatabasen, och man måste diskutera modellens extrapolerbarhet. Vad ”nära” är, kan man kanske säga är modelleringens soritesparadox.

Sen blir det ännu mer intressant när artikeln kommer in på AI, som ju har med prediktion att göra, att validera superintelligens och bestämma dess arbetsområde måste man se som en intrikat fråga.

Will we be able to remain in control when we are no longer the smartest creatures on the planet?

Hm, tänker jag … det är inte ”de smartaste” som har kontroll som det är nu heller, och vi tycks klara det (låt oss skippa diskussionen om vad ”smart” är, vilka egenskaper som ska anses smarta för just den uppgiften, handen på hjärtat, hur ser du på statsministern och vice statsministern? Men det är kanske inte de som har den verkliga kontrollen, vi kanske ska definiera ”kontroll” också).

Det är inte en ointressant diskussion, men jag måste tänka mera på den.

Min nuvarande hypotes när det gäller frågan om varför vi utvecklar AI och fascineras av det, är att utvecklingen av artificiell intelligens lär oss vad människan egentligen är. Det är därför vi håller på med det, det är inte AI vi försöker förstå, vi försöker förstå Människan. Genom att förbättra AI hela tiden, kommer vi närmare och närmare och tvingas förstå vad det är att vara människa. Det är inte AI som är målet, det är människan, mänskligheten, fast ingen verkar ju förstå det, inte ens de som själva håller på med det.

Ja, och sen är det ju det där med den fria viljan då. Häggström skriver:

While such studies can be very interesting, there is also the risk that building human reactions into the system of differential equations can lead to the deterministic view on which our free will seems to disappear.

Här hänger jag inte riktigt med. Jo, jag hänger med på att bygga in saker i differentialekvationer kommer att ge deterministiska svar. Det blir ett deterministiskt system. Men det låter som om risken är att vi därmed upptäcker att vår fria vilja inte existerar, att vi inte kan leva i tron längre att vi har fri vilja, att det är det som är det obehagliga.

Men så kan det väl inte vara? Menar han att risken är att vi inte kommer att kunna bygga in den fria viljan i systemet? Det kan jag hålla med om blir ett intrikat problem, bygger vi in slump finns ju inte den fria viljan, och bygger vi ett system av den är den inte heller fri. Vilka alternativ finns då att simulera fri vilja? Och att kunna använda den för prediktion … Det här blir ju himla intressant, vi behöver fundera på vad fri vilja egentligen är! Igen.

Från det ena till det andra

Visste du att ingenjören genomgick en metamorfos under artonhundratalet? Från att ha varit en genialisk Polhemstyp, en förhistorisk MacGyver, blev han (det var en han på den här tiden) en vetenskapligt skolad problemlösare, en länk mellan den alltmer svårbegripliga naturvetenskapen och samhället. Nyttan kom till universitetet med ingenjören. Här skulle utbildas med mål och mening, inte bara med sanningen för ögonen. Ingenjörens mål och mening var att förstå problemet och lösa det, på ett metodiskt och robust vis.

Teknikens uppgift är inte att fördärva livet för mänskligheten, vilket en del människor ibland tycks få för sig. Teknikens uppgift är naturligtvis att förbättra livsvillkoren, den som vill bo i en grotta, räcker upp en hand.

Det var på artonhundratalet man ville rensa bort värderingar från vetenskapen, den skulle bara presentera fakta och resultat, inte värdera dem. Gissa vilka som mest ville det? Humanisterna. Vilket ju är ganska intressant med tanke på vilka det är som är mest rabiata när det gäller att klaga på tekniska uppfinningar som förstås kan användas av ondsinta … skurkar.

Nåja. Om vi bortser från vem som ville vad, är förstås onda och goda tillämpningar intressanta frågor. Faktum är att jag tycker man kan pröva tanken ”so what om AI blir lika intelligent som en människa, om en robot inte kan skiljas från en människa”. Svaret på den tanken avslöjar att vitalisterna, de som tror på en livskraft, bortom kemiska och fysikaliska förklaringar, lever. De som vill se det mänskliga som unikt. Utan att ha klart för sig vad det egentligen är (förstås). Men det är människor som gör alla dessa upptäckter. Alltså är robotar och AI mänskliga uppfinningar, de är mänskliga. Nej, jag säger inte att det nödvändigtvis vore en trevlig värld, jag säger bara att de argument jag hittills sett är usla. De är rationaliserade känslor. Och det är inget fel på känslor, inte alls, men jag blir irriterad när man försöker göra något rationellt av dem istället för att säga som det är: ”Jag tycker det är läskigt med maskiner, jag vill att det ska vara som det är nu, jag känner det så.

image

Spip är inte en robot. Tror vi.

Men, från det ena till det andra. Nu ska jag ta tag i Romantiken. I litteraturvetenskapen. Det är något annat än ångmaskiner, Carnot-cykeln och Maxwells demon det.

Goethe, here I come!

Oh, Västanvind, du andedräkt som strömmar
ut ur höstens bröst, till alla löv som dött
har virvlat bort och slocknat ut som drömmar.

Fast de raderna var P B Shelleys. Han som var gift med hon som skrev Frankenstein. Den ska jag också läsa. Mest skumma, för jag har nyss läst den. Men Werther får jag lida med.