onsdag 5 oktober 2011

Singularitet 2045?

Med den braskande rubriken Maskinerna tar över år 2045 signalerar det aktuella numret av Ny Teknik en tidtabell för när den högsta intelligensen på vår planet inte längre kommer att finnas hos oss människor av kött och blod, utan hos datorer. Artikeln i Ny Teknik är ytlig och okritisk, vilket är synd då ämnet är fruktansvärt viktigt.

Årtalet 2045 är hämtat från Ray Kurzweils uppmärksammade bok The Singularity is Near från 2005. Kurzweil bygger sin prediktion i första hand på det som kallas Moores lag, som finns i olika varianter och som beskriver hur olika slags datorprestanda ökar exponentiellt med en fördubbling var 18:e eller 24.e månad. När väl den övermänskliga intelligensen är på plats kommer den, enligt Kurzweil och andra bedömare, och med Moores lag som ett slags turbomotor, att generera en explosionsartad utveckling av allt högre intelligenser, vilket är bakgrunden till termen Singulariteten.

Kurzweils bok har drag av frälsningspredikan, och som motvikt är det bra att läsa Bill Joys dystopiska essä Why the future doesn't need us från 2000 (som jag gjorde reklam för i en tidigare bloggpost). Den text jag emellertid helst av allt rekommenderar som introduktion till begreppet Singulariteten är David Chalmers välgenomtänkta och balanserade uppsats The Singularity: A Philosophical Analysis. Jag ser också med förväntan fram emot det specialnummer av Journal of Consciousness Studies som kommer inom några månader och som (vilket framgår på Chalmers blogg) skall bjuda på en rad framstående tänkares reaktioner på Chalmers uppsats.

Min egen syn på Singulariteten är ungefär följande. Om den inträffar, så kommer den att förändra världen på ett så genomgripande sätt att inget i samhället och våra (eller våra efterföljares) liv kommer att vara sig likt. Den kan föra oss - och nu tillåter jag mig ett bombastiskt bildspråk som i detta sammanhang dock är mer på sin plats än i de flesta andra - till ett paradis eller rakt ned i helvetet. Om vi inte innan dess hinner utlösa någon katastrof som antingen tar kål på oss helt och hållet (vilket det så klart finns stor risk för) eller kastar tillbaka civilisationen till stenåldersnivå, betraktar jag det som troligt att Singulariteten för eller senare inträffar.

Tidtabellen, däremot, är jag skeptisk till. Kurzweils basunerande av årtalet 2045 fungerar måhända som PR-trick, men synes mig inte alldeles vederhäftigt. Moores lag är ingen naturlag utan blott en empirisk observation vars giltighetsområde (bortom vad vi redan sett) vi vet väldigt lite om. Och utvecklingen mot en Singularitet handlar naturligtvis inte bara om hård- utan även om mjukvaruutveckling, och det senare förefaller ännu svårare att förutsäga och förse med pålitliga tidtabeller. Vi vet inte vilka nya svårigheter (eller fantastiska genvägar) som kan tänkas dyka upp på den jungfruliga mark som det handlar om att beträda. Beläggen för att Singulariteten skulle inträffa 2045, snarare än 2025 eller 2200, är enligt min mening svaga.

9 kommentarer:

  1. Kan också vara så att den kiselbaserade intelligens som datorer bygger på har sina begränsningar. De är bra syntax men sämre på semantik.

    Våra hjärnor är uppbyggda på organiska molekyler som kan hantera både syntax och semantik.

    En hypotes är att om man lyckas framställa "organiska datorer" så kan singulariteten vara en realitet.

    Det är vad biologiska naturalister skulle hävda. Ett exempel på en filosof som resonerar på detta sätt är John Searle:

    Beyond Dualism

    SvaraRadera
  2. Anonym 09:58:

    Som vi båda såklart inser är detta ett område där kunskapsluckorna är enorma, vilket manar till ödmjukhet. Med denna reservation noterad vill jag ändå säga följande. Jag har läst ett par böcker av John Searle, men har mycket svårt för hans medvtandefilosofi. Den "kolchauvinistiska" tanken att organiska molekyler skulle kunna ligga till grund för vissa slags kognitiva processer som inte går att emulera med kiselbaserade kretsar känns för mig såpass främmande att jag har svårt att fullt ut ta den på allvar, i synnerhet så länge ingen pekat ut någon skillnad på mikronivå som plausibelt skulle kunna göra avgörande skillnad i detta avseende. Jag har lättare att tro att intelligens och medvetande uppstår ur materiens organisation, än ur någon viss substans.

    SvaraRadera
  3. Med tanke på att inga framsteg gjorts inom datalogin de senaste 30 åren är nog loppet kört. Dagens sätt att programmera datorer duger inte om man vill skapa intelligens, om man med intelligens menar något mer än en bra schackdator. Jaron Lanier fick till det så bra i sitt "One-Half of a Manifesto" (2000).

    SvaraRadera
  4. Tack Stina för hänvisningen till Jaron Laniers intressanta text One-Half of a Manifesto. Det är vanligt med påståenden om att Singulariteten inte kan bli en realitet, men betydligt ovanligare med redig argumentation för saken. Lanier är bättre och mer ambitiös än det mesta i den kategorin, men mitt omdöme blir nog ändå att han bjuder på för mycket fluff (typ "many great minds have spent excesses of energy on this quest [to rationally prove the possibility of sentience in a computer], and eventually a cybernetically minded 21st-century version of Kant will appear in order to present a tedious "proof" that such adventures are futile. I simply don't have the patience to be that person") och för lite verkstad för att det hela skall bli övertygande.

    Ditt påstående om att "inga framsteg gjorts inom datalogin de senaste 30 åren" synes mig grundlöst. Med tanke på hur PC:ar, Iphones och Internet revolutionerat vår tillvaro kan du knappast syfta på dess praktiska tillämpning, utan jag gissar att du mer har de teoretiska grunderna i åtanke, men även här är ditt påstående rejält fel. Bland mycket annat kommer jag att tänka på utvecklingen inom parallellprocesser och distribuerade beräkningar, och på det nya området kvantdatorer. Kanske mest relevant för vår diskussion är AI-forskningen, som visserligen inte infriat de enormt uppskruvade förhoppningar som bl.a. Herbert Simon och Marvin Minsky basunerade ut på 50- och 60-talet, men som likväl (vilket framgår av Wikipedias historik) gjort en rad signifikanta framsteg.

    SvaraRadera
  5. Jag syftar på hur vi programmerar våra datorer idag jämfört med för 30 år sedan. Och det sker på exakt samma sätt. Hårdvaran utvecklas däremot i en rasande fart. Moores lag handlar just om hårdvara. Den mjukvara vi skapar för att distribuera beräkningar och skapa parallella processer ser likadan ut idag som för 30 år sedan. Och jag (och Jaron) menar att det inte går att komma vidare på den vägen. Själva grunden för hur vi programmerar den fantastiska hårdvaran måste förändras i grunden. Det spelar ingen roll om datorn är en kvantdator eller kanske optisk? Den tänker inte själv. Den måste programmeras och där har datalogin misslyckats fatalt enligt min mening.

    SvaraRadera
  6. "Och det sker på exakt samma sätt." Jag tycker att du argumenterar i yvigaste laget.

    SvaraRadera
  7. if
    for
    next
    defun
    :-
    ()
    new
    ;)

    SvaraRadera
  8. Håller med om att man måste vara skeptisk till mycket inom medvetandefilosofin.

    Tycker Searle har en poäng att den framkomliga vägen att få empirisk kunskap om medvetandet ligger antagligen inom biologin och neurovetenskapen och inte inom datalogin.
    Min spekulation var bara att det skulle behövas en syntes av denna framväxande empiriska kunskap och datalogin. Det finns säkert sådana försök redan som jag inte känner till.

    Sedan kan man tycka vad man vill om Searles filosofiska "speech-act projekt" som mycket väl kan vara en intellektuell återvändsgränd.

    Har inte läst Chalmers artikel, men tackar för tipset.

    SvaraRadera
  9. Searle är öppen för att kisel kan vara medvetet. Hans problem är att klassiska datorer inte har den arkitektur som den biologiska hjärnan har.

    Chalmers är med sådana idéer i åtanke noga med att skilja på klassiska datorer och mikrofysiska datorer i sin artikel.

    SvaraRadera