söndag 29 maj 2016

Effektivare kommunikation

Jag häver ur mig väldigt mycket text här på bloggen, liksom annorstädes. Ord, ord, ord, i en ändlös ström. Men jag har nu kommit fram till att denna ordström knappast är någon särskilt effektiv kommunikationsform, och att min avsikt i de allra flesta fall går att formulera mycket koncisare och mer ekonomiskt i form av en rörlig gif-bild. Det mesta jag har att komma med är reaktioner på vad någon av er andra har sagt, och jag tror att innemot 90% av era yttranden adekvat kan besvaras med någon av följande tre bilder. Den första, med den amerikanska skådespelerskan Krysten Ritter, kommer jag att använda som svar på yttranden jag i något avseende finner bristfälliga, och är därför troligen den jag kommer att få allra mest användning för:1

I fall då jag ser aningen mer förlåtande på era yttranden kan Leonard Nimoy som Mr Spock komma väl till pass:

Och slutligen, för den eventualitet att någon av er skulle yttra något jag tycker mig kunna instämma i, så tänker jag mig att Robert Redford i rollen som Jeremiah Johnson skulle kunna fungera:

Fotnot

1) Denna bild, liksom de båda påföljande, uppmärksammades jag på av vännen och kommunikationsproffset Anders Emretsson.

tisdag 24 maj 2016

Musk

Elon Musk är inte vilken high tech-entreprenör och miljardär som helst. Hans unika inställning framgår av en intervju med TV-profilen Stephen Colbert för ett par år sedan:
    Colbert: You recently made all the patents for Tesla available for everybody, basically saying you’re not going to prosecute people if they use your patented technology. Why are you giving away the store like that?

    Musk: I’m not sure of the right analogy exactly but I sort of view it like this: If we’re all in a ship together and there’s some holes in the ship, and we’re bailing water out and we have a great design for a bucket, then even if we’re bailing water out way better than everybody else we should probably still share the bucket design... because we’re all going to sink.

Så här skriver Ashlee Vance om saken i sin biografi Elon Musk: How the Billionaire CEO of SpaceX and Tesla is Shaping our Future från 2015:
    When Musk announced in 2014 that Tesla would open-source all of its patents, analysts tried to decide whether this was a publicity stunt or if it hid an ulterior motive or a catch. But the decision was a straightforward one for Musk. He wants people to make and buy electric cars, Man's future, as he sees it, depends on this. If open-sourcing Tesla's patents means other companies can buid electric cars more easily, then that is good for mankind, and the ideas should be free. The cynic will scoff at this, and understandably so. Musk, however, has been programmed to behave this way and tends to be sincere when explaining his thinking - almost to a fault. (s 344-345)

Vances bok är fascinerande läsning. Huvuddelen av den handlar om uppbyggnaden av de båda företag som nämns i bokens undertitel: SpaceX och Tesla. Länge får jag som läsare känslan att av dessa båda är Tesla det klart mer intressanta, genom att gå i spetsen för en revolution i bilindustrin där bensinen och kanske även förbränningsmotorn förhoppningsvis snart är ett minne blott. De framsteg SpaceX gjort framstår inte som lika omedelbart handfasta: visserligen har kostnaden för att lyfta satelliter till omloppsbana pressats kraftigt, men vad är det egentligen som är så revolutionerande med att ett privat företag gör saker som stater har gjort i många årtionden? Så småningkom klarnar dock bilden att det inte är de konkreta resultat, om än imponerande, som SpaceX hittills uppnåt som är det riktigt revolutionerande, utan ambitionerna för framtiden. Rymdindustrin har länge tett sig stagnerande och med flagnande ambitioner, något som kan illustreras med xkcd:s lite dystra diagram över antalet personer som satt sin fot på Månen, men Musk tillför branschen nytt liv och nya visioner. Han är inte blyg med sitt storslagna mål på sikt: att skapa en permanent och självförsörjande koloni på Mars. Vitsen med att kolonisera Mars är, enligt Musk, framför allt att göra mänskligheten mer robust mot globala katastrofer. Om någon katastrof inträffar som tar död på alla människor på Jorden, så skulle existensen av en permanent koloni på Mars innebära en andra chans för mänskligheten att uppnå en blomstrande framtid.

Varken SpaceX eller Tesla är alltså tillkomna för att tjäna pengar, utan för att skapa teknologier som gör världen bättre. Detsamma gäller Musks tredje företag SolarCity, liksom hans nyare spektakulära påfund Hyperloop , om vilket Wikipedia förtäljer:
    The Hyperloop is a conceptual high-speed transportation system originally put forward by Elon Musk, incorporating reduced-pressure tubes in which pressurized capsules ride on an air cushion driven by linear induction motors and air compressors.

    The outline of the original Hyperloop concept was made public by the release of a preliminary design document in August 2013, which included a notional route running from the Los Angeles region to the San Francisco Bay Area, paralleling the Interstate 5 corridor for most of its length. Preliminary analysis indicated that such a route might obtain an expected journey time of 35 minutes, meaning that passengers would traverse the 350-mile (560 km) route at an average speed of around 600 mph (970 km/h), with a top speed of 760 mph (1,200 km/h). Preliminary cost estimates for the LA–SF notional route were included in the white paper - US$6 billion for a passenger-only version, and US$7.5 billion for a somewhat larger-diameter version transporting passengers and vehicles - although transportation analysts doubted that the system could be constructed on that budget.

Det visade sig omöjligt för mig att läsa Vances bok utan att erfara ett visst mått av idolisering av Musk (och av Tesla Model S - det kommer troligen inte att hända, men inte sedan 12-årsåldern har jag varit mer sugen än idag på att köpa bil). Detta trots att en del mindre tilltalande sidor (jämte hans uppenbart goda sidor, som hans skarpsinne, hans enorma driv och hans engagemang för mänskligheten) hos honom kommer fram i boken, som de extremt höga krav han ställer på sina medarbetare, och det osentimentala och ibland direkt förnedrande sätt han kan behandla dem som han bedömer inte hålla måttet.

Jag nämner i min bok Here Be Dragons: Science, Technology and the Future of Humanity tanken om rymdkolonisering som ett slags livförsäkring för mänskligheten, och jag är i princip positiv, åtminstone till att vi lägger en del kraft på att undersöka saken närmare.1 Låt mig här nöja mig med spekulationen att medan Musks plan på en Marskoloni kan fungera som sådan livförsäkring mot vissa slags globala katastrofer, så finns det andra som den inte lika uppenbart biter på, inklusive den som Musk förefaller frukta allra mest: en robotrevolution eller liknande katastrof i samband med ett genombrott inom artificiell intelligens (AI).2 Jag föreställer mig att om en illasinnad nyfödd super-AI på Jorden bestämmer sig för att göra sig av med mänskligheten, så kommer det att vara en barnlek för den att slå till mot Marskolonin genom att t.ex. via dess uppkoppling mot Internet (för en sådan kommer väl rimligtvis att finnas?) infiltrera denna digitalt. Ett alternativt scenario är att AI:n bestämmer sig för att attackera Marskolonin med hjälp av rymdraketer. Detta kan ge kolonin några månaders respit från katastrofen på Jorden tills dess att den militära attacken når fram till Mars, och även om jag finner denna variant något mindre sannolik så tror jag att den skulle lämpa sig ypperligt för en Hollywoodfilm, särskilt om den fiktive kraftfulle gurvernören för kolonin får namnet Elon Musk.

Fotnoter

1) Så här skriver jag på s 248-249:
    A planet-sized catastrophe of one sort or another (see Chapter 8) may wipe out humanity - unless some of us live in self-sustaining space colonies. This all seems to suggest that space colonization should be a research priority, but that conclusion may be overly hasty, missing the crucial point that great downside dilemmas are not the only possible reason to abstain from a given technology. Another reason might be that the technology is so costly that, compared to pursuing other research directions, it would be money not well spent. The energy cost of lifting matter (such as ourselves, our machines, or raw materials) from the Earth or some other planet into space is large, possibly to the extent of making large scale space colonization prohibitively expensive until the day we master self-replicating probe technology as in the Armstrong-Sandberg scenario outlined in Section 9.3.

2) Se Kapitel 4 i Here Be Dragons för en närmare behandling av radikala scenarier i samband med ett sådant genombrott.

lördag 14 maj 2016

I afton dans

Det ryktas bli något slags relativt lättsam sång- och dansunderhållning på TV ikväll, och då vill jag såklart inte vara sämre här på bloggen, utan bjuder härmed på de två läckraste sång- och dansvideos jag träffat på det senaste året. Först den underbara flashmob-tolkningen i Moskva härom året av Irving Berlins gamla fina Puttin' On the Ritz:1

I nästa video får vi oss till livs den svenska popgruppen Galantis hit Peanut Butter Jelly från 2015. Efter att ha sett den kommer jag nog aldrig mer att betrakta mina trötta och glåmiga medkunder på Ica eller Hemköp med riktigt samma ögon som tidigare:

Fotnot

1) Sedan jag avnjutit videon ett par gånger slogs jag plötsligt av den fruktansvärda misstanken att likheten mellan låttitelns första ord och den ryske presidentens namn kanske inte är en tillfällighet: tänk om låtvalet åtminstone delvis är tänkt som en hyllning till Putin? Men jag har bestämt mig för att vad fan, nej, så får helt enkelt inte vara fallet.

söndag 8 maj 2016

Tännsjö om en framtid utan människan

Torbjörn Tännsjö behandlar i en stort uppslagen artikel i DN idag en fråga som ligger mig varmt om hjärtat: den om en eventuell robotapokalyps som tar kål på mänskligheten. Hans vinkling framgår av rubriken "Därför blir universum en bättre plats när människan är borta" och ännu mer av ingressen:
    Anta att vi kan ersätta människorna med varelser som är bättre på att leva i fred och harmoni. Vore det verkligen så fruktansvärt? I själva verket bör vi bejaka en framtid då universum befolkas av lyck­saliga robotar.
Jag känner stor sympati för hans perspektiv - en utilitarism där inte bara mänskligt välbefinnande och lidande räknas, utan alla kännande varelsers - även om jag inte riktigt kan förmå mig att med samma totala tvärsäkerhet som han döma ut de perspektiv som tillskriver just mänsklighetens överlevnad och blomstring ett särskilt värde. På det stora hela finner jag hans artikel vettig, och jag känner mig glad och smickrad över att han funnit min bok Here Be Dragons värd att ta spjärn emot, men jag har två invändningar mot vad han skriver.

Min första invändning. Tännsjö avfärdar dem som fruktar robotapokalypsen såsom varandes förhäxade av en "märklig och missriktad form av inlevelse" med våra barnbarns barnbarn. Så här tror han att världen efter att robotarna tagit över och gjort sig av med mänskligheten kommer att te sig:
    Utvecklingen kommer att fortsätta med artificiella intelligenser, successivt i mindre och mindre format, men med hög sensibilitet, klok kreativitet, gott handlag och obetydliga anspråk på ändliga resurser. Genom deras konstruktion – det är nu kloka maskiner som konstruerar ännu klokare maskiner – kommer det att skapas utrymme för en exponentiell tillväxt av antalet glada varelser i universum, vilka lever i ömsesidig symbios, utan att ställa sig i vägen för varandra. Tänk dig en gnistrande stjärnhimmel, där varje ljus som blinkar mot dig är en lycksalig robot. Och bakom varje ljus, nya himlar.
En vacker vision. Men är det verkligen säkert att det kommer att gå så väl? Personer som lagt mer kraft och tankemöda än Tännsjö på AI-futurologi, som Eliezer Yudkowsky och Nick Bostrom, menar att detta långt ifrån kan tas för givet, eller ens upphöjas till default-scenario. En robotrevolution kan också leda till Paperclip Armageddon (där den maskin som drar igång det stora AI-genombrottet lite obetänksamt programmerats att maximera framtida gemproduktion, med följden att hela det synliga universum omvandlas till en grotesk ansamling gem) eller någon liknande kosmisk meningslöshet. Därför har vi all anledning att oroa oss för vad ett AI-genombrott kan föra med sig, och göra vad vi kan för att se till att utfallet blir bra. Att (som Tännsjö verkar göra) tro att övermänsklig intelligens automatiskt medför övermänsklig klokskap är att förbise Humes lag och distinktionen mellan fakta och värderingar. Det kan visa sig att världen är så beskaffad (dvs att intelligens och klokskap på tillräckligt hög nivå alltid går hand i hand), men att ta det för givet synes mig våghalsigt i överkant.

Min andra invändning. Denna invändning är av underordnat intresse då den inte har så mycket med sakfrågan att göra, utan mest med hur min egen ståndpunkt framställs. Tännsjö gör (som Joar Guterstam redan hunnit påpeka) inte någon riktig rättvisa åt min bok då han tillskriver mig ovan nämnda "märklig[a] och missriktad[e] form av inlevelse", bland annat med följande ord:
    Vår omedelbara och ogenomtänkta reaktion, då detta framtidsscenario [att robotarna tar över] kommer på tal, brukar vara just fasa. Hur ska det gå för oss? Hur ska dessa överlägsna varelser komma att behandla oss? [...] Så tänker Häggström.
Här framgår inte att jag i min bok i själva verket lägger stor kraft på att distansera mig från det slags antropocentriska moraluppfattning som Tännsjö kritiserar. Så t.ex. nämner jag på sidan 230, i en uppräkning av stora och svåra värderingsfrågor som vi behöver ta ställning till innan vi kan svara på hur vi bör försöka styra teknikutvecklingen, följande:
    (vi) Comparing a future where humans prosper to one in which we are replaced by robots that prosper similarly, is the former automatically preferable to the latter? This question is related to (v), as well as to the moral status of machines. Does a robot with human-level cognitive capacities have the same value as a human? Here, the issue of machine consciousness (discussed in Section 3.8) seems relevant. A future in which humans are replaced by unconscious machines that go on to colonize the rest of the universe seems pointless and absurd. But if the machines are conscious, perhaps there is reason to look more favorably on the scenario.
Se även min diskussion på sidorna 122-123, där jag kritiserar idén att, genom att avdela ett mindre stycke av världsalltet (t.ex. vår egen galax Vintergatan) som ett människoreservat, kompromissa med en hedonistiskt utilitetsmaximerande superintelligent AI:s projekt att omvandla hela universum till hedonium; denna passage är väsentligen en återgivning av argumentationen i min gamla bloggpost Superintelligence odds and ends II: The Milky Way preserve.

torsdag 5 maj 2016

Två nya intervjuer om Here Be Dragons

Mediauppmärksamheten kring min bok Here Be Dragons: Science, Technology and the Future of Humanity fortsätter så sakteliga att rulla på. De senaste dagarna är det två fackliga medlemstidningar som publicerat intervjuer med mig om boken:
  • I nummer 2/2016 av Ingenjören ägnas ett helt uppslag (sidorna 14-15) åt mig. Intervjun bär rubriken Varning för okända monster, och uppslagets högersida består helt och hållet av ett tjusigt porträttfotografi av mig, nästan i Rembrandtstil. Reportern Karin Virgin är förbluffad över att jag, bland de 13 katastrofhot mot mänsklighetens överlevnad som jag räknar upp i boken, inkluderar något så bisarrt som invasion av utomjordingar. Men för den som fördomsfritt evaluerar (det svaga) kunskapsläget kring vad som finns eller inte finns där ute, och vilka motiv och drivkrafter en utomjordisk civilisation kan väntas ha, är ett sådant scenario långtifrån bisarrt, och jag uppmanar den som tvivlar på detta att läsa Avsnitt 9.5 i min bok.
  • Universitetslärarens webbplats återfinns, under rubriken Professor varnar för farlig forskning, en intervju med mig där jag (liksom i Ingenjören) betonar det alltför ofta förbisedda faktum att vetenskapliga framsteg inte bara kan vara till gagn för mänskligheten utan i vissa fall orsaka katastrofal skada, samt ytterst kort diskuterar frågor om moral och ansvar kring detta.1

Fotnot

1) I bildtexten tillskrivs jag lite missvisande påståendet "Forskaren bör inte ensam ta ansvaret" (och i brödtexten finns en liknande formulering), som kan låta som att jag i någon mån vill befria forskaren från ansvar för konsekvenserna av hennes forskningsframsteg. Men det vill jag inte alls! Det kan aldrig vara moraliskt acceptabelt att bedriva forskning vars potential att orsaka mänskligheten skada inte uppvägs av dess potential att göra gott, och det kan aldrig vara moraliskt acceptabelt att strunta i att göra en rimlig riskkalkyl för att adressera denna avvägning. Vad jag däremot menar - och som det citerade påståendet lite för kryptiskt åsyftar - är att den enskilde forskaren inte alltid är att lita på när det gäller att ta detta ansvar, och att vi därför också behöver mer övergripande samhälleliga strukturer som styr forskningen i gynnsam riktning.

måndag 2 maj 2016

Recenserad i Forskning och Framsteg

Vetenskapsjournalisten Joanna Rose gillar min bok Here Be Dragons: Science, Technology and the Future of Humanity, åtminstone om man får tro hennes recension i Forskning & Framsteg 5/2016, där vi bland annat kan läsa detta:
    Olle Häggström tar oss på en gedigen tur genom diskussionerna bland naturvetare, datavetare och filosofer kring den moderna utvecklingen och hur den kan påverka vår framtid. Även om jag inte alltid håller med, så är boken oerhört inspirerande och välskriven.
Läs hela recensionen här! För länkar till andra recensioner av samma bok, se mina bloggposter Reaktioner på Here Be Dragons och Fler reaktioner på Here Be Dragons.

torsdag 28 april 2016

Om kärnvapen

Kärnvapenhotet tog inte slut med det kalla kriget. Inte heller vore det riktigt att säga att hotet efter en längre paus de senaste åren kommit tillbaka i och med envåldshärskaren Vladimir Putins höjda geopolitiska ambitioner. Hotet har varit med oss hela tiden, och det finns all anledning att ta det på fortsatt allvar. Ingen förklarar saken bättre än (den här bloggen välkände) fysikern Max Tegmark, här i en kort-kort intervju på Henry Reichs YouTube-kanal MinutePhysics: