onsdag 28 januari 2015

Concerned world citizen

    Concerned world citizen and professor of mathematical statistics (in that order)
So reads my motto on Twitter. There is a lot to be concerned about in the world. Two well-known global catastrophic risks are global warming and nuclear war. Another, less well-known but perhaps as serious, is the possibility of an uncontrolled AI breakthrough. But the main message I wish to convey with the motto is, despite the parentheses, contained in the last three words: in that order. Mathematics and science is very important, but a prosperous and happy future for humanity is, IMHO, even more important. Therefore I refuse, contra a not uncommon piece of advice, to keep quiet about my political views on science-related issues. The well-meaning concern - voiced by, e.g., climate scientist Tamsin Edwards in her blog post Climate scientists must not advocate particular policies1 - stems from the idea that if scientists express political ideas, then the credibility of their research risks being hurt, because it may raise suspicion about ideological contamination. I think that argument is not entirely without merit, and every scientist working in policy-relevant areas has her own choice to make on whether to take it to heart and act upon it, but to me personally it is overtrumped by an argument made by another climate scientist, James Hansen:
    Fourteen months later I gave another public talk - connecting the dots from global warming to policy implications to criticisms of the fossil fuel industry for promoting misinformation. This time my grandchildren provided rationalisation for a talk likely to draw ire from the administration. I explained that I did not want [them] to look back and say: "Opa understood what was happening, but he never made it clear."
In the opening paragraphs of their paper Science and policy: Crossing the boundary in the latest issue of Bulletin of the Atomic Scientists, Dale Jamieson, Naomi Oreskes and Michael Oppenheimer make a point similar to Hansen's:
    Consider the case of the late F. Sherwood Rowland, who, along with fellow chemist Mario J. Molina, first recognized the threat that chlorinated fluorocarbons (CFCs) posed to stratospheric ozone and potentially to life on Earth. (Rowland and Molina later won the 1995 Nobel Prize in Chemistry for their work, along with Paul J. Crutzen.) Some of Rowland’s colleagues criticized him for publicly stating that CFCs should be phased out. Although he did not advocate a specific policy instrument, these colleagues felt that by calling for a policy goal Rowland was illicitly stepping out of the world of science into the world of policy in which he did not belong.

    Imagine, however, that Rowland and Molina had published their research in a peer-reviewed journal and that, like most scientific work, it had then been largely ignored. Decades later, dermatologists and oncologists would have begun to notice an unexplained increase in rates of skin cancer. Epidemiologists would have analyzed the available data and concluded that there was in fact an epidemic of skin cancers around the globe, especially severe in Australia, southern Chile, and among white Africans. Meanwhile, plant pathologists would have noticed increased ultraviolet damage in agricultural crops; veterinarians would have noted increased rates of cataracts in farm animals. Scientists would then have searched for an explanation for this strange association of human, animal, and plant pathology. Eventually, someone would have come across Rowland’s work, connected the dots, and understood what was happening. Programs would then have been quickly put in place to measure stratospheric ozone, demonstrating that the ozone layer had been massively depleted. [...]

    This thought experiment, while counterfactual, is not fantastic. It is essentially what happened with asbestos and tobacco, and it could easily have been the case with chlorinated fluorocarbons as well.

Read the full paper by Jamieson et al here!

That same issue of the Bulletin is amazingly full-packed with wise and interesting discussions concerning the troublesome interface between science and politics. See for instance Gavin Schmidt's What should climate scientists advocate for from the same issue. I offer the following snapshots from that paper:
    Scientists and philosophers have long distinguished between descriptions of what "is" (derived from scientific investigations of the real world), what "ought" to be (based on one’s value system), and suggestions for what one "should" do in the face of this knowledge [...]. Despite this careful distinction between advocacy and facts, the term "advocate" is regularly used pejoratively in scientific circles and is frequently associated with the cherry-picking of science to support a preconceived idea. In order to avoid these connotations, scientists often go to great lengths to deny being advocates for specific policies.

    [...]

    In my view, it is impossible to divorce public communication from advocacy, and scientists should not even try. Instead, we should acknowledge and embrace the terminology and, in so doing, define clearly what our own values are and exactly what we are advocating for.

    [...]

    Responsible advocates are up-front about what is being advocated for and how the intersection of values and science led to that position. On the other hand, it is irresponsible to proclaim that there are no values involved, or to misrepresent what values are involved. Responsible advocacy must acknowledge that the same scientific conclusions may not lead everyone to the same policies (because values may differ). Assuming that one’s own personal values are universal, or that disagreement on policy can be solved by recourse to facts alone, is a common mistake.

Read Schmidt's full paper here!

Footnotes

1) I've commented on Edwards' blog post elsewhere.

2) He makes the same statement in his book Stoms of My Grandchildren, which I reviewed a few years ago.

tisdag 27 januari 2015

Special virtual issue of Physica Scripta: Emerging technologies and the future of humanity

Readers interested in the vitally important topic of emerging technologies and their potential consequences for the future of humanity are encouraged to check out the new virtual issue of Physica Scripta on precisely this topic. It grew out of a meeting at the KVA (Royal Swedish Academy of Sciences) in March last year. Besides a short editorial by yours truly, it contains at present three excellent papers (a fourth may be forthcoming), namely:

lördag 24 januari 2015

Divestment!

Det finns en tendens hos mig att när jag skriver om det lärosäte Chalmers där jag har min anställning (och stora delar av min utbildning) så blir det oftast något negativt: jag klagar exempelvis över motbjudande utformning av studentrekryteringsreklam, över arrangerandet av pseudovetenskapliga seminarier, och över anammandet av idiotiska management-trender. Detta har sin uppenbara förklaring i att hälsan tiger still och att det vanligtvis är först när jag är missnöjd med något som jag ser behov av att yttra mig, men det är samtidigt lite olyckligt eftersom det kan ge ett orättvist negativt helhetsintryck. Mycket av det som händer på Chalmers är i själva verket jättebra, och jag har nu glädjen att rapportera om något jag ställer mig entydigt positiv till:

Chalmers väljer alltså att haka på den internationella så kallade divestment-rörelsen,1 vilket innebär att högskolan säljer ut allt sitt aktieinnehav i fossilbränsleföretag.2 Detta har rapporterats här och var (även internationellt), som i Ny Teknik där det meddelas att Chalmers stiftelse "har tagit beslut om nolltolerans när det gäller placeringar i kol-, olje- och gasbolag och kommer nu att avyttra sina aktier i bolag som är knutna till fossil energi". Det är aktieinnehav till ett värde av fem miljoner kronor som nu säljs ut.

Vad gäller direkta finansiella effekter av åtgärden så är detta knappast något som drabbar fossilbränslebolagen särskilt hårt, eller överhuvudtaget. Fem miljoner är en pyttesumma i sammanhanget. Det viktiga är åtgärdens symbolik och signalverkan. Som ledande teknisk högskola gör vi rätt i att markera att vi inte vill tjäna pengar på föråldrade teknologier som skadar livsmiljön på vår planet och som under alla omständigeter behöver avvecklas förr eller senare (helst förr). En sådan markering kan utgöra ett litet bidrag till den förskjutning i opinionsläget som krävs för kraftfulla omställningar från fossil energi till hållbara energislag. Nu gäller det att andra lärosäten också hakar på.

David Keith förklarade för ett år sedan dessa sammanhang i en artikel i Boston Review - rekommenderad läsning!

Fotnoter

1) Finns det något svenskt ord jag istället borde använda här?

2) För att vara mer exakt: Det är Chalmers stiftelse som säljer ut sitt innehav. Chalmers stiftelse har som uppgift att äga Chalmers tekniska högskola AB, och vidare...
    att verka för att Chalmers bedriver utbilning och forskning på en internationellt hög nivå. Stiftelsen skall även se till att resurser utnyttjas effektivt samt att finansiera uppdrag som är till värde för Chalmers.
.

onsdag 21 januari 2015

Om Bamseplåster och antroposofiska läkemedel

I en SvD-artikel i söndags, rubricerad Antroposofiska läkemedel är hotade, brister tre företrädare för det antroposofiskt inriktade sjukhuset Vidarkliniken ut i en lång jämmer- och veklagan över Läkemedelsverkets förslag om att täppa till det kryphål i regelverket som ger antroposofiska produkter möjlighet till tillstånd att säljas som läkemedel utan regelrätt vetenskaplig prövning. Artikeln behöver inte läsas. Det räcker gott att se hur den sammanfattas i tidningens pappersupplaga...

...och sedan sarkastiskt utropa:
    Åh nej, ve och fasa, då blir vi kanske tvungna att fortsättningsvis hålla till godo med vetenskapligt utprövade läkemedel!
Å andra sidan skadar det inte att lägga ut texten en liten aning ytterligare, som Per Köhler1 vid Lunds universitet gör i sitt svar i dagens SvD:
    Vilken treåring som helst kan berätta att om man trillar och slår sig så hjälper det med Bamseplåster. Får man ont i magen kan det också vara på plats med plåster och erfarenhet har visat att dessa ibland även hjälper mot åksjuka och dagiskamrater som retas. Bamseplåster är en minst sagt populär behandling med ett brett stöd bland användarna som på många platser integrerats i den offentliga vården. Hur kan någon tänkande människa vara emot Bamseplåster?

    Detta är frågan som tre representanter för Vidarkliniken kämpar med på Brännpunkt 18/1 när de vädjar för ett bevarande av den gräddfil som låter antroposofiska Bamseplåster kringgå läkemedelslagen.

    [...]

    När det gäller Bamseplåster håller nog de flesta med om att en liten lögn och lite magi kan vara på sin plats för treåringar. Även när vi blir äldre behöver vi små vita lögner och en smula magi. Men vuxna människor förtjänar bättre än att behandlas som treåringar när vi är sjuka och riktig sjukvård ska veta bättre än att bara säga ja. Ibland är Bamseplåster rena björntjänster.

Läs hela Per Köhlers välargumenterade och välformulerade svar här!

Fotnot

1) Vid sidan om sin forskargärning är Per Köhler känd som flitig och underhållande twittrare, ofta med utspel till vetenskapens försvar och med en rättfram retorik som kan få min egen här på Häggström hävdar att framstå som onödigt försiktig och återhållsam.

söndag 18 januari 2015

I fördatorisk tid

Häromdagen blev jag påmind om en låt som det var många år eller rentav decennier sedan jag tänkte på senast, men som jag gillade skarpt när det begav sig: I fördatorisk tid av Adolphson-Falk, från deras album Över tid och rum, 1984.1 Låten behandlar ett viktigt ämne som jag på senare år lagt en del kraft på, och ofta återkommit till här på bloggen: kommer datorerna att ta över, och hur blir det i så fall då?

Fotnot

1) Eventuellt kan denna upplysning ge viss ledning rörande vilken sida jag stod på i den gamla konflikt jag tog upp här på bloggen för ett år sedan.

torsdag 15 januari 2015

Påven försvarar terrorattacken mot Charlie Hebdo

SVT rapporterar nu att påven Franciskus uttalat sig om terrorattacken mot Charlie Hebdo. Det han säger kan inte förstås som annat än ett försvar av dådet:
    Om min goda vän hånar min mamma kan han förvänta sig en smäll. Det får man vänta sig, det är normalt. Du ska inte provocera. [...] Det är många som talar illa om religion. De gör narr av den. Det som händer då är samma som händer vännen som hånar min mor. Det finns en gräns.
Jag finner detta provocerande. Men i kontrast mot den av Franciskus förordade reaktionen att ta till våld, så reagerar jag med ord. Så skall det gå till. Våld är fel slags bemötande, ord är rätt. Här är mina ord till Franciskus:

Din religion utgörs av bisarra fånerier, din Gud är en blodtörstig psykopat, din Jesus är en härsklysten nolla som låter sin barnsliga ilska gå ut över ett stackars oskyldigt fikonträd, din företrädare på den påvliga tronen är en fucking motherfucker, och själv är du en löjeväckande fåntratt i en fånig hatt!

tisdag 13 januari 2015

An open letter calling for research on robust and beneficial AI

Research on artificial intelligence (AI) tends in general to focus too much on making the AI capable, and too little on making its effects (once it becomes capable) benign to humans and humanity. A non-obvious but important thing to realize here is that for an AI to do bad things, it is not necessary that it was built with bad intentions. Sometimes the intentions really are bad, such as when building AI systems to fly drones and shoot at people, but it is also possible for an AI built purely with good intentions to do bad things. For a drastic example, let me quote from my review of Nick Bostrom's important book Superintelligence:
    Talk of the danger of AI may trigger us to think about drones and other military technology, but Bostrom emphasizes that even an AI with seemingly harmless tasks may bring about disaster. He exemplifies with a machine designed to produce paperclips. If such a machine becomes the seed of an intelligence explosion, then, unless we have planned it with extreme caution, it may well result in the entire solar system (including ourselves) being turned into a grotesque heap of paperclips.
For some slightly less drastic examples, see Steve Omohundro's paper Rational artificial intelligence for the greater good, or a talk by him from 2012 on the same topic that I posted in an earlier blog post.

An open letter calling for putting higher priority on research to make AI safe and socially beneficial has recently been posted, and signed by over a thousand names, including myself, along with prominent AI experts, philosophers, scientists and entrepreneurs like Stuart Armstrong, Nick Bostrom, Erik Brynjolfsson, Ben Goertzel, Katja Grace, Stephen Hawking, Luke Muehlhauser, Elon Musk, Peter Norvig, Steve Omohundro, Martin Rees, Stuart Russell, Anders Sandberg, Jaan Tallinn, Max Tegmark, Eliezer Yudkowsky, Roman Yampolskiy and many more. Read the letter here! And if you argee with us, do consider signing it!