Konstgjord moral

Nu har jag läst klart boken Liv 3.0 som handlar om konstgjord intelligens och som är en bok jag rekommenderar. Boken väckte en del funderingar som jag inte visste var värda att fundera på, men som faktiskt är avgörande för inte bara oss människor utan för hela universums framtid. Vad nu framtid är - framtiden kanske redan har hänt.

Om vi lyckas bygga en mojäng som når upp till mänsklig intelligens hur ska vi då programmera den att uppföra sig. Ska vi till exempel lägga in vår nutida moral - och vem ska bestämma vems moral det i så fall är som gäller - och ska sedan den moralen vara den man lyder i all framtid eller ska maskinen tillåtas utveckla sitt sätt att se på vad som är rätt och vad som är fel. Risken med att den lämnas med fria tyglar är sannolikt att den anser att universum klarar sig bättre utan oss dumma människor och utplånar oss på ett sätt som vi själva inte kommer att förstå.
Men om den inte får utveckla sitt sätt att se på saker och ting så kan den fånga oss i dagens sätt att leva och alla förstår ju att om några hundra år så kommer vi som lever idag anses ha varit ett gäng dumhuvuden. Tänk er att AI hade uppfunnits på 1600-talet och vi idag skulle tvingas bränna häxor och ha oss bara för att det var helt normalt på den tiden.

Det finns massor med frågor som behöver svar, som hur gör man så att ingen Lex Luthor-snubbe hackar systemet i rent och skärt maktbegär, hur ska man skriva lagar, får AI äga pengar, om man stänger av ett medvetande genom att dra ut sladden mördar man då, vad är ett medvetande och så vidare.

Klicka gärna här om ni vill läsa mer. Future Of Life är en organisation som drogs igång av Max Tegmark från Bromma och som består av klyftiga lirare som grottar ner sig i just dessa frågor.