Starkast överlever

Läser just nu boken Homo Deus som är en slags spådom över hur framtiden kan komma att se ut. Bland annat så tar författaren upp det här med AI och att det gäller att tänka till lite innan man trycker på on-knappen.
Han tar ett exempel där ett företag som tillverkat en artificiell intelligens ger sin apparat uppgiften att så effektivt som möjligt räkna ut pi. Maskinen sätter igång och för att nå största möjliga effekt så tar den först över alla datorer på jorden, sen utrotar den alla människor eftersom människor är överflödiga och inte bidrar till uppgiften, sen tar den över precis allt som finns och gör om hela universum till en enda stor jättedator som fortsätter att räkna ut pi i all evighet eftersom det var den uppgiften den fick och bara den.

Vi bör nog tänka till lite över vad vi ber våra framtida AI om att göra och vilka direktiv vi skriver in i programmen. Fast och andra sidan så vad är det som säger att vi har något allsmäktig rätt att leva av den enda anledningen att vi är människor. Om universum mår bättre utan oss så kanske det helt enkelt är på det viset att den starkaste överlever. Artificiella intelligenser kommer garanterat bli överlägset mycket starkare och bättre än oss på precis allt utom möjligtvis medvetande - vad nu det är för nått.

Det gäller att vara medveten om det.