Läskigt eller bra?
“Vart är vi på väg” är definitivt en väldigt stor fråga. Framför allt om det handlar om hela mänskligheten. Skulle vi få svar på den frågan ikväll?
Dagens föreläsare var Max Tegmark. Svensk/amerikan som är kosmolog och fysiker med hemvist på MIT, Massachusetts Institute of Technology. Föreläsningen var indelad i två delar. Den första handlade om Universum och vad som finns ute i rymden. Den beskrev var jorden kommer ifrån och vi fick en hel del kunskap om rymden. Vi fick även veta att “ingenting” alltid är någonting och att man åldras långsammare om man skulle bo i ett “svart hål”…
Men det var nog den andra delen av föreläsningen som intresserade publiken mest. Vart är vi på väg och hur kommer tekniken att påverka oss. Främst då AI.
Max gjorde en del jämförelser med elden som uppfanns före brandsläckaren och bilen som uppfanns innan säkerhetsbälte och airbag. Dvs man löste problem i efterhand och det gick rätt bra.
Men när det kommer till AI och superintelligens påstår han att den lösningen inte fungerar. Om vi en gång har släppt lös det han kallar AGI, Artificiell generell intelligens, utan kontroll är det nog risk att vi är rätt körda. Därför måste vi skapa system som skyddar oss mot att datorerna blir så intelligenta att de utvecklar sig själva utom vår kontroll.
Han tog exemplet med den svarta noshörningen som utrotats av människan. Orsaken enkelt uttryckt, var att människan är intelligentare än noshörningen. Då kan man ju fundera på hur en dator som är intelligentare än människan tänker om den inte gillar oss människor.
Slutligen tar han död på myten att datorer skulle vara eller kunna bli elaka. Det är inte att de är elaka som är problemet utan att de blir så kompetenta. I min värld är detta otroligt läskigt och nog innebär detta att människan “leker med elden”.
Risken minskar om mänskligheten kan komma överens om hur man skall hantera AI och AGI. Med facit i hand har ju inte människor på jordklotet varit så jättebra på att komma överens. Men vi får väl hoppas att superintelligensen används till bra saker och att vi få fortsätta leva i en värld där vi människor har kontrollen.