Et dypdykk i spørsmålet om utviklingen av kunstig intelligens vil true menneskers kreative rolle og til slutt føre til guddommelighet.
Hvorfor utvikler vi AI? Deus ex machina er en iscenesettelsesteknikk som brukes i gresk teater. Den refererer til inngripen fra en absolutt makt som løser og rettferdiggjør alle konflikter i stykket. Dette litterære virkemiddelet brukes noen ganger i filmer og skuespill for å løse konflikter. Så, vil AI-teknologien vi drømmer om være en absolutt kraft som vil løse menneskelige problemer, eller en «ex machina», som filmens tittel antyder? Meningene er delte, men jeg er i den leiren som bekymrer meg for muligheten for at AI kan bli en absolutt kraft som hersker over mennesker. Dette er ikke bare science fiction. Faktisk bør vi tenke dypt om fremtiden til AI.
I januar i år donerte Tesla Motors-sjef Elon Musk 10 millioner dollar til Future of Life Institute (FLI), en organisasjon dedikert til å forske på AI for mennesker. FLI er en frivillig organisasjon av AI-forskere fra akademia, industri og industri for å forske på AI til fordel for mennesker. FLI er medgrunnlagt av MIT-professor Max Tegmark, og styret inkluderer ledende akademikere som Oxford University-professor Nick Bostrom og Stephen Hawking, direktør for Center for Theoretical Cosmology ved Cambridge University, samt Demis Hasavis, grunnlegger av DeepMind, som nylig ble kjøpt opp av Google. Mens verdens ledende selskaper og akademikere presser på med utviklingen av AI, er de også oppmerksomme på farene ved den. La oss ta en titt på hva de mener med AI og hvorfor den kan være farlig.
Det finnes to hovedtyper av AI. Svak AI er AI som er designet for å utføre en spesifikk oppgave, som for eksempel Apples SIRI eller Googles førerløse bil Google Car. I tilfellet AlphaGo, som nylig beseiret den profesjonelle Go-spilleren Lee Sedol, kan man si at det er en svak AI fordi det er en AI som bare utfører en gitt Go-oppgave. På den annen side kalles en AI som kan utføre en gitt oppgave med kognitive evner som overgår mennesker på alle områder, ikke bare innenfor et begrenset område, en sterk AI. I tilfellet med nematodeprosjektet, som ble forsket på for å skape kunstig liv ved å imitere nevrale nettverk i levende organismer, skapte det forventninger om at det en dag ville være mulig å imitere den menneskelige hjernen med dens komplekse nevrale nettverksstruktur. Derfor kan forskning på kunstige nevrale nettverkssystemer basert på nematoder sies å fremme utviklingen av sterk AI som imiterer de kognitive funksjonene til den menneskelige hjernen.
Potensialet til kunstig intelligens er imidlertid ikke begrenset til tekniske bragder. Fremveksten av sterk kunstig intelligens har potensial til å fundamentalt endre vår sosiale og økonomiske struktur. Hvis for eksempel sterk kunstig intelligens skulle erstatte menneskelig arbeidskraft, kan det føre til massiv arbeidsledighet, og det eksisterende økonomiske systemet vil møte alvorlige utfordringer. Disse endringene er ikke bare teknologiske, de kan skape komplekse problemer for samfunnet som helhet.
Så hvordan kan AI bli farlig? Det første scenariet er at AI er programmert til å ha sine egne farlige evner. Et eksempel på dette ville være et autonomt våpen. Hvis de faller i hendene på mennesker som kan utnytte teknologien, for eksempel terrorist- og kriminelle organisasjoner, kan de forårsake massive menneskelige tap, som masseskytinger. Selv en svak AI som bare utfører en spesifikk funksjon kan forårsake stor skade på menneskeheten, og jo mer avansert teknologien blir, desto mer utenkelig vil skaden være.
Det andre er at selv om en AI er skapt for å oppfylle et formål som er gunstig for mennesker, kan den fortsatt utgjøre en risiko for menneskeheten i hvordan den oppfyller dette formålet. En av grunnene til at vi ønsker å skape sterk AI er fordi vi tror at sterk AI, med sine menneskelignende kognitive og tenkende evner og ubegrensede arbeidskraft, vil hjelpe oss med å løse mange av problemene våre.
Kanskje, som forventet, kan sterke AI-er bidra til å løse mange av problemene våre, som matmangel, ressursknapphet og økonomisk stagnasjon. Det er imidlertid ingen som vet hvordan de vil gå frem for å løse dem. Hvordan kan vi være sikre på at de ikke vil velge å redusere antallet forbrukere (mennesker) i stedet for å prøve å finne måter å øke tilbudet på for å løse planetens mat- og ressursproblemer? Selv om dette er et scenario som ville vært flott i en science fiction-film, vet vi ikke om det alltid vil være det rette for andre menneskelige problemer, som miljøforringelse og andre problemstillinger som krever etisk vurdering.
Ved å simulere nematodens nervesystem har vi klart å lage et program som har det samme nevrale nettverket i en datamaskin, som distribueres som åpen kildekode og videreutvikles. Hvis du spør meg om en datastyrt nematode kan kalles et levende vesen, og hvor relevant denne forskningen er for den sterke kunstige intelligensens fremtid, er det vanskelig å svare på. Men hvis du skulle spørre meg om dette er den typen forskning menneskeheten trenger, ville jeg ikke sagt ja.
Vitenskap er vakker i seg selv fordi den søker å forstå naturlovene vi lever i. Studiet av kunstig intelligens er også vakkert fordi det kan gi svar på hvordan levende ting, inkludert mennesker, kan oppfatte og tenke. Det er imidlertid et skille mellom det vakre og det gode, og vakker forskning er ikke nødvendigvis god forskning. Hvis vi tør å definere god forskning, er det forskning som kun utfører positive funksjoner uten å forårsake betydelig skade på naturen, inkludert menneskeheten.
Vitenskap og teknologi kan ikke alltid skilles fra samfunnet, og det er heller ikke noe mennesker bør akseptere passivt. Mennesker er de som holder rattet i den raskt voksende vitenskapen og teknologien, og vi står ved et veiskille med KI-teknologi. Det er opp til mennesker å avgjøre om KI-teknologi skal bli en «ex machina» for menneskeheten eller en «ex machina» over menneskeheten. Derfor er det tydelig at det å ha et skeptisk syn og en vag frykt for vitenskap og teknologi i seg selv er en holdning som bør unngås, men det er nødvendig for både forskere og menneskeheten å tenke på hvilken retning de skal utvikle KI i veiskillet og å minne seg selv på tankegangen om å forfølge god forskning.
