I det här blogginlägget ska vi från olika vinklar undersöka huruvida artificiell intelligens kommer att bli ett verktyg för att skydda mänskligheten eller ett hot när den tillämpas på militära vapen.
Vad är artificiell intelligens? Artificiell intelligens är ett område inom datavetenskap och informationsteknik som studerar hur man gör det möjligt för datorer att utföra uppgifter som kräver mänsklig intelligens, såsom tänkande, lärande och självförbättring.
Artificiell intelligens används idag över hela världen. Sedan termen "artificiell intelligens" myntades vid Dartmouth-konferensen 1956 har den fortsatt att utvecklas genom upprepad forskning, och olika tekniker har utvecklats och används nu inom många områden. Till exempel används teknik som identifierar användaregenskaper och hittar vad de vill ha baserat på deras tendenser på olika webbplatser och smartphones.
AI-teknik utvecklas för att göra våra liv enklare, men det är inte den enda platsen där den har stor inverkan. Precis som AlphaGo, som slog den professionella Go-spelaren Lee Sedol, kan AI till och med slå människor i spel genom att lära av dem. Om AI används inom militär teknik måste vi tänka på hur AI med militär kraft kommer att påverka mänskligheten, nationell säkerhet och till och med mänsklighetens framtid.
Artificiell intelligens handlar inte bara om att utveckla robotar som dödar människor. Den kommer att användas inom otaliga områden, såsom cyberattacker mot nätverk och systemförstörelse. Dessutom kan dessa risker drabba inte bara fientliga länder utan även mänskligheten som helhet. Hjärnforskaren Kim Dae-sik anser att utvecklingen av "superintelligens" är så farlig att han säger att utvecklingen av artificiell intelligens borde förbjudas enligt lag. Nick Bostrom, en Oxford-filosof och erkänd forskare inom området artificiell intelligens, definierar superintelligens som artificiell intelligens som överträffar människor på alla områden, inklusive vetenskapligt skapande, allmän kunskap och sociala färdigheter. Begreppet superintelligens är lätt att hitta i filmer. Terminator-serien visar den största faran som artificiell intelligens kan utgöra för mänskligheten. I filmen tar artificiell intelligens kontroll över militärsystemet och betraktar mänskligheten, som försöker stänga ner det, som fienden och mobiliserar alla militära styrkor för att förgöra mänskligheten. Därför har de överlevande människorna inget annat val än att samarbeta för att vinna kriget mot artificiell intelligens.
Detta hot är ojämförligt farligare än något annat militärt vapen. Kärnvapen, som för närvarande är kända som de farligaste militära vapnen, dödar många människor direkt i närheten av explosionen och orsakar sekundära skador från strålning. Denna skada är begränsad till platsen för explosionen och dess närhet. Faktum är att Japan, där atombomber släpptes, inte kollapsade som nation. Det är dock tydligt att detta är ett stort problem för mänskligheten, och faktum är att många länder samarbetar för att underteckna ett löfte mot användning och innehav av kärnvapen. Kärnvapen kan redan utvecklas med vår nuvarande vetenskap och teknologi, så ett åtagande mellan länder att inte utveckla dem ytterligare, och i slutändan beslutet att inte använda kärnvapen, är ett val som gjorts av människor för att förhindra större skador. Avancerad AI kan dock bli ett problem från det ögonblick den framgångsrikt utvecklas. Om den kan utveckla sin egen militära makt och förvärva intelligensen för att erkänna mänskligheten som sin fiende, kommer den att bli ett problem för alla, både vänner och fiender.
Motstånd mot utvecklingen av militär AI är redan igång. I juli 2015 motsatte sig den berömda fysikern Stephen Hawking, Teslas grundare Elon Musk och AlphaGo-utvecklaren Demis Hassabis utvecklingen av vapen med hjälp av AI. DeepMind-tekniken som används i AlphaGo förvärvades av Google på villkor att den inte skulle användas för militära ändamål. Användningen av AI i militära vapen är inte bara en fråga om intelligens på hög nivå, utan eftersom AlphaGo gjorde misstag i Go finns det också en möjlighet att allvarliga fel uppstår i militärt beslutsfattande och användning av vapen. Dessutom är det tydligt att det kommer att väcka etiska frågor om man låter maskiner, snarare än människor, bestämma om man ska döda eller rädda människoliv.
För att förstå de potentiella farorna med AI, låt oss ta en titt på den nuvarande statusen och planerna för utvecklingen av militär teknik som använder AI. Som världens mäktigaste militärmakt ligger USA också i framkant när det gäller AI-forskning för militära ändamål. Defense Advanced Research Projects Agency (DARPA), en myndighet under försvarsdepartementet som grundades 1958, började investera i AI-forskning för länge sedan. Den har uppnått resultat inte bara inom det militära området utan även inom andra områden som kommunikationsteknik och röstigenkänningsprogram, och den viktigaste tekniken som för närvarande är under utveckling är obemannade flygfarkoster (UAV). Som namnet antyder är UAV:er flygplan som kan utföra uppdrag på egen hand enligt programmerade instruktioner utan en mänsklig pilot. Det amerikanska försvarsdepartementet har meddelat att de kommer att investera 3.6 miljarder dollar för att utveckla UAV:er, som för närvarande har en kort flygräckvidd och saknar smygteknik. Projekt som ALIAS (Aircrew Labor In-Cockpit Automation System), som syftar till att utveckla flygplan som kan flyga autonomt i alla situationer, och CODE (Collaborative Operations in Denied Environment), som syftar till att utveckla obemannade drönare som minimerar mänsklig intervention, har presenterats. Son Tae-jong, chef för avdelningen för informationsteknologisk forskning vid Korea Institute for Defense Analyses, sa att DARPA är den ledande institutionen inom området artificiell intelligens och att USA redan har gjort betydande framsteg inom AI-teknik.
Militär teknologi omfattar inte bara militär makt utan även cybersäkerhet. I dagens nätverksberoende värld blir det allt viktigare att förebygga cyberterrorism, och det är omöjligt för människor att hantera allt på egen hand. Detta har lett till utvecklingen av AI-hackare med obegränsad datorkraft, vilket förväntas medföra stora innovationer inom cybersäkerhetsområdet. DARPA har meddelat att de kommer att främja automatisering av cybersäkerhet med hjälp av AI-teknik inom de kommande 20 åren.
Korea forskar också på teknik som använder AI i nationellt försvar. Efter utvecklingen av det första obemannade spaningsflygplanet, Songgolmae, är låg- och medelhöjds-droner för övervakning och spaningsflygning för närvarande under utveckling. Dessa flygplan kan landa automatiskt även i dåligt väder eller på natten och kan exakt identifiera objekt upp till 10 km bort. AI-teknik används också inte bara i luften utan även till sjöss. Obemannade ytfordon som ansvarar för obemannad övervakning, spaning och mindetektering förbättras också. När utvecklingen av multifunktionsteknik för obemannade ytfordon är klar förväntas den ge olika resultat, såsom övervakning av Northern Limit Line (NLL) i Västsjön och undervattenssökningsuppdrag.
AI-teknik förväntas också spela en aktiv roll på land. Fordonsliknande robotar utrustade med detekterings- och sökfunktioner kommer att gå in i fiendens territorium för att utföra farliga uppdrag som spaning och minsökning. AI-teknik används också i försvaret. GOP Scientific Guard System, ett system som upptäcker fiendens infiltration och reagerar därefter genom att installera CCTV-kameror och optiska sensorer i hela GOP:s taggtrådsstängsel, syftar till att stärka varningssystemet genom att mer exakt skilja mellan fiender och djur.
Inte bara avancerade länder utan även Korea använder AI-teknik inom försvarssektorn för att vidareutveckla sin kapacitet. På kort sikt förväntas AI-teknik minska antalet förluster bland vänliga styrkor och orsaka mer effektiv skada på fiendens styrkor, men i takt med att AI-tekniken utvecklas och militärtekniken blir mer beroende av AI, tror jag att detta tveeggat svärd i allt högre grad kommer att vända sig mot oss. Till exempel, precis som i filmer, kan robotar som utvecklats för att söka efter fiendens styrkor hitta och döda människor.
När krig bryter ut måste vi noggrannare fundera över om det helt enkelt kommer att bli ett robotkrig som använder AI-teknik, eller om robotar kommer att orsaka oåterkallelig skada på mänskligheten. FN och människorättsorganisationer menar att människor måste kunna kontrollera robotar. Jag anser att alla länder måste underteckna ett avtal om detta. När robotar med ständigt utvecklande dödliga förmågor riktas mot människor kommer det att vara för sent att vända tillbaka.
Låt oss härnäst betrakta de etiska frågorna kring AI. Det låter enkelt att säga att AI kommer att söka efter och attackera fiender, men det är en svår fråga när man tänker noga på det. Låt oss föreställa oss en situation där ett vapen utrustat med artificiell intelligens står inför en fiende, och våra allierade hålls som gisslan. Det är svårt att rädda gisslan och döda fienden samtidigt. Vad ska den artificiella intelligensen göra? Vem ansvarar för att fatta det beslutet? Det här är frågor som kräver djupgående överväganden. Det kan också finnas ett starkt motstånd mot att maskiner, snarare än människor, är ansvariga för liv och död. Artificiell intelligens kan inte lära sig helt på egen hand. Även människor lär sig av andra efter födseln om lagar och moraliskt medvetande som redan är etablerat, och de internaliserar etiska idéer som allmänt hålls av människor, såsom grundläggande mänskliga rättigheter. Därför kommer artificiell intelligens också att programmeras av människor i viss mån. Det är människor som kommer att hjälpa artificiell intelligens att fatta kloka beslut, och detta är en fråga som mänskligheten måste lösa när vi utvecklar artificiell intelligens-teknik.
Artificiell intelligens utvecklas snabbt och är därför föremål för mycket kontrovers. Det är självklart att införandet av artificiell intelligens i militära vapen kommer att orsaka sådana problem, och jag är emot det. Det kommer att vara nödvändigt att undersöka hur man kan minimera de problem som kommer att uppstå i utvecklingen av artificiell intelligens.
