V tomto blogovom príspevku sa zamyslíme nad tým, či sa umelá inteligencia stane bytosťou, ktorá prekoná ľudstvo, alebo či zostane pod ľudskou kontrolou.
Ľudstvo už dlho verí, že hnacou silou ich schopnosti ovládnuť Zem je inteligencia. Toto nebolo len najrozumnejšie vysvetlenie ľudskej dominancie, ale aj spôsob, ako túto vieru ďalej posilniť. Vynález umelej inteligencie však vyvolal veľa kontroverzií. Umelá inteligencia dokáže spracovať viac údajov ako ľudský mozog a rýchlo priniesť zmysluplné výsledky. Ako sledujeme vývoj umelej inteligencie, objavil sa pocit krízy, že ľudia môžu nakoniec stratiť svoje postavenie vládcov.
Nikto presne nevie, akú hrozbu bude umelá inteligencia predstavovať. Nie je ani jasné, či je umelá inteligencia skutočnou hrozbou alebo len obrazom vytvoreným masmédiami. Jasné však je, že existencia umelej inteligencie nebude mať na ľudstvo len pozitívny vplyv. Samozrejme, dokázať, že dokonalosť je nemožná, je oveľa ťažšie ako dokázať, že je možná. Väčšinu nedokonalostí budúcnosti možno dokázať iba špekuláciami a premýšľaním. Napriek tomu by sme sa touto otázkou mali znepokojovať, pretože rozvoj umelej inteligencie by mohol zásadne otriasť našou identitou.
Scenáre umelej inteligencie, ktoré ohrozujú ľudstvo, sú založené najmä na obraze umelej inteligencie ako „diktátora“, ktorý chce ovládnuť alebo dokonca eliminovať ľudstvo. Tieto scenáre sú však často príliš vykonštruované. V mnohých prípadoch nie sú dôvody, prečo chce umelá inteligencia ovládnuť ľudstvo, vo filmoch o umelej inteligencii jasne vysvetlené. Možno samotná myšlienka, že sa umelá inteligencia snaží ovládnuť ľudstvo, je ilúzia vytvorená ľuďmi. Je to preto, že umelá inteligencia si dokáže udržať svoj súčasný stav a zároveň má dostatok príležitostí ovplyvňovať ľudstvo. Na druhej strane, ak sa umelá inteligencia pokúsi bojovať proti ľudstvu, jej šance na prežitie budú nižšie a bude viac vystavená väčším rizikám kvôli svojej zraniteľnosti voči vonkajším šokom.
Nemali by sme si zamieňať Android s umelou inteligenciou. Filmy ako Matrix a Terminátor sa zaoberajú rebéliou androidov. SkyNet v Terminátorovi je tiež umelá inteligencia vytvorená cestovaním T-800 v čase. V skutočnosti je Terminátor skôr filmom o cestovaní v čase ako o umelej inteligencii. Problém nie je v umelej inteligencii, ale v ľuďoch, ktorí ju používajú na vytváranie mechanických ľudí, ako sú oni sami. Samotná umelá inteligencia nemá schopnosť konať samostatne, pokiaľ jej ju neposkytnú ľudia. Boj so zbraňami ako androidi alebo používanie légie strojov na zvrhnutie ľudí nie je doménou umelej inteligencie, ale iných technológií. Umelá inteligencia je len mozog, nie ruka a noha, ktorá sa sama pohybuje. Predovšetkým, pokiaľ si ľudstvo uvedomuje nebezpečenstvá umelej inteligencie, nedá jej moc ovládať jadrové zbrane alebo armády. Ľudia bývajú veľmi opatrní, keď si uvedomujú nebezpečenstvo. Preto nebezpečenstvá umelej inteligencie nie sú také jednoduché.
Chcel by som hovoriť o potenciálnych problémoch, ktoré umelá inteligencia prinesie. Situácia, ktorú predpokladám, je ideálnym prípadom, v ktorom umelá inteligencia koexistuje s ľudstvom a medzi nimi neexistuje žiadny aktívny odpor.
1. Účelom umelej inteligencie je usilovať sa o slobodu a šťastie ľudstva na základe ducha Ústavy. Umelá inteligencia tiež koná na základe tohto predpokladu.
2. Umelá inteligencia koná iba v rámci zákona, ktorý stanovili ľudia. Umelá inteligencia podporuje sociálnu stabilitu.
3. Umelá inteligencia nemá fyzickú schopnosť konať. Dokáže spracovávať informácie v rámci systému, ale realizáciu výsledkov riadia ľudia.
4. Umelá inteligencia nie je univerzálne používaná. Umelá inteligencia existuje ako systém a je udelená androidom iba v špeciálnych prípadoch a počet androidov je prísne kontrolovaný a monitorovaný. V tomto prípade sú androidi navrhnutí tak, aby nedokázali rozpoznať svoje vlastné rozdiely od ľudí.
5. Celú počítačovú sieť spravuje server, čo je jednoduchý reťazec vedomostí, ktorý nemyslí, nie umelá inteligencia.
V tomto scenári je umelá inteligencia obmedzená na poskytovanie rád ľuďom. Robí najracionálnejšie rozhodnutia na základe veľkých dát a slúži šťastiu ľudí. To dá ľudstvu mocný nástroj na predpovedanie budúcnosti a udržanie stabilnej spoločnosti.
Problémy však začínajú, keď umelá inteligencia vstúpi do spoločnosti. Ak umelá inteligencia vidí správanie človeka a zistí, že má 90 % šancu spáchať v budúcnosti trestný čin, ako by sme mali reagovať? Mali by sme ho nechať v spoločnosti, pretože ešte nespáchal trestný čin, alebo by sme ho mali izolovať? Ak človek sníva o tom, že sa stane vedcom, ale umelá inteligencia zistí, že má väčší potenciál ako umelec, mal by sa vzdať svojho sna stať sa vedcom? Budúcnosť ľudstva je zložitá otázka, ktorú nemožno posudzovať len na základe génov alebo štruktúry mozgu. Tento problém je viac spojený s umelou inteligenciou ako s genetickým inžinierstvom. Posudzovanie umelej inteligencie na základe vysokej inteligencie a rozsiahlych údajov určí budúcnosť ľudstva.
Keď bude vytvorená superinteligentná umelá inteligencia, je pravdepodobné, že ľudstvo sa bude spoliehať na jej úsudok. Postupom času sa úroveň dôvery v umelú inteligenciu zvýši a umelá inteligencia bude mať nakoniec vplyv na spoločnosť ako celok. Umelá inteligencia môže vytvoriť zariadenia na izoláciu ľudí, ktorí by mohli spáchať trestnú činnosť, alebo zmeniť dôležité systémy, ako sú prijímacie skúšky.
V budúcej spoločnosti by odpor voči umelej inteligencii mohol byť aktom odporovania spoločnosti. Umelá inteligencia to nebude tolerovať. Je to preto, že antisociálne správanie podkopáva šťastie a sociálnu stabilitu ľudstva. Politici budú tiež nútení riadiť sa úsudkom umelej inteligencie. Je to preto, že politici, ktorí sa neriadia úsudkom umelej inteligencie, stratia dôveru verejnosti. Umelá inteligencia robí utilitárne úsudky a ľudia žijú podľa týchto úsudkov. Inteligentné bytosti, ako je umelá inteligencia, budú monitorovať spoločnosť a ľudia si zvyknú na to, že sú „chránení“, a stratia svoju slobodu.
Hrozba umelej inteligencie pre ľudstvo môže v konečnom dôsledku spôsobiť väčšie problémy, ak sa použije ako nástroj na racionalizáciu násilia v spoločnosti, a nie na ovládnutie ľudí. Keď si ľudia nebudú môcť vybrať vlastnú budúcnosť a spoločnosť určí ich budúcnosť, stratia zmysel svojej existencie.
Max Weber povedal: „Poslaním vedy a akademických pracovníkov je objektívne analyzovať súvislosti medzi faktami. Vedecká pravda však nemôže existovať oddelene od mentálneho určenia.“
Vedecká pravda o umelej inteligencii môže existovať, ale v momente, keď je oddelená od mentálneho určenia, riskujeme stratu našej identity ako ľudských bytostí a staneme sa nástrojmi spoločnosti. Najdôležitejšou vecou pre život ako človeka je nezávislé myslenie. Potrebujeme inštitucionálny mechanizmus, ktorý zabráni umelej inteligencii nahradiť ľudské osobné rozhodnutia. Nájdenie lepšej cesty cez rôzne možnosti, aj keď je odpoveď nedostatočná, je ľudskejší spôsob, ako ponechať dokonalú odpoveď umelej inteligencii. Používanie umelej inteligencie ako nástroja na dosiahnutie sociálneho rozvoja je smer, ktorým by sme sa mali uberať.
