Nedavno sam se zainteresirao za pisanje Toby Orda, engleskog filozofa koji se godinama bavi temama koje se odnose na budućnost čovječanstva. Iako su teme izrazito teoretske i spekulativne, Toby Ord ih interpretira u znanstvenoj maniri, težeći praktičnoj upotrebi svojih saznanja. Najbolji primjer toj namjeri je knjiga The Precipice – Existential risk and the future of humanity iz 2020. godine. Radi se o analizi prijetnji koje bi mogle dovesti do trajnog nestanka čovječanstva kao i prijedlogu aktivnosti koje bi nas osposobile da se takvim prijetnjama odupremo.
Prema riječima autora, glavni cilj knjige je razviti odnos odgovornosti pojedinaca, a onda i institucija prema ljudskim dostignućima štiteći našu budućnost. Činjenica je, na što autor učestalo ukazuje, da se tehnologija i pripadajuća ljudska moć razvija daleko brže od mudrosti koja bi njome sigurno upravljala – pa potencijal samouništenja nije zanemariv, a s dodatnim tehnološkim razvojem i dalje raste. Toby Ord sadašnjost smatra razdobljem u kojem se čovječanstvo kreće rubom provalije (The Precipice) jer smo ušavši u atomsko doba po prvi puta uspostavili okolnosti koje mogu dovesti do sveobuhvatnog uništenja. Takva trajna destrukcija, koja onemogućuje oporavak i ne pruža drugu šansu za ostvarivanje ogromnih ljudskih potencijala, nije više teoretska mogućnost već predstavlja vrlo konkretan problem o kojem treba aktivno voditi računa.
Gruba kronologija ljudskog uspona prepoznaje nekoliko ključnih razvojnih prekretnica. Početnom točkom razvoja čovječanstva može se smatrati uspostava vrste Homo Sapiensa prije oko 200.000 godina u Afričkoj savani. Razvoj je bio linearan i bez dramatičnih uspona sve do ulaska u agrarno doba prije oko deset tisuća godina. Agrarna revolucija omogućila je intenziviranje komunikacije i time je dramatično ubrzala razvoj novih ideja i ljudske misli uopće. Čovječanstvo sljedeći razvojni impuls doživljava prije oko četiri stotine godina uvodeći znanstveni pristup u istraživanju novog, suprotstavljajući se prevladavajućim dogmatskim stavovima te započinje ubrzana akumulacija znanja. Nova znanja i ideje vode čovječanstvo prema sljedećoj ključnoj točki razvoja, a ona nastupa prije oko dvije stotine godina ulaskom u doba industrijske revolucije. To je vrijeme značajnog ekonomskog rasta i dramatičnih promjena u socijalnoj strukturi društva. Konačno, napredak znanosti i ubrzani tehnološki razvoj ali i društveno raslojavanje uveli su čovječanstvo sredinom prošlog stoljeća u posljednji, aktualni stupanj razvoja kada je čovječanstvo ovladalo atomskom energijom te postalo prijetnja vlastitom opstanku.
Ovladavanje atomskom energijom svakako predstavlja prijelomnu točku ljudske odgovornosti za vlastiti opstanak te od tada ta odgovornost ubrzano raste. U posljednjih stotinu godina, upozorava autor, postalo je jasno da čovjek svoje postojanje može ugroziti na sve više načina, od pogubnog utjecaja na klimatske promjene, preko razvoja biotehnologije pa do nekontroliranog razvoja i primjene umjetne inteligencije. Sve su to argumenti koji upućuju na potrebu da se o ovom problemu sistematično razmišlja te da se pokrenu inicijative koji će takve prijetnje učiniti manje vjerojatnim.
Razmišljajući o rizicima koje prijete ljudskoj opstojnosti, Toby Ord uvodi termin egzistencijalnog rizika smatrajući da u tu kategoriju pripadaju sve prijetnje koje mogu dovesti do nepovratne katastrofe – odnosno do uništenja čovječanstva ili trajnog obustavljanja njegovog razvoja. Ne radi se, dakle, smo o uništenju ljudi koji u trenutku katastrofe nastanjuju zemlju nego i brisanju doprinosa svih prošlih generacija te uništenju kompletnog ljudskog potencijala, odnosno onemogućavanju doprinosa svih budućih generacija. Ako se, poput autora, zadubimo u tu ideju onda postaje jasna naša moralna odgovornost prema trenutno živućim ljudima, ali ta odgovornost nije manja niti prema svim prošlim generacijama koji su svoje živote utkali u našu budućnost, a niti prema mnogobrojnim budućim generacijama koje bi nas mogle naslijediti ako ih u tome ne spriječimo. Zapravo, autor se vodi modernom etičkom idejom dugoročnosti (longtermism) prema kojoj se na vrijednost ljudskog doprinosa treba gledati bez obzira na vrijeme u kojem je nastao. Kad procjenjujemo ljudski značaj – jednako je vrijedno postignuće u prošlosti kao i ono koje trenutno uspostavljamo, ali i kao ono koje će nastati u budućnosti zbog toga što to svojim odgovornim djelovanjem omogućujemo.
Ako prihvatimo odgovornost koju nam sugerira autor knjige, onda je nužno uspostaviti konzistentnu hijerarhiju rizika o kojima bi trebalo voditi računa. Prema prijedlogu autora, oni se dijele na rizike od prirodnih katastrofa, na one koje izravno uzrokuje čovjek te na one koji se mogu svrstati u grupu budućih rizika o kojima znamo malo i koje tek naslućujemo.
O rizicima iz prve kategorije ljudi razmišljaju oduvijek. Toj grupi pripadaju katastrofe uzrokovane udarom asteroida ili kometa, erupcijom supervulkana ili zvjezdanom eksplozijom. Iako su uzroci prirodnih egzistencijalnih katastrofa teško previdljivi, ipak postoje opipljivi parametri koji vjerojatnost prirodnih kataklizmi mogu kvantificirati. Znanstvenici već godinama prate kretanje nebeskih tijela i većina prijetećih je identificirana. Imajući u vidu postotak identificiranih kao i procjenu broja neuočenih – rizik udara nebeskih tijela većih od deset kilometara u promjeru može se procijeniti na jedan naprema stotinu pedeset milijuna. Naime, za sva tijela takvih dimenzija koja bi se mogla naći na zemljinoj putanji trajektorije su poznate. Za manja tijela, odnosno za ona kojima je promjer od jednog do deset kilometara nisu poznate sve trajektorije, niti su popisana sva takva nebeska tijela pa autor procjenjuje, nakon uzimanja u obzir svih podataka, da vjerojatnosti udara u sljedećih sto godina može biti značajno veća od jedan prema stotinu i dvadeset tisuća.
Slično se prate i analiziraju podaci o veličini i sjaju zvijezda te se na temelju udaljenosti i očekivanom vremenu njihovog životnog vijeka procjenjuje rizik od eksplozija s katastrofalnim posljedicama za zemlju.
Za razliku od ovih prirodnih katastrofa, za procjenu vjerojatnost erupcije supervulkana nema informacija koje bi takav događaj mogle najaviti. Zbog toga su znanstvenici posegli za integralnom metodom analize rizika koja se bazira na procjeni trajanja vrste temeljem podataka iz prošlosti.
Metoda koju je koristio autor knjige uključuje procjenu trajanja ljudske vrste te procjenu trajanja sličnih vrsti. Pretpostavka je da je trajanje ljudske vrste minimalno dvije stotine tisuća godina, uzimajući u obzir da se tijekom razdoblja od nastanka vrste pa do danas Homo sapiens uspješno održao. Naravno, treba biti svjestan da ljudska vrsta traje i dalje, ali bi ova vrijednost od dvije stotine tisuća godina ili dvije tisuće stoljeća mogla biti vjerodostojna donja granica ljudskog trajanja. Naivna hipoteza upućuje da vjerojatnost nestanka čovjeka u bilo kojem stoljeću, prema dosadašnjem trajanju, ne može biti viša od jedan naprema dvije tisuće. Ako se primjeni metoda izračuna temeljem p-vrijednosti, s hipotezom da je vjerojatnost nestanka čovjeka u jednom stoljeću jedan posto te da je usprkos tome čovjek preživio dvije tisuća stoljeća za redom – onda vjerojatnost takvog događaj iznosi malih 0,0000002% pa je zaključak da je vjerojatnost za izumiranje čovjeka u jednom stoljeću daleko manja od jedan posto.
Sasvim je druga situacija s rizicima na koje djeluje čovjek. Najprije, vjerojatnost njihovog nastanka se ne može izračunati, već samo okvirno procjenjivati. Jedna od prvih ali još uvijek značajnih prijetnji je nuklearna. Ne radi se samo o prijetnji neposrednog udara ili dosegu radioaktivne prašine, već je dugoročno daleko opasnija nuklearna zima koja bi nastala od pepela u atmosferi i njegovim zaklanjanjem sunca zbog čega bi došlo do značajnog zahlađenja ali i na zaustavljanje procesa fotosinteze. To bi u potpunosti onemogućilo poljoprivredu na velikim površinama zemaljske kugle. Ipak, ne može se tvrditi da bi nuklearna zima uništila čovječanstvo te ostaje pitanje bi li se ono u nekim dijelovima svijeta ipak održalo, no svakako bi to bila egzistencijalna prijetnja.
Slično je i s klimatskim promjenama. Ako pretpostavimo da je mala vjerojatnost nekontroliranog stakleničkog efekta (runaway greenhouse effect) kod kojeg sva prikupljen energija sunca ostaje zarobljena ispod sloja stakleničkih plinova te uzrokuje isparavanje ukupne količine tekuće vode na zemlju – te ako pretpostavimo da će se izravni efekti zagađenja manifestirati kao povećanje temperature i kao posljedice koje iz tog povećanja proizlaze – onda možemo govoriti o katastrofi globalnih razmjera, ali ne i egzistencijalnoj. Usprkos porastu temperature, ogromnim migracijama, požarima i devastaciji obradivih površina, izumiranju brojnih biljnih i životinjskih vrsta – ljudska vrsta će opstati, ne svugdje i ne u tolikom broju – ali je realna pretpostavka da neće biti u potpunosti izbrisana.
Klimatska katastrofa nije jedina prijetnja iz okoliša na koju čovjek izravno djeluje. Treba uzeti u obzir i utjecaj prenaseljenosti odnosno porast broja ljudi koji je do sredine prošlog stoljeća bio više nego eksponencijalan – no posljednjih desetljeća se stabilizirao pa je prosječan broj djece u obitelji s 5,05 u 1950. godini pao na sadašnjih 2,47. Ipak, ova dinamika nije u potpunosti razjašnjena pa se ne može sa sigurnošću tvrditi da je trend rasta trajno stabiliziran te da se neće ponoviti eksponencijalna eksplozija koja bi ugrozila životne resurse i dovela do egzistencijalne krize.
Čak i bez dramatičnog rasta broja stanovnika nije u potpunosti zanemariva niti opasnost od iscrpljenja prirodnih resursa – počevši od fosilnih goriva, pitke vode ili rudnih bogatstava, pogotovo onih nužnih u proizvodnji visoke tehnologije. Osim toga, iscrpljivanje prirodnih resursa može dodatno doprinijeti i mogućoj egzistencijalnoj katastrofi zbog uništenja bioraznolikosti – odnosno zbog masovnog uništenja određenih životinjskih vrsta. Kao primjer se može navesti često spominjani rizik od nestanka pčela.
Ipak, smatra autor, sve te prijetnje – iako ih ne treba shvatiti vrlo ozbiljno i konstantno ih imati na umu – nisu dominantna opasnost jer vrlo teško mogu dovesti do egzistencijalne krize s potpunim nestankom ljudske vrste kao krajnjom posljedicom.
Iako su, dakle, egzistencijalni rizici na koje utječe čovjek grupa vrlo ozbiljnih i realnih prijetnje, to nisu prijetnje koje bi nas trebale najviše zabrinjavati. Kategorija posebno ozbiljnih rizika su oni koje tek naslućujemo i odnose se na krize koje proizlaze iz načina na koje funkcionira moderno društvo i nastaju kao direktna posljedica eksponencijalnog unaprjeđenja tehnologije.
Trenutno aktualna globalna Covid – 19 ugroza pripada grupi rizika od pandemija. Iako izvor može biti prirodan ili umjetan, način funkcioniranja društva – visoke koncentracije ljudi u urbanim sredinama, mogućnost i doseg putovanja, globalno poslovanje – predstavljaju temelj za brzo i dalekosežno širenje smrtonosnih zaraznih bolesti. U budućnosti i s dodatnim ubrzanjem globalizacijskih trendova, rizik od takve ugroza može dramatično rasti. Tome svakako doprinosi i razvoj biotehnološke znanosti. Iako je pretpostavka da je biotehnološki razvoj usmjeren na dobrobit čovječanstva, ne mogu se isključiti vojne primjene ali i zlonamjerne. Ove posljednje će sigurno biti sve učestalije što će tehnologija napredovati i što će njena primjena biti jeftinija i dostupnija.
Posebno su zabrinjavajući rizici koji proizlaze iz neovlaštene i opasne distribucije informacija. Kako je nova tehnologija sve više utemeljena na znanju i informaciji , tako informacija postaje sve važniji i vrjedniji resurs. Nažalost, informaciju je lako prenijeti i iskoristiti za svrhe koje ne moraju biti u interesu čovječanstva. Može li takva prijetnja ugroziti čovječanstvo, pa ako se radi o informaciji vezanoj uz kakvu zlonamjernu biotehnološku manipulaciju ili na izazivanje sukoba koji bi mogao eskalirati upotrebom sredstava masovnog uništenja – i najcrniji ishod postaje moguć.
Kao posebna prijetnja, ističe autor, izdvaja se opasnost o umjetne inteligencije ravne ili superiorne ljudskoj. Iako ta opasnost nije aktualna, ne zna se vrijeme u kojem bi umjetna inteligencija dosegla ljudsku – ali je vrlo vjerojatno da će se to desiti. Prije pet godina provedeno je istraživanje između tri stotine vodećih znanstvenika na polju umjetne inteligencije s pitanjem očekivanog vremenskog roka u kojem će umjetna inteligencija nadići ljudsku i odgovori su ukazali da se, s vjerojatnošću od 50%, takav događaj može očekivati do 2061. godine.
Toby Ord predlaže i ne tehnološku kategoriju budućih egzistencijalnih prijetnji . Naime, iako se ne može uvrstiti u rizike tehnološkog razvitka, ne treba zanemariti rizike uspostave propadajućeg društva. Nekoliko je mogućih scenarija koje bi do takvog društva mogli dovesti. Najprije je to situacija u kojoj ljudi zapravo teže progresivnom društvu, ali ono suprotno željama degradira kao posljedica nepromišljenog djelovanja. Na primjer zbog uništenja prirodnog okoliša ljudska aktivnost se srozava na borbu za preživljavanje bez mogućnosti ostvarenja punog ljudskog potencijala.
Osi toga, postoji mogućnosti i uspostave privilegiranog društva u kojem profitira mala i povlaštena grupa ljudi, dok je ostatak čovječanstva iskorišten za trajno održavanje takvog stanja. Ako povlaštena grupa nema ambiciozne planove općeg razvoja, nego je zadovoljna svojim statusom, društvo će zatomiti mogućnost daljeg razvoja i prosperiteta.
Konačno, ne treba zanemariti ideju indoktriniranog svijeta u kojem ljudi ne žele progres, nego su zaključani u ograničavajućoj ideološkoj i moralnoj dogmi, ne težeći progresu već isključivo održavanju postojećeg stanja.
Nakon što je Toby Ord uspostavio pregled faktora rizika koji prijete dugoročnom opstanku čovječanstva, upustio se u procjenu pojedinačne vjerojatnosti izazivanje egzistencijalne kataklizme za svakog od njih, ali je pokušao kvantificirati i utjecaj međudjelovanja pojedinih rizičnih faktora na ukupnu vjerojatnost uništenja.
Prema metodologiji historijskog praćenja prirodni rizični faktori imaju najmanju vjerojatnost izazivanja egzistencijalne katastrofe i ona se može procijeniti na jedan prema deset tisuća.
Rizici koje uzrokuje ljudsko djelovanje imaju daleko veću vjerojatnost izazivanja konačnog uništenja i kreću se od jedan naprema tisuću za izazivanje nuklearnog rata s katastrofalnim posljedicama, preko vjerojatnosti od jedan naprema trideset za kataklizmu izazvanu biotehnološkom pandemijom pa sve do jedan naprema deset za trajnu i nepopravljivu štetu uzrokovanu umjetnom inteligencijom neusklađenom s ljudskim ciljevima. Ukupna vjerojatnost izazivanja egzistencijalne katastrofe ljudskim djelovanjem je vrlo visokih jedan naprema šest.
Procjene koje predlaže Toby Ord baziraju se na procjeni pojedinačnih vjerojatnosti te na procjeni međusobnih utjecaja, imajući u vidu da su vjerojatnosti različite ali pretpostavljajući da svi rizici vode do sličnog konačnog efekta. Međusobni utjecaji mogu se klasificirati kao zavisni pa se u tom slučaju kao relevantna vjerojatnost uzima najveća vjerojatnost, no mogu biti i nezavisni – nepovezani kad se kao relevantna vjerojatnost uzima zbroj vjerojatnosti te nezavisni – povezani rizici kada se računa njihova srednja vrijednost. Ovo je važno da bi se mogla procijeniti važnost pojedinačnih rizika na totalni rizik.
Osim poznavanje vrste i pojedinačnih utjecaja rizika te princip njihovog međudjelovanja, potrebno je potražiti faktore koji na te rizike djeluju. S jedne strane su faktori koji umanjuju sposobnost čovječanstva za obranu od prijetnji, a s druge su oni koji tu razinu podižu. Na primjer, globalna ekonomska stagnacija, ugroženi okoliš ili globalni politički, odnosno pravni nered svakako umanjuju sposobnost čovječanstva da se odupre egzistencijalnim rizicima. No, snažne institucije na svjetskoj razini, opća civilizacijska razina ili dugotrajni mir svakako te rizične faktore umanjuju.
Imajući sve to u vidu, odnosno uz razumijevanje značaja rizičnih faktora nužno je uvesti prioritete u njihovoj sanaciji. Drugim riječima, treba mudro odrediti u smanjenje kojih rizika je najefikasnije investirati vrijeme i novac pa u postupku prioritizacije autor sugerira tri kriterija.
Najprije, sugerira autor, što je problem važniji, što se lakše može riješiti i što je više zanemarivan – to je efikasnije na njega djelovati. Formula koja zornije opisuje ovaj princip govori da je financijska efikasnost jednaka važnosti rizika pomnoženim s jednostavnošću rješenja te razinom zanemarivanja.
Drugačiji pogled na prioritizaciju, objašnjava autor, je koncentracija na rizike za koje očekujemo da će nastupiti uskoro, iznenadno i oštro. Logika iza tog principa kaže da za rizike koji će nastupiti kasnije imamo više vremena za pripremu, ali i da ćemo imati više resursa na raspolaganju da se s tim rizikom nosimo. Također, sporo napredujući rizici nam dozvoljavaju više vremena da upozorimo političare i javnost i stavimo ih u fokus njihovog interesa.
Konačno, na egzistencijalne rizike možemo djelovati metodama koje imaju široki doseg ili usmjerenim metodama koje se fokusiraju vrlo usko na izvor problema. Široko djelovanje – poput djelovanje kroz školski sustav – je prilagođeno prepoznatim rizicima. S druge strane fokusiran pristup ima bolje učinke u situacijama kad rizici još nisu poslali javna tema i kada ih tek treba učiniti vidljivima.
Ideja procjene egzistencijalnih rizika ne bi imala smisla ako iza nje ne slijedi strategija očuvanja dugoročne opstojnosti čovječanstva. Prema mišljenju autora, ona se mora provoditi u fazama. Najprije i osnovno je postići visok stupanj egzistencijalne sigurnosti pri kojoj su egzistencijalni rizici sveden na najmanju moguću mjeru i takvi trajno ostaju. Osiguranje egzistencijalne sigurnosti ima dvojako značenje – najprije ostvaruje zaštitu dugoročnog ljudskog potencijala sprečavajući izravne prijetnje i proširujući vremenski horizont unutar kojeg se može raditi na uspostavi normi i institucija koji vode prema dugoročnoj zaštiti koju neće biti moguće ugroziti. Osim toga, omogućit će se siguran tehnološki razvoj sposoban proširiti čovječanstvo svemirskim prostranstvom i time njegovu opstojnost podići na višu razinu. Osim uspostave egzistencijalne sigurnosti, nužno je uspostaviti i održavati uvjete za dugoročno promišljanje koncepata i metoda zaštite ljudskog potencijala te koristiti nove uvide, saznanja i tehnologiju u jačanju svih dobrih praksi.
Nažalost, na tom putu nema uzora, nema iskustava. Ne postoje institucije koje se bave velikim, dugoročnim rizicima – a čovječanstvo u na svom razvojnom putu ne može dopustiti dugoročno pogrešnu procjenu. Potrebno je osigurati dovoljnu razinu opreza i proaktivno djelovanje, nemajući oslonac u primjeru iz prošlosti. Nužno je kvantificirati rizike koji se nikad nisu dogodili što će vjerojatno značiti i razvoj nove grane znanosti.
Očito je da današnje globalne institucije nisu dorasle zadatku zaštite naše budućnosti. Takve institucije bi trebale zauzimati objedinjeni stav sastavljen iz različitih uvida i raznih interesnih perspektiva ali bi istovremeno trebale biti sposobne za jedinstveno, usklađeno i efikasno djelovanje. Na primjeru stava prema klimatskim promjenama vidimo na kojoj razini su postojeće institucije danas. Ipak, od postojećih institucija ne treba odustati već ih inkrementalno mijenjati, paralelno razvijajuć nove globalne agencije i tijela.
Što se tiče eksponencijalnog tehnološkog progresa i njegovog napredovanja koje je brže od svjesnosti o pratećim rizicima, nužan je drugačiji – multidisciplinarni pristup. Autor sugerir da je možda potrebno razmotriti ideju da se napredak namjerno uspori kako bi se uskladio s brzinom izgradnje zaštitne regulative. Istovremeno je potrebno ubrzano raditi na uspostavi odgovornosti kako u razvoju, tako i u primjeni – pa cijeli proces uvjetovati paralelnim razvojem i primjenom odgovarajuće zaštitne komponente.
Ipak, usporavanje razvoja nije uvijek najboilja opcija. Treba, razumjeti prirodu egzistencijalne prijetnje i prepoznati radi li se o riziku stanja u kojem su prijetnje posebno istaknute pa taj bi period trebalo što prije tehnološki ili društveno prevladati. Tada je najbolje uložiti dodatni napor da se razvoj ubrza i time da se taj period maksimalno skrati. S druge strane, možda se radi o riziku tranzicije koji je nužno u potpunosti provesti, a svako ubrzavanje bi rizik dodatno povećao. U tom slučaju se potrebno suočiti se s rizicima te ih sustavno prevladati ulažući dodatnu pažnju i brigu pa bi u tom slučaju usporavanje razvoja imalo pozitivne učinke.
Toby Ord zaključuje da se znanost do sada nije sustavno bavila problemima egzistencijalnih prijetnji, ali imajući u vidu brzinu tehnološkog razvoja a s time i rast vjerojatnosti nastanka neke od njih, to će se ubrzo morati promijeniti. Potrebna su istraživanja koja bi na temelju postignutog tehnološkog razvoja, stupnja prepoznavanja prijetnje i uspostavljenih zaštitnih mehanizama sustavno promišljala moguće aktivnosti te predlagala najbolje mjere za umanjivanje najznačajnijih rizičnih faktora. Cilj takvih mjera bila bi uspostava uvjeta za dugoročnu otpornost čovječanstva na egzistencijalne ugroze, ali i za oporavak od posljedica egzistencijalnih katasrofa koje nisu dosegle terminalnu fazu. Svakodnevnica nas upozorava da je već nastupilo vrijeme u kojem se društvo mora angažirati. Svako odgađanje povećava vjerojatnost nastanka krize s kojom se nećemo znati niti moći nositi.
