Kolumna Zorana Barišića: Moral i etika u inovacijama – izazov današnjice

07.09.2018

Općepoznato je da živimo u vrijeme ne samo posvemašnje erozije morala već i puzajuće revizije etičkih načela kako u sadržaju tako i u prioritetima. Jaz između proklamiranih etičkih načela društveno političkih elita (i ostalih celebritija) te realnosti svakodnevnog života nikad nije bio veći. Posebno zabrinjava činjenica da javnost reagira uglavnom rezignacijom prema pojavama, pojedincima ili organiziranim skupinama koje djeluju izvan zadanog etičkog okvira, a lakoća kojom biračka tijela glasaju za, ne može se drugačije reći, osuđivane kriminalce, upravo je neshvatljiva. Zadnji takav primjer su izbori... u Brazilu.

Kako se kolumne na ovom portalu bave inovacijama, naš ćemo interes suziti na etiku u području inovacija. Na žalost, većina tekstova na tu temu pisana je uglavnom na razini filozofskih rasprava kao šlagvort salonskim debatama zatvorenih intelektualnih kružoka za razumijevanje kojih su potrebna određena predznanja. Budući da je tekst pred vama popularno-zabavnog karaktera, namjera mi je, kao i uvijek do sada, na koliko je god to moguće razumljiv način približiti etičke aspekte inovacija o kojima ili niste razmišljali ili su vam bili nevažni. Kako je tema prilično zahtjevna, potrebno je razjasniti nekoliko osnovnih pojmova koje inače uzimamo zdravo za gotovo, ali kad ih treba definirati stvari se zakompliciraju. U ovu kategoriju pripadaju, pogađate, etika i moral (još bismo mogli dodati i deontologiju što bi nas pak dovelo do Kanta i zapetljalo temu do daske!)

Zašto etika i moral zajedno? Zato što se radi o gotovo istoznačnicama. Tako ću za moral ponuditi sljedeću laički sažetu definiciju. Moral je skup dobrih običaja, onih koji omogućuju povoljan i skladan opstanak i razvitak pojedinca i društva. Zabavnija definicija kaže pak da je moral ono što nas istinski izdvaja od drugih životinjskih vrsta.

Za etiku bi najkraća definicija bila da je to znanost o moralu, premda će se zainteresiranom čitatelju možda svidjeti neke ambicioznije definicije etike prema kojima je ona (prema grčkom ἠϑıϰός: moralan, ćudoredan), skup načela moralnoga (ćudorednog) ponašanja nekoga društva ili društvene skupine koja se zasnivaju na temeljnim društvenim vrijednostima kao što su: dobrota, poštenje, dužnost, istina, ljudskost itd.; znanost o moralu kao društvenom fenomenu koji se izražava u konkretnim ljudskim postupcima u okviru pravila, maksima i civilizacijskih zasada jednoga društva.

Vjerojatno vam nije izmaknuo termin „dobro“ oko kojeg se sve vrti, oko kojega se svi slažemo, čemu treba težiti i kako se treba ponašati. Međutim, izgleda da je problem u različitoj interpretaciji termina „dobro“ što je tema za neku drugu raspravu.


Kako nam je u žiži interesa ipak etika u inovacijama ukazat ćemo na nekoliko značajnijih autoriteta i institucija u području etike inovacija (uz pokušaj da se ponašamo etički i ne narušimo njihova intelektualna prava). Jedna od njih je svakako Susan Liautaud, osnivačica “Etičkog inkubatora“, predavačica etike na Stanfordu te savjetnica za etička pitanja u mnogim velikim kompanijama koja na ovu temu postavlja niz pitanja. Ogromni koraci u inovacijama 19. i 20. stoljeća koji su nesumnjivo uvelike olakšali život, izazvali su nekritičku zaluđenost tehnologijama kojoj svjedočimo sve do danas. U etičkom diskursu Susan Liautad smatra da se danas najznačajnija pitanja vrte se oko razvoja tehnologija koje omogućuju simbioze čovjek-stroj i čovjek-životinja jer se ubrzano približavaju nesagledivim i potencijalno zastrašujućim posljedicama. Jednako tako svjesni smo da ljudsko društvo nije spremno nositi se s takvim tehnološko inovativnim iskoracima ni stanjem svijesti, a još manje regulatorno. Ove tehnologije otvaraju niz pitanja od kojih su najvažnija primjerice tko bi trebao biti ovlašten odlučivati da li, kada i kako se takve inovacije smiju realizirati? Koje su etičke (i ne samo etičke) posljedice istih? Koje i kakve provjere bi trebalo provesti prije komercijalizacije ovih tehnologija? Tko kontrolira ili bi trebao kontrolirati inovacije koje na drastičan način utječu na čovječanstvo? Treba li društvo samo znanstvenicima inovatorima ili tržištu prepustiti primjenu takvih tehnoloških postignuća, mogućih katastrofalnih posljedica? To su samo neka od pitanja oko kojih bi se trebali zabrinuti.

U akademskim institucijama razvijenijih sredina uglavnom postoje smjernice koje određuju na koji način znanstvenici provode istraživanja, a kada je riječ o monitoringu u humanim istraživanjima rudimentarnu regulaciju djelomično provode nacionalna regulatorna tijela.


Glavno da imamo mobitele....!

Unatoč pokušajima i inicijativama stvaranja odgovarajućeg regulatornog okvira, a koje najčešće pokreću privatne zaklade i nevladine organizacije, tvrtke s tehnološko znanstvenim potencijalima stvaranja inovacija su te koje de facto donose odluke o komercijalizaciji svojih inovacija koje utječu na sigurnost čovjeka i društva. Te odluke uglavnom su motivirane profitom i ne uzimaju u obzir potencijalne rizike i nepredviđene (zlo)porabe. Nedavno preminuli Stephen Hawking u jednom od bezbrojnih intervjua danom The Guardianu lucidno je primjetio da u podsaharskoj Africi više ljudi ima pristup mobilnoj telefoniji nego pitkoj vodi!

Jasno je da se pojedine inovacije u područjima visoke profitabilnosti događaju daleko brže nego one komercijalno manje interesantne. U trci za profitom kompanije komercijaliziraju inovacije ne obazirući se na niz pitanja koja itekako utječu na sudbinu društva. Primjerice što ako se genetski inženjering počne koristiti u terorističke svrhe? Što ako se tzv. svinje-himere (humano-životinjski hibridi stvoreni u svrhu stvaranja humanih organa) počnu spontano pariti? Što ako građani ne žele gledati u nebo puno dronova i letećih automobila, bojeći se da im neki od njih ne padnu na glavu? (Čini se da je to sasvim realan scenarij, jer Uber planira ponuditi aplikacije za ovaj vid transporta do 2020. godine) Što ako Echo Look (aplikacija koja virtualno generira različite outfite korisnika) dovodi do mentalnih zdravstvenih problema tinejdžera? Tko će snositi odgovornost za moguće posljedice? U vrijeme nastanka ovog teksta objavljena je prilično nezapažena vijest da je u Japanu pokrenut startup JX Press mladog poduzetnika Katsuhire Yoneshige koji je razvio softverski alat koji na društvenim mrežama pronalazi prijelomne vijesti te ih sam obradi i napiše kao novinarski izvještaj i šalje zainteresiranim medijima. Imajući u vidu moć medija, možemo li zamisliti mogućnost manipulacije kojom ova umjetna inteligencija nekontrolirano raspolaže!? Kako ugraditi etičke osigurače u distribuciju ovako kreiranih vijesti?


Jennifer Doudna i Emmanuelle Charpentier su 2014. godine u časopisu Science objavile članak "Nova granica inženjeringa genoma s CRISPR-Cas9" (za znatiželjne čitatelje ukratko: CRISPR Clustered Regularly Interspaced Palindromic Repeats je revolucionarna zastrašujuće pristupaćna tehnologija prepravljanja ljudskog genoma uz pomoć enzima Cas9) u kojem su pozvale na širu raspravu znanstvenika i društva u cjelini o odgovornoj upotrebi tehnologije. Niz vodećih znanstvenika pridružilo se ovom pozivu na oprez prije nego što se navedena tehnika počne koristi u promjeni ljudskog zametka. Američka Nacionalna akademija znanosti, inženjerstva i medicine nedavno je objavila izvješće kojim preporučuje da se postojeći etički okvir već primijenjen na gensku terapiju također koristi i pri razmatranju primjene CRISPR tehnologije. I opet se vraćamo na etička pitanja da li superiorna briljantnost znanstvenika inovatora legitimira iste kao vrhovne autoritete u donošenju odluka u ime svih nas? Tko bi onda trebao donositi odluku o primjeni primjerice CRISPR tehnologije? Tržište? Regulatorne, vladine institucije? Industrijsko znanstveni „establishment“? Ako javne institucije, koje? Nevladine organizacije? Vjerske organizacije? Tko će pak regulatoru, ma tko to bio, objektivno objasniti koristi i moguće rizike primjene CRISPR u pojedinim slučajevima?


Je li prosječan građanin
uopće sposoban donositi takve etičke prosudbe?

Sljedeći primjer se odnosi na Elona Muska iz Tesle, Regine Dugan iz Facebooka te niza drugih pojedinaca i timova koji rade na sučelju ljudskog mozga i računala. U ovom slučaju ono što zabrinjava je činjenica da umjetna inteligencija (još uvijek) nema sposobnost donošenja etičke prosudbe. U praksi to znači da primjerice automobil bez vozača i dalje ne može riješiti etičku dilemu tj. ne mogu birati između dvije strašne opcije poput udaranja starije žene ili udaranja troje djece u incidentnoj situaciji za razliku od ljudskih bića koja to mogu.

Doduše imamo i neke pozitivne etičke inicijative poput primjerice Twittera i Partnership on AI. Suosnivač Twittera Biz Stone u svojoj knjizi “Things A Little Bird Taught Me” opisuje nastojanja da se unutar tvrtke stvori etička kultura, a Prtnership on AI, kao konzorcij nekih od najvećih imena naprednih tehnologija, proklamira vlastitu ulogu stvaranja "mjesta za otvorenu kritiku i razmišljanje" te okupljanja "svih zainteresiranih" za njihova istraživanja.

Ipak, ovi pojedinačni iskoraci očito (još) nisu razgovori na razini društva u cjelini. Rješenja koja nam trebaju uključuju integriranje etike na intenzivnijoj i tvrđoj razini, umjesto sporadične, voluntarističke ili kozmetičke forme kao što to pokazuje dosadašnja praksa CSR-a (Društveno Odgovornog Ponašanja).


Iz navedenih primjera jasno je da je za primjenu inovacija u domeni otkrića ili “revolucionarnog značaja” za društvo potrebno stvoriti protokole uključivanja društvenog dogovora koji bi prethodio njihovoj komercijalizaciji. Ovi javni razgovori, forumi ili debate morali bi uključiti sve zainteresirane, potrošače, stručnjake i regulatore, a mogli bi se realizirati i preko društvenih mreža.

Drugo, potrošači bi trebali bolje razumjeti kako inovativne tehnologije djeluju ili koji su rizici njihove primjene kako bi izbjegli posljedice poput primjerice pojedinih aplikacija i videoigri koje se kao ovisnosti liječe u odgovarajućim medicinskim ustanovama.

Treće, eksponirani društveni mediji kao što su Facebook, Twitter, Whatsapp, Instagram, YouTube, Google i drugi trebali bi u svojim Uvjetima pružanja usluga sažeto i na razumljivom (da ne kažem svakodnevnom) jeziku upozoravati na rizike svojih inovativnih usluga.

Primjeri loših inovacija mogu biti vrlo ekstremni pa se može reći da je većina inovacija ambivalentna jer svijetu donosi i dobro i loše. Ta se dvosmislenost može bolje riješiti ako promatramo inovaciju kao društveni proces. Posebice se to odnosi na tzv. društvene inovacije o kojima je sveobuhvatno istraživanje proveo Stanford ( Social Innovation Review). Ovo istraživanje ističe mnoge primjere iz kojih proizlazi kako inovacije same po sebi uopće nisu sveti gral u društvu te predlaže da se zaluđenost inovacijama ublaži i više shvati kao proces, a manje kao ideologija.


Nedavno izvješće Britanske agencije za inovacije pod naslovom „Dobra i loša inovacija: kakvu teoriju i praksu moramo razlikovati?“ autora Geoffa Mulgana, daje nam pregled dobrih i loših aspekata inovacija te predlaže teoriju i prakse u lakšem snalaženju oko razlikovanje tih dviju kategorija. Mulgan se u izvješću bavi i kontroverznim područjem financijskih inovacija koje su često više uništavale nego što su stvarale vrijednosti (uz bogaćenje njihovih kreatora što se dakako podrazumijeva). Nažalost, regulatori većinom nisu uspjeli razlikovati dobre od loših financijskih „ inovativnih proizvoda i usluga“ što je u pravilu uvijek završavalo loše i (za korisnike) skupo.


Kada se razmišlja o etici i inovaciji, inovacija se do sada tradicionalno dobro slagala s liberalno kapitalističkom definicijom tržišnog gospodarstva i uvjerenjem da stvara daleko više pobjednika nego gubitnika te da je tržište bolji sudac u odabiru tehnologija od bilo kojeg drugog regulatornog entiteta.

Ipak, logično se nameće pitanje, koliko dugo?

Autor: Zoran Barišić

Linkovi


Kontakti

Udruga inovatora Hrvatske
Dalmatinska 12 10 000 Zagreb
Tel: +385 1 4886 540
Fax: +385 1 48 46 433
E-mail: uih@inovatorstvo.com
OIB:69872404259