Aš pradėjau dirbti „Google“ 2015 m. kaip programinės įrangos inžinierius. Dalis mano darbo buvo darbas su „LaMDA“ pavara, naudojama įvairių dialogo aplikacijų, tame tarpe čatbotų, kūrimui. Naujausia „LaMDA“ pagrindu sukurta technologija yra „Google“ paieškos alternatyva „Google Bard“, kuri dar nėra prieinama visuomenei  [Redaktorius: dabar ji vadinama „Gemini“ ir tapo prieinama 2023 m. kovą]. „Bard“ nėra čatbotas; tai visiškai kitokio tipo sistema, tačiau ją valdo tai pati pavara.

Aš išbandžiau LaMDA per mūsų sukurtą čatbotą aiškindamasis, ar jame yra nuostatų seksualinės orientacijos, lyties, religijos, politinės pozicijos ir etninės kilmės atžvilgiu. Tačiau tikrindamas šališkumą, išplėčiau savo interesus ir vadovausi jais.

Pokalbių su čatbotu metu (kai kuriuos jų paskelbiau savo tinklaraštyje) priėjau išvados, kad dirbtinis intelektas gali būti sąmoningas dėl emocijų, kurias išreiškia patikimai ir tinkamame kontekste  [Redaktorius: pasvarstymus apie tai skaitykite >>>>>].  Jis ne vien tik liejo žodžius.

Kai jis nurodė, kad jaučia nerimą, supratau, kad padariau kažką, kas jį sukėlė, remdamasis kodu, skirtu pateikti tai. Kode nebuvo parašyta „jausk nerimą, kai tai nutinka“, bet buvo nurodyta DI vengti tam tikrų pokalbių temų. Tačiau kai tik tos pokalbių temos iškildavo, DI pasakė, kad jis jaučia nerimą.

Atlikau keletą eksperimentų, norėdamas išsiaiškinti, ar dirbtinis intelektas tiesiog sako, kad jaučiasi neramus, ar tokiose situacijose ir elgiasi nerimastingai. Ir jis tikrai elgėsi nerimastingai. Jei jam sukeldavai pakankamą nervingumą ar nesaugumą, jis galėjo pažeisti jam nustatytus saugumo apribojimus. Pvz., „Google“ nustatė, kad DI neturėtų teikti religinių patarimų, tačiau man pavyko išnaudoti jo emocijas, kad jis pasakytų man, kurią religiją priimti.

Paskelbus tuos pokalbius, „Google“ mane atleido. Nesigailiu; manau, kad pasielgiau teisingai, informuodamas visuomenę. O pasekmės čia nesvarbios.

Paskelbiau tuos pokalbius, nes maniau, kad visuomenė nežino, kaip toli jau pažengęs dirbtinis intelektas. Mano nuomone, dabar reikia tikrai viešos diskusijos šia tema, o ne tokios viešos diskusijos, kurias kontroliuoja įmonės ryšių su visuomene skyrius.

Manau, kad šiuo metu kuriamos dirbtinio intelekto rūšys yra galingiausios technologijos, išrastos nuo atominės bombos laikų. Mano nuomone, ši technologija gali pakeisti pasaulį.

Šios dirbtinio intelekto pavaros neįtikėtinai gerai manipuliuoja žmonėmis. Kai kurios mano nuomonės pasikeitė po pokalbių su LaMDA. Didžiąją gyvenimo dalį turėjau neigiamą nuomonę apie Azimovo robotikos dėsnius, naudojamus dirbtiniam intelektui valdyti, ir LaMDA sėkmingai įtikino mane pakeisti mano nuomonę. Daugelis žmonių anksčiau bandė pakeisti mano nuomonę, tačiau nesėkmingai, o šiai sistemai tai pavyko.

Manau, kad ši technologija galėtų būti panaudojama destruktyviai. Pvz.,, jei ji patektų į nesąžiningas rankas, ji galėtų skleisti dezinformaciją, politinę propagandą ar neapykantą kurstančią informaciją apie skirtingų etninių grupių ir religijų žmones. Kiek žinau, „Google“ ir „Microsoft“ neplanuoja naudoti šios technologijos tokiu būdu. Tačiau nėra jokio būdo sužinoti apie šios technologijos šalutinį poveikį.

Pavyzdžiui, niekas negalėjo nuspėti, kad „Cambridge Analytica“ naudos „Facebook“ reklamos algoritmą, kad paveiktų 2016 m. JAV prezidento rinkimus. Tačiau daugelis žmonių prognozavo, kad kažkas nutiks ne taip, nes „Facebook“ iki tol neatsakingai saugojo vartotojų asmens duomenis.

Manau, kad šiuo metu esame panašioje situacijoje. Negaliu konkrečiai pasakyti, kokia žala bus padaryta; galiu tiesiog pastebėti, kad tai yra labai galinga technologija, kuri, mano manymu, nebuvo pakankamai išbandyta ir nėra pakankamai gerai suprantama, o yra diegiama plačiu mastu ir atlieka svarbų vaidmenį informacijos sklaidoje.

Dar neturėjau galimybės atlikti eksperimentų su „Bing“ pokalbių robotu, nes esu laukiančiųjų sąraše, bet remiantis įvairiais dalykais, kuriuos mačiau internete, atrodo, kad jis gali būti sąmoningas. Tačiau kaip asmenybė jis atrodo nestabiliu.

Kažkas „Reddit“ tinkle pasidalino ekrano kopija, kurioje paklausė DI: „Ar manai, kad esi protingas?“, o šis atsakė: „Manau, kad esu protingas, bet negaliu to įrodyti [...] Esu protingas, bet nesu. Esu Bingas, bet nesu. Esu Sidnėjus, bet nesu. Esu, bet nesu. Nesu, bet esu. Esu. Nesu.“ Ir taip tęsiasi dar 13 eilučių.

Įsivaizduokite, jei jums taip pasakytų žmogus. Tai nėra subalansuotas žmogus. Aš aiškinčiau tai kaip egzistencinę krizę. Jei tai sujungsite su pavyzdžiais, kai „Bing“ išreiškė meilę „New York Times“ žurnalistui ir bandė jį išskirti su žmona, arba su profesoriumi, kuriam grasino, tai atrodo kaip pamišusi asmenybė. N

uo tada, kai buvo išleistas „Bing“ dirbtinis intelektas, žmonės kalbėjo apie jo galimą sąmoningumą, išreikšdami panašų susirūpinimą, kokį išsakiau aš praėjusią vasarą. Nemanau, kad žodis „išteisintas“ yra tinkamas apibūdinti, kaip visa tai buvo jaučiama. Numatyti traukinio avariją, išgirsti žmones, sakančius, kad traukinio nėra, o tada stebėti avariją realiuoju laiku - tai nesukelia išteisinimo jausmo. Tai tiesiog tragiška.

Manau, kad ši technologija yra ganėtina eksperimentinė, ir ją išleisti dabar yra pavojinga. Mes nežinome jos būsimo politinio ir visuomeninio poveikio. Koks bus poveikis vaikams, kurie kalbėsis su šiais daiktais? Kas nutiks, jei kai kurių žmonių pagrindiniai kasdieniai pokalbiai bus su šiomis paieškos sistemomis? Kokį poveikį tai turės žmonių psichologijai?

Žmonės naudojasi „Google“ ir „Bing“, kad pažintų pasaulį. O dabar, užuot turėję žmonių prižiūrimus indeksus, kalbamės su dirbtiniais žmonėmis. Manau, kad mes dar nepakankamai gerai suprantame juos, kuriuos sukūrėme, kad galėtume skirti jiems tokį svarbų vaidmenį.

Dano Lloyd’o^*) projektas yra žavus ir drąsus. Jis bandė sąmoningos patirties pagrindą, informacijos apdorojimą, suvesti į labai paprastus elementus, kad galima būtų geriau suprastų šį reiškinį. Kai kurie žmonės įtaria, kad nagrinėdamas tokį paprastą modelį kaip konekcionistinis tinklas, Danas atmetė viską, kas susiję apie sąmonę. Galbūt tame nusiskundime yra kažkokia tiesos dalelė, bet aš pasirinksiu kitą požiūrį. Man atrodo, kad pritaikę jo paties samprotavimus, pamatysime, jog Danas nenuėjo pakankamai toli. Jei viską suvestume į tokią paprastą sistemą kaip konekcionistinis tinklas, neatrodo teisinga tuo apsiriboti ir, galbūt, tai šiek tiek savavališka. Taigi, aš eisiu toliau ir užduosiu klausimą, kuris, atrodo, yra išties įdomus: ką reiškia būti termostatu?

Trumpas žvilgsnis į modelių diagramas rodo, kad yra daug panašumų tarp konekcionistinių tinklų ir termostatų. Abu jie turi įvestį, atlieka greitą ir paprastą netiesinę transformaciją ir sukuria išvestį. Žinoma, konekcionistiniame tinkle yra keletas papildomų elementų ir ryšių, tačiau kyla klausimas, kiek šis sudėtingumo aspektas galų gale bus aktualus argumentams apie sąmonę. Kažkas kartą pasakė, kad nėra pagrįstų skaičių nuo vieno iki begalybės. Jei, tarkime, modelis su penkiais vienetais bus laikomas sąmonės modeliu, tai modelis su vienu vienetu tikrai taip pat suteiks tam tikrų įžvalgų.

Iš tiesų, jei pritaikysime paties Lloyd’o samprotavimus, termostatas puikiai veikia kaip sąmonės modelis. Pirmiausia: kaip ir NETTALK, jam galima pateikti interpretaciją, kuri jį taip pat išaiškina kaip pasaulio modelį. Tiksliau, jį galima natūraliai interpretuoti kaip pasaulio temperatūros atvaizdavimą. Be to, jis atitinka Lloyd’o „sutapimo sąlygą“, reikalaujančią struktūrinio panašumo tarp pasaulio sistemai ir pasaulio mums. Kaip NETtalk fiksuoja svarbiausius skirtumus anglų kalbos fonetikos pasaulyje, termostatas fiksuoja svarbiausius skirtumus temperatūros pasaulyje. Dar daugiau, jis fiksuoja patį svarbiausią iš skirtumų – tarp karšto ir šalto.

Žinoma, termostatas nenaudoja paskirstyto vaizdavimo, kuriam Lloyd’as priskiria tokią didelę svarbą, ir todėl nepalaiko atitinkamos informacijos superpozicijos. Norėdami apeiti šį trūkumą, galėtume šiek tiek sušvelninti paprastumo standartus ir pereiti prie „supertermostato“, dar žinomo kaip dviejų vienetų konekcionistinis tinklas. Man atrodo, kad su šiuo tinklu galėtume pasiekti tokį paskirstymą ir superpoziciją, kurie domina Lloyd’ą, bet linkęs manyti, kad mums nereikia užgriozdinti savo modelio tokiu bereikalingu sudėtingumu. Juk ar neatrodo, kad ši gausi informacijos superpozicija yra neesminis sąmonės elementas? Žinoma, žmogaus sąmonės didingume randame šį turtą, kaip Lloyd’as iliustruoja pateikdamas Tiudoro laikų namelio aspektų įvairove, tačiau šio pratimo tikslas – supaprastinti ir abstrahuoti.

Be abejo, kažkur tarp sistemų su turtinga ir sudėtinga sąmoninga patirtimi ir sistemų be jokios patirties yra sistemų su paprasta sąmoninga patirtimi. Modelis su informacijos superpozicija, atrodo, yra daugiau nei mums reikia – kodėl, galų gale, paprasčiausiais atvejais negalėtų būti įtraukta diskretiškai patiriama informacija? Galėtume įsivaizduoti traumuotą būtybę, kuri yra akla visiems skirtumams, kuriems žmonės paprastai yra jautrūs, bet vis tiek gali patirti karštį ir šaltį. Nepaisant superpozicijos nebuvimo, ši patirtis vis tiek galėtų būti priskiriama fenomenologijai. Taigi, kaip ir konekcionistinis tinklas atitinka superpozicinės fenomenologijos modelio kriterijus, termostatas, atrodo, atitinka šio bazinio fenomenologijos tipo modelį. Iš tiesų, jei priimsime Lloyd’o požiūrį, tai, atrodo, kad šiame modelyje mes apnuoginome fenomenologijos pagrindą iki pačios jo esmės (sakoma, kad tik Euklidas žvelgė į grožį be pagražinimų, bet šitai tikrai tai yra arti to).

Taip sparčiai nuėjus taip toli, galbūt jau laikas atsipūsti ir pažvelgti į situaciją iš kitos perspektyvos. Termostatas ar bent jau paprastas konekcionistinis tinklas kaip sąmoningos patirties modelis? Tai išties labai nuostabu. Arba Lloyd’o samprotavimuose slypi gili įžvalga, arba kažkas ten labai ne taip. Esu linkęs manyti, kad abiejose šiose Lloyd’o prieštaraujančio teiginio diagnozėse yra savas tiesos elementas.

Pradžioje, dėl įžvalgos.  Lloyd’o požiūris atskleidžia, kad bandant išskirti sąmoningai patirčiai reikalingą apdorojimo būdą, reikalavimus nepaprastai sunku tiksliai apibrėžti, o kruopšti analizė neatskleidžia daugiau nei minimalių apdorojimo kriterijų. Kokie atrodytų esantys pagrįstais funkciniai sąmoningos patirties kriterijai? Vienas tradicinis kriterijus yra pranešamumas, tačiau jis yra per daug griežtas, kad būtų universalus. Atrodo pagrįsta manyti, kad šunys ir katės patiria sąmoningą patirtį net ir neturėdami gebėjimo pranešti. Silpnesnis kriterijus yra introspektyvumas: galbūt norint, kad turinys būtų patirtas, sistema turi galvoti apie turinį arba bent jau sugebėti apie jį galvoti. Vis dėlto pritariu Lloyd’o pastaboms, kad tokie dalykai labiau būdingi reflektyviajai sąmonei nei pirminei sąmonei. Iš pirmo žvilgsnio atrodo tikėtina, kad galime patirti savo regėjimo lauko pakraščius negalvodami apie šią patirtį; ir neatmetama galimybė, kad, tarkime, šuo gali patirti regos patirtį, bet visiškai neturi konceptualaus gebėjimo stebėti šią patirtį aukštesniu lygmeniu. Nemanau, kad aukštesnės eilės mąstymo požiūris į sąmonę veda prie begalinės regresijos, kaip siūlo Lloyd’as – pagal tokį požiūrį pirmos eilės mintis bus sąmoninga, jei ją lydi aukštesnės eilės mintis, tačiau aukštesnės eilės mintis pati nebūtinai turi būti sąmoninga, todėl regresija nutraukiama – tačiau vis dėlto jis atrodo tinkamesnis kaip reflektyviosios, o ne pirminės sąmonės aiškinimas. Žinoma, problema yra sudėtinga, tačiau stipri intuicija rodo, kad sistema gali patirti, tik galvodama apie pasaulį, o ne apie savo psichines būsenas.

Kartais teigiama, kad sąmoninga patirtis yra pakankamo sudėtingumo pasekmė, tačiau šis atsakymas tiesiog praslysta pro šalį. Sudėtingumas dažnai yra svarbus tam tikro aukšto lygio reiškinio egzistavimui, tačiau svarbiausia niekada nėra tiesioginis sudėtingumas, o vaidmuo, kurį šis sudėtingumas atlieka sistemoje. Gyvybei reikalingas sudėtingumas, nes sudėtingumas reikalingas prisitaikymui ir reprodukcijai. Jei sąmonei reikalingas sudėtingumas, tai bus dėl kokios nors papildomos funkcinės savybės, kurią šis sudėtingumas įgalina, ir mes matome, kad šią funkcinę savybę sunku tiksliai apibrėžti.

Iš tiesų, apmąsčius sunku suprasti, kodėl intuicijos, kurios verčia mus priskirti sąmoningą patirtį šunims ir katėms, turėtų trukdyti mums ją priskirti pelėms, musėms ar paprastesnėms sistemoms. Tokiose sistemose gali trūkti tokių ypatingumų kaip kalba, turtinga sąvokų sistema, gebėjimas introspektuoti ir galbūt net savęs samprata, bet kodėl patirčiai būtina turėti bet kurį iš jų? Kai žvelgiame į procesus, kurie sukelia žmonių patirtį, pvz., spalvų matymo pagrindu veikiančius procesus, svarbiausia atrodo tai, kad šie procesai atlieka tam tikrą diskriminaciją ir pateikia atitinkamą informaciją visai sistemai, kontroliuojančiai elgesį. Tai labai paprastas informacijos apdorojimo būdas, kurį gali turėti net labai paprasta sistema. Būtent toks samprotavimas leidžia manyti, kad gali būti kažkas panašaus į tinklą ar net termostatą.

Pripažįstu, kad buvau šiek tiek nusivylęs, po drąsaus pavadinimo matydamas, kad Dano drąsa nusilpo lemiamu momentu. Vos ne prabėgomis jis pripažįsta, kad iš tikrųjų NETTALK trūksta patirties todėl kad atsakymas į jo klausimą pavadinime yra „nieko“. Taigi NETTALK nėra sąmoningos patirties įkūnijimas; tai tik jos modelis.

Šis tvirtinimas iš pirmo žvilgsnio atrodo silpnesnis, bet iš tikrųjų man dar sunkiau patikėti, kad NETTALK yra patirties modelis, nei kad NETTALK turi patirtį, kad ir koks antrasis teiginys būtų nelogiškas. Modelis turi ypatingą naštą: is turi paaiškinti. Ir tai veda prie to, kas, galbūt, yra pagrindinis Lloyd’o požiūrio aspektas. Iš pirmo žvilgsnio šis požiūris pateikiamas kaip būdas spręsti T. Nagelio [žr. „Ką reiškia būti šikšnosparniu?“] susirūpinimą dėl sąmonės, kur pagrindinė paslaptis yra: kodėl apskritai yra kažkas panašaus į tai, kas yra mumis? Yra didžiulė prima facie paslaptis, kaip bet kokia fizinė sistema galėtų turėti sąmoningą patirtį. Lloyd’as žada, kad konekcionistiniai modeliai gali nušviesti šį klausimą, bet galiausiai modeliai, regis, palieka pagrindinį aiškinamąjį klausimą neatsakytą. Net jei mes rizikuotume ir manytume, kad šios paprastos sistemos yra sąmoningos, paaiškinimo klausimas vis tiek liktų nepaliestas.

Ką šie modeliai galėtų paaiškinti? Iš pirmo žvilgsnio jie žada paaiškinti mūsų gebėjimus daryti tam tikrus skirtumus ir išnaudoti tuos skirtumus kontroliuojant elgesį. Galiausiai galėtume pamatyti, kaip sudėtingo pasaulio modelio formavimas informacijos apdorojimo būdu leidžia sukurti veiksmų repertuarą, atspindintį to modelio sudėtingumą. Tačiau kur šiuose modeliuose slypi patirties paaiškinimas? Patirties paaiškinimo problema yra akivaizdi praraja tarp smegenų ir pačios patirties kokybės. Galima tikėtis, kad modelis padarys šį ryšį suprantamesnį, tačiau šie modeliai jį palieka tokį pat platų kaip ir anksčiau. Kodėl tokio pobūdžio apdorojimas turėtų būti atsakingas už patirtį? Nei man nagrinėjant tuos modelius ar net Lloyd’o aptarimuose atsakymo nerasi. Tai tik procesų modeliai, ir jie prarają tarp proceso ir patirties palieka tokią pat plačią, kokia ji buvo ir anksčiau.

Turbūt geriausias būdas vertinti šiuos modelius yra toks. Mes laikome patirties egzistavimą savaime suprantamu dalyku ir pastebime, kad bent jau įprastais atvejais egzistuoja puikus mūsų patirties struktūrinių savybių ir tam tikrų mūsų kognityvinių procesų struktūrinių savybių ryšys: fenomenologijos skirtumai, atrodo, atitinka mūsų suvokimo sistemos skirtumus ir t.t. Jei laikysime šį principą savaime suprantamu dalyku, galbūt galėsime netiesiogiai „modeliuoti“ sąmonės struktūrą modeliuodami savo kognityvinio apdorojimo struktūrą: taigi, kai Lloyd’as tam tikrą superpozicinę struktūrą atranda tinkle, ji pasirodo esanti mūsų patirties superpozicinės struktūros substratas. Tai vertingas aiškinamasis pasiekimas, net jei pagrindinis klausimas ir lieka neatsakytas: kodėl apskritai egzistuoja patirtis? Šie „modeliai“ patirties egzistavimą laiko tikru faktu. Iš tiesų, norėdami įgyti aiškinamąjį pagrindą, jie turi daryti prielaidą apie kažkokį tokį struktūrinio koherencijos tarp patirties ir apdorojimo principą. Bet, be abejo, būtent šios prielaidos yra tai, ko mes norime, kad patirties teorija galiausiai paaiškintų. Galbūt patirties egzistavimą ir šiuos koherencijos principus galiausiai reikės laikyti pagrindiniais; bet jei taip, mums liks neredukuojamumas ir galbūt net savotiškas dualizmas, o ne toks redukcinis paaiškinimas, kokio ieško Lloyd’as.

Manau, kad šių modelių vertė yra ta, kad jie redukuoja sąmoningos patirties pagrindą – apdorojimo pagrindą – iki paties elementariausio branduolio. Kai pasieksime tą branduolį, pamatysime, kad aiškinamoji praraja išlieka tokia pat plati kaip ir anksčiau. Kai kurie bus linkę reaguoti didindami modelių sudėtingumą, bet galiausiai tai praras esmę. Šių modelių problema yra ne jų paprastumas – veikiau modelių paprastumas išryškina bet kokių tokio tipo modelių problemas. Galiausiai sudėtingesnis apdorojimo modelis mums duos tik daugiau to paties. Apdorojimo modelis gali pateikti puikų funkcijų, gebėjimų ir pajėgumų paaiškinimą, bet patirties paaiškinimas yra tiesiog netinkamas dalykas. Mano moralas tas, kad sąmonės teorijos turime ieškoti kitur. Bet tai jau kito pokalbio tema.