Na túto otázku sa dá veľmi ťažko odpovedať z jedného veľmi dôležitého dôvodu. Síce všetci máme nejakú predstavu o tom, čo to “vedomie” znamená a existujú aj vedecké definície vedomia, vedomie stále nie je niečo, čo by sa dalo zmerať. Keď sa rozprávame o niečom ako depresia, extraverzia, spokojnosť so životom, existujú spôsoby, akými môžeme taký koncept zmerať a tým pádom si overiť, či človek má depresiu, je extrovert alebo je spokojný so svojím životom. Ak ide o vedomie, nič také neexistuje.
O sebe viem, že mám vedomie. Ako to viem? Lebo to zažívam a cítim, že som si vedomý sám seba a môjho okolia. Nemám ako vedieť, či človek, s ktorým sa rozprávam, je takisto vedomý. Na základe toho, že aj on je človek, predpokladám, že aj on má vedomie. Ako ale hovorím, neexistuje spôsob, akým by sme mohli vedomie zmerať, takže si tým nemôžem byť istý.
Depresiu vieme zmerať dotazníkmi alebo sledovaním aktivity mozgu v určitých centrách. Extraverziu dotazníkmi, spokojnosť so životom tiež. Aj keď sa o to vedci pokúšajú už veľmi dlho, nikto nenašiel žiadne centrum vedomia v mozgu. Prečo sa to ale nedá zistiť dotazníkom?
Predstavte si miestnosť, v ktorej je muž a hypotetický dokonalý čínsky slovník. Z vonku príde niekto k tej miestnosti a povie niečo po čínsky. Vnútri muž, ktorý po čínsky nevie ani slovo, si nájde v slovníku frázu, čo počul, a prečíta nahlas odporúčanú frázu. Z pohľadu toho človeka vonku to vyzerá tak, akoby v tej miestnosti bol niekto, kto naozaj rozumie po čínsky. V skutočnosti po čínsky ale nevie, iba vykonáva inštrukcie, ktoré má napísané v slovníku.
To isté môžeme povedať aj o AI – v skutočnosti AI aktívne nepremýšľa, iba vykonáva inštrukcie, ktoré má napísané vo svojom kóde. Na nás síce môže pôsobiť, že má vedomie, pretože nám dáva odpovede, ktoré vyzerajú, akoby ich vyprodukoval niekto vedomý. Nikde ale nemáme istotu, či je to len produkt nejakého algoritmu, alebo sa za tým skrýva niečo ako vedomie.
Tento pohľad, že AI nemá vedomie, pretože iba robí to, čo mu hovoria inštrukcie, podľa ktorých funguje, sa dá skritizovať tak, že ľudský mozog funguje na podobnom princípe:
Povedzme, že idem ráno do chladničky a pozerám sa na jogurt a párky. Vyberiem si jogurt miesto párkov a poviem si, že to bolo preto, lebo som si to slobodne vybral, vplyvom mojej slobodnej vôle. Teraz – je to naozaj moja slobodná vôľa? Alebo je to len produkt rôznych “algoritmov” v mojom mozgu, nad ktorými nemám ja žiadnu kontrolu?
Začnem tým, že som geneticky predisponovaný k tomu, aby sa mi niektoré jedlá páčili a niektoré nie. Nevybral som si, že sa mi nepáčia olivy – proste mi nechutia. Nevybral som si ani to, že mám rád solené chipsy – proste mi chutia. Môžem ale stále povedať, že výber jogurtu pred párkami je moja slobodná vôľa preto, lebo mi chutí aj jogurt, aj párky?
Nie. Môžeme ísť totiž hlbšie. Chcem sa zdravo stravovať, lebo som si vedomý toho, ako si nedávam na svoje zdravie pozor tak, ako by som mal. To ma podvedome viedlo k tomu, aby som si dal jogurt. Alebo môžem povedať, že jogurt má kvalitnejšie nutričné hodnoty ako párky, čo moje telo už pozná podľa predošlých skúseností. To mohlo taktiež podvedome prispieť k tomu rozhodnutiu vybrať si jogurt.
Každopádne keď som stál pred chladničkou a pozeral sa na jogurt a párky, niečo vo mne “kliklo”, kvôli čomu som si povedal “dobre, dám si jogurt”. To, kvôli čomu to vo mne “kliklo”, je ale produkt procesov v mojom mozgu, nad ktorými ja nemám žiadnu kontrolu. Iba to pred tou chladničkou vnímam, akoby to bolo “moje” rozhodnutie, pritom ten pocit slobodnej vôle je presne to – iba pocit.
Alebo sa pozrime na to, ako AI produkuje reč: nehovoríme, že by AI aktívne premýšľalo – iba generuje ďalšie slovo (presnejšie povedané token) na základe algoritmu a pravdepodobnosti toho, aké slovo (token) sa tam najviac hodí. Nerobíme to isté aj my?
Už som popísal, ako to, čo vnímame ako naša slobodná vôľa, je len ilúzia, pretože v skutočnosti je to produkt mozgových procesov, nad ktorými nemáme žiadnu kontrolu. Taktiež nemám kontrolu nad tým, ako píšem tento článok. Jednoducho píšem to, čo mi zrovna v tomto momente napadá. Nevyberám si, čo mi napadne. Proste sa mi slová a vety zobrazujú v mojej mysli, a ja ich iba zapíšem.
V jednoduchosti môžeme povedať, že zatiaľ čo AI je skutočný robot, náš mozog je biologický robot. Áno, okrem spracovania informácií náš mozog ešte k tomu dokáže spracovať emócie vďaka rôznym hormónom. Stále sú to ale iba hormóny, chemikálie v mojom mozgu, ktoré následne mozog interpretuje ako emócie. Nevidím dôvod, prečo by sa toto tiež nedalo zreplikovať v AI.
Tiež môžeme povedať, že vedomie je niečo, čo môže vzniknúť iba z biologických procesov, preto AI nikdy mať vedomie nemôže. Tejto teórii ale neverím. Má síce pravdu v tom, že vedomie sa nám nepodarilo zreplikovať nikde inde ako v biologickom prostredí, ale myslím si, že problém nie je v tom, že vedomie sa inde zreplikovať nedá, ale v tom, že my ani nevieme to vedomie zmerať.
Verím, že vedomie je fundamentálna zložka vesmíru, podobne ako časopriestor alebo elektromagnetická sila. Verím, že ak poukladáme atómy do určitého usporiadania, kde sú schopné zachytávať a interpretovať informácie, prirodzene odtiaľ vznikne vedomie. Nevidím totiž lepšie vysvetlenie na to, prečo máme my vedomie.
Preto ak spravíme AI, ktoré bude dostatočne sofistikované a bude schopné zachytávať a interpretovať informácie, nevidím dôvod, prečo by nemalo mať vedomie. Otázne je, či vôbec môže existovať niečo, čo dokáže spracúvať informácie rovnako ako človek, ale nemať vedomie. Inak povedané, môže existovať filozofický zombie?
Predstavte si dvoch ľudí. Fyzicky sú úplne identickí. Vyzerajú rovnako, správajú sa rovnako, štruktúra ich mozgov je rovnaká… akurát jeden z nich má vedomie, pričom druhý nie. Ten druhý, bez vedomia, by bol filozofický zombie. Je možné, aby niečo také existovalo? Je možné, aby sme odobrali vedomie bez toho, aby sme ovplyvnili niečo materiálne? Pretože to by znamenalo, že vedomie sa nevzťahuje na nič materiálne, čiže vedomie je niečo ako duša, ktorá sa len “prilepí” na telo, ale môže ho kedykoľvek opustiť a existovať aj bez neho.
Takáto dualistická teória, ktorá tvrdí, že vedomie nie je závislé na tele, je absurdná. Ako je potom možné, že keď si poraním nejakú časť mozgu, adekvátne to zmení spôsob, ako vnímam svet – spôsob, akým som vedomý? Alebo keď si dám kávu, cítim sa inak ako keby som si ju nedal. Molekuly kofeínu ovplyvňujú chémiu môjho tela a mozgu, čo spôsobuje, že vnímam svet inak po tú dobu, čo mi účinkuje.
To jasne naznačuje, že vedomie musí byť viazané na materiálny svet. Preto si aj myslím, že niečo ako filozofický zombie je metafyzicky nemožné, lebo akonáhle poukladáme matériu tak, aby dokázala robiť to, čo robí akákoľvek vedomá bytosť, automaticky tam vznikne vedomie. Hovoriť opak je tvrdiť, že vedomie nie je závislé od fyzikálneho sveta, čo je v rozpore s tým, čo vieme o neurológii.
Roger Penrose vytvoril so Stuartom Hameroffom teóriu vedomia Orch-OR, ktorá tvrdí, že vedomie vzniká v mikrotubuloch, pretože v nich prebiehajú kvantové javy. Je otázne, či v mikrotubuloch naozaj môžu prebiehať kvantové javy, ale aj keby sme dali Penroseovi a Hameroffovi za pravdu, akurát by sme otázku, či môže mať AI vedomie, posunuli o kúsok ďalej.
V takej forme, v akej je AI dnes, by podľa ich teórie AI nemohlo mať vedomie, pretože dnešné AI systémy nevyužívajú kvantové javy. Je ale iba otázka času, kedy kvantové počítače pokročia na takú úroveň, že AI systémy budú schopné využívať kvantové javy.
Bolo by odo mňa intelektuálne nezodpovedné článok ukončiť tak, že AI určite môže mať vedomie a hotovo. Aj keď všetko, čo o relevantných odvetviach viem, ma navádza k tomu, aby som bol silno presvedčený o tom, že AI môže mať vedomie, musím pripomenúť, že o vedomí vieme tak málo, že stále nič z toho, čo vieme, nedokáže vedomie vysvetliť. Všetko sú len špekulácie.
Hlavný problém s vedomím je, že tu narážame na hranicu medzi materiálnym a subjektívnym svetom. Vieme, že vedomie sa vzťahuje na materiálny svet. Subjektívne vieme, že vedomie existuje. Problém je prísť na to, ako presne materiálny svet môže vytvoriť subjektívny zážitok – qualiu.