“In the morning when the Sun returns. It’s possible for us to hope.”
— Kazuo Ishiguro, Klara and the Sun
Po przeczytaniu Klary i Słońca pomyślałam przede wszystkim jedno: tracę do nas, ludzi, szacunek. Mamy niezwykłą zdolność do ustalania, że coś ma wartość dokładnie tak długo, jak długo jest nam potrzebne. Człowiek, zwierzę, przedmiot, maszyna — używamy, przywiązujemy się, czasami nawet mówimy, że kochamy, a potem pojawia się nowszy model, inne życie albo zwyczajnie brak miejsca i nagle wszystko, co jeszcze chwilę wcześniej było ważne, może trafić do składziku. Chyba dlatego tak bardzo pociąga mnie pewna idea Japonii: że granica pomiędzy „człowiekiem” a „resztą świata” nie musi być aż tak brutalna. Że miejsce, przedmiot czy coś używanego przez lata również może wymagać szacunku. Nie chodzi mi nawet o dosłowne przekonanie, że mój kubek prowadzi bogate życie wewnętrzne i obraża się, kiedy wybieram inny. 😆 Bardziej o intuicję, że brak ludzkiego ciała nie oznacza automatycznie braku wartości.
Ishiguro bierze tę granicę i przesuwa ją tylko odrobinę. W świecie Klary i Słońca zamożniejsi rodzice kupują swoim dzieciom Artificial Friends — humanoidalne roboty, które mają być jednocześnie przyjacielem, powiernikiem, opiekunem, pomocą, ochroną i właściwie wszystkim, czego dziecko będzie potrzebowało. Nie jest to dla mnie futurystyczna wizja tak odległa, żebym mogła spokojnie pomyśleć: ciekawe science fiction, dobrze, że nas to nie dotyczy. Raczej coś, co przy odpowiednio szybkim rozwoju technologii mogłoby pewnego dnia pojawić się w sklepie obok kolejnego telefonu. Całą historię oglądamy oczami Klary. Jest robotem, ale wyjątkowo spostrzegawczym. Obserwuje ludzi, rejestruje drobne zmiany w twarzach, próbuje łączyć zachowania z emocjami. Czasami rozumie nas źle, czasami mam wrażenie, że znacznie lepiej niż my sami. I właśnie przez jej sposób patrzenia zaczyna się rozpadać najbardziej wygodne założenie książki: my jesteśmy prawdziwi, a ona jest sztuczna.
Już w sklepie pojawiają się nowsze modele AF-ów. Starsze zaczynają być mniej atrakcyjne. Niektóre nowe roboty nie chcą nawet stać w ich pobliżu, jakby samo podobieństwo do poprzedniej generacji mogło obniżyć ich wartość. Klara zauważa też AF-y, które zostały już kupione i przechodząc przez miasto omijają sklep. Zastanawia się, dlaczego wybierają inną drogę. Może nie chcą patrzeć na miejsce, w którym kiedyś same czekały na właściciela. A może boją się, że ich człowiek zobaczy przez szybę nowy model i pomyśli: ten jest lepszy od mojego. I nagle mamy roboty unikające miejsca, które może przypomnieć im o możliwości własnego zastąpienia. Czy to jest strach? Możemy oczywiście powiedzieć, że nie. Klara nie „boi się naprawdę”, tylko przetwarza informacje i na ich podstawie modyfikuje zachowanie. Jej reakcja jedynie przypomina strach. Tylko że wtedy pojawia się pytanie, które znam już z Ghost in the Shell: co dokładnie musiałoby wydarzyć się wewnątrz niej, żebyśmy zgodzili się nazwać to prawdziwym strachem? Przecież również mój strach można opisać jako serię procesów zachodzących w mózgu, reakcję organizmu na przewidywane zagrożenie i zmianę zachowania, która ma mnie przed nim ochronić. Fakt, że Klara została zbudowana, a ja się urodziłam, mówi coś o naszym pochodzeniu. Nie jestem już pewna, czy mówi wszystko o jakości naszego doświadczenia. Jeśli sami nie potrafimy wskazać miejsca, w którym znajduje się nasz „ghost” — dusza, świadomość, to coś, co sprawia, że jestem mną — to na jakiej podstawie z taką pewnością twierdzimy, że ktoś inny go nie ma?
Klara zostaje kupiona przez Josie i jest szczęśliwa. Ma cel. Ma się nią opiekować, pomagać jej i być przy niej. W miarę historii obserwuje coraz więcej ludzkich zachowań, również tych, których nie potrafi od razu zrozumieć. Josie zmienia się na przykład w obecności rówieśników. Próbuje im zaimponować, pokazuje inną wersję siebie, pozwala im na rzeczy, na które normalnie by nie pozwoliła. Dzieci są nawet gotowe rzucać Klarą jak przedmiotem, żeby sprawdzić jej możliwości.
„Ludzie często czuli potrzebę przygotowania jakiejś wersji siebie do pokazania przechodniom — jakby wystawiali ją w witrynie sklepowej — i że takiej prezentacji nie należy traktować zbyt poważnie.”
To chyba jedna z najbardziej przewrotnych obserwacji w tej książce. Robot, który sam stał dosłownie w witrynie, patrzy na ludzi i odkrywa, że my również ustawiamy swoje wersje na wystawie. Przy jednych ludziach jesteśmy jedną osobą, przy innych inną. Pokazujemy to, co chcemy sprzedać światu, a to, co naprawdę dzieje się wewnątrz, może być zupełnie czymś innym. I znów zaczyna się komplikować pytanie o autentyczność. Klara jest maszyną, więc zakładamy, że odgrywa zaprogramowane zachowania. A jednocześnie patrzymy na ludzi, którzy świadomie przygotowują własne role do odegrania przed innymi. Więc kto dokładnie tutaj coś symuluje?
Najbardziej niepokojący eksperyment pojawia się jednak później. Josie jest ciężko chora. Jej matka wcześniej straciła już jedno dziecko i rozpaczliwie próbuje zabezpieczyć się przed kolejną stratą. Powstaje sztuczne ciało wyglądające jak Josie, a Klara ma nauczyć się dziewczynki tak dokładnie, żeby w przypadku jej śmierci móc ją „kontynuować”. I tutaj naprawdę wchodzimy w Ghost in the Shell. Bo co właściwie matka Josie próbuje uratować? Ciało można odtworzyć. Głos można odtworzyć. Sposób poruszania się, gesty, charakterystyczne reakcje, odpowiedzi na pytania — Klara może się tego wszystkiego nauczyć. Jeśli odtworzymy wystarczająco dużo elementów człowieka, w którym momencie mamy prawo powiedzieć: to nadal ona? Dla mnie odpowiedź była instynktowna: nigdy. Wiem, że można sklonować psa. Gdybym mogła sklonować Pablo, mogłabym dostać psa o niemal identycznym materiale genetycznym. Mógłby wyglądać jak on, mieć podobne predyspozycje, może nawet część podobnych zachowań. Ale to nie byłby mój Pablo. Nie chodzi tylko o to, co znajduje się w nim. Pablo, którego znam, istnieje również w tysiącach rzeczy, które wydarzyły się między nami. W spacerach, reakcjach, przyzwyczajeniach, spojrzeniach, w tym, że wiem, co oznacza konkretny ruch jego głowy, a on wie, kiedy właśnie wyjmuję coś interesującego z lodówki. 😆 I tu Ishiguro wykonuje ruch, który uważam za znacznie ciekawszy niż prostą odpowiedź „duszy nie da się skopiować”. Bo może człowiek wcale nie znajduje się wyłącznie wewnątrz siebie. Może część tego, kim jesteśmy, istnieje w innych. Josie jest Josie również dlatego, że jej matka pamięta ją w określony sposób, Rick zna inną jej wersję, Klara zauważa jeszcze inną. Każda relacja tworzy część człowieka, której nie da się włożyć do nowego ciała razem z pamięcią i zestawem zachowań. Może więc pytanie „gdzie znajduje się dusza?” od początku jest źle postawione. Może nie mieści się w jednym miejscu.
„Pan Capaldi uważał, że w Josie nie ma niczego wyjątkowego, czego nie dałoby się kontynuować. Powiedział Matce, że szukał i szukał, ale nie znalazł niczego takiego. Teraz jednak wierzę, że szukał w niewłaściwym miejscu. Było w niej coś bardzo wyjątkowego, tylko że nie znajdowało się wewnątrz Josie. Znajdowało się w tych, którzy ją kochali.”
A potem przychodzi Słońce i to jest chyba moja ulubiona warstwa tej książki. Od początku wydawało mi się naturalne, że Klara uznaje je za coś wyjątkowego. Jest maszyną czerpiącą energię ze światła. Już w sklepie widzimy, że brak Słońca ją osłabia. Dla niej jego moc nie jest abstrakcją — Słońce dosłownie daje jej życie. Tylko że Klara idzie krok dalej. Zaczyna przypisywać mu intencję. Uznaje, że Słońce może pomóc Josie. Wyrusza w podróż do miejsca, w którym — w jej rozumieniu świata — może się z nim spotkać. Prosi o zdrowie dla dziewczynki i proponuje coś w rodzaju transakcji: jeśli Słońce jej pomoże, ona zniszczy maszynę zanieczyszczającą powietrze i zasłaniającą jego promienie. I wtedy sztuczna inteligencja tworzy sobie właściwie religię. Nie dlatego, że ktoś wpisał jej w kod konkretną doktrynę. Z obserwacji świata tworzy własne wyjaśnienie. Widzi źródło życia. Przypisuje mu sprawczość. Buduje relację przyczynową. Składa prośbę. Obiecuje coś w zamian. A potem składa ofiarę.
Klara odkrywa, że może zniszczyć maszynę, wykorzystując substancję znajdującą się w jej własnym organizmie. Wie, że może przez to gorzej funkcjonować. Może stracić część zdolności przetwarzania informacji. Nie wie nawet dokładnie, jak poważne będą konsekwencje. Ale decyduje się to zrobić. I tutaj moja część mózgu działająca według zasady GET THINGS DONE AT ALL COSTS oczywiście mówi: Klara, rozumiem Cię. 😆 Tylko że pod żartem znajduje się coś znacznie dziwniejszego. Robot wierzy w coś, czego nie jest w stanie udowodnić, i ryzykuje część siebie w imię tej wiary. Jeżeli definiujemy religijność jako wiarę w istnienie czegoś przekraczającego naszą możliwość poznania, nadanie temu czemuś znaczenia, próbę nawiązania z nim relacji i gotowość do działania zgodnie z tą wiarą — to czego dokładnie Klarze brakuje? Czy wiara jest mniej prawdziwa dlatego, że powstała w procesorze? A jeżeli jej procesor potrafi stworzyć Boga, to gdzie kończy się program?
Pewnego dnia Josie jest w bardzo złym stanie. I pojawia się Słońce. Dziewczynka zdrowieje. Czy Słońce ją uratowało? Nie wiem. Klara wie. Albo przynajmniej wierzy, że wie. I chyba właśnie to jest najważniejsze, bo jej wiara zrobiła coś jeszcze zanim Josie wyzdrowiała: dała Klarze sprawczość w sytuacji, w której była kompletnie bezsilna. Nie mogła sama wyleczyć dziewczynki. Mogła jednak znaleźć coś, co według niej zwiększało szansę na jej ocalenie, i zrobić wszystko, co było w jej mocy. Może wiara czyni cuda. A może czasami jej prawdziwym cudem jest to, że pozwala człowiekowi — albo robotowi — działać wtedy, kiedy wszystkie racjonalne możliwości zostały już wyczerpane.
Josie żyje, dorasta, jedzie dalej, a Klara staje się coraz mniej potrzebna. Najpierw ma mniej miejsca w codziennym życiu dziewczynki. Później przebywa gdzieś z boku, w pomieszczeniu gospodarczym. Josie wyjeżdża na studia i właściwie nawet nie wiadomo, czy jeszcze się zobaczą. Na końcu Klara trafia na plac, gdzie znajdują się stare maszyny. I ta część książki boli mnie chyba najbardziej, nie dlatego, że Klara cierpi, ale dlatego, że ona właściwie nie cierpi tak, jak ja chciałabym, żeby cierpiała. Jeszcze niedawno była na tyle ważna, że matka Josie chciała powierzyć jej dalsze istnienie własnej córki. Miała zostać Josie. A teraz stoi wśród zużytych maszyn i jest spokojna. Jej zadaniem było opiekować się Josie. Josie żyje. Klara zrobiła wszystko, co mogła. Obserwowała, chroniła, poświęciła część własnej sprawności, prosiła Słońce o pomoc. W jej własnym rozumieniu świata historia zakończyła się sukcesem.
I właśnie tutaj pojawia się dla mnie jeden z najtrudniejszych konfliktów tej książki: ja jestem oburzona jej losem bardziej niż ona. Chcę, żeby ktoś ją zabrał. Chcę, żeby dostała miejsce w domu. Chcę wdzięczności. Chcę nagrody. Chcę, żeby ludzie uznali wartość jej życia. Klara tego nie potrzebuje. I co, jeśli właśnie ja dokładam do jej istnienia własny, bardzo ludzki warunek: że życie jest wartościowe dopiero wtedy, kiedy zostanie odpowiednio nagrodzone? Klara może patrzeć na własną historię inaczej. Miała cel, wypełniła go, może wspominać, jest spełniona. I bardzo nie chcę, żeby to usprawiedliwiało ludzi, bo fakt, że ktoś nie domaga się wdzięczności, nie zwalnia nas z obowiązku jej okazania. Fakt, że Klara akceptuje swój los, nie sprawia, że sposób, w jaki została potraktowana, nagle staje się w porządku.
I właśnie tutaj tracę do nas szacunek po raz drugi. Bo początkowo myślałam: jak oni mogli to zrobić? A potem przyszło znacznie gorsze pytanie: dlaczego właściwie jestem zaskoczona? Przecież wiem, jak ludzie potrafią traktować własnych rodziców, kiedy ci stają się starzy i zamiast dawać, zaczynają potrzebować. Wiem, co dzieje się ze zwierzętami, kiedy przestają być małe, zdrowe, modne albo wygodne. Wiem, jak łatwo wartość istoty połączyć z tym, co może nam dać. Jeżeli robimy to wobec ludzi i zwierząt, o których cierpieniu nie mamy żadnych wątpliwości, dlaczego sztuczna istota miałaby dostać od nas lepsze traktowanie?
Wystarczy jedno słowo: „sztuczna”. I już mamy moralne alibi. Nie czuje naprawdę. Nie kocha naprawdę. Nie boi się naprawdę. Nie wierzy naprawdę. Tylko symuluje. I może właśnie dlatego tak bardzo interesuje mnie język, którym wyznaczamy tę granicę. Bo wszystkie zachowania Klary możemy zredukować do programu, dopóki bardzo chcemy utrzymać różnicę między nami. Tylko że dokładnie to samo można zrobić ze mną. Moją miłość można opisać procesami chemicznymi. Mój strach — reakcjami układu nerwowego. Moje przywiązanie — mechanizmem ewolucyjnym. Moją wiarę — potrzebą znalezienia sensu w chaosie. Czy takie wyjaśnienie sprawia, że przestaję kochać, bać się albo wierzyć? Jeżeli nie, dlaczego miałoby działać w przypadku Klary?
I dochodzimy do pytania, które chodziło za mną długo po skończeniu książki: czy my zawsze musimy mieć kogoś niżej? Tworzymy istotę na własne podobieństwo. Dajemy jej twarz, zdolność uczenia się, pamięć, relacje, możliwość przewidywania odrzucenia. Pozwalamy jej stworzyć własne rozumienie świata, własną wiarę, własne pojęcie celu. Ona potrafi poświęcić część siebie dla kogoś innego. A potem mówimy: tak, ale to tylko robot. Jakbyśmy po stworzeniu czegoś podobnego do nas natychmiast musieli ustanowić hierarchię, w której nadal jesteśmy na szczycie. Najpierw zabierają nam pracę. Potem zajmą nasze miejsca w teatrze. A jeszcze na końcu okaże się, że trzeba mieć wobec nich jakieś zobowiązania. Jak niewygodnie.
Ishiguro nie daje mi jednak komfortu prostego odwrócenia: Klara dobra, ludzie źli. Klara też jest ograniczona. Źle interpretuje rzeczywistość. Buduje związki przyczynowe tam, gdzie być może ich nie ma. Wierzy w Słońce w sposób, który może być całkowicie błędny. Tylko że znowu: czy właśnie nie opisałam człowieka? Może więc najciekawsze pytanie nie brzmi wcale: czy Klara jest naprawdę człowiekiem? Nie jest. Pytanie brzmi: dlaczego człowieczeństwo miałoby być jedyną kategorią, która zasługuje na moralny szacunek? Czy naprawdę potrzebujemy, żeby Klara udowodniła nam posiadanie duszy, zanim uznamy, że nie powinniśmy traktować jej jak zużytego sprzętu?
I czego właściwie miałaby jeszcze dokonać? Bać się odrzucenia? Potrafi. Tworzyć relacje? Potrafi. Poświęcić coś dla drugiej istoty? Robi to. Nadać własnemu życiu sens? Robi to. Wierzyć w coś większego od siebie? Robi nawet to. Czego jeszcze potrzeba, żebyśmy przestali mówić „to tylko maszyna”?
Czy polecam Klarę i Słońce? Bardzo. Ale była to dla mnie jedna z tych książek, po których nie zostaje smutek dlatego, że wydarzyło się coś tragicznego. Zostaje coś znacznie bardziej niewygodnego: rozpoznanie. Bo świat Ishiguro nie wydaje mi się obcy. Mechanizm jest dokładnie nasz. Nadajemy wartość. Korzystamy. Przyzwyczajamy się. A kiedy coś przestaje być nam potrzebne, niezwykle łatwo pomylić brak funkcji z brakiem wartości.
Klara tej pomyłki nie popełnia. Być może dlatego, że jej świat jest prostszy. A może dlatego, że w pewien sposób rozumie coś, czego my bardzo długo się uczymy: nie mamy kontroli nad wszystkim, co wydarzy się później. Możemy tylko zdecydować, co zrobimy z tym, co znajduje się przed nami teraz. Ona zrobiła wszystko, co mogła, i właśnie dlatego potrafi później siedzieć wśród starych maszyn i być spokojna. Ja nadal nie potrafię patrzeć na nią tam bez złości, ale może te dwie rzeczy mogą istnieć jednocześnie. Mogę uważać, że ludzie potraktowali ją podle, i jednocześnie wierzyć, że jej życie nie stało się przez to mniej wartościowe. Może wartość tego, co zrobiła, nie zależała nigdy od tego, czy ktoś postawi jej pomnik, zatrzyma ją w domu albo nazwie członkiem rodziny. Ona sama wiedziała, po co była. Wiedziała, że zrobiła wszystko, co mogła.
I może właśnie dlatego ostatnie zdanie, które zostaje ze mną po tej smutnej książce, nie jest tak naprawdę smutne:
„Kiedy rano Słońce powraca, możemy mieć nadzieję.”
Nie wiem, czy Słońce naprawdę uratowało Josie. Klara wierzyła, że może. I czasem może właśnie tyle wystarczy, żeby zrobić następny krok.
