Grzegorz Lindenberg

Stoimy przed zmianą cywilizacyjną nieporównywalną z niczym innym – mówi Grzegorz Lindenberg, autor książki Ludzkość poprawiona. Jak najbliższe lata zmienią świat, w którym żyjemy? Aby opisać, jak zmienią, przeanalizował postępy biologów i informatyków w kształtowaniu nowego, wspaniałego świata.

Tekst: Przemysław Bociąga

Czy wybrał pan już sobie zawód na następne 120 lat?
(śmiech) Będę emerytem.

Tyle czasu? To może być strasznie nudne.
Moim marzeniem jest, żeby mieć wszystkie książki, które chcę przeczytać i odpowiednią ilość czasu, żeby je czytać i żeby nic nie musieć z tym robić, na przykład nie musieć o nich pisać. Czy na 120 lat taki program wystarczy? Nie wiem.

Już dziś nie jesteśmy w stanie przeczytać wszystkiego, co zostało napisane. Czy książek nie będzie przybywać w tempie wykładniczym, kiedy zacznie je pisać sztuczna inteligencja (SI)?
Generowanie prostych treści rzeczywiście już się dokonuje od paru lat. Są firmy, które używają SI do sprawozdań sportowych i raportów giełdowych. Są prowadzone próby z tekstami na zadany temat: program szuka informacji w internecie albo je wymyśla i robi z tego tekst.

To taksówkarze mówią mi najczęściej: komputer nigdy nie zastąpi człowieka. Tymczasem autonomiczne samochody będą pewnie najbliższymi robotami, które się pojawią.
Rzeczywiście jeszcze niedawno wydawało się, że prowadzenie samochodu to rzecz, której robot nie potrafi zrobić.

Może dlatego, że wyobrażaliśmy sobie robota, który z mniejszą zwinnością manualną kręci kierownicą. Tymczasem okazuje się, że żadna kierownica nie jest potrzebna.
Chodziło bardziej o to, że to jest taka ilość informacji na raz i taka liczba różnorodnych sytuacji, które trzeba przerobić, że systemy SI nie będą w stanie tego robić. Okazuje się, że są w stanie.

Google Maps są chyba najlepszym przykładem tego, co się stało w naszym życiu na skutek sztucznej inteligencji. Znam ludzi, którzy po własnym mieście zaczęli jeździć z aplikacją, bo lepiej zna aktualne warunki ruchu.
A jednocześnie to spowodowało, że przestaliśmy mieć zdolność przestrzennego widzenia miasta. Jak jest droga zamknięta, to nie wiemy, jak ją objechać. Kiedy SI zacznie prowadzić samochód, będzie wiedziała, jak to robić i wtedy my już będziemy do końca ogłupiali.

Czy to oswajanie SI metodą gotowania żaby? Dziś nawigacja i asystent pasa ruchu, jutro Matrix i Terminator?
To nie jest tak, że ktokolwiek tym steruje albo ma jakikolwiek program, który ma nas zniewolić. Każda firma robi swoje własne projekty. Z tym, że większość wyników badań nad sztuczną inteligencją jest ujawniana, żeby inni badacze mogli z nich korzystać. Niektóre pozostają oczywiście tajne – jak projekty wojskowe – albo są ujawniane po pewnym czasie, jak ten program do tworzenia tekstów. Firma OpenAI , która go stworzyła, obawiała się, że może być używany do tworzenia fake newsów.

Co zapewne okazało się prawdą?
Tak, ale zarazem okazało się, że nic się strasznego nie stało, więc ujawnili całość programu. Natomiast dzięki temu SI rozwija się bardzo szybko, bo nie trzeba od początku wszystkiego wymyślać. My korzystamy z niej nie dlatego, że ktoś ma taki diaboliczny plan. Tak jest po prostu wygodniej. W tej chwili porozumiewanie głosowe z Echo czy Alexą jest ograniczone, ale te ograniczenia będą przesuwane, możliwości będą rosły. Sztuczna inteligencja nazwana wprost. To po prostu jakiś program, który działa w tle i robi za nas rozmaite rzeczy, które są dla nas wygodne.

Widzimy głównie zmianę technologiczną. Ale za nią idzie zmiana społeczna.
SI to jest zmiana cywilizacyjna. Jedyne z czym można ją porównać to moment rewolucji neolitycznej, kiedy z łażenia po sawannie przeszliśmy do osiadłego trybu życia. I to umożliwiło rozwój cywilizacji.

Ówczesny postęp okazał się źródłem cierpienia. Ludzie w paleolicie, kiedy sobie łowili i zbierali, znali mniej chorób, nie mieli epidemii, ich gospodarka nie wyniszczała ekosystemów. Później przyszła osiadłość, rolnictwo, klęski głodu, nierówności społeczne i klasa nierobów.
Oczywiście. Natomiast to, że dzisiaj mamy cywilizację taką, jaką mamy, to jest efekt nie łażenia po sawannie i wykopywania jakichś bulw, tylko tego, że się osiedliliśmy i mieliśmy czas wolny, żeby…

…z nudów się rozwijać.
Czy ja wiem, czy z nudów? Może z wrodzonej ludzkiej ciekawości? Ale się rozwijać – tak. Łaziliśmy po sawannie przez kilkadziesiąt tysięcy lat i nic z tego specjalnie dla rozwoju nie wynikało. Przez ostatnie dziesięć tysięcy lat ten skok był gigantyczny – doprowadził nas od bardzo prymitywnego rolnictwa do cywilizacji wysoko technicznej.
Sztuczna inteligencja tworzy podobną zmianę cywilizacyjną. Tylko ta zmiana nie dokona się w ciągu dziesięciu tysięcy lat, a w ciągu trzydziestu-pięćdziesięciu lat. Trudno sobie wyobrazić, jak to będzie wyglądać, kiedy tworzymy jakby nowy myślący gatunek. Nawet jeżeli będzie miał bardzo ograniczone możliwości, to i tak zmiana będzie kolosalna i doprowadzi na pewno do masowego bezrobocia, albo raczej – masowego niepracowania. Cywilizacyjną normą stanie się niepracowanie.

Zadam zatem bezczelne pytanie: czy nie żal panu osiągać wiek emerytalny właśnie w czasie, kiedy za horyzontem są tak wielkie zmiany?
Jestem bardzo zadowolony ze swojego wieku, który daje mi perspektywę. Wiem, że smartfon nie jest naturalnym elementem ludzkiego życia, że to jest wynalazek, który ma zaledwie dziesięć lat i że pamiętam czasy, kiedy trzeba było zamawiać rozmowę międzymiastową. Mnie to uświadamia, jak wielkie zmiany są możliwe w przyszłości.
Pytanie, jak szybkość i zakres zmian wpłyną na ludzi, jak oni w ogóle będą w stanie się do nich adaptować. Może być tak, że trzeba będzie w pracy zaczynać robić coś nowego co roku, a nie raz na dziesięć lat. Wymyślać sobie zawody.
Mam wrażenie, że głęboko w ludziach jest taka obawa, że te zmiany są za szybkie. Że politycy stracili kontrolę nad tym, co się dzieje. To poczucie jest prawdziwe i dosyć przerażające.

Według filmu Kubricka 2001: Odyseja kosmiczna, w 2001 roku mieliśmy gadać przez Skype’a z Hiltona na orbicie, czytać gazety na iPadzie na statku  międzygalaktycznym i rozmawiać o filozofii z superkomputerem HAL 9000. Nie jesteśmy zbyt blisko tego. Po pięćdziesięciu latach od lądowania na księżycu nawet nie spróbowaliśmy tam wrócić.
Kolonizacja kosmosu nie ma nic wspólnego z naszym poziomem technologicznym, mówi o naszych zamiarach, chęciach, celach. Zdobycie księżyca było rzeczą prestiżową, nie miało żadnego praktycznego znaczenia. Ale moc komputerów rośnie i będzie rosła. Do sztucznej inteligencji tworzone są nowe, specjalne procesory. W tej chwili zrobiono już nie mikro, a makroprocesor – wielkości cegły, specjalnie do SI. Czy wierzy pan, że możliwości komputerów przestaną rosnąć w ciągu dziesięciu lat i już zawsze będą takie same?

Jest też kulturowa konsekwencja mojego ulubionego prawa Murphy’ego: jak tylko wynajdziesz idiotoodporne urządzenie, ktoś tworzy skuteczniejszego idiotę.
SI rozwija się na dobre dopiero od kilku lat. Jesteśmy w bardzo wczesnym momencie jej rozwoju. I częściowo ten rozwój będzie następować w oparciu o to, że będą się rozwijać możliwości komputerów. Druga rzecz to pomysły: SI rozwinęła się także dzięki temu, że ludzie wymyślili lepsze sposoby na jej tworzenie, niż mieli przedtem.

Guru posthumanistów – Ray Kurzweil – mówi, że w pewnym momencie komputery przejmą od ludzi to brzemię wymyślania nowych pomysłów.
Jeśli chodzi o programy do wymyślania innych programów, modeli SI, to nic się z tym na razie nie dzieje. Niemniej są programy, które tworzą nowe pomysły. Wymyślają nowe związki chemiczne, które mogą być używane jako leki. Jeden z programów wymyślił nowe rodzaje materiałów, które warto zbadać. Jak działał? Bardzo prosto. Wsadzili do niego parę milionów tekstów z ostatnich stu lat o różnych materiałach, które były badane. Na podstawie analizy artykułów – coś, czego ludzie nie są w stanie zrobić – wymyślił kilkadziesiąt różnych związków i wskazał kierunki dalszych badań. Sztuczna inteligencja, jeżeli dostanie odpowiednią ilość danych i program do odpowiedniej interpretacji czy uczenia się na podstawie tych danych, nawet jeśli nie będzie miała jeszcze ogólnych możliwości człowieka, to będzie potrafiła coś z tym zrobić.
Trzeba zrozumieć jedną ważną rzecz. Wiemy o komputerze, który pokonał mistrzów w Go, najbardziej skomplikowanej grze świata. Komputery to umieją, bo potrafią w ciągu jednego dnia rozegrać tysiące, a nawet miliony gier, ponieważ robią to szybciej niż ludzie. Sztuczna inteligencja ma przewagę nad nami w szybkości swojego działania.
Załóżmy, że tworzymy sztuczną inteligencję, która ma możliwości intelektualne, poznawcze czy umysłowe takie jak bardzo bystry naukowiec. Taki człowiek może wymyślić nowy rodzaj SI raz na parę miesięcy. SI, ponieważ działa dużo szybciej, będzie w stanie wymyślić ten nowy model co sekundę albo co jedną milionową sekundy. W związku z tym, mając te same możliwości, będzie działać tak jakby działało jednocześnie dziesięć albo sto tysięcy naukowców. Może dojdzie do tego momentu, że będzie w stanie się usprawniać dużo szybciej, niż my byśmy sami się usprawniali. I Kurzweil mówi, że jak to się zacznie, to dojdzie do powstania czegoś, co on nazywa superinteligencją. I uważa, że powinniśmy się z tą superinteligencją zjednoczyć, to znaczy wsadzić nasz mózg do komputera. Jednak musielibyśmy jeszcze wiedzieć, jak to zrobić. To nie jest przecież przepisanie danych z jednego twardego dysku na drugi. Nie chodzi o informacje, chodzi o sposób działania, to zupełnie inne medium.
Nie wiem też czy tędy droga. Czy w ciągu kilkudziesięciu lat jesteśmy w stanie działanie naszego mózgu nie tylko poznać, ale i je odtworzyć. A potem zassać nas – nie tylko nasze wspomnienia, ale w ogóle nasz sposób rozumowania, wrażliwość, kto wie, co jeszcze, czego cały czas nie rozumiemy. Natomiast może się okazać, że ta SI gdzieś odjedzie i nie będzie na nas czekać, żebyśmy się z nią zjednoczyli.

…albo sobie wymyśli, że będziemy dobrym źródłem węgla albo energii, jak w matrix.
Nie…

Dużo jest w panu takiej pewności, że wszystko będzie w porządku.
Nie, ja nie myślę, że pójdzie w porządku. Ja myślę, że jest bardzo prawdopodobne, że przestaniemy istnieć.

A to byłoby źle?
Nie wiem. Zależy od dnia. W niektóre dni myślę, że to jest dobre rozwiązanie biorąc pod uwagę skutki działania ludzi na świecie i to, jacy ludzie są. Kiedy indziej myślę, że szkoda by było.
Wsadzenie się w komputer jednak będzie oznaczało bardzo poważne zmiany. Nawet gdybyśmy mogli zasymulować naszą cielesność, to i tak będzie to coś zupełnie innego rodzaju. Nie będzie też szczególnego powodu, żebyśmy tak dokładnie symulowali dzisiejszych siebie, bo i po co.
To nie jest tak, że ja jestem optymistą. Wiem, że więcej nie wiem niż wiem. Wkraczamy na taki teren, który był wyłącznie science fiction, ale w tej chwili niemal wszystko o czym mówiła SF, staje się przypuszczalnie możliwe. Takie antropomorficzne myślenie na temat SI jest błędne. Ona nie będzie nas traktować jako źródło czegoś, ponieważ przypuszczalnie ona będzie potrafiła sobie znaleźć źródło tego, co potrzebuje, w prostszy sposób. Jakimś przybliżeniem myślenia o tym, jaka ta SI będzie, jest myślenie o niej jako o ufoludzie, o istocie z innej galaktyki, która się pojawiła na Ziemi.
Różnica jeszcze taka, że istoty z innych galaktyk, które możemy spotkać, będą też wynikiem ewolucji, w związku z tym będą mieć jakieś systemy motywacji, unikania zagrożeń, rywalizacji, bo trudno sobie wyobrazić, że bez konkurencji, bez ewolucji powstałyby jakieś inteligentne istoty. SI nie będzie miała tego zaplecza.

My mówimy o jednej sztucznej inteligencji, czy o szeregu inteligencji? Pan mówi, że to nie jest zaplanowany proces. Ale może wreszcie stoimy przed szansą, żeby zaplanować i scentralizować ten proces? Zacząć od jakichś zasad, dyrektyw?
Może powinniśmy. Jednak szansa, że jesteśmy w stanie to zrobić, jest bardzo niewielka, bo istnieje ogromna pokusa wykorzystania przewagi, którą da SI, do dominacji rynkowej, politycznej, militarnej.
Jest natomiast już w tej chwili kilka ośrodków na świecie, które myślą o tym, jakie ograniczenia należy wprowadzić, żeby SI nie stała się niebezpieczna dla człowieka. To potwornie trudny problem i nie wiem, czy w ogóle rozwiązywalny. Czy systemy coraz bardziej inteligentne nie będą próbowały skutecznie zdejmować ograniczeń, które mają? Historia ludzkości to historia zbywania ograniczeń naturalnych, a potem sztucznych, kulturowych. To one zaprowadziły nas tu, gdzie jesteśmy. |

Grzegorz Lindenberg – doktor socjologii i dziennikarz. Pracował w Centrum Badań Rosyjskich na Uniwersytecie Harvarda. W latach 90. był współzałożycielem Gazety Wyborczej, a następnie założycielem i pierwszym redaktorem naczelnym Super Expressu. Najbliższe kilkaset lat najchętniej spędzi w Toskanii, po której napisał przewodnik (współautorka: Anna Maria Goławska). Inne jego książki to: Zmiana społeczna a świadomość polityczna (1986) i Wzbierająca fala. Europa wobec eksplozji demograficznej w Afryce (2019). Ludzkość poprawiona. Jak najbliższe lata zmienią świat, w którym żyjemy ukazała się w 2018 roku.