Nadchodząca fala

Nadchodząca fala to ubiegłoroczny wydawniczy hit, na najgorętszy temat roku, czyli sztucznej inteligencji. Książkę rekomenduje wiele światowych autorytetów, takich jak Al Gore, Anne Applebaum, Eric Schmidt, Daniel Kahneman. Wśród nich jest wiele specjalistów zajmujących się sztuczną inteligencją w centrach badawczych i uczelniach. Kiedy ta książka ukazała się wreszcie w Polsce, przez bookmedia oczywiście przetoczyła się fala, sic!, recek, z których dużo było mocno krytycznych. Co było o tyle dziwne, że opinie influencerów zazwyczaj obfitują w ohy i ahy, a wszystkie reportaże ze Szczelin zbierały do tej pory bardzo dobre oceny. Czytałam, że autor sam pracował nad AI, a zatem nie można mu ufać, że „leje wodę”, że gra na emocjach i straszy. Oraz tradycyjnie “nie dowiedzał*m się niczego nowego”. Jako, że temat jest bardzo ważny, postanowiłam odnieść się w swojej opinii nie tylko do samej książki, ale i do powyższych zarzutów. 

 
Kilka słów o autorze: Mustafa Suleyman to przedsiębiorca z branży IT, współzałożyciel firmy DeepMind, którą potem przejął Google. Suleyman pracował w Google, a obecnie jest dyrektorem Microsoft AI. Zatem szycha.

Zacznijmy od tego, czy jest to książka "dla początkujących". Co samo w sobie nie jest rzecz jasna wadą, tylko że zdziwiło mnie takie podejście do Nadchodzącej fali. Z moich obserwacji wynika, że większość społeczeństwa jednak ma bardzo słabą wiedzę o AI. Sztuczna inteligencja przez wiele lat była idee fixe naukowców, problemem, z którym nie można było sobie poradzić. Ale w ciągu ostatnich lat nastąpił przełom, a droga do świata zdominowanego przez AI stoi otworem. Wielu ludziom jednak ciągle się wydaje, że jest to kwestia dalekiej przyszłości. Że nas to nie dotyczy. Podczas kiedy nad AI debatują naukowcy i parlament europejski, polscy internauci są na etapie, że AI to “tylko narzędzie” albo zabawka do generowania tekstów i grafik. Nie wierzymy nawet, że AI zabierze nam pracę, a klasycznym argumentem jest to, że tak było już w przeszłości, ale rewolucja przemysłowa stworzyła nowe miejsca pracy...  LINK  A tu nagle okazuje się, że czytelnicy tej książki już „wszystko wiedzą”. Czyżby? Także w recenzjach pojawiły się owe kontrargumenty, że ta AI to tak naprawdę niewiele potrafi, żywcem zobrazowane przez ten tekst:

Infantylny czatbot OpenAI pozwolił oswoić się społeczeństwu w skali globalnej z myślą, co potrafi i może potrafić AI. Że sztuczna inteligencja to nie eksperymenty z czipami w mózgach i tworzenie potencjalnie niebezpiecznych robotów, lecz coś, co może pozwolić zabić czas, wspomóc w rozwiązaniu problemu, albo napisać coś głupiego, co sprawi, że zwątpisz w realne zagrożenie, jakie może przynieść za sobą ta technologia.*

Być może wynika to z tego, że po pozycję tę sięgnęli ci, którzy są już wkręceni w temat, ale nawet w tym przypadku nie zgadzam się, że to, co na temat AI pisze Suleyman to są informacje dla początkujących – autor nie omawia przecież podstaw działania tej technologii, ale dotyka dalszego jej rozwoju, przyszłych jej zastosowań i zagrożeń z tego płynących. Na przykład możliwości tworzenia nowych, sztucznych patogenów i toksycznych substancji, dostępu do broni, czy upadku państw. Stawia nas to przed potężnym dylematem: prędzej czy później potężna technologia nowej generacji narazi ludzkość na katastrofalne lub dystopijne konsekwencje. Mam rozumieć, że dla bookinfluencerów są to do znudzenia powtarzane wątki  i że – z tego tytułu – nie warto o nich pisać, o przejmowaniu się nimi nie wspomnę? Zamiarem autora było przestrzec ludzi, mających tendencję do [właśnie takiego] bagatelizowania zagrożeń. Poza tym nawet jeśli wydaje ci się, że wszyscy wiedzą to, co wiesz ty, to pamiętaj, że żyjesz w bańce i najprawdopodobniej jest to złudzenie. Ja mam raczej poczucie, że osoby nie mające podstaw na temat AI niewiele z wywodów Suleymana zrozumieją – jak ta czytelniczka z pretensjami, że skoro pisze o przyszłości, to czemu nie przewidział pandemii COVID-19…

 
Co na to AI?

Książka rozpoczyna się od historycznego kontekstu, przypominając nam o falach zmian, które przetoczyły się przez ludzkość. Sulejman wskazuje na AI jako na kolejną wielką falę, która ma potencjał zmienić wszystko, co znamy. Przytacza przykłady z historii, jak wynalezienie koła czy prądu, i stawia je obok współczesnych osiągnięć, takich jak Chat GPT czy technologie deepfake.
Autor nie unika trudnych tematów. Porusza kwestię dualności AI, która może być zarówno nadzieją na lepszą przyszłość, jak i narzędziem służącym do manipulacji i kontroli. Sulejman ostrzega przed tsunami technologicznym, które może przynieść nie tylko postęp, ale i chaos.

Fakt, że dla osób jako tako obeznanych z historią, ogólne informacje o technologii czy kluczowych dla naszej cywilizacji wynalazkach nie będą niczym nowym. Gratuluję jednak tym, którzy wiedzą wszystko to, co na temat AI pisze autor, gdyż ja czytając to pomyślałam sobie, że wiem, że nic nie wiem. Suleyman być może zaczyna od wynalezienia koła (i to dosłownie), pokazując przykłady postępu technologicznego w historii ludzkości, w postaci tytułowych „fal”, by następnie zarzucić czytelnika wręcz oszałamiającymi możliwościami, jakie niesie ze sobą nie tylko AI, ale i rozwój komputerów kwantowych czy syntetycznej biologii. Pokazuje implikacje AI jako technologii uniwersalnej, powszechnie dostępnej i samodoskonalącej się. Prorokuje, że tym razem fala będzie gwałtowniejsza i szybsza, niż wszystkie poprzednie. Przestrzega, i to nie tylko przed utratą pracy albo dezinformacją, lecz wręcz przed upadkiem obecnego ładu geopolitycznego (i to nawet bez pomocy AGI). Suleyman zwraca uwagę na postępujący spadek zaufania do instytucji i rządów, za czym stoi poczucie ludzi, że świat idzie w złym kierunku: Kiedy ludzie czują, że utknęli w martwym punkcie, a inni niesprawiedliwie nabijają sobie kabzy, wpadają w złość. Technologie tylko podsycają te nastroje. Paradoks polega na tym, że obecny rozwój AI jest w dużej mierze napędzany przez rywalizację między państwami, gdy tymczasem może to doprowadzić do rozpadu tradycyjnych narodowych struktur. Autor potwierdza, że są ludzie w branży technologicznej (bez nazwisk), którym marzy się taki scenariusz - dla nich to ekscytująca perspektywa. Dla zwykłych zjadaczy chleba, cóż, to byłaby katastrofa. Inną opcją jest technodyktatura: potencjalni dyktatorzy już zacierają ręce na możliwości niesione przez AI. Technologia miała zatem nas uwolnić, sprawić, że nasze życie będzie lepsze, a wiele wskazuje, że zmierzamy we wręcz odwrotnym kierunku. Czyli miało być pięknie, wyszło jak zawsze. Suleyman sam przyznaje, że uwielbia technologię, ale czy to musi oznaczać, że nie stawiamy jej żadnych granic, bezrefleksyjnie akceptujemy i pozwalamy na wszystko, co tylko z jej pomocą da się zrobić? 

Tocząca się dziś debata nad etyką i bezpieczeństwem technologii pozostawia wiele do życzenia.

Procesy, o których pisze autor, takie jak słabnięcie demokracji, duża polaryzacja ludzi, już możemy na świecie obserwować. Zasadniczo trudno podważyć tok myślenia Suleymana i odmówić mu racji w ostrzeganiu przed ryzykami. We wskazywaniu zagrożeń, związanych z AI, też nie jest ani pierwszy, ani odosobniony – czyni to wielu jego kolegów po fachu, naukowców, badaczy np. Max Tegmark, Kai-Fu Lee, Jan Leike. Czy autor roni krokodyle łzy, a tak naprawdę wrzuca kamyczek do swojego ogródka? Suleyman wyraźnie stwierdza, że naukowcy nie mogą się uchylać od odpowiedzialności za to, co stworzyli. Moim zdaniem to, że o zagrożeniach mówi ktoś, kto widzi problem od środka, praktyk, a nie teoretyk, wzmacnia jego wiarygodność. Zwłaszcza, że przedstawione pod koniec książki strategie zaradcze wyglądają sensownie – może są one mało spektakularne, ale za to w miarę realistyczne. Nie ma we mnie zgody na skreślanie, rodem z kultury unieważniania, dobrych rozwiązań tylko dlatego, że coś nam nie pasuje w osobie, która je proponuje. Fakt, w całej tej narracji nie ma krytyki Big Techów, ale też nie ma lobbingu na ich rzecz. Bardzo spodobał mi się komentarz do jednej z negatywnych opinii, zamieszczonych na GR:

Now it turns out that the technology experts who are actually making things happen don't have the "right perspective"...

(I wonder where are the sources, which must come from the future, to say that the book's predictions are wrong...). :D

Można rzecz jasna się klasycznie czepiać, że technologia nie jest jakimś odrębnym bytem i że to nie ona stanowi problem, lecz ludzie, ale byłoby to dzielenie włosa na czworo. Wiadomo, że chodzi nie o powstrzymanie technologii, ale ludzi właśnie przed niewłaściwym jej wykorzystywaniem. Problem tkwi w tym, że jest to książka stwarzająca odbiorcy psychologiczną barierę. Mianowicie autor głosi niewygodne prawdy, trudne do przyjęcia dla większości. Nie da się ukryć, iż w tej narracji tkwi nie tylko technopesymizm, ale też pesymizm w stosunku do rodzaju ludzkiego - zwątpienie, że sobie z tym poradzimy i że może nie jesteśmy aż tak źli, by zacząć się od razu mordować i rozwalać wszystko, dostawszy do rąk nowe zabawki. Tymczasem dystopie są fajne, pod warunkiem, że pozostają w sferze fikcji. Jaramy się katastrofami i aferami - pod warunkiem, że nie dotyczą nas. Proroków zagłady natomiast nie lubimy, Kasandry też nikt nie chciał słuchać. Awersja do pesymizmu - do tego Suleyman się również odnosi i to właśnie ona skłoniła go do napisania tej książki. Niektóre scenariusze rodem z Black Mirror dzieją się już, na naszych oczach, a my nadal uważamy, że to nic takiego. Co gorsza decydenci także mają skłonności do chowania głowy w piasek. Identyczną sytuację mamy z katastrofą klimatyczną. Te dwa zjawiska łączy również to, że im więcej o nich wiesz, tym bardziej się martwisz, a optymizm świadczy raczej o ignorancji. Moi koledzy z bloga technologicznego na poważnie zastanawiają się, jak długo jeszcze będą mieli pracę, zanim trzeba będzie zgasić światło i czy czeka nas bycie li tylko dostarczycielami kontentu dla AI, niczym w Matrixie? Ja też się martwię, bo zaczynam czuć się niepotrzebna. Na co komu moje teksty, skoro nikomu nie chce się już czytać (bo mamy przesyt treściami), tylko szukamy streszczeń albo śmieciowego kontentu? Pewnie materiały stworzone przez człowieka będą teraz jakimiś materiałami premium, podczas gdy w standardzie będziemy dostawać papkę wygenerowaną przez AI? Specjaliści biją więc na alarm, politycy latami obradują, a na to ludzie: oj tam, oj tam, jakoś to będzie, nie mam na to czasu. Dzieje się tak, gdyż nie jesteśmy w stanie zaakceptować faktów, jeśli drastycznie odbiegają one od naszej wizji świata. Nic dziwnego, że katastroficzna narracja Nadchodzącej fali irytuje czytelników, rodzi opór, a nawet złość, myśli, że autor przesadza, dokładnie tak, jak to miało miejsce w przypadku decydentów, opisanych przez autora. Przeglądając opinie nietrudno znaleźć identyczne zdania:

Znajdą się tacy, którzy stwierdzą, że to wszystko przesada. (...) Że to tylko klasyczny przykład rozdmuchania tematu i nadmiernych oczekiwań. (...) Że mój pogląd na ludzką naturę jest zbyt pesymistyczny. Że jak dotąd ludzkość nieźle sobie radziła. Że w historii nie brakuje fałszywych proroków i katastrofistów, których czarne wizje się nie spełniły. Dlaczego tym razem miałoby być inaczej?

Jeśli nawet jakoś przełkniemy czarnowidztwo zawarte w książce, to wywołuje to w nas bezsilność i bezbronność. Bo co niby można z taką wiedzą zrobić? Po takiej dawce pesymizmu, jaką serwuje Suleyman, każda strategia zaradcza wydaje się niewystarczająca. W pewnym momencie ma się już po prostu dość tych czarnych scenariuszy - OK, kumam, AI to zło - myśli sobie czytelnik - przejdźmy dalej. Tyle, że żeby zacząć działać, trzeba najpierw przyjąć te bolesne fakty do wiadomości. 

Fala – synonimy: Lawina, trend, nawał, nawałnica, napór, zalew, potop

Drugą barierą jest – i tu zgadzam się z krytykami – niezbyt “zgrabny” styl tej publikacji. Użyty język jest często zbyt techniczny, wiele fragmentów jest nazbyt ogólnej, teoretycznej natury, być może szwankuje też tłumaczenie, bo są tu niezręczne sformułowania, które w przekładzie można by naprostować. Wkrada się tu sporo chaosu i prawdą jest, że autor się powtarza, zarówno pisząc o konkretnych problemach, jak i językowo – stąd wrażenie wodolejstwa. No, złośliwie mówiąc, tekst momentami przypomina okrągłe zdania z ChataGPT… Wreszcie nie da się ukryć, że tej fali jest tu za dużo - nigdy jeszcze nie czytałam książki, w której jedno słowo byłoby powtórzone aż tyle razy. Synonimy może nie są tak zręczne, ale tekst trzeba jakoś różnicować. Jest to kwestia semantyki, która nie powinna przesłaniać merytoryki, ale niestety może to utrudnić czytanie tej książki ze zrozumieniem i moim zdaniem tak właśnie się stało, skoro sporo opinii koncentruje się właśnie na stylu Nadchodzącej fali. Zabrakło sensownej edycji, współautor - pisarz - tego nie udźwignął. Pewnie przyczyna leży w wyścigu z czasem, by książkę opublikować kiedy temat AI jest na topie i by nie straciła ona na aktualności.

Nie znaczy to, że nie mam do Nadchodzącej fali też kilku uwag merytorycznych. Miałam problem z przedstawieniem technologii, typowym dla kapitalizmu, przemysłu, nauki, a nie uwzględniającym zbytnio perspektywy zwykłego człowieka. Porównywanie dzisiejszego życia do życia sprzed 200 czy nawet 500 lat (by pokazać, że dziś jest lepiej) jest jakimś nieporozumieniem. Prawdą jest, że technologia pozwoliła nam na rozwój i na podniesienie poziomu życia, bezprecedensowe w przeciągu ostatnich 100 lat, ale jednocześnie przekroczyliśmy wiele barier wytrzymałości naszej planety, niekoniecznie w pogoni za lepszym życiem, tylko za zyskiem. Zresztą kwestia wpływu rozwoju AI na środowisko jest tu w ogóle nieporuszona. Zmiany postępują dziś za szybko w stosunku zdolności ludzi do przystosowania się do nich - dawniej człowiek przez całe życie korzystał mniej więcej z tych samych narzędzi, dziś ciągle musimy uczyć się czegoś nowego i to w coraz szybszym tempie. Nie każdy nadąża. Nie jest prawdą, że ludzie tego wszystkiego potrzebują: wiele potrzeb zostaje sztucznie wykreowanych (jak media społecznościowe), a z biegiem czasu staje się swoją własną karykaturą, kiedy chęć zysku korporacji (a czasem i użytkowników) przekracza rozsądną miarę. Często jest wręcz tak, że źle zaprojektowane lub nieudolnie wdrażane technologie bardziej utrudniają, niż ułatwiają życie. Te technologie są nam często narzucane, a my nie mamy większego wyboru, jak z nich korzystać, bo jak nie korzystasz, to stajesz się wykluczony. A korzystasz nie na własnych warunkach, lecz na warunkach korporacji. Nie wszyscy jednak chcą korzystać, z różnych powodów, niekoniecznie zacofania cyfrowego**  Ludzie są tym zmęczeni. Cierpimy na technostres, a badania pokazują, że sceptycyzm i strach przed AI rośnie. Nic dziwnego, skoro technologie są już tak skomplikowane, że zwykły człowiek ich nie rozumie, a co za tym idzie – nie odróżnia od magii, jak trafnie zauważył Arthur Clarke. Stąd odwrót od nauki, wiara w różne teorie spiskowe i romantyzowanie przeszłości. I prawdopodobnie tego też boi się branża technologiczna – o czym Suleyman tylko bardzo oględnie wzmiankuje:

Na końcowym slajdzie pokazałem kadr z Simpsonów. W prezentowanej scence mieszkańcy Springfield wzniecili bunt i czereda uzbrojonych postaci wszczyna rozruchy. Mimo, że przekaz nie wymagał komentarza, oznajmiłem: "Nadchodzą ludzie z widłami". A idą po nas, twórców technologii. To my musimy sprawić, by w przyszłości nie trzeba było oglądać takich obrazków.

Oczywiście luddystom nie udało się wygrać z uprzemysłowieniem, tym niemniej Suleyman popełnia klasyczne uproszczenie, pisząc, że luddyści w XIX "walczyli" z maszynami. Nie, oni walczyli z właścicielami fabryk, którzy wykorzystywali siłę roboczą, która w owym czasie nie miała żadnych praw. I o to samo musimy walczyć my dzisiaj. O to, by technologie pomagały i służyły ludziom, a nie ich zastępowały, a zysk z nich płynął tylko do wąskiej grupy ludzi.

Poważnym mankamentem (na który o dziwo nikt nie zwraca uwagi) jest brak źródeł niektórych danych, np. “od początku XXI wieku globalne zużycie energii wzrosło o 45%”. Niektóre z tych danych są niezbyt wiarygodne np. niezbyt wierzę w przewidywania, że do 2027 roku większość energii pozyskiwana będzie ze źródeł odnawialnych - póki co się na to nie zanosi. Na końcu książki są wprawdzie przypisy, ale brak do nich odnośników w tekście - pierwszy raz z czymś takim się spotkałam. Trzeba jednak zaznaczyć, że te zastrzeżenia mam głównie do tych części tekstu, gdzie Suleyman pisze o kwestiach spoza swojej działki - przecież autor nie jest historykiem, politologiem czy klimatologiem.

Reasumując: czytając Nadchodzącą falę, miałam rozdwojenie jaźni: z jednej strony autor pisze o rozprzestrzeniających się technologiach, w tym o AI, jako o czymś nieuniknionym. Historia pokazuje, że idei nigdy nie udaje się zatrzymać. Dodatkowo te technologie są nam niezbędne, by poradzić sobie z wieloma współczesnymi problemami, zrodzonymi z … postępu. Z drugiej strony przestrzega on przed nadciągającym bezprecedensowym zagrożeniem - hur durr, grozi nam niebezpieczeństwo, ratuj się kto może - i postuluje, że ową “nadciągającą falę” powinniśmy jakoś powstrzymać, by móc ją kontrolować. Przy czym sam przyznaje, że będzie to bardzo trudne, jeśli nie niewykonalne, a właściwa ścieżka wąska i ciernista. Tym niemniej trzeba próbować.

Technologia to wiecznie kusząca perspektywa nagrody, podpowiadajaca, że można więcej, lepiej, łatwiej, taniej. Nasz apetyt na wynalazki nie zna granic. (...) Ludzie niejeden raz mówili “nie, dziękuję”, z mnóstwa powodów pragnęli powściągnięcia takiej czy innej technologii, lecz ich działania na ogół okazywały się niewystarczające.

Książka ta mnie wymęczyła; czytałam ją tydzień, przeczytałam opinie i napisałam trzy wersje recenzji. Nie jest to książka bez mankamentów, ale moim zdaniem te mankamenty nie powinny przysłonić nam istotności tematu oraz przesłania. Ostrzeżeń autora nie można bagatelizować, nawet jeśli uważamy, że niektóre z nich są błędne: odwracanie wzroku od tego, co się dzieje, jest bardziej niebezpieczne niż nadmiar spekulacji. A pozycję warto przeczytać, by wyrobić sobie o niej własne zdanie.

Metryczka:
Gatunek: popularnonaukowa

Główny temat: rozwój sztucznej inteligencji

Miejsce akcji: -

Czas akcji: współcześnie

Ilość stron: 500

Moja ocena: 4,5/6

 

Mustafa Suleyman, Michael Bhaskar, Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku, Wydawnictwo Szczeliny, 2024

Ps. Kocham okładkę tej książki z efektem zorzy polarnej 

*ten cytat nie pochodzi z Nadchodzącej fali, ale bardzo przepraszam autora, gdyż wynotowałam go sobie z czegoś i nie zapisałam z czego... 

**polecam ciekawy artykuł o odmowie implementacji AI