Sztuczna inteligencja mogłaby służyć np. do automatyzacji recenzji naukowych, by odciążyć uczonych od „punktozy” i przywrócić im czas na prawdziwą eksplorację. Ale to wymagałoby radykalnej zmiany systemu grantowego i oceny dorobku. Niestety, obecnie AI często wzmacnia negatywne trendy: optymalizuje klikalność, nie jakość; generuje przeciętność na skalę przemysłową. Jeśli nie zatrzymamy tej spirali, nauka stanie się „maszynką do produkcji PDF-ów”, a nie źródłem odkryć – to głos, który coraz wyraźniej płynie ze strony środowiska naukowego.

Inżynierowie AI nie odpowiadają za skutki społeczne swoich wynalazków, a humaniści nie rozumieją, jak działa kod.

Prof. Zybertowicz zachęca: „Odetnijmy tlen techno-entuzjastom”.

W auli Akademii Nauk Stosowanych im. S. Batorego w Skierniewicach mieszkańcy wysłuchali (12.03) wykładu prof. Andrzeja Zybertowicza, socjologa znanego z krytycznego spojrzenia na rewolucję cyfrową. Spotkanie, zorganizowane przez posła Pawła Sałka, stało się areną gorącej debaty o wpływie sztucznej inteligencji (AI) na naszą przyszłość.
Czy czeka nas technologiczny raj, czy cywilizacyjna katastrofa? Na to pytanie próbował odpowiedzieć profesor, rozpoczynając prowokacyjnie:       

Czy komuś z Państwa śniła się ostatnio sztuczna inteligencja?"

Prof. Zybertowicz od początku podważył optymistyczne wizje AI jako panaceum na problemy ludzkości. Podkreślił, że mamy do czynienia z postępem technologicznym, ale niekoniecznie cywilizacyjnym. Jego argumentacja opierała się na kilku filarach:

Profesor odwołał się do badań wskazujących na spadek liczby przełomowych odkryć naukowych w ostatnich dekadach, pomimo lawinowego wzrostu liczby publikacji. Ten trend, jego zdaniem, wynika z nadmiernego skupienia na ilości, a nie jakości badań.

Rewolucja cyfrowa wyrządziła więcej szkód niż korzyści. Doprowadziła do przeciążenia poznawczego, spadku jakości nauki i atomizacji wspólnot."

Skrytykował system oceny naukowców, który promuje publikowanie dużej ilości artykułów (często niskiej jakości) w celu zdobycia punktów i grantów. Ten "wyścig szczurów", jego zdaniem, zabija kreatywność i pogłębianie wiedzy.

Profesor wskazał na trzy rodzaje oddziaływania AI na świat - upowszechnienie Chat GPT i LLM2, smartfony, które stały się oknem na świat i algorytmy w tle, które zarządzają mediami społecznościowymi.

Profesor zwrócił uwagę na deformujący wpływ algorytmów mediów społecznościowych na komunikację publiczną. Podkreślił, że algorytmy faworyzują treści sensacyjne, często nieprawdziwe lub skandaliczne, ponieważ generują one większe zaangażowanie użytkowników.

Informacje skandalizujące, często nieprawdziwe, ekscytujące były bardziej promowane od informacji spokojnych, rzeczowych (...).
władcy mediów społecznościowych chcą, żeby ludzie jak najwięcej czasu spędzali przed reklamą, a wtedy mogą wyświetlać się reklamy i zarobić."

Spłycone, ale ekscytujące informacje docierają do szerszego grona odbiorców niż treści wyważone i pogłębione. Ta sytuacja, zdaniem profesora, prowadzi do deformacji debaty publicznej i politycznej.

Prof. Zybertowicz zakwestionował powszechne przekonanie o AI jako bezwarunkowym postępie. Argumentował, że choć mamy do czynienia z imponującym rozwojem technologicznym, niekoniecznie przekłada się to na korzyści dla cywilizacji. Wręcz przeciwnie, wskazał na szereg zagrożeń, które niesie ze sobą gwałtowny rozwój AI.

Jednym z kluczowych problemów, na które zwrócił uwagę Andrzej Zybertowicz, jest deformacja komunikacji publicznej przez algorytmy mediów społecznościowych. Mechanizmy te, dążąc do maksymalizacji zaangażowania użytkowników, promują treści sensacyjne, często nieprawdziwe, kosztem rzetelnych informacji. W konsekwencji, dezinformacja rozprzestrzenia się szybciej niż prawda, a autorytety, które opierają się na wiedzy i doświadczeniu, tracą na znaczeniu.

Najbardziej kontrowersyjną częścią wykładu była analiza wpływu technologii na najmłodsze pokolenie. Prof. Zybertowicz użył mocnego sformułowania, nazywając dzieci "małymi diabłami", aby zilustrować siłę oddziaływania algorytmów na ich psychikę i zachowanie.

Niewinne dzieci wpływają na społeczeństwo, nie wychodząc z telefonów, pracują dla biznesu, o którym nie mają pojęcia."

Profesor argumentował, że smartfony i aplikacje (np. TikTok, gry) przejmują kontrolę nad uwagą dzieci, wypierając tradycyjne źródła wiedzy i wartości (rodzina, szkoła, kultura).

Młodzi ludzie spędzają coraz więcej czasu w wirtualnych światach, oddalając się od realnych relacji i lokalnej społeczności. Formują swoją tożsamość w oparciu o globalne subkultury i komercyjne wzorce, często kosztem tradycyjnych wartości i więzi rodzinnych.

«Dzieci nie są już ludźmi – są produktem korporacyjnej inżynierii behawioralnej» – tak drastyczną tezę postawił prof. Zybertowicz podczas wykładu w Skierniewicach. Analizując dane o spadku kompetencji poznawczych i fragmentacji tożsamości, dowiódł, że algorytmy TikTok czy Instagrama tworzą «cyfrowe zombie». Czy ratunkiem jest zakaz smartfonów w szkołach?

Profesor argumentował, że smartfony i aplikacje przejmują kontrolę nad uwagą dzieci, wypierając tradycyjne źródła wiedzy i wartości. Dzieci stają się podatne na komercyjne bodźce i manipulacje.

W tym kontekście prof. Zybertowicz postawił pytanie o przyszłość polskiej kultury, odwołując się do słów Adama Mickiewicza: "Czy pieśń ujdzie cało?". Wyraził obawę, że tradycyjne wartości i wzorce kulturowe zostaną wyparte przez globalną, zunifikowaną kulturę cyfrową.

Profesor zwrócił uwagę na jeszcze jedno, niepokojące zjawisko: utratę ludzkiej intuicji w dobie wszechobecnej sztucznej inteligencji. Zamiast polegać na własnym osądzie i doświadczeniu, coraz częściej polegamy na algorytmach, które podejmują decyzje za nas. W ten sposób tracimy zdolność do samodzielnego myślenia i krytycznej analizy rzeczywistości.

W swoim wystąpieniu prof. Zybertowicz zaapelował o poważną refleksję nad konsekwencjami rewolucji cyfrowej i podjęcie konkretnych działań, które pozwolą nam odzyskać kontrolę nad technologią. Mówił o potrzebie kształtowania umiejętności krytycznego myślenia i analizy informacji, aby uodpornić społeczeństwo na dezinformację i manipulację. Ważnym orężem w walce o człowieka jest kultura, która buduje tożsamość i wzmacnia więzi społeczne.

Smartfony i AI przekształcają ludzką psychikę. Badania wskazują, że średni czas skupienia współczesnego człowieka (8 sekund) jest krótszy niż u złotej rybki (9 sekund).

Prof. Zybertowicz, podobnie jak Demis Hassabis (współzałożyciel DeepMind), wezwał do pilnego wprowadzenia międzynarodowych regulacji dotyczących sztucznej inteligencji. Argumentował, że bez odpowiednich mechanizmów kontrolnych AI może wymknąć się spod kontroli i doprowadzić do katastrofy cywilizacyjnej.

Nie mamy już czasu na debaty. Jeśli nie stworzymy instytucji na miarę Międzynarodowej Agencji Energii Atomowej, AI wymknie się spod kontroli, prowadząc do katastrofy cywilizacyjnej."

Spotkanie z prof. Zybertowiczem w Skierniewicach było poważnym ostrzeżeniem przed negatywnymi konsekwencjami rewolucji cyfrowej. Gość przedstawił pesymistyczną, ale prowokującą do myślenia wizję przyszłości, w której sztuczna inteligencja, zamiast służyć ludzkości, przyczynia się do jej degradacji. Czy jesteśmy w stanie odwrócić ten trend? Czy uda nam się odzyskać kontrolę nad algorytmami i wykorzystać AI w sposób odpowiedzialny i etyczny? Na te pytania, jak sam profesor przyznał, nie ma łatwych odpowiedzi, ale dyskusja o nich jest niezbędna dla naszej przyszłości.
Prof. Andrzej Zybertowicz jest znanym socjologiem, specjalizującym się w problematyce bezpieczeństwa, transformacji systemowej i wpływu technologii na społeczeństwo. Jest autorem wielu publikacji naukowych i publicystycznych.

Pole minowe AI: Czy ludzkość przetrwa własną rewolucję?

Szansa na przejście przez rozwój AI bez «urwania sobie nogi» wynosi 1:1000 – tak drastyczną metaforą prof. Andrzej Zybertowicz ilustruje skalę zagrożeń. W rozmowie z portalem eglos.pl wskazuje na paradoks: im potężniejsze algorytmy, tym słabsze ludzkie funkcje poznawcze. Czy Nobel dla AI będzie równoznaczny z końcem nauki? I dlaczego Hassabis postuluje międzynarodowy nadzór nad sztuczną inteligencją?

Panie profesorze, sztuczna inteligencja to z pewnością ogromny postęp cywilizacyjny, ale Pan ostrzega przed tym rozwojem jako poważnym zagrożeniem dla ludzi.
Nie zgadzam się z tezą, że to jest postęp cywilizacyjny. To jest postęp technologiczny – nowa technologia umożliwiająca działania niedostępne wcześniej dla ludzkości. Moim zdaniem cała rewolucja cyfrowa wyrządziła ludzkiej cywilizacji więcej szkód niż korzyści. Doprowadziliśmy ją na krawędź zagrożeń. Problem ze sztuczną inteligencją polega na tym, że to potężne narzędzie, które wkrótce stanie się jeszcze silniejsze. Może być wykorzystywane do dobrych celów, jak diagnostyka medyczna czy optymalizacja przesyłu energii, ale gdy AI przekracza ludzkie możliwości poznawcze, ryzyko wymknięcia się spod kontroli rośnie wykładniczo. Według moich oszacowań szansa na przejście przez tę fazę bez katastrofy wynosi 1 do 1 000. Rozwijam tę diagnozę w książkach Cyber Contra Real oraz AI Exploration.

Czy pańskim zdaniem jest możliwość na poziomie globalnym regulacji prawnej AI?
Możliwość zawsze zależy od woli politycznej. Warto odwołać się do autorytetu Demisa Hassabisa, współzałożyciela DeepMind, który stworzył systemy AI pokonujące mistrzów gry w Go. [przyp. red.: Demis Hassabis nie jest noblistą; być może chodzi o metaforę lub inną nagrodę]. Hassabis postuluje powołanie międzynarodowych instytucji regulacyjnych, analogicznych do Międzynarodowej Agencji Energii Atomowej. Jesteśmy o krok od momentu, w którym AI może wymknąć się spod kontroli, prowadząc do katastrofy cywilizacyjnej.

A co z Noblem dla sztucznej inteligencji?
Jak dotąd, żaden model AI nie dokonał samodzielnego odkrycia naukowego. Jeśli jednak pozna warstwy rzeczywistości niedostępne ludzkiemu umysłowi, Nobel dla AI stanie się koniecznością. Tymczasem rewolucja cyfrowa już dziś degraduje naukę: przeciążenie informacją, spadek jakości publikacji i „punktoza” [red.: gonitwa za wskaźnikami naukowymi] niszczą intelektualny postęp. Badania w „Nature” wskazują, że liczba przełomowych odkryć spada od 50 lat.
 

Czekamy na Państwa komentarze i głos w dyskusji. Najciekawsze wypowiedzi nagrodzimy książką autorstwa A. Zybertowicza.