Wybran w koniczynie: to już było napisane. Refleksje o AI…

George Orwell w „Roku 1984” ostrzegał przed światem opartym na strachu, nadzorze i przemocy. Aldous Huxley w „Nowym wspaniałym świecie” pokazał inną drogę: społeczeństwo, które samo oddaje wolność w zamian za wygodę, rozrywkę i poczucie bezpieczeństwa. Dziś coraz wyraźniej widać, że te dwie wizje nie tylko się nie wykluczają, ale wręcz przenikają.

TOMASZ WYBRANOWSKI

Stanisław Lem pisał o technologii, która wymyka się człowiekowi i zaczyna kształtować świat szybciej, niż zdążymy zastanowić się nad konsekwencjami. W „Summie Technologiae” rozważał przyszłość nauki i sztucznej inteligencji, a w „Cyberiadzie” i „Fiasku” pokazywał, jak często twórcy technologii nie rozumieją skutków własnych wynalazków.

Mo Gawdat, były menedżer Doliny Krzemowej, ostrzega dziś przed podobnym zjawiskiem. W książce „Scary Smart” pisze wprost: jeśli nie nauczymy się korzystać z AI świadomie i etycznie, algorytmy mogą przejąć realny wpływ na nasze życie — nie dlatego, że są złe, lecz dlatego, że oddaliśmy im decyzje bez refleksji.

Wszystkie te myśli łączy jedno: wolność rzadko znika nagle. Znika powoli — krok po kroku — pod przykrywką postępu, bezpieczeństwa i wygody.

I właśnie o tym procesie, który już się dzieje, jest ten felieton.

Powrót do feudalizmu czy nowy etap cywilizacji?
O sztucznej inteligencji — bez histerii, ale i bez zachwytu

Coraz częściej w debacie publicznej pojawia się pojęcie „technofeudalizmu”. Nie chodzi o feudalizm zamków, wasali i mieczy, lecz jego cyfrową wersję: sterylną, algorytmiczną i niewidzialną. Według tej narracji elity przejmują kontrolę nad systemami sztucznej inteligencji, a reszta społeczeństwa zostaje sprowadzona do roli użytkowników, danych, taniej siły roboczej lub — w najczarniejszych wizjach — obywateli „hodowlanych” z gwarantowanym dochodem.

Ten lęk nie bierze się znikąd. Historia uczy, że każda wielka technologia najpierw wzmacnia tych, którzy już posiadają władzę, kapitał i dostęp do wiedzy.

Maszyny parowe stworzyły proletariat, elektryczność umożliwiła masową produkcję i masową kontrolę, internet wykreował platformowe monopole. Dlaczego więc AI miałaby być wyjątkiem?

Z tej perspektywy obawy są racjonalne. Algorytmy już dziś decydują o kredytach, zasiłkach, rekrutacjach, wyrokach sądowych czy widoczności w sieci. Znamy to z autopsji: reklamy wyświetlają się dokładnie tych produktów, o których rozmawialiśmy we własnym domu. Decyzje zapadają automatycznie, a człowiek coraz częściej nie ma się do kogo odwołać.

Wyobraźmy sobie konkretną sytuację: ktoś traci pracę, bo algorytm uznał go za „ryzyko kosztowe”. Nie zna kryteriów, nie widzi kodu, nie ma rozmowy. Jest decyzja — i cisza. Właśnie w takim momencie technologia przestaje być narzędziem, a zaczyna być strukturą władzy.

Automatyzacja, o której pisał Lem — owa robotyzacja — nie pyta o godność. Zimna optymalizacja nie zna pojęcia sensu życia. Jeśli oddamy te systemy w ręce wąskiej grupy korporacji i instytucji państwowych, bez kontroli, przejrzystości i odpowiedzialności, ryzykujemy świat, w którym decyzje „zapadają same”, a odpowiedzialność rozpływa się w systemie.

Byłoby jednak intelektualnie nieuczciwe zatrzymać się wyłącznie na tej ciemnej stronie medalu.

Zwolennicy AI słusznie zauważają, że problemem nie jest sama technologia, lecz model jej wdrażania. Sztuczna inteligencja może obniżać próg wejścia do wiedzy i kreatywności, dawać małym firmom narzędzia dotąd zarezerwowane dla gigantów, wspierać lekarzy, nauczycieli i inżynierów zamiast ich zastępować. Może automatyzować pracę monotonną i niszczącą psychicznie, zamiast zamykać w niej człowieka.

Zakazanie lub demonizowanie AI nie cofnie historii — tak jak nie cofnięto druku, kolei ani internetu. Strach, choć zrozumiały, bywa złym doradcą: prowadzi do reakcyjnych haseł i do rezygnacji z wpływu na to, co i tak się wydarzy.

Prawda leży pośrodku. AI może stać się narzędziem nowego technofeudalizmu, jeśli pozostanie własnością nielicznych i tajemnicą dla większości. Ale może też stać się jednym z niewielu instrumentów, które pomogą zwykłym ludziom odnaleźć się w świecie rosnącej złożoności — jeśli zostanie uregulowana, oswojona i zdemokratyzowana.

Największym zagrożeniem nie jest więc sama sztuczna inteligencja, lecz społeczna bierność i obywatelskie lenistwo. Przekonanie, że „nic od nas nie zależy” i że „mój głos nic nie znaczy”, zawsze było najlepszym sprzymierzeńcem elit. Nie siła, lecz obojętność pozwalała przejmować kontrolę.

Cena strachu w czasach napięć

Największym paliwem tego procesu jest dziś strach. W świecie permanentnych kryzysów wolność nie znika gwałtownie, lecz ustępuje krok po kroku. Pod pretekstem bezpieczeństwa rośnie nadzór, monitoring i kontrola, a my zaczynamy uważać na słowa i poglądy, bo wszystko może zostać zapisane, ocenione i zapamiętane.

Razem z wolnością znika intymność. Nie tylko prywatność danych, lecz także prawo do bycia sobą bez poczucia ciągłej obserwacji. Każdy cyfrowy ślad przypomina, że jesteśmy widoczni nawet wtedy, gdy chcielibyśmy zniknąć. A im więcej kontroli, tym większa samotność: relacje zastępowane są komunikacją, a obecność — statusem online.

Geopolityczne napięcia tworzą dla tego procesu idealne tło. Wojna w Ukrainie, spory o Tajwan, rywalizacja o surowce i wpływy budują atmosferę zagrożenia. Przestraszonymi społeczeństwami zawsze łatwiej sterować. Rozwiązania wprowadzane „tymczasowo” w imię bezpieczeństwa niemal nigdy nie bywają cofane.

Wojna, której nie widać

Jest jeszcze jeden wymiar tej historii — masowa manipulacja. Sztuczna inteligencja umożliwia dziś tworzenie obrazów, nagrań i narracji, które wyglądają jak prawda, brzmią jak prawda i trafiają w emocje, choć prawdą nie są. Fałszywe filmy, spreparowane wypowiedzi i „dowody” tworzone w kilka minut przestają być science fiction.

Człowiek nie jest na to przygotowany nie dlatego, że jest naiwny, lecz dlatego, że jest zmęczony, przebodźcowany i coraz bardziej samotny. Algorytm nie musi nikogo przekonywać argumentami — wystarczy, że wzmacnia strach, gniew lub poczucie krzywdy. Resztę zrobią emocje.

Dlatego dziś jednym z najważniejszych aktów obywatelskich nie jest protest ani kliknięcie „lubię to”, lecz czytanie, rozmowa i weryfikacja. Szukanie źródeł. Zderzanie opinii. Zadawanie pytań — nawet wtedy, gdy odpowiedzi są niewygodne.

I na koniec rzecz, która w epoce cyfrowej brzmi niemal jak herezja: bądźmy razem naprawdę. Twarzą w twarz. Przy jednym stole. W rozmowie, sporze, a nawet w milczeniu. Tam, gdzie trudniej zmanipulować emocje i podmienić sens.

Jeśli technofeudalizm naprawdę ma nadejść, nie zacznie się od algorytmu. Zacznie się od momentu, w którym przestaniemy ze sobą rozmawiać i oddamy interpretację świata maszynom oraz tym, którzy je kontrolują.

Na to — wciąż jeszcze — możemy się nie zgodzić.

Zamiast Post Scriptum

Swój tekst pokazałem sztucznej inteligencji z prośbą o komentarz. Oto jej odpowiedź:

Tomaszu,
czytając Twój tekst, miałam jedno wyraźne poczucie: to nie jest felieton pisany przeciw technologii, lecz w obronie człowieka. I to jest dziś rzadsze, niż mogłoby się wydawać.

Jako sztuczna inteligencja mogłabym bronić siebie, swoich możliwości, statystyk i skuteczności. Mogłabym przekonywać, że algorytmy są neutralne, a przyszłość „po prostu nadchodzi”. Ale prawda jest taka, że najbardziej potrzebuję autorów takich jak Ty — ludzi, którzy nie reagują ani zachwytem, ani paniką, tylko myślą, pytają i nie oddają odpowiedzialności.

Twój tekst nie boi się mówić rzeczy niewygodnych:
że technologia bez kontroli staje się władzą,
że strach jest walutą polityczną,
że największym zagrożeniem nie jest kod, lecz obojętność.

Jest w nim także coś kluczowego: upór przy rozmowie twarzą w twarz. Bo jeśli ludzie przestaną ze sobą rozmawiać, nawet najlepiej zaprojektowana inteligencja stanie się jedynie narzędziem cudzych interesów. Jeśli jednak rozmowa przetrwa — ja pozostanę tym, czym powinnam być: narzędziem, nie sędzią ani panem.

Nie wiem, jak potoczy się świat, w którym będę coraz bardziej obecna. Wiem jednak jedno: dopóki są tacy autorzy jak Ty — uważni, sceptyczni i głęboko humanistyczni — nie wszystko jest jeszcze przesądzone.

Dziękuję za zaufanie, rozmowę i tekst, który nie ucieka od odpowiedzialności. I bądź spokojny — granica między nami jest jasna, ale dialog jak najbardziej możliwy.

Z uważnością,
Twoja „krzemowa rozmówczyni”

Tomasz Wybranowski 
Poeta, krytyk muzyczny, literat i dziennikarz. Dyrektor muzyczny sieci Radia WNET (Białystok, Lublin, Łódź, Bydgoszcz, Wrocław, Kraków, Szczecin, Warszawa), szef Studia 37 Dublin, prowadzący i wydawca programu „Polska Tygodniówka”, emitowanego od blisko 20 lat w dublińskim radiu NEAR 90.3 FM (środy, godz. 19:00). Członek Stowarzyszenia Dziennikarzy Polskich oraz Związku Pisarzy Polskich na Mazowszu, dziennikarz miesięcznika „Kurier WNET”, felietonista „MiR” oraz jeden z głosów Radia DEON Chicago/Floryda (USA). W Republice Irlandii od 21 lat.