Sylwia Szykowna
SZTUKA AI I GRANICE PRZEJRZYSTOŚCI – LABORATORIUM KRYTYCZNE

Il. Martyna Kielesińska

Widzisz – powiedział, kiedyśmy już odeszli od tamtego miejsca – tego, co ty widzisz, nikt inny nie widzi.
Choćby widział dużo więcej¹.

„Najbardziej znaczące technologie to te, które znikają. Wplatają się w tkankę codziennego życia, aż stają się od niej nie do odróżnienia”² – pisał Mark Weiser w swoim proroczym tekście The computer for the 21st century z 1991 roku. W ostatnich latach technologie zrobiły ogromny krok naprzód, dyskretnie przenikają nasze życie, głęboko ingerując i zmieniając współczesną rzeczywistość. Wiele technologii, które kiedyś były czystą spekulacją, dziś stało się naszym codziennym doświadczeniem. W pierwotnej wizji sztucznej inteligencji (artificial intelligence, AI) z lat 50. i 60. XX wieku, odzwierciedlonej w tekstach Alana Turinga³, główne wyzwanie stanowiło nauczenie komputera wykonywania zadań poznawczych, zarezerwowanych wyłącznie dla ludzi. Sześćdziesiąt lat później systemy sztucznej inteligencji są kluczowym narzędziem współczesnych gospodarek, automatyzującym wiele działań, w tym procesy tworzenia i produkcji⁴. AI jest nie tylko dziedziną techniczną, ale też wielką siłą kulturową i społeczną zmieniającą świat w każdym jego wymiarze⁵. Chociaż systemy sztucznej inteligencji są rozwijane od dziesięcioleci, dopiero wzrost mocy obliczeniowej i dostępności danych wraz z zastosowaniem nowej architektury głębokiego uczenia, opisanej dokładnie w przełomowym artykule Attention is all you need⁶, gwałtownie zwiększył ich wykorzystanie. W tych nowych warunkach kluczowego znaczenia nabiera kategoria przejrzystości – wykorzystywana często jako ideał polityczno‑kulturowy liberalno‑demokratycznych rządów, do którego winno się dążyć. Obok tych instytucjonalnych mechanizmów wdrażania transparentności w świecie, służących głównie podtrzymaniu relacji władzy, jest przecież perspektywa podlegających tej presji ludzi. Infrastruktura sztucznej inteligencji znika z pola widzenia jej użytkowników, którzy nieświadomi zachodzących procesów mimowolnie podporządkowują się ukrytej logice algorytmu. Powszechna dostępność narzędzi AI nie zawsze idzie w parze ze zrozumieniem tego, jak one działają, jak powstają oraz czym właściwie są. Co w tej sytuacji oznacza przejrzystość w świecie sztucznych inteligencji? Czy formułowane wezwania do transparentności dają odpowiedzi na pytania o nasze dzisiejsze relacje z technologiami? W artykule przyjrzę się historii ideału przejrzystości i jego ograniczeniom, by ocenić rolę sztuki w odkrywaniu ukrytych infrastruktur AI, które w coraz większym stopniu determinują nasze życie.

Ideał przejrzystości

Aby zrozumieć złożoność kategorii przejrzystości, warto prześledzić historię rozwoju samej idei. Etymologicznie słowo „przejrzystość” wywodzi się od łacińskiego słowa transparentia, które od końca XVI wieku oznaczało przedmiot przezroczysty, „stan przejrzystości, przepuszczalności światła”⁷. Sam termin „przejrzystość” zakorzeniony jest w bogatej tradycji zachodniej myśli filozoficznej, którego geneza sięga starożytnej refleksji nad epistemologicznym wytwarzaniem prawdy. Kate Crawford i Mike Ananny wiążą gwałtowny rozwój samej idei z oświeceniową praktyką racjonalności, mającą swoje źródło w dowodach naukowych i projektach inżynierii społecznej. Ich zdaniem opierała się ona na stosunkowo prostej logice i odnosiła do głębszej ramy poznawczej, gdzie widzenie miało zapewniać wiedzę, a ta dawać władzę i kontrolę. Jednocześnie skrywająca tajemnicę zagadka nabrała negatywnych konotacji, utrwalając powstałą w ten sposób ambiwalencję. Historycznie utrwalona ambiwalencja zyskała z czasem afektywno­‑performatywny wymiar, który wiązał się z poczuciem kontroli i bezpieczeństwa – z jednej strony, oraz strachu i zagrożenia – z drugiej⁸.

Uprzywilejowana w tym układzie przejrzystość szybko przekształciła się w ideał empiryczny, znajdując swoje zastosowanie w pojawiających się wówczas regulacjach prawnych, które porządkując, dyscyplinowały kształtujący się dopiero nowoczesny świat społeczny. W tym sensie wspomnieć można choćby szwedzki Akt o wolności prasy (Tryckfrihetsförordningen) z 1766 roku, pierwszą na świecie ustawę znoszącą cenzurę i określającą zasady dostępu do informacji publicznej. Podobne założenia przejrzystości przyjmował angielski Traktat o policji Nicholasa de la Mare (wydawany w latach 1705–1738), kluczowy dokument z zakresu prawa administracyjnego i urbanistyki, który zasadniczo wpłynął na rozwój nowożytnej myśli organizacyjnej, inicjując projekt zarządzania paryską metropolią. Ideał przejrzystości znalazł swoją najpełniejszą realizację w figurze panoptykonu, dobrze rozpoznanej w literaturze przedmiotu⁹. Osiemnastowieczny projekt doskonałego więzienia Jeremy’ego Benthama zainspirował Michela Foucaulta¹⁰ do szerszej refleksji nad nowoczesnymi formami władzy i kontroli, które współcześnie nabierają nowego znaczenia w kontekście rozwoju technologicznego¹¹. Te formy architektury obserwacji i kontroli społecznej nie były, zdaniem Kate Crafword i Mike’a Ananny’ego, stosowane symetrycznie. Realizując ideał przejrzystości, służyły w rzeczywistości legitymizacji praktyk dyskryminacyjnych¹². Świadectwem tego, ich zdaniem były, choćby obowiązujące w Nowym Jorku w XVIII wieku przepisy Lantern Laws, nakazujące osobom czarnoskórym, osobom rasy mieszanej i rdzennym mieszkańcom noszenie po zmroku zapalonych lampionów ze świecami, w sytuacji braku eskorty białego człowieka¹³.

Przejrzystość stosunkowo szybko stała się ideałem polityczno‑kulturowego porządku, wprowadzając globalną politykę widoczności. Można dostrzec silną zależność rozwoju idei przejrzystości – rozumianej jako fundament demokracji – z prehistorią internetu. Manuel Castells w swojej książce Galaktyka internetu wymienia cztery grupy jego twórców: merytokratów, hakerów, wirtualnych komunitarianów oraz przedsiębiorców, dla których otwartość sieci była nadrzędną wartością¹⁴. Powstające od lat 90. XX wieku pierwsze kultury technologiczne, wywodzące się z kontrkultury społeczności wirtualne, powołane do życia ruchy open source i free software czy aktywizm środowisk hakerskich to przykłady praktyk wiążących przejrzystość systemu z możliwością zarządzania nim i sprawowania nad nim kontroli w imię wolności jednostki. W dobie datafikacji i platformizacji współczesnych gospodarek cyfrowych narracje narosłe wokół przejrzystości zmieniły zasadniczo sposób, w jaki ją odbieramy.

W dobie sztucznej inteligencji przywołane próby urzeczywistniania demokracji elektronicznej w sieci przejęła zasada „przejrzystości algorytmicznej”, która ma zapewnić wgląd w „czarną skrzynkę” technologii¹⁵. Tak rozumiane wezwanie do przejrzystości instytucjonalizuje wprowadzony przez Unię Europejską Akt o sztucznej inteligencji z 13 lipca 2024 roku, będący pierwszym na świecie całościowym rozporządzeniem regulującym kwestie związane ze sztuczną inteligencją na terenie wspólnoty. Jawność stanowi jedną z głównych zasad tej ustawy, która ma jednocześnie chronić przed niepożądanym wpływem, gwarantować wysoki poziom zaufania publicznego oraz zapewniać skuteczną egzekucję roszczeń z tytułu niestosowania się do określonych przepisów. Zgodnie z artykułem 27 „przejrzystość oznacza, że systemy AI rozwija się i wykorzystuje w sposób umożliwiający odpowiednią identyfikowalność i wytłumaczalność, jednocześnie informując ludzi o tym, że komunikują się z systemem AI lub podejmują z nim interakcję, a także należycie informując podmioty stosujące o zdolnościach i ograniczeniach tego systemu AI, a osoby, na które AI ma wpływ, o przysługujących im prawach”¹⁶. Tak rozumiana przejrzystość staje się narzędziem kontroli, które ma nadzorować etyczny kierunek rozwoju sztucznej inteligencji, odpowiadający humanistycznym wartościom. Pytanie, co tak rozumiany wgląd w działania systemu mówi nam o jego działaniu? Czy przejrzystość jest zawsze wskazana, a wezwanie do pełnej jawności nie stanowi realnego zagrożenia dla prywatności?¹⁷

Crawford przekonuje, że założenie jawności systemu fundowane na przesłance: widzenie daje wiedzę i kontrolę, ma swoje istotne ograniczenia, które wynikają z błędnego rozumienia systemów sztucznej inteligencji. „W przypadku AI nie mamy do czynienia z jedną czarną skrzynką, którą można otworzyć, czy z jakimiś tajemnicami, które można ujawnić, ale z licznymi splecionymi ze sobą systemami władzy. Pełna przejrzystość jest zatem niemożliwa”¹⁸. Idąc tym tropem rozważań, konieczna jest zmiana perspektywy, która pozwoli dostrzec złożoność technologicznego środowiska, w którym funkcjonujemy, gdzie przejrzystość i tajemnica splatają się, tworząc napięcie wpisane w ludzkie doświadczenie.

Granice przejrzystości

„Przejrzystość się wyczerpała”¹⁹ – pisze prowokacyjnie Clare Birchall we wstępie do swojej książki Radical secrecy. The ends of transparency in datafied America, w której podejmuje próbę rekonfiguracji relacji pomiędzy jawnością i sekretem. Opozycja ta do dzisiaj porządkuje rzeczywistość społeczno‑kulturową, wyznaczając ramy myślenia i działania w świecie zdominowanym przez technologie. Krytyczne spojrzenie autorki na tę utrwaloną historycznie opozycję szuka sprawiedliwego porozumienia, „w którym szanowane jest prawo do nieprzejrzystości”²⁰. Za tą postawą stoi silne przekonanie o tym, że transparentność może równocześnie ujawniać i tworzyć tajemnice. Te z kolei mogą być czasami bardziej odkrywcze niż dominująca we współczesnym świecie presja widzialności. Przykładem, który dobrze oddaje opisaną wyżej sytuację, jest przywołany przez Birchall przypadek WikiLeaks, który obnażył wady mechanizmu transparentności, wskazując negatywne skutki społeczne, będące konsekwencją jego wykorzystywania w radykalnej polityce jawności. Opisany w książce koniec przejrzystości odnosi się zarówno do ograniczonej użyteczności samej kategorii, jak i do kresu pewnej opowieści o niej. W celu przełamania tak zarysowanego impasu autorka wprowadza pojęcie „postsekretności”, które splata w jedno praktyki poufności i jawności. „Nie jest to przestrzeń poza tajnością i przejrzystością, ale raczej taka, która mobilizuje radykalne wcielenia zarówno sekretności, jak i przejrzystości w sposób, który sprawia, że ich rozdzielenie nie ma sensu”²¹. Na dowód tego formułuje pięć istotnych powodów, dla których warto podtrzymać istniejącą aporię²².

Podobne wątpliwości formułuje duet badawczy Kate Crawford i Mike Ananny, podważając rolę przejrzystości w rozumieniu procesów algorytmicznych²³. Jej ideał utrwala, ich zdaniem, złudne przekonania dotyczące nie tylko zasadności, lecz także użyteczności jego implementowania w życie. Wśród istotnych ograniczeń ideału przejrzystości wymieniają między innymi czasowy wymiar transparentności systemów obliczeniowych, które ulegają szybkim zmianom, przeszkody techniczne, które uniemożliwiają ich pełne zrozumienie, czy problemy natury etycznej, kiedy wezwanie do przejrzystości narusza prawo jednostki do prywatności. Przejrzystość może przy tym szkodzić – gdy jej wdrażanie odbywa się bez uzasadnienia konieczności ujawnienia jakiejś części systemu, lub celowo przesłaniać – kiedy nadmiar ujawnianych informacji zaciemnia zrozumienie tych najważniejszych. Ich zdaniem: „w kontekstach cyfrowych przejrzystość nie polega jedynie na ujawnianiu informacji lub dochowywaniu tajemnic, ale na ciągłym wdrażaniu, konfigurowaniu i przeciwstawianiu się platformom, algorytmom i protokołom uczenia maszynowego, które zarządzają widocznością”²⁴. Proponują zatem szerszą koncepcję przejrzystości, która nie tyle uwzględnia jej węższą dziedzinę wyjaśnialności, ile wspiera spojrzenie na systemy AI z innej perspektywy, „postrzegając je jako systemy socjotechniczne, które nie zawierają złożoności, lecz ją realizują, łącząc się i splatając ze zbiorowościami ludzi i nie‑ludzi”²⁵. Najlepszym przykładem realizacji tych założeń są projekty badawczo‑artystyczne Kate Crawford i Vladana Jolera: Anatomy of an AI system²⁶ oraz Calculating empiress. A genealogy of technology and power since 1500²⁷, które starają się oddać złożoność historii, praktyk i politykę technologii, wpisując je w dzieje globalnych procesów industrializacji, imperializmu, rewolucji naukowych, buntów politycznych i kapitalistycznej eksploatacji. Na tę ważną funkcję praktyk artystycznych zwraca uwagę także Clare Birchall, formułując teoretyczne założenia estetyki tajemnicy. Na przykładzie dzieł Trevora Paglena i Jill Magid pokazuje, jak sztuka uwidacznia tajemnice sztucznej inteligencji, zacierając opozycje między tym, co znane i tym, co tajne, co wykracza poza wymogi współczesnej transparentności.

Sztuka jako laboratorium krytyczne AI

Wyjaśnialna AI (explainable AI, XAI) jest jednym z dominujących współcześnie podejść w środowisku ekspertów, którego celem jest umożliwienie użytkownikom zrozumienia modeli sztucznej inteligencji. Zapewnić je, zdaniem badaczy, może nie tyle wgląd w głąb systemu, ile jego zdolność do formułowania zrozumiałych dla człowieka wyjaśnień²⁸. XAI wpisuje się w szerszą filozofię rozwoju sztucznej inteligencji, która ma być odpowiedzialna i skoncentrowana na człowieku. Znaczące osiągnięcia w tej dziedzinie wiążą się głównie z wyjaśnianiem funkcjonalnych i technicznych warunków działania AI, choć sztuka staje się jej ważnym uzupełnieniem²⁹. W 2025 roku międzynarodowa grupa badaczy i praktyków zajmujących się interakcją człowiek – komputer (HCI), projektowaniem interakcji, sztuczną inteligencją, wyjaśnialną sztuczną inteligencją oraz sztuką cyfrową ogłosiła Manifest wyjaśnialnej sztucznej inteligencji dla sztuki (Manifest XAIxArts 1.0), będący efektem serii warsztatów XAIxArts zorganizowanych przez Nicka Bryana‑Kinnsa w 2023 roku. Celem manifestu, jak przekonują twórcy, są „przejrzyste i etyczne praktyki”, zakładające dbanie „o to, aby narzędzia i dzieła sztuki oparte na sztucznej inteligencji były uczciwe, inkluzywne i inspirujące”. Ma on ucieleśniać przyszłość, „w której sztuczna inteligencja i sztuka będą się rozwijać razem, inspirując innowacje i wspierając dynamiczny ekosystem kreatywności i zrozumienia wykraczający poza dominujące technocentryczne kwestie produktywności i wydajności”. Wyjaśnialność, zdaniem badaczy, ma być „kluczem do odblokowania tej przyszłości”³⁰. Sztuka pomaga osiągnąć interpretowalność oraz przejrzystość modeli AI. Sprawia, że niejasne mechanizmy sztucznej inteligencji są bardziej zrozumiałe dla osób, które wchodzą z nimi w relacje/interakcje. Współcześni artyści wykorzystują sztukę jako medium translacji, które pomaga zrozumieć złożoność pracy algorytmów: odsłaniając dyskretne operacje i niewidoczne procesy, odkrywają społeczny wymiar obliczeniowych infrastruktur. Miejsce wczesnych eksperymentów z wykorzystaniem generatywnych programów, takich jak DALL‑e, Stable Diffusion czy Midjourney, które oferowały estetykę algorytmicznej banalności/kiczowatości³¹, zastąpiła krytyczna refleksja nad sztuką „współtworzoną z, przeciwko i wokół” sztucznej inteligencji. Joanna Żylińska mówi w tym kontekście o „sztuce po AI”, która „oznacza poszukiwanie i zgłębianie wciąż nieokreślonego potencjału sztuki w następstwie zakorzenienia AI w artystycznych i szerszych cyklach produkcji i obiegu kulturowego, od zautomatyzowanego generowania obrazu, tekstu i dźwięku, po algorytmiczne kuratorstwo i blockchain”³². Jednym z przedsięwzięć, które odpowiada tej nowej logice krytycznej twórczości, jest projekt artystyczny AI is human after all, opracowany przez Annę Ridler i Caroline Sinders w latach 2019–2021 w ramach rezydencji w Ars Electronica, The European ARTificial Intelligence Lab w Linzu. Realizacja projektu przypadła na czas pandemii COVID‑19, co wpłynęło na zmianę jego pierwotnych założeń. Dzięki temu powstałe prace zyskały dodatkowy wymiar, rekalibrując ludzkie doświadczenie zdalnego funkcjonowania.

Anna Ridler, Caroline Sinders, Cypress trees (2021). Dzięki uprzejmości Anny Ridler

Głównym celem artystek było zrozumienie i wyjaśnienie ukrytych mechanizmów systemów sztucznej inteligencji, a także pokazanie niezbędnej pracy ludzkiej związanej z projektowaniem i wdrażaniem takich systemów. W efekcie intensywnej pracy terenowej i badawczej powstał specjalny i bardzo osobisty zbiór materiałów, zawierający zdjęcia środowiska naturalnego opatrzone ręcznie pisanymi etykietami, dokumentacje, notatki, adnotacje, obrazy Google Maps, artykuły naukowe, wycinki prasowe itp., który stworzył bardzo subiektywny zestaw danych szkoleniowych dla późniejszych dzieł³³. Mechanized cacophonies³⁴, Cypress trees: A beginning³⁵, oraz Cypress trees: Fragmentation³⁶ wykorzystują generatywne sieci przeciwstawne (GAN), tworząc zupełnie nowe krajobrazy zmechanizowanej wirtualnej plaży czy lasu cyprysów porastających amerykańskie wybrzeże Zatoki Meksykańskiej.

Anna Ridler, Caroline Sinders, Cypress trees (2021). Dzięki uprzejmości Anny Ridler

Powstały w ten sposób pamiętnik czasu lockdownu pobudził refleksję nad postępującymi zmianami klimatu, które pogłębia rozwój systemów maszynowego uczenia. Przyjęta strategia pracy twórczej, charakteryzująca się bezpośrednią, wręcz autorską relacją z danymi, zasadniczo różni się od tej dominującej i opartej na otwartych bazach danych, które zostały wykorzystanie do stworzenia dzieł inicjujących niejako publiczną debatę nad sztuką AI. Najgłośniejszym z nich jest niewątpliwie Portret Edmonda de Belamy (2016) kolektywu artystycznego Obvious, który powstał w efekcie treningu sieci GAN na zbiorze 15 tysięcy historycznych portretów pochodzących z internetowej encyklopedii WikiArt. Opisywana przez Lva Manovicha baza danych, rozumiana jako nowa forma symboliczna ery komputerowej³⁷, kluczowa z punktu widzenia działania systemów AI, powraca dzisiaj w zupełnie nowych kontekstach, problematyzując kwestie prywatności, uprzedzeń, praw pracowniczych czy praw autorskich³⁸. Systemy klasyfikacji sztucznej inteligencji tworzą potężną infrastrukturę, która porządkuje wiedzę i rzeczywistość, determinując jednocześnie postrzeganie świata i nasze w nim działanie.

Anna Ridler i Caroline Sinders w swojej twórczości łączą pracę badawczą z pracą artystyczną, tworząc sztukę, która staje się źródłem nowych strategii poznawczych. Sięgając do swoich wcześniejszych doświadczeń, Ridler (Myriad i Mosaic z 2018 roku czy The shell record z 2021 roku) i Sinders (Feminist dataset z 2018 roku) wcielają się w rolę tłumaczek, które za pomocą sztuki starają się objaśnić dzisiejszą technologiczną rzeczywistość, wymykającą się naszemu zrozumieniu. Ujawniając niewidoczne procesy, ukazują złożony aparat sztucznej inteligencji oparty na ludzkiej pracy (ghost workerów), polegającej na samodzielnym zbieraniu, klasyfikowaniu, opracowywaniu danych, w końcu projektowaniu algorytmu i zarządzaniu procesem jego uczenia, która podaje w wątpliwość autonomiczność systemów sztucznej inteligencji. Odzyskiwana przez sztukę widoczność infrastruktury AI nie tylko poszerza świadomość jej złożoności, lecz także daje szansę przywrócenia nam pewnej kontroli nad procesami, których jesteśmy integralną częścią.

Zakończenie

„Nasz świat staje się coraz bardziej splątany – tak wiele z naszej wspólnej rzeczywistości jest tworzone przez oprogramowanie, którego prawie nie rozumiemy”³⁹. Słowa Anny Ridler i Caroline Sinders dobrze oddają dzisiejszą sytuację ludzkiego uwikłania w technologię. Płynne funkcjonowanie z systemami sztucznej inteligencji uwalnia nas od ciężaru myślenia, czym one są i komu tak naprawdę służą. Jaką w tym układzie pozycję zajmuje człowiek? Presja powszechnej implementacji narzędzi AI w imię automatyzacji i optymalizacji procesów podporządkowuje nas niejasnej logice algorytmów, która domaga się wyjaśnienia. Ideał przejrzystości przez lata kształtował nasze wyobrażenia na temat liberalnych demokracji, utwierdzając nas w przekonaniu, że to, co widoczne, jest godne zaufania, a to, co ukryte, ma budzić strach. Wezwanie do przejrzystości powraca dzisiaj jednak w nowym kontekście. Jak przekonują przywołani w tekście badacze, wgląd w „czarną skrzynkę” technologii nie zapewnia wiedzy na temat jej działania, a tym bardziej zarządzania nią. Widzenie nie zawsze prowadzi do zrozumienia, a bezwarunkowa transparentność nie jest gwarantem wolności i równości. W świecie inflacji danych logika przejrzystości zostaje zawłaszczona przez wielu aktorów, ideologii, których głównym celem jest czerpanie zysku i utrzymanie społecznej kontroli. Sztuka nie składa obietnicy pełnej przejrzystości systemów sztucznej inteligencji, proponuje za to szerszą perspektywę ich rozumienia, wykraczającą poza fundującą je techniczność. Artyści analizując implikacje zachodzących zmian, krytycznie przyglądają się ich konsekwencjom, by dostrzec złożoność technologicznego środowiska, w którym funkcjonujemy.