Demokracja kontra firmy technologiczne. Wielka zmiana na horyzoncie

Kilka globalnych firm kontroluje większość wiedzy o użytkownikach internetu, kluczowe usługi komunikacyjne i sieci społecznościowe. Dzięki dominującej pozycji ustalają one granice tego, co możliwe i niemożliwe dla miliardów ludzi. Problemy, z którymi się mierzymy, wymagają nowych rozwiązań

Kilka globalnych firm kontroluje większość unikalnej wiedzy o ludziach, kluczowe usługi komunikacyjne i sieci społecznościowe, w których krążą informacje. Dzięki dominującej pozycji ustalają one granice tego, co możliwe i niemożliwe dla mediów, miliardów użytkowników i usługodawców. Problemy, z którymi się mierzymy, wymagają nowych rozwiązań

Najtrudniej zmierzyć się z władzą, której nie widać. Władzą, której nie doświadczamy na własnym ciele, tak jak doświadcza się więzienia czy policyjnej pałki. Władzą opakowaną w narrację „wolnego wyboru”, zakodowaną w przyjaźnie wyglądającym interfejsie, schowaną za ekranem, który serwuje rozrywkę i wciąga nas w pozornie nieszkodliwe interakcje. Taka władza skutecznie wymyka się demokratycznej kontroli, bo nie kojarzy się z zagrożeniem i nie woła o natychmiastową reakcję. Oczywiście, do czasu. 

Cyfrowa pułapka z reklamą w pakiecie

W ten właśnie sposób straciliśmy kontrolę nad władzą technologicznych firm, które od dwóch dekad zarządzają naszymi cyfrowymi tożsamościami, kształtują nasz światopogląd i  handlują dostępem do naszej uwagi. Wchodziliśmy w ich świat zwabieni obietnicą darmowych, spersonalizowanych usług. Słyszeliśmy, że ta relacja będzie od nas wymagać przekazywania danych osobowych – z jednej strony po to, by rozwijać owe spersonalizowane usługi, z drugiej strony po to, by móc je jakoś sfinansować.

Nikt nie ukrywał, że „darmowy” internet przychodzi w pakiecie z targetowaną reklamą. Zostaliśmy oswojeni z myślą, że ten, kto nie płaci, sam staje się towarem. To nie była przyjemna myśl, ale jeszcze nie protestowaliśmy. Na pocieszenie zawsze można było zainstalować AdBlocka.

Potrzebowaliśmy wielu lat, by zrozumieć, że podążając za obietnicą darmowych, spersonalizowanych usług, zostaliśmy zwabieni w pułapkę. Zamieszkaliśmy w zamkniętych, ogrodzonych ogrodach, które mamią nas całkiem przyjemnym „doświadczeniem użytkownika”, ale w istocie są szczelną infrastrukturą do monitorowania, kontrolowania i kształtowania naszych zachowań.

Drobnych pęknięć w przyjaznej fasadzie firm technologicznych na przestrzeni ostatnich dwóch dekad było wiele: poczynając od rewelacji Edwarda Snowdena – który ujawnił, że dane zwykłych użytkowników szerokim strumieniem płyną na serwery służb specjalnych – po kolejne afery ujawniające, że wiedza, jaką te firmy gromadzą na nasz temat, wykracza daleko poza to, co jest im potrzebne do tworzenia spersonalizowanych usług.

Edward Snowden, widoczny na ekranie, podczas wywiadu otwierającego konferencję technologiczną Web Summit w Lizbonie. Portugalia, 4 listopada 2019 r. (HORACIO VILLALOBOS / CORBIS / GETTY IMAGES)

Po co właściwie Google śledzi lokalizację swoich użytkowników nawet wtedy, gdy ci wyłączyli ją w telefonie i nie korzystają z mapy? Po co samochody Google Street View zbierały dane o wszystkich napotkanych sieciach wi-fi, tworząc w ten sposób kolejną warstwę na mapie miasta? Dlaczego Facebook opatentował algorytmy pozwalające na ustalenie ukrytych cech swoich użytkowników (takich jak poziom zarobków, poglądy polityczne czy profil psychometryczny) w oparciu o ich lajki i powiązania z innymi ludźmi?

Dziś wiemy, że najważniejszym celem biznesowym tych firm wcale nie jest dopasowanie usługi do preferencji użytkowników, tylko jak najlepsze ich sprofilowanie i wystawienie za dobrą cenę na giełdach reklam. Jako niepłacący użytkownicy bierzemy udział w ciągłym eksperymencie psychologicznym obliczonym na wpływ, a czasem wprost na manipulowanie naszymi opiniami i emocjami. 

Sygnał do globalnego otrzeźwienia

Czas na masowe otrzeźwienie i polityczną refleksję na temat zagrożeń, jakie niesie władza firm technologicznych, przyszedł w 2016 r., po wyborze Donalda Trumpa na urząd prezydenta USA i równie zaskakującym dla liberalnych elit wyniku referendum w Wielkiej Brytanii. Szukając winnego politycznych porażek, media skupiły się na roli globalnych platform.

Facebook z dnia na dzień przestał być szansą, a stał się zagrożeniem dla demokracji. Z taką tezą można by długo dyskutować, bo ostatecznie za każdym aktem wyboru – od kliknięcia w niesprawdzonego newsa, po oddanie głosu w urnie wyborczej – stoi człowiek. To również ludzie projektują interfejsy, które żerują na naszych emocjach, uzależniają nas od bodźców i skłaniają do „podawania dalej” niesprawdzonych treści. Technologia jako taka nie jest ani dobra, ani zła. Ale niewątpliwie ma ogromny wpływ na to, jak myślimy i działamy.

W 2019 r. kurz po aferze z udziałem Facebooka i Cambridge Analytica już opadł, a decydenci polityczni przeszli od populistycznych oskarżeń do bardziej przemyślanych działań. Pod presją regulatorów największe firmy technologiczne wprowadziły zaostrzone polityki przejrzystości i kodeksy dobrych praktyk na czas wyborów.

Dyrektor Facebooka Mark Zuckerberg składa zeznania przed komisją ds. energii i handlu Izby Reprezentantów. Waszyngton, Stany Zjednoczone, 11 kwietnia 2018 r. (CHIP SOMODEVILLA / GETTY IMAGES)

Facebook nie tylko pokazuje, kto i ile zapłacił za wykupienie danej reklamy, ale pozwala też na przeszukiwanie wszystkich kreacji reklamowych w specjalnej bibliotece. Do walki z dezinformacją ruszyły niezależne agencje informacyjne, wyspecjalizowane NGO i organizacje międzynarodowe. Poza Polską – nieustannie zajętą własnymi sporami – kryzys zaufania w świecie technologii stał się na globalnej agendzie tematem numer dwa, zaraz obok kryzysu ekologicznego.

Miliardowe kary już nie działają

Świadczy o tym choćby skład nowej Komisji Europejskiej, z Margrethe Vestager w roli wiceprzewodniczącej odpowiedzialnej za sprawy cyfrowe. Nowa regulacja dla globalnych platform wyłania się jako drugi priorytet Unii Europejskiej, obok zielonej transformacji, za którą odpowiada Frans Timmermans. Vestager już udowodniła, że potrafi korzystać ze swoich prerogatyw – w roli komisarz odpowiedzialnej za politykę antymonopolową zasłynęła z wysokich kar nakładanych na globalne koncerny. Rekord Komisji Europejskiej to 4,3 mld euro kary nałożonej w 2018 r. na Google za faworyzowanie własnych aplikacji w systemie operacyjnym Android.

Niemniej gorąca dyskusja o przyszłości GAFA, czyli Google, Amazona, Facebooka i Apple (a także innych potentatów cyfrowego świata) toczy się w tym roku w Stanach Zjednoczonych. To jeden z głównych tematów kampanii prezydenckiej. Elizabeth Warren, ubiegająca się o nominację z ramienia Partii Demokratycznej, głośno zapowiada przejście od sankcji finansowych do tzw. środków strukturalnych, takich jak np. podzielenie Facebooka na warstwy i wpuszczenie konkurencji tam, gdzie dziś funkcjonuje tylko jeden News Feed i tylko jeden Messenger. Doświadczenie amerykańskich organów pokazało, że nawet miliardowe kary nie są w stanie zachwiać pozycją firm technologicznych, ponieważ źródłem ich przewagi są dane o ludziach.

Margrethe Vestager, wiceprzewodnicząca Komisji Europejskiej odpowiedzialna za sprawy cyfrowe (GEORGES BOULOUGOURIS / ANADOLU AGENCY / GETTY IMAGES)

W lipcu Federalna Komisja Handlu zakończyła postępowanie badające rolę Facebooka w rozprzestrzenianiu dezinformacji i targetowaniu amerykańskich wyborców, nakładając na tę firmę rekordową karę w wysokości 5 mld dolarów. Tego samego dnia ceny akcji Facebooka poszły w górę. Giełdowi inwestorzy albo spodziewali się wyższego rachunku, albo zinterpretowali tę naganę od regulatora jako ostateczny dowód na reklamową skuteczność facebookowej machiny.

Reakcja ta nie pozostawia wątpliwości co do tego, że ze strony samych firm i inwestorów, którzy na danych zarabiają, nie możemy liczyć na żadną „autokorektę”. Ani etyka, ani prawa człowieka, ani nawet polityczna stabilność nie mają dla nich większej wartości niż skuteczny wpływ na zachowania konsumenckie i opinie (także polityczne) ludzi, który można realizować dzięki odpowiednio przetworzonym danym.   

Gra o władzę to dziś gra o dane

Jeśli jako demokratyczne społeczeństwo obawiamy się wykorzystania cyfrowych technologii w służbie wyborczych manipulacji, dezinformacji i propagandy, musimy przejść od rozmowy o pieniądzach (karach i podatkach) do rozmowy o danych i całej komunikacyjnej infrastrukturze. Doszło do tego, że kilka globalnych firm kontroluje większość unikalnej wiedzy o ludziach (big data, generowane przez algorytmy w oparciu o ogromne ilości cyfrowych śladów), kluczowe usługi komunikacyjne i sieci sp

ołecznościowe, w ramach których krąży informacja.

Samochód Google Street View na jednej z ulic Londynu (AVALON / UNIVERSAL IMAGES GROUP / GETTY IMAGES)

Mając unikatowy wgląd w to, jak działa i myśli człowiek, firmy te zyskały nie tylko stałe źródło zysków reklamowych, ale też pozycję na rynku, która wyklucza uczciwą konkurencję. Nowi gracze, którzy dziś zaczynają budować modele oparte na danych, nie są w stanie prześcignąć tych, którzy zaczęli trenować swoje algorytmy 20 lat temu. Bez odebrania im faktycznej kontroli nad tą wiedzą ani nie otworzymy rynku dla nowych modeli biznesowych, ani nie zapewnimy sobie ochrony przed nadużyciami. 

W 2020 r. Unia Europejska stanie przed pytaniem o nowy model regulacji rynku usług internetowych. Komisja Europejska już zdecydowała o nowelizacji starych instrumentów prawnych, które określały zasady odpowiedzialności za treści publikowane w sieci, uznając platformy takie jak Facebook i Google za neutralnych pośredników. Tymczasem stało się oczywiste, że są czymś więcej – dzięki swojej dominującej pozycji ustalają granice tego, co możliwe i niemożliwe dla mediów, miliardów użytkowników i innych usługodawców. 

Ta konstatacja to ważny punkt wyjścia dla pakietu regulacyjnego o roboczej nazwie Kodeks usług cyfrowych (Digital Services Act), który ma być ogłoszony pod koniec przyszłego roku. Europejski regulator zrozumiał, że natura problemów, z którymi mierzymy się w sferze cyfrowej, wymaga systemowego podejścia i teraz szuka odpowiednich rozwiązań.

Ważną lekcją na tej drodze było RODO – rozporządzenie o ochronie danych osobowych, przyjęte w 2016 r., stosowane od połowy 2018 r. – które miało wzmocnić prawa użytkowników, ograniczyć wszechobecne gromadzenie cyfrowych śladów i ujawnić skalę profilowania. Na mniejsze firmy RODO rzeczywiście zadziałało dyscyplinująco – „w obiegu” jest mniej danych, więcej wiemy o tym, jak są przetwarzane, możemy się łatwiej wypisać z baz, w których nie chcemy funkcjonować.

Ale najwięksi gracze – globalne platformy technologiczne i schowani w ich cieniu brokerzy danych – nadal gromadzą wszystkie możliwe cyfrowe ślady, nadal tworzą inwazyjne profile marketingowe i serwują precyzyjnie targetowaną reklamę. Dla nich RODO to tylko kolejna bariera, którą da się obejść przy pomocy prawników i psychologów projektujących nowe „ustawienia prywatności”. 

Dwie strategie wobec władców cyfrowego świata

Fakty są takie, że globalne firmy technologiczne w środowisku cyfrowym mają pozycję autorytarnych władców.  To oni narzucają standardy mniejszym graczom, w tym wydawcom elektronicznych mediów, którzy zaakceptowali model oparty na śledzeniu użytkowników i przedłożyli ilość kliknięć nad jakość serwowanych treści.

To oni podnoszą poprzeczkę w technologicznym wyścigu o „rozpracowanie” użytkowników – ustalenie ich aktualnej lokalizacji, pilnych potrzeb i momentów słabości – tylko po to, by przekaz reklamowy i polityczna perswazja były skuteczniejsze. Wreszcie, to oni pośredniczą w kontakcie między firmami i ich potencjalnymi klientami, między gazetami i ich czytelnikami, między każdym, kto publikuje treść albo wysyła wiadomość, i jego potencjalnym odbiorcą.

Wobec cyfrowych cesarzy możemy przyjąć dwie polityczne strategie: albo prosić ich o uznanie konstytucji, którą w naszym imieniu zaproponują im europejscy regulatorzy, albo wypowiedzieć im posłuszeństwo i odebrać władzę nad naszymi danymi. Od gwałtownego przebudzenia, które nastąpiło w 2016 r., demokratyczne instytucje po obu stronach Atlantyku nie ustają z pomysłami reguł, które chciałyby narzucić globalnym platformom.

Niech walczą z fake newsami; niech się spowiadają z tego, jak targetują ludzi; niech szybciej blokują fałszywe konta; niech usuwają mowę nienawiści, ale też niech przestrzegają wolności słowa i sprawnie rozwiązują spory między użytkownikami… Tym postulatom nie będzie końca, bo (pozorne) rozwiązanie jednego problemu zwykle rodzi kolejny.

Patrick Leahy, senator Partii Demokratycznej, prezentuje podanego przez prezydenta Donalda Trumpa tweeta pochodzącego z fake’owego konta na Twitterze. Prezentacja miała miejsce w trakcie konferencji „Skrajne treści i rosyjska dezinformacja online” zorganizowanej w komisji ds. sądownictwa Senatu. Waszyngton, Stany Zjednoczone, 31 października 2017 r. (DREW ANGERER / GETTY IMAGES)

Wszystkie te propozycje łączy krótkowzroczność i fragmentaryczność. Najbardziej korzystają na nich same platformy, ponieważ, stając się sędziami, policjantami i naczelnymi etykami cyfrowego świata, umacniają swoją władzę. Mogą, a nawet muszą, w świetle prawa trenować algorytmy i modele do wykrywania niepraworządnych zachowań. Mogą, a nawet muszą, filtrować i sprawdzać treści, które przepływają przez ich serwery. Mogą, a nawet muszą, blokować konta użytkowników, którzy nie przestrzegają reguł, mimo że te reguły ciągle się zmieniają.

Pierwsza jaskółka wielkiej zmiany

Idąc dalej tą drogą, na pewno nie przełamiemy władzy technologicznych pośredników i nie odzyskamy wolności poruszania się po otwartej sieci. Jedyna sensowna droga prowadzi przez wypowiedzenie posłuszeństwa. Pierwszy skowronek, w postaci obywatelskiej inicjatywy pod hasłem „Eumans!” – domagającej się przełamania cyfrowych monopoli i wprowadzenia interoperacyjności – już pojawił się na horyzoncie. Mam nadzieję, że w 2020 r. w Europie nie będziemy już marnować czasu na drążenie starych problemów i skupimy się na szukaniu nowych rozwiązań. 

Opublikowano przez

Katarzyna Szymielewicz


Prawniczka specjalizująca się problematyce praw człowieka i nowych technologii, współzałożycielka i prezeska Fundacji Panoptykon, wiceprzewodnicząca European Digital Rights. Na łamach „Medium” miesiąc temu opublikowała tekst-manifest „A New Deal for Data”.

Chcesz być na bieżąco?

Zapisz się na naszą listę mailingową. Będziemy wysyłać Ci powiadomienia o nowych treściach w naszym serwisie i podcastach.
W każdej chwili możesz zrezygnować!

Nie udało się zapisać Twojej subskrypcji. Proszę spróbuj ponownie.
Twoja subskrypcja powiodła się.