Kto trzyma hamulec?
#82
Cześć i czołem dobry człowieku! 👋
Kto trzyma hamulec?
I. Model, który zniknął
9 czerwca 2026 roku Anthropic wypuścił dwa modele będące w istocie dwiema wersjami tego samego systemu. Claude Fable 5 trafił do zwykłych użytkowników z dodatkowymi zabezpieczeniami. Claude Mythos 5, pozbawiony części ograniczeń w obszarach cyberbezpieczeństwa i biologii, pozostał dostępny dla wybranych partnerów programu Project Glasswing. Firma przedstawiała je jako swoją piątą generację modeli i jakościowy skok w długiej, autonomicznej pracy. Fable miał realizować zadania trwające całe dni, samodzielnie planować kolejne etapy, delegować pracę agentom i sprawdzać własne wyniki.
Przez trzy dni był produktem.
12 czerwca stał się sprawą bezpieczeństwa narodowego.
O 17:21 czasu wschodnioamerykańskiego Anthropic otrzymał od rządu Stanów Zjednoczonych dyrektywę eksportową. Nakazywała odcięcie od Fable 5 i Mythos 5 każdego cudzoziemca, niezależnie od tego, czy mieszkał w Pekinie, Warszawie czy w Kalifornii. Zakaz objął również pracowników samego Anthropic nieposiadających amerykańskiego obywatelstwa. Firma uznała, że nie potrafi natychmiast zagwarantować takiej segregacji użytkowników, i wyłączyła modele wszystkim.
Rząd dał Anthropic dziewięćdziesiąt minut na wykonanie polecenia pod groźbą sankcji cywilnych i karnych. Sam nakaz nie został opublikowany. Anthropic twierdzi, że pismo nie zawierało szczegółowego opisu zagrożenia. Firma znała tylko demonstrację sposobu na ominięcie zabezpieczeń Fable, który pozwolił modelowi znaleźć kilka wcześniej znanych i stosunkowo prostych luk w oprogramowaniu. Jej zdaniem podobne wyniki dawały również inne dostępne modele, bez żadnego uniwersalnego jailbreaku.
Rząd uznał zachowanie modelu za sygnał zagrożenia. Anthropic widział w nim zwykłą funkcję narzędzia programistycznego: użytkownik przekazuje kod, model znajduje błędy i proponuje poprawki. Problem polega na tym, że poprawka do podatności bywa zarazem instrukcją jej wykorzystania. Ta sama umiejętność służy obrońcy i napastnikowi, a granica między nimi nie przebiega wewnątrz kodu.
Nie dało się też po prostu dodać okienka z pytaniem o paszport. Fable działał przez API, trafiał do narzędzi programistycznych, systemów firmowych i produktów budowanych dla kolejnych klientów. Aby wypełnić nakaz, każdy uczestnik tego łańcucha musiałby ustalić obywatelstwo każdej osoby mogącej pośrednio skorzystać z modelu. Kontrola eksportu, kojarzona dotąd z chipem, maszyną lub plikiem przesyłanym przez granicę, objęła usługę rozsianą po setkach integracji.
25 czerwca, niemal dwa tygodnie po decyzji, na stronach Fable i Mythosa nadal widniała informacja, że są niedostępne. Legion, amerykański startup tworzący narzędzia dla prawników, pozwał rząd, ponieważ część jego programistów pracuje z Kanady. Czworo kongresmenów z obu partii zażądało od Departamentu Handlu ujawnienia podstawy prawnej, technicznych ocen, procedury podjęcia decyzji i kryteriów przywrócenia dostępu.
Najpotężniejsze narzędzie programistyczne świata przez trzy dni było czymś, co można kupić. Czwartego stało się czymś, na co państwo może pozwolić albo czego może zabronić.
Czy zobaczyliśmy odpowiedzialne użycie hamulca bezpieczeństwa, o który od lat proszą twórcy AI? Czy raczej pokaz siły państwa, które odkryło, że dostęp do inteligencji może kontrolować tak samo jak dostęp do procesorów?
Odpowiedzi na te pytania próbowały udzielić dwa teksty opublikowane niemal w tym samym czasie. Dario Amodei, szef Anthropic, przekonywał, że powolne instytucje muszą wreszcie dostać prawo blokowania niebezpiecznych modeli. Autorzy scenariusza Europe 2031 ostrzegali zaś, że Europa może obudzić się w świecie, w którym wszystkie takie decyzje zapadają w Waszyngtonie.
II. Drzewiec i płonący las
Amodei otwiera esej „Policy on the AI Exponential” obrazem z Tolkiena. Sztuczna inteligencja to zwinni hobbici, a instytucje polityczne to Drzewiec: mądry, lecz tak powolny, że zanim się odezwie, las będzie już wycięty. Metafora robi dokładnie to, co ma robić. Ustawia czytelnika w pozycji, w której jedyną rozsądną reakcją wydaje się pośpiech. Skoro las płonie, nie pora pytać, kto i jak zmierzył wysokość płomieni.
Argument Amodeia ma jednak realny fundament. W ciągu czterech lat modele przeszły od pisania niezgrabnych fragmentów kodu do wykonywania znacznej części pracy programistycznej wewnątrz laboratoriów AI. Pomagają budować swoje następne generacje, skracają eksperymenty i zwiększają liczbę pomysłów, które można przetestować. Podobny postęp widać w matematyce, biologii, analizie danych i cyberbezpieczeństwie. Tymczasem ustawa potrzebuje miesięcy albo lat, by przejść przez parlament, a urząd regulacyjny powstaje nieraz dłużej niż cała generacja modeli.
Cała konstrukcja stoi na jednym filarze. Prawa skalowania, pisze Amodei, przewidują wykładniczy wzrost ogólnych zdolności poznawczych wraz ze wzrostem mocy obliczeniowej i mają za sobą ponad dekadę dowodów. Jeszcze rok czy dwa, a dostaniemy „kraj geniuszy w centrum danych”.
W tym jednym zdaniu dokonuje się przesunięcie, o którym warto pamiętać. Sprawdzone zostało tyle: błąd modelu, a także jego wyniki na testach porównawczych, poprawiają się przewidywalnie wraz ze wzrostem mocy obliczeniowej, ilości danych i jakości treningu. Zjawisko jest realne, mierzalne i powtarzalne. Nie sprawdzono natomiast, że owa krzywa znaczy to samo co „ogólne zdolności poznawcze”, a już na pewno nie, że jej przedłużenie daje geniusza.
Test porównawczy nie jest inteligencją, tylko jej przybliżeniem, w dodatku takim, którego kształt może dobierać sam twórca modelu. Przypomnijmy prawo Goodharta: miara, gdy staje się celem, przestaje być dobrą miarą, a akurat tu istnieje cała branża, której biznesowym celem jest podnoszenie tych właśnie liczb. „Ponad dekada dowodów” dotyczy spadku błędu modelu. Do kraju geniuszy nie odnosi się żadna dekada, bo tego kraju nikt jeszcze nie oglądał. Lata świadectw po cichu przeniesiono z tezy słabszej i sprawdzalnej na mocniejszą i wciąż spekulatywną.
Mocna teza nie musi być fałszywa. Powinna jednak zostać oznaczona jako przepowiednia, a nie obserwacja.
Amodei twierdzi, że czas samej obserwacji właśnie się skończył. Symbolem tej zmiany miał być Mythos Preview i odkrycie, że czołowe modele stwarzają rzeczywiste zagrożenia dla cyberbezpieczeństwa. Anthropic wykorzystywał Mythosa w programie Glasswing do wyszukiwania podatności w najważniejszym oprogramowaniu świata. Według firmy model i jego partnerzy znaleźli ponad dziesięć tysięcy luk wysokiej lub krytycznej wagi. Skoro podobne systemy potrafią przeszukiwać miliony linii kodu szybciej niż całe zespoły specjalistów, nie są już wyłącznie aplikacją konsumencką. Stają się narzędziem strategicznym.
Dlatego Amodei proponuje przejście od przejrzystości do regulacji wiążącej. Modele przekraczające określony próg mocy obliczeniowej miałyby przechodzić obowiązkowe testy prowadzone przez wykwalifikowaną stronę trzecią. Badano by zagrożenia cybernetyczne, biologiczne, utratę kontroli oraz zdolność automatyzowania dalszych badań. Państwo otrzymałoby prawo zablokowania wdrożenia, jeśli ocena wykaże niedopuszczalne ryzyko. Procedura miałaby być precyzyjna, chroniona przed politycznym faworyzowaniem i oparta na faktach technicznych.
Amodei opisał hamulec niemal dokładnie w chwili, gdy rząd postanowił go użyć.
Różnica między propozycją a rzeczywistością kryje się w szczegółach, a właściwie w ich braku.
III. Hamulec zaciągnięty w jeden wieczór
Część postulatów Amodeia broni się sama. Jeśli model potrafi samodzielnie wyszukiwać groźne podatności albo pomagać w projektowaniu broni biologicznej, testowanie go przed premierą jest rozsądniejsze niż czekanie na pierwszy poważny incydent.
Reszta domaga się jednak pytań, których sam esej nie rozstrzyga. Próg mocy obliczeniowej może narysować fosę wokół największych laboratoriów. Koszty zgodności z przepisami najmocniej obciążą tych, których jeszcze nie ma, czyli przyszłych konkurentów i projekty o otwartym kodzie, a najsłabiej firmy utrzymujące całe działy prawne. „Wykwalifikowana instytucja zewnętrzna” brzmi dobrze, dopóki nie wiadomo, kto akredytuje audytorów, kto ich opłaca i do jakich danych dostają dostęp. Uznaniowe prawo blokowania wdrożeń jest zaś bezpieczne tylko wtedy, gdy istnieje mechanizm pilnujący, aby uznanie nie zamieniło się w arbitralność.
W przypadku Fable i Mythos wszystkie te problemy przestały być hipotetyczne.
Mieliśmy test techniczny, lecz opinia publiczna nie poznała jego pełnego protokołu ani wyników. Mieliśmy kategorię ryzyka, cyberbezpieczeństwo, lecz strony nie zgadzały się nawet co do tego, czy wykazane zachowanie było obejściem zabezpieczeń, czy zamierzoną funkcją analizy kodu. Mieliśmy zewnętrzną ingerencję państwa, lecz nie wiadomo, kto niezależnie porównał wynik z możliwościami innych modeli. Mieliśmy prawo do blokady, lecz jego podstawa prawna została natychmiast zakwestionowana. Mieliśmy wreszcie deklarowaną ochronę bezpieczeństwa narodowego, lecz środek objął wszystkich cudzoziemców na Ziemi, w tym obywateli najbliższych sojuszników USA.
Możliwe, że rząd posiada informacje, których Anthropic nie może albo nie chce ujawnić. Możliwe też, że firma minimalizuje problem, ponieważ wyłączenie najnowszego produktu kosztuje ją pieniądze, reputację i tempo rozwoju. Anthropic jest stroną sporu, nie neutralnym laboratorium. Firma zbudowała system, sama go zmierzyła, ogłosiła jego strategiczne znaczenie, a jej prezes równocześnie zaproponował kształt regulacji całej branży. Każdy z tych kroków może być szczery. Każdy jest również dokładnie tym, co zrobiłby gracz próbujący ustawić reguły pod własną przewagę.
Nie wynika z tego jednak, że druga strona sporu zasługuje na wiarę bez dowodów. Państwo również ma interesy, polityczne bodźce i skłonność do poszerzania raz zdobytych kompetencji. Jeśli może jednym niepublicznym pismem wyłączyć produkt używany przez setki milionów ludzi, powinno umieć wykazać przynajmniej podstawę prawną, zastosowany próg dowodowy, proporcjonalność środka i warunek jego cofnięcia.
To właśnie dlatego ponadpartyjna grupa kongresmenów zapytała Departament Handlu nie tylko o Fable, lecz również o precedens. Jakie standardy i kryteria zastosowano? Jak wyglądała ocena techniczna? Kiedy firma lub użytkownik mogą się odwołać? Czy taki sam test zostanie zastosowany wobec kolejnego modelu OpenAI, Google albo laboratorium spoza Stanów Zjednoczonych?
Najbardziej kłopotliwy jest rozdźwięk między esejem Amodeia a reakcją jego firmy. Amodei domagał się prawa państwa do blokowania wdrożeń. Gdy państwo zrobiło dokładnie to, Anthropic odpowiedział, że potrzebny proces powinien być przejrzysty, uczciwy, jasny i oparty na faktach technicznych, a ten taki nie był. Nie jest to koniecznie sprzeczność. Można popierać policję i kwestionować konkretne zatrzymanie. Jest to jednak dowód, że samo pytanie „czy państwo powinno mieć hamulec?” zostało postawione zbyt ogólnie.
Właściwe pytania brzmią: kto ustala próg, kto wykonuje pomiar, kto widzi dowody, kto może zakwestionować wynik i co dzieje się z ludźmi, którzy zdążyli oprzeć na modelu swoją pracę?
Legion twierdzi, że utrata Fable natychmiast zatrzymała część jego rozwoju i zagroziła przetrwaniu firmy. Nie trzeba przyjmować całej argumentacji pozwu, aby dostrzec zmianę. Dotąd ryzyko dostawcy chmurowego polegało głównie na podwyżce ceny, awarii lub zmianie warunków usługi. Teraz dochodzi możliwość, że model znika w ciągu jednego wieczoru, ponieważ państwo uznało go za aktywo strategiczne.
Ban nie obala potrzeby regulacji. Pokazuje, że przyznanie państwu prawa do blokady nie rozwiązuje problemu bezpieczeństwa. Przenosi go tylko poziom wyżej.
IV. Scenariusz, który wyprzedził własną datę
W głębi korytarza sześcioro ludzi decyduje o losie europejskiego kontynentu.
Tak zaczyna się finał Europe 2031, obszernego dokumentu opublikowanego w czerwcu 2026 roku przez europejskich badaczy i ekspertów zajmujących się bezpieczeństwem sztucznej inteligencji. Tekst nosi podtytuł What getting AI wrong means for us i należy do rzadkiego dziś gatunku, jakim jest ostrzeżenie scenariuszowe. Autorzy nie ukrywają intencji. Twierdzą, że obecna trajektoria rozwoju AI wymaga od Europy najambitniejszego programu politycznego w całej powojennej historii kontynentu. Jeżeli ten program nie powstanie, Europa utraci zdolność kształtowania własnej przyszłości.
Autorzy mogli napisać klasyczny raport z wykresami i rekomendacjami, a zamiast tego wybrali nowelę. Całą opowieść prowadzą dwie fikcyjne postacie: młoda francuska urzędniczka Caroline Dubois, pracująca w brukselskiej Dyrekcji Generalnej do spraw Handlu, oraz Christian Vogt, niemiecki założyciel startupu, który przeniósł się do Doliny Krzemowej. Ich rozmowy tworzą oś narracji i komentują wydarzenia z dwóch oddalonych od siebie światów.
Ten zabieg nie jest neutralny. Fikcja pozwala autorom obejść chłodny sceptycyzm, z jakim czytelnik podchodzi do prognoz, i zastąpić go identyfikacją z bohaterem. Czym innym jest przeczytać o utracie technologicznej pozycji, a czym innym oglądać Caroline próbującą przekonać przełożonych, którzy słuchają jej uprzejmie, po czym przechodzą do następnego punktu spotkania.
Najważniejsza cecha konstrukcyjna tekstu jest jednocześnie jego najmocniejszym chwytem. Autorzy wyznaczają wyraźną granicę między tym, co już się wydarzyło, a tym, co dopiero zmyślają. Wszystko do około czerwca 2026 roku opisuje zdarzenia rzeczywiste, a jedynymi elementami fikcyjnymi pozostają losy Caroline i Christiana. Dopiero od tego momentu zaczyna się właściwa spekulacja, w której realne nazwy firm ustępują miejsca trzem wymyślonym graczom: amerykańskiemu Atlasowi, europejskiemu Heliosowi i chińskiemu Zimo.
Pierwsza część czyta się dzięki temu jak kronika, a nie jak proroctwo. Premiera DeepSeek R1 i krótkotrwała euforia w Brukseli, przekonanej, że Amerykanów da się dogonić tanio i sprytnie. Ogłoszony przez Ursulę von der Leyen fundusz InvestAI o wartości dwustu miliardów euro, w znacznej części będący przepakowaniem istniejących środków. Amerykańskie inwestycje liczone w setkach miliardów dolarów. Europejskie regulacje, których autorzy sami nie mogą korzystać z najlepszych modeli na służbowych urządzeniach. Czytelnik rozpoznaje te fakty i właśnie dlatego dalszej części trudniej odmówić uwagi.
Cała dynamika scenariusza opiera się na jednej wielkości rosnącej na marginesie każdej strony. Jest nią moc obliczeniowa, mierzona w gigawatach zasilania centrów danych. Na początku 2025 roku Stany Zjednoczone dysponują w tej narracji 17,3 gigawata wobec 1,4 gigawata w Europie. Pod koniec scenariusza, w 2031 roku, jest to około dwustu dwudziestu gigawatów wobec niespełna osiemnastu.
Przewaga względna pozostaje podobna, lecz przewaga bezwzględna staje się przepaścią nie do pokonania. W świecie przyspieszającego postępu osiemnaście miesięcy opóźnienia, które w 2023 roku oznaczało jedną generację modeli, z czasem oznacza ich wiele. Modele zaczynają pisać własny kod i przyspieszać własne badania. Laboratoria wykorzystują je wewnętrznie, dzięki czemu rozwijają się jeszcze szybciej. Kapitał, talent i energia płyną tam, gdzie postęp jest najszybszy, czyli do Stanów Zjednoczonych. Europa, pozbawiona własnego frontu technologicznego, staje się klientem, a nie współtwórcą.
Najbardziej gorzki wątek dokumentu dotyczy reakcji, którą Europa uznaje za ratunek, a która okazuje się przyspieszeniem upadku. Unia przyjmuje regulację o suwerenności cyfrowej, nakazującą, by krytyczne obciążenia sektora publicznego działały wyłącznie na europejskim oprogramowaniu chmurowym i AI. Odłączenie się od amerykańskich dostawców brzmi jak odzyskanie kontroli. W praktyce instytucje, które najgorliwiej kupują europejskie, zostają z najsłabszymi narzędziami.
Gdy chiński Zimo publikuje otwarty model klasy Mythosa, nadchodzi fala ataków zdolnych do masowego wyszukiwania luk. Europejskie szpitale, uniwersytety i urzędy korzystające ze słabszych systemów obronnych padają ofiarą ransomware. Organizacje, które zachowały kontrakty z Amerykanami, radzą sobie lepiej, ale nawet one otrzymują najlepsze modele z opóźnieniem. Oficjalnie chodzi o bezpieczeństwo i nadzór. Nieoficjalnie Waszyngton odkrywa przewagę, której nie ma powodu oddawać.
Ten mechanizm brzmiał jak fikcja polityczna. Ban Fable i Mythos nie potwierdza całego scenariusza, lecz pokazuje realność jego podstawowego założenia.
Zależność technologiczna jest również zależnością prawną i polityczną.
Nie chodzi tylko o to, kto potrafi zbudować model. Chodzi także o to, kto może pozwolić innym go używać.
V. Suwerenność bez modelu
Słowo „suwerenność” robi dziś w europejskiej polityce zawrotną karierę, częściowo dlatego, że pozwala wiele rzeczy nazwać bez ich rozróżniania. W AI ma ono co najmniej trzy znaczenia.
Pierwsze to suwerenność infrastrukturalna: centra danych, elektrownie, sieci przesyłowe, procesory i możliwość uruchamiania modeli na własnym terytorium. Drugie to suwerenność kompetencyjna: własne laboratoria, talenty i modele zdolne konkurować z amerykańską oraz chińską czołówką. Trzecie, rzadziej dostrzegane, to suwerenność dostępu: pewność, że narzędzie używane przez administrację, szpital albo przedsiębiorstwo nie zniknie po jednostronnej decyzji obcego państwa lub firmy.
Europa ma problem ze wszystkimi trzema.
Może budować centra danych, ale jeśli działają w nich amerykańskie modele kontrolowane przez amerykańskie przedsiębiorstwa, lokalizacja serwerów nie daje pełnej kontroli. Może wspierać własne modele, lecz jeśli są wyraźnie słabsze, nakaz ich używania zamienia suwerenność w dobrowolną rezygnację z produktywności. Może wreszcie kupować najlepsze narzędzia z USA i pogłębiać zależność od decyzji, na które nie ma wpływu.
To właśnie dlatego „pułapka suwerenności” jest najcenniejszym wątkiem Europe 2031. Nie atakuje idei niezależności jako takiej. Pokazuje, jak słuszny cel polityczny realizowany bez zaplecza materialnego obraca się przeciwko swoim autorom.
Suwerenności nie ustanawia się rozporządzeniem. Trzeba ją podeprzeć energią, sprzętem, kompetencjami i realną alternatywą.
Ban Fable dodaje do tego paradoks modeli otwartych. Najsilniejszy model świata działa jako usługa, więc jego właściciel lub państwo mogą go wyłączyć. Nieco słabszy model z otwartymi wagami można pobrać na własne serwery i zachować niezależnie od późniejszych decyzji producenta. Rząd może kontrolować dostęp do API. Znacznie trudniej odzyskać plik, który tysiące ludzi zdążyły skopiować.
Powstaje dziwna drabina ryzyka. Powyżej określonego poziomu model jest tak potężny, że nie wolno udostępnić go cudzoziemcom. Tuż poniżej znajduje się system niewiele słabszy, który każdy może uruchomić lokalnie i pozbawić ograniczeń. Zablokowanie Fable może zmniejszyć jedno konkretne zagrożenie, a jednocześnie skierować użytkowników w stronę narzędzi trudniejszych do monitorowania, rozwijanych w jurysdykcjach mających inne interesy.
Nie znaczy to, że modele otwarte są z definicji dobre albo bezpieczne. Znaczy tylko, że kontrola jednego amerykańskiego produktu nie jest tym samym co kontrola zdolności technologicznej. Wiedza potrzebna do budowy systemów rozchodzi się, efektywność rośnie, a przewaga zamkniętych laboratoriów nie musi być trwała. Jeśli restrykcje obejmą wyłącznie najbardziej ostrożnych dostawców, użytkownicy mogą przenieść się do tych, którzy nie pytają o obywatelstwo i nie prowadzą monitoringu.
Dla polskiego czytelnika problem ma dodatkowe dno. Nasza zależność od amerykańskiej technologii nakłada się na zależność bezpieczeństwa od Stanów Zjednoczonych. To utrudnia prosty wybór między europejską suwerennością a amerykańską skutecznością, bo oba dobra mogą wejść ze sobą w konflikt. W świecie opisanym przez Europe 2031 Polska pogłębia więzi z USA ze strachu przed Rosją, a równocześnie odkrywa, że Bruksela nie potrafi zagwarantować dostępu do technologii niezbędnej administracji, gospodarce i cyberobronie.
W finałowej scenie polski premier zasiada wśród sześciorga przywódców decydujących o losie kontynentu. Ban Fable przypomina, że zanim znajdziemy się przy takim stole, ktoś inny może już ustalić listę dostępnych opcji.
Tyle że zależność od nieprzejrzystej firmy nie zostaje rozwiązana przez zależność od nieprzejrzystej decyzji państwa.
VI. Czego nadal nie wiemy
Rzetelność wymaga, by przy całym uznaniu dla rozmachu Europe 2031 wskazać granice tego tekstu. Jest to scenariusz, a nie prognoza, co autorzy lojalnie przyznają, lecz o czym łatwo zapomnieć podczas lektury. Cała konstrukcja zakłada dalszy, bardzo szybki wzrost zdolności modeli. To założenie pozostaje przedmiotem realnego sporu. Historia technologii zna zarówno przegapione rewolucje, jak i rewolucje obiecane, które nie nadeszły.
Podobnej ostrożności wymaga esej Amodeia. Nie warto zbywać go ani jako paniki, ani jako wyrachowanego lobbingu, bo jest czymś więcej niż jednym i drugim naraz. Jako materiał do sprawdzenia rozkłada się jednak na kilka nierównych warstw.
Pierwsza jest sprawdzona. Wyniki modeli poprawiają się wraz ze skalą. Systemy AI potrafią znajdować podatności, pisać coraz większą część kodu i wykonywać zadania, które jeszcze niedawno wymagały zespołu ludzi. Dostęp do najlepszych modeli ma znaczenie gospodarcze i strategiczne.
Druga jest niesprawdzona, lecz możliwa do sprawdzenia. Jak wyjątkowe były zdolności Mythosa? Czy sporny jailbreak rzeczywiście dawał dostęp do możliwości nieobecnych w innych modelach? Czy blokada zmniejszyła ryzyko, czy jedynie przeniosła użytkowników do alternatyw? Czy AI wywoła trwałe bezrobocie? Czy przyspieszenie kodowania przełoży się na proporcjonalny wzrost całej gospodarki? Na te pytania mogą w końcu odpowiedzieć dane.
Trzecia warstwa jest skonstruowana tak, że znacznie trudniej ją obalić. Przyjdzie masowe bezrobocie? Ostrzeżenie było trafne. Pojawi się boom nowych zawodów? Przewidziano ogromny wzrost. Nic nie zmieni się w obawianym tempie? Adaptacja zadziałała. Boi się opinia publiczna? Dowód, że zagrożenie jest realne. Pozostaje spokojna? Dowód groźnego samozadowolenia. Przepowiednia, której nie obali żaden przyszły stan świata, przestaje być prognozą, a staje się opowieścią.
Ban Fable ujawnił jeszcze kategorię czwartą: twierdzenia być może sprawdzalne, lecz nieujawnione.
Brak publicznego dowodu nie jest dowodem braku zagrożenia. Rządy mają uzasadnione powody, by nie publikować szczegółów podatności lub metod operacyjnych. Nie można jednak równocześnie ukryć pomiaru i oczekiwać, że jego wynik zostanie uznany za bezsporny. Jeżeli na podstawie tajnych danych podejmuje się decyzję dotykającą setek milionów ludzi, potrzebne stają się instytucje zdolne zobaczyć dowód w imieniu opinii publicznej, zakwestionować metodę i sprawdzić proporcjonalność reakcji.
Ten sam wymóg trzeba postawić Anthropic. Firma nie może ogłosić, że jej model zmienił globalny krajobraz cyberbezpieczeństwa, po czym wskazać własne testy jako ostateczne potwierdzenie. Nie znamy pełnej metody pomiaru, nie mamy dostępu do modelu i nie potrafimy niezależnie odtworzyć wielu wyników. Układ pozostaje niezdrowy: firma buduje system, ogłasza jego nadzwyczajną potęgę, proponuje regulację, a kiedy państwo reaguje zbyt mocno, odpowiada, że źle zrozumiało dowody.
Właściwą odpowiedzią nie jest ani zachwyt, ani odrzucenie, tylko żądanie. Skoro dowody są wystarczające do wyłączenia produktu na całym świecie, powinny zostać pokazane przynajmniej niezależnemu organowi zdolnemu je podważyć. Skoro potrzebny jest urząd na wzór lotniczego, audytor nie może być spokrewniony z przewoźnikiem. Nie może też podlegać politykowi, który sam wybiera, kiedy raport ma pozostać tajny, a kiedy ma uzasadniać pokaz siły.
W debacie o AI najgroźniejszą kategorią może nie być dziś ani prawda, ani fałsz, lecz twierdzenie tajne, na podstawie którego podejmuje się publiczne decyzje.
VII. Kto trzyma hamulec
W epilogu Europe 2031 Caroline przedstawia spójną, intelektualnie wygodną wykładnię europejskiej porażki. Nie ma w niej winnych. Zawiódł jedynie system bodźców źle dopasowany do tempa zmian. Jej rozmówca, model sztucznej inteligencji odtwarzający postać ludzkiego dziennikarza, odrzuca tę wersję. Zarzuca Caroline, że ukrywa się za analizą strukturalną, by nie nazwać prawdziwego uczucia, którym jest gniew.
W tym momencie tekst formułuje swoją właściwą tezę. Europa nie przegrała z powodu głupoty ani złej woli, lecz z braku odwagi. Podczas pandemii i po inwazji Rosji na Ukrainę potrafiła łamać własne reguły, gdy uznała, że stawką jest przetrwanie. Wobec AI tej gotowości zabrakło.
Wydarzenia czerwca komplikują ten morał. Amerykańskie państwo nie okazało się powolnym Drzewcem. Zareagowało w ciągu godzin. Problemem nie był brak odwagi ani szybkości, tylko brak widocznej procedury, wspólnego standardu i dowodu, który dałoby się ocenić niezależnie od stron sporu.
Amodei ma rację w jednej zasadniczej sprawie. Jeśli modele stają się coraz potężniejsze, świat potrzebuje hamulca. Nie da się rozsądnie twierdzić, że system mogący znaleźć tysiące podatności, automatyzować badania i pracować przez całe dni powinien być traktowany dokładnie tak samo jak kolejna aplikacja do układania zdjęć. Czas reakcji instytucji rzeczywiście musi się skrócić.
Im potężniejszy model, tym bardziej potrzebny hamulec. Im potężniejszy hamulec, tym ważniejsze stają się dowody, procedura, możliwość odwołania oraz kontrola nad tym, kto i w czyim interesie go używa.
Nie ufajmy firmie, która sama mierzy swój model. Nie ufajmy też państwu, które nie pokazuje własnej miary.
Spór nie przebiega więc między bezpieczeństwem a wolnością ani między regulacją a jej brakiem. Przebiega między władzą, którą da się sprawdzić, a władzą proszącą, by uwierzyć jej na słowo. Dotyczy również tego, czy Europa pozostanie jedynie odbiorcą decyzji podejmowanych w amerykańskich laboratoriach i urzędach, czy zbuduje dość kompetencji oraz infrastruktury, aby mieć własny głos.
Autorzy Europe 2031 pytają, czy instytucje stworzone do powolnego i ostrożnego namysłu potrafią odpowiedzieć na zmianę biegnącą wykładniczo. Ban Fable i Mythos przyniósł zaskakującą odpowiedź. Potrafią działać szybko. Potrafią nawet zatrzymać model w ciągu jednego wieczoru.
Nie wiemy jeszcze, czy potrafią robić to legalnie, proporcjonalnie, przejrzyście i bez zamiany bezpieczeństwa w narzędzie geopolitycznej przewagi.
Najważniejsze pytanie nie brzmi już zatem, czy Drzewiec zdąży się obudzić.
Obudził się.
Teraz trzeba sprawdzić, czy widzi płonący las, czy tylko wskazany mu cel, i czy ręka położona na hamulcu podlega jakiejkolwiek kontroli.
Ależ straszny bełkot. Nie da się czytać, sorry