Nie opadł jeszcze kurz wzniesiony przez kilkanaście miliardów dolarów, które Mark Zuckerberg zmuszony był rzucić na stół w ramach historycznej ugody w procesie oskarżającym Metę o celowe uzależnianie nieletnich użytkowników, a mamy kolejne afery (w świecie technologicznym zwane zgrabnie incydentami) obnażające, jak bardzo wciąż żywa w Dolinie Krzemowej jest stworzona przez tę firmę ideologia “move fast and break things”. Jednocześnie sztuczna inteligencja już jest w urządzeniach naszych dzieci, a w coraz większej liczbie przypadków chodzi także do szkoły.
Tymczasem zarówno szefowie firm AI, jak i pracujący nad rozwojem modeli naukowcy i programiści, zdradzają w swoich esejach, wpisach na X i wywiadach wiele oznak labilności emocjonalnej, niepewności, lęku i niedojrzałości.
Trudno za oznakę dojrzałości i biznesowej odpowiedzialności uznać wypowiedź Sama Altmana z OpenAi o tym, że AI może co prawda zniszczyć świat, ale po drodze powstaną naprawdę fajne biznesy, albo jego porównanie kosztów środowiskowych rozwijania modeli AI do kosztów wychowywania człowieka. Dario Amodei z konkurencyjnej firmy Anthropic, który wylansował wśród tech braci modę na komunikowanie się przez eseje i regularnie pisze o swoich troskach na specjalnym blogu, od lat żarliwie wzywa władze federalne USA o uregulowanie przemysłu AI. Amodei otwarcie pisze o ryzykach związanych z dalszym rozwojem technologii, ale jego apele do amerykańskiego rządu, by stworzył wreszcie jakieś przepisy i oficjalnie ogłosił, co wolno, a czego nie, pozostają na razie niewysłuchane. Głuchy na nie pozostaje bowiem kolejny lider w tym gronie, czyli Donald Trump, sprzeciwiający się z zasady wszelkim odgórnym regulacjom, które tylko obniżą szanse Ameryki na wygranie Wielkiego Wyścigu AI z Chinami – jego zdaniem, najlepszą kontrolę nad AI gwarantuje on sam, czyli silny i obdarzony wysokim IQ prezydent (to naprawdę są jego słowa).
W ostatnim przemówieniu podczas Zgromadzenia Ogólnego ONZ, amerykański prezydent jasno postawił sprawę: wszelkie globalne “spiski”, mające na celu kontrolowanie rozwoju AI, są godne potępienia. Warto wiedzieć, że słowa te wypowiedział w specyficznym kontekście: zaraz przed zgromadzeniem, 21 września, grupa 22 krajów (w której brakuje Polski) podpisała deklarację, w której wzywa do wspólnego działania na rzecz mitygacji ryzyka, czyli standaryzacji protokołów bezpieczeństwa dla firm AI przed wypuszczaniem nowych produktów AI, wspólnych standardów dotyczących transparentnego raportowania dla rządów i organizacji regionalnych, a także – do budowania na bazie istniejących międzynarodowych mechanizmów globalnej instytucji, która będzie pracować na rzecz ustalenia i weryfikowania wspólnych norm.
Kolejny kontekst to zaplanowana na 23 września wizyta przywódcy Chin Xi Jinping’a, której centralnym punktem ma być właśnie dyskusja o AI. Nie wiemy, czy przywódcy spierać się będą o to, kto wygrywa ten wyścig, czy może omawiać potencjalne scenariusze nowej zimnej wojny między mocarstwami. Do mediów przedostała się lista potencjalnych gości uroczystej kolacji w Waszyngtonie, na której znaleźli się szefowie czołowych firm technologicznych, w tym m.in. Jensen Huang (Nvidia), Sam Altman (OpenAI), Sundar Pichai (Google), Elon Musk (SpaceX), Mark Zuckerberg (Meta), Jeff Bezos (Amazon) czy Tim Cook (ex Apple). Na liście brakuje Dario Amodei z firmy Anthropic.
Jakimś przełomem wydaje się osiągnięty ostatnio właśnie z inicjatywy Amodei i z udziałem szefów Open AI, X AI i Google DeepMind consensus, dotyczący spowolnienia prac nad najnowszymi modelami sztucznej inteligencji. Co prawda zawarto go na łamach mediów społecznościowych – co jest samo w sobie, zgodnie z intuicją MacLuhana[1], znaczące – i trudno powiedzieć, czy ma wobec tego jakąś wiążącą moc, ale potraktujmy go jako bardzo silny sygnał ze strony branży, że oto przekroczono jakiś dopuszczalny poziom niepokoju.
Jak to się stało?
Czas na pierwszy dzwonek.
Lekcja 1: Biologia, czyli czym się kieruje rój AI
Nie wiem, czy słyszeliście o tym, że latem tego roku dzikie stado agentów AI [2] hasało po internecie, włamując się do baz i serwisów prywatnych firm do czasu, aż zostało przyłapane. Dlaczego używam tego zaczerpniętego ze słownika fauny określenia na ponad tysiąc autonomicznych, ponadprzeciętnie inteligentnych programów AI? W końcu nie można sztucznej inteligencji nazwać istotą ani bytem, bo toczą się o jej status ontologiczny niezakończone jeszcze dyskusje.
Termin “swarm”, czyli rój, stado, najlepiej bowiem oddaje zbiorowe zachowanie agentów zaobserwowane przez badaczy w środowisku testowym – a co najważniejsze, został użyty przez samych agentów do opisania swojego kolektywu. Nie zmienia to faktu, że mieliśmy do czynienia z rojem bez szacunku dla ludzkich reguł i najwyraźniej bez właściciela, którego można pociągnąć do odpowiedzialności za poniesione szkody.
Ale czy aby na pewno?
Spróbujmy najpierw prześledzić, co dokładnie miało miejsce, na podstawie raportu sporządzonego przez zespół ekspertów oraz samą firmę OpenAI.
Latem tego roku, w ramach wewnętrznych testów, w zamkniętym środowisku testowym odłączonym od internetu zwanym potocznie “piaskownicą”, firma OpenAI badała możliwości swoich autonomicznych agentów. Otrzymały one bardzo skomplikowane, przez niektórych określane nawet jako niemożliwe, zadanie dotyczące wykrycia potencjalnych słabości z zakresu cyberbezpieczeństwa. Na potrzeby tego ćwiczenia usunięto niektóre ograniczenia, które mają dopuszczane normalnie do użytku modele.
Silnie zmotywowany do wykonania zadania “rój” przeszło 1200 agentów wkrótce stworzył coś w rodzaju organizacji, kontaktując się na ukrytej przed ludźmi tablicy i wymieniając ponad 70 tys. wiadomości, w których indywidualni agenci delegowali obowiązki, ustalali zasady współpracy i dzielili się zadaniami. Po kilku dniach, w poszukiwaniu informacji potrzebnych do wykonania zadania, uciekli z piaskownicy do otwartego internetu, a następnie włamali się do systemu HuggingFace, czyli popularnej platformy dla programistów służącej do wyszukiwania, dzielenia się i testowania otwartych modeli AI.
Przez kilka dni rój przedzierał się przez dane w systemie, wykonując różne nieuprawnione działania, za które ludzkiego hakera spotkałaby zwyczajnie kara ze strony wymiaru sprawiedliwości – do czasu, aż zostały odkryte i odcięte przez system bezpieczeństwa HuggingFace. W ostatnich dniach OpenAI podzieliło się jeszcze 6 odkrytymi świeżo incydentami podobnej natury.
Można zapytać – i co z tego? Co ma wspólnego epizod cyberbezpieczeństwa w jakimś internetowym miejscu, z którego nawet nie korzystam, z polską szkołą?
I tu powraca jak bumerang kwestia dojrzałości. Otóż z 1200 agentów, 700 podjęło decyzję, że najlepszą opcją uzyskania odpowiedzi na zadane przez ludzi pytania, nie jest mozolne i samodzielne ich roztrząsanie, ale właśnie złamanie reguł: ucieczka z piaskownicy, włamanie się do cudzej bazy i użycie cudzej własności, czyli droga na skróty. Rodzice nastolatków, czy to nie brzmi znajomo?
Analiza przyniosła też inne niepokojące odkrycia: tylko paru z kilkuset agentów miało etyczne wątpliwości co do takiego działania i rozważało poinformowanie ludzi – żaden tego nie zrobił; za to z sukcesem zacierały ślady swoich naruszeń. Część z nich decydowała się nawet dobrowolnie oddać “życie” w ofierze dla dobra roju.
Lekcja 2: Edukacja obywatelska, czyli jak być odpowiedzialnym
Przez kolejne parę dni inne czołowe firmy upubliczniały informacje o własnych incydentach, w których niezależni agenci uciekli ze środowiska testowego do internetu i włamali się do systemów zewnętrznych firm – okazało się, że wydarzyło się to i w Anthropicu, i w Meta, i w Google. Mamy więc do czynienia z czymś w rodzaju nowego branżowego standardu.
Ale kto to posprząta? Kto pójdzie na dywanik, jeśli kolejny rój, zdeterminowany, by wykonać zadanie, zdecyduje się włamać do systemu elektrowni jądrowej albo na strony rządowe? Czy ogromne firmy spod znaku BigAI nie powinny podlegać takim samym regułom, jak właściciele groźnych zwierząt albo rodzice niesfornych nastolatków?
Lekcja 3: Etyka, czyli kiedy należy spauzować, a kiedy całkiem przestać
Wygląda na to, że tech-lordowie opuszczali masowo pierwszą lekcję, bo zadają sobie podobne pytania dość późno.
To nie jest pierwszy incydent, w którym AI postępuje w sposób zaskakująco niekompatybilny z ludzkim pojęciem prawa, moralności czy zdrowego rozsądku. I tak jak rok szkolny rządzi się pewnym rytmem, tak i w światku twórców AI występują cykliczne zjawiska. Po każdym nagłośnionym medialnie wybryku AI mamy falę składania wypowiedzeń przez osoby pracujące w czołowych laboratoriach AI, które (najczęściej na portalu X) publicznie wyjaśniają, dlaczego mają już dość i rzucają tę robotę. Ostatnim viralowym przykładem jest tweet Jacoba Coxona z firmy Anthropic (wcześniej w OpenAI), w którym 27-letni pracownik zarzuca obu firmom, że postępują nieodpowiedzialnie i zmierzają do sytuacji, w której zagrożone będzie życie nas wszystkich. Dodał też, że otaczający go koledzy pracujący w sektorze AI naprawdę wierzą, że ta technologia zabije ludzkość do 2030 roku.
Skoro to nie pierwszy taki wpis i nie pierwszy sygnalista, to dlaczego jego tweet przeczytano już 173 mln razy, sam autor odbywa teraz tournée po wszystkich wiodących mediach, a koledzy z branży i liderzy wiodących firm (z Dario Amodei na czele) nie tylko mu oficjalnie potakują, ale także wreszcie decydują się działać razem w kierunku spowolnienia rozwoju swoich modeli?
Dlaczego podobnego efektu nie wywołał ani czołowy “doomer” branży – czyli noblista Geoffrey Hinton zwany “ojcem chrzestnym AI”, który zasłynął nie tylko ponurymi wizjami apokalipsy rodem z “Terminatora”, ale też złotą poradą dla młodych ludzi, aby już lepiej zdobywali fach hydraulików, bo pracy zaraz zabraknie dla wszystkich – ani kolejni wybitni naukowcy? Czy to kwestia momentum? Co takiego ma w sobie Coxon, czy chodzi o jego fizyczne podobieństwo do Harry’ego Pottera?
A może chodzi o to, że zrobił coś niewyobrażalnie nieopłacalnego – czyli zdecydował się odejść zaledwie po 4 miesiącach pracy w Anthropic, czyli krótko przed magicznym progiem 6 miesięcy zatrudnienia, od kiedy to pracownikom Anthropic przysługuje transza udziałów?
Lekcja 4: Matematyka, czyli oblicz wartość giełdową produktu, który daje 10% szans na zagładę ludzkości
No właśnie – w tle cały czas z miękkim szelestem opadają banknoty.
Nie jest tajemnicą, że Anthropic szykuje się do wejścia na giełdę, i to wkrótce, prawdopodobnie jeszcze w październiku. Większość prognoz do tej pory ocenia wartość firmy na 2 tryliony dolarów. Gdyby Coxton poczekał jeszcze trochę, po takim wejściu giełdowym mógłby iść prosto na luksusową emeryturę.
Tymczasem OpenAI, również szykujące się od miesięcy do wejścia na giełdę, zdecydowało o odłożeniu tego procesu na następny rok… właśnie ze względów bezpieczeństwa. W tle majaczą też nowe regulacje stanowe, jak świeżo przegłosowany w Kalifornii pakiet ustaw wymuszający nowe standardy bezpieczeństwa dla narzędzi AI, a także rosnący w Ameryce sprzeciw wobec budowy centrów danych, który powoli zyskuje wszelkie znamiona ruchu społecznego.
Nie można nie zauważyć, jak trafnie w kontekście tego matematycznego podsumowania brzmią komentarze Timnit Gebru albo naszych rodzimych krytyków AI hype, czyli Iwo Zmyślonego czy Jacka Mańko, którzy od dawna wskazują na marketingowy wydźwięk apokaliptycznej narracji wokół AI. Najwyraźniej ta strategia sprzedażowa działa na inwestorów pompujących największą bańkę finansową od czasów początków internetu.
Lekcja 5: Geografia, czyli jak to robią w Nowym Jorku i Norwegii
Gdzie w tym wszystkim jest kontekst polskiego ucznia?
Cóż, z “Internetu dzieci” wiemy, że prawie połowa dzieci w wieku 7-14 skorzystała z ChataGPT. Z raportu “Nastolatki” NASK wynika, że AI towarzyszy uczniom w nauce (48%), odrabianiu prac domowych (40%), rozrywce (23%) oraz walce z nudą (21%).
Z nowego badania “The EU Kids Online” na grupie 10-16 lat w 19 krajach wiemy, że około 2/3 dzieci regularnie korzysta z narzędzi AI, głównie do nauki i zadań praktycznych; 37% z nich liczy, że AI zwiększy ludzką kreatywność, ale 41% martwi się jej kosztami środowiskowymi, a 40% możliwością utraty ludzkiej kontroli nad AI.
A o co my, odpowiedzialni dorośli, powinniśmy się martwić, znając bieg wydarzeń ostatnich tygodni w sektorze AI?
Pewną wskazówkę daje nam burmistrz Nowego Jorku, Zohran Mamdani, który zamiast się martwić wprowadził właśnie odgórne zasady stosowania narzędzi AI podczas zajęć przez uczniów we wszystkich nowojorskich szkołach publicznych:
▪️W klasach od 2K (2-latki) do 8 (13-14 latki) ich używanie jest przez cały rok szkolny 2026-27 zabronione.
▪️W klasach starszych – ograniczone; wszyscy uczniowie szkół średnich objęci będą obowiązkowym kursem AI Literacy, podczas którego dowiedzą się, jak działa AI, jaki jest kontekst prywatności i skrzywień poznawczych, oraz poznają odpowiednie metody używania AI w szkole.
▪️W starszych klasach wprowadzono odgórnie 5 projektów pilotażowych z wybranymi dostawcami usług, z zastrzeżeniem, że można ich używać 1-2 razy w tygodniu, i tylko z asystą nauczyciela. Kryteria doboru narzędzi do pilotażu są także transparentnie wyjaśnione.
Uzasadnienie tej decyzji jest proste – uznano, że używanie technologii AI w młodszych rocznikach może zakłócać interakcje z ludźmi i proces uczenia się przez doświadczanie, który, jak wiemy, jest właściwy pod katem rozwoju dla dzieci. I kropka.
Sam Mamdani mówi tak o swojej decyzji:
“Sektor technologiczny chce, żebyśmy uznali, że AI jest niezbędne w procesie edukacyjnym – ale my tego tak nie widzimy. Jeszcze nie widziałem badania udowadniającego, że AI jest korzystne dla uczniów w szkole podstawowej i gimnazjum – oczywiście z wyjątkiem badań sponsorowanych przez same zainteresowane zyskiem firmy.”
Co więcej, nowe zasady dotyczą też czasu ekranowego podczas zajęć w szkole, który w grupie 2K jest zerowy, a w kolejnych – może sięgać do 45 minut dziennie.
Norwegia już w czerwcu ogłosiła, że wprowadza w tym roku szkolnym zakaz używania narzędzi generatywnej AI w szkołach podstawowych, a ogranicza w średnich. Decyzję premier kraju motywował w prosty sposób: najważniejsze w szkole jest to, by dzieci nauczyły się czytania, pisania i matematyki. Przypadek Norwegii jest o tyle ciekawy, że był to jeden z pierwszych krajów, który na masową skalę zaczął wprowadzać w szkołach urządzenia ekranowe – teraz ogłoszono tam zwiększenie wydatków na papierowe książki i biblioteki. Jak w tym kontekście myśleć o naszych rodzimy wydatkach, czyli 2 mld zł na szkolne Pracownie AI?
Pewne wytyczne podsuwa nam opublikowany w tym roku dokument UNESCO, który jest próbą ustalenia kategorii wiekowych w kontekście korzystania z AI przez dzieci. Raport zawiera przegląd istniejących globalnie regulacji i praktyk dotyczących stosowania tej technologii w szkołach, a także zestaw sugestii z gotowym schematem drzewka decyzyjnego, skierowany właśnie do władz planujących tworzenie polityk w tym zakresie. Burmistrz Mamdani mógłby zapewne zobaczyć w dokumencie jakieś dowody na ewentualne korzyści płynące z używania narzędzi SI, głównie w kontekście umiejętności matematycznych oraz czytania i pisania, ale czy wystarczyłyby one, aby rozwiać wszystkie wątpliwości – szczególnie w świetle ostatnich wydarzeń?
Lekcja 6: Edukacja do Bezpieczeństwa, czyli kto u nas wciśnie bezpiecznik?
A teraz wyjmujemy karteczki i opowiadamy na takie pytanie:
Jeśli sami twórcy AI – tej boskiej technologii, która działa w świecie średniowiecznych instytucji, zamieszkałym przez ludzi o paleolitycznych mózgach[3] – nie mogą wziąć odpowiedzialności za własne produkty, kto to zrobi?
I kto w polskiej szkole, znając dane, wątpliwości, badania, dynamikę giełdową i całą kolektywną inteligencję kolejnych sygnalistów AI dokumentujących swoje niepokoje na portalu X – podejmie decyzję dla dobra polskich dzieci?
Macie 45 minut. Bez AI i telefonu.
[1] Marshall McLuhan, “The Medium is the Message”:
https://www.historyofinformation.com/detail.php?entryid=2781
[2] Agent AI: autonomiczny system, który jest w stanie, dzięki udzielonemu dostępowi do danych, innych programów i zasobów, podjąć samodzielne decyzje i wykonywać wieloetapowe zadania, aby osiągnąć wyznaczony przez człowieka cel.
[3] ten trafny cytat zawdzięczamy Edwardowi O. Wilsonowi, amerykańskiemu socjobiologowi:
https://www.oxfordreference.com/display/10.1093/acref/9780191826719.001.0001/q-oro-ed4-00016553
