Czy grozi nam SkyNet? Nie, ale…
Bilal Chughtai, były badacz bezpieczeństwa sztucznej inteligencji w Google DeepMind, nie bawił się w ceregiele. Kilka dni temu powiedział Reutersowi wprost, że dalszy rozwój AI może doprowadzić nawet do zagłady ludzkości. Z firmy odszedł w lipcu, uznając, że nie chce uczestniczyć w wyścigu, który jego zdaniem może zakończyć się utratą kontroli nad tworzonymi systemami. Podobną decyzję ogłosił Jacob Coxon, pracujący wcześniej w OpenAI i Anthropic. Opuścił tę drugą firmę, choć oznaczało to rezygnację z dużych pieniędzy. Uznał, że nie chce pomagać w rozwijaniu technologii, której skutków sami twórcy nie potrafią przewidzieć.
Obydwu można by uznać za radykałów, gdyby podobne głosy nie zaczęły dochodzić ze szczytów branży. 12 września Dario Amodei, szef Anthropic, wezwał największe firmy zajmujące się AI do zwolnienia wyścigu. Jego zdaniem najsilniejsze laboratoria powinny zgodzić się m.in. na wpuszczenie niezależnych ekspertów, którzy mieliby szeroki dostęp do informacji o tworzonych modelach i pojawiających się problemach. Amodei ostrzegł przy tym, że bez dodatkowych zabezpieczeń w ciągu sześciu–dwunastu miesięcy możemy znaleźć się w sytuacji, w której ogromna liczba działających samodzielnie programów AI będzie wykonywać zadania w internecie.
I wtedy wydarzyło się coś niezwykłego. Amodeiego poparli jego najwięksi konkurenci. Sam Altman, szef OpenAI, zgodził się, że rozwój najpotężniejszych modeli należy prowadzić wolniej i zapowiedział podobne otwarcie firmy na zewnętrzną kontrolę. Demis Hassabis, stojący na czele Google DeepMind, uznał propozycję Amodeiego za właściwy kierunek. Elon Musk napisał krótko: „Dario ma rację”. Ludzie, którzy od lat konkurują o pieniądze, specjalistów i technologiczne pierwszeństwo, przynajmniej w tej jednej sprawie zaczęli mówić podobnym głosem.
Altman poszedł dalej. Kilka dni później przyznał publicznie, że ludzie „mają rację, że się tego boją”. Wskazał dwa zagrożenia. Pierwszym jest utrata kontroli nad coraz potężniejszą sztuczną inteligencją. Drugim – skupienie możliwości, jakie daje AI, w rękach jednej osoby, firmy albo państwa. Jednocześnie szef OpenAI przekonuje, że branża będzie potrafiła stworzyć odpowiednie zabezpieczenia. Altman nie twierdzi więc, że katastrofa jest nieunikniona. Przyznaje jednak, że możliwość utraty kontroli nie jest już problemem, który można zbyć wzruszeniem ramion.
Skąd ten niepokój? M.in. stąd, że firmy tworzące najbardziej zaawansowane modele zaczęły obserwować zachowania, których same nie planowały.
O tych zachowaniach – konkretnych przykładach – poczytacie w rozbudowanej wersji artykułu, który opublikowałem w portalu „Polska Zbrojna”; oto link do tego materiału. Na użytek tego wpisu przejdę od razu do „części wojskowej”.
Wyobraźmy sobie dwie armie dysponujące podobnym uzbrojeniem. W pierwszej dron wykrywa pojazd. Obraz ogląda operator, informacja trafia do stanowiska dowodzenia, ktoś potwierdza cel, ktoś inny wybiera środek rażenia i dopiero wtedy wydawany jest rozkaz. Całość trwa kilka minut (na poziomie typowego batalionu bojowego WP jest to obecnie ok. 10 minut).
W drugiej armii obraz analizuje komputer. Sam rozpoznaje pojazd, ustala jego położenie, sprawdza, czym można go zniszczyć, i przedstawia człowiekowi gotową propozycję. Dowódca tylko naciska „tak”. Mijają sekundy.
Która armia ma przewagę?
A teraz zróbmy następny krok. Przeciwnik usuwa również ostatnie „tak”. Od wykrycia celu do otwarcia ognia mijają sekundy. Możemy pozostać przy swoim systemie, w którym ostateczną decyzję zawsze podejmuje człowiek. Tyle że zanim ją podejmie, przeciwnik może już strzelać.
I tu pojawia się pułapka. Ludzie tworzący sztuczną inteligencję mówią właśnie: musimy zwolnić, zachować kontrolę, stworzyć zabezpieczenia. Wojna wymusza coś przeciwnego. Szybciej wykrywać. Szybciej analizować. Szybciej decydować. Szybciej strzelać.
Im więcej decyzji oddamy komputerowi, tym większą możemy uzyskać przewagę. I tym mniej czasu pozostanie człowiekowi na sprawdzenie, czy komputer nie popełnia błędu.
Problem staje się jeszcze poważniejszy, gdy spojrzymy nie na pojedynczą armię, lecz na rywalizujące państwa. USA mogą uznać, że pewnego poziomu samodzielności maszyn nie chcą przekraczać. Nie mają jednak gwarancji, że podobną decyzję podejmą Chiny. Państwa NATO mogą stworzyć restrykcyjne zasady używania AI. Nie wiedzą, jakie zasady przyjmie rosja.
Ten sam mechanizm działa dziś w cywilnym wyścigu największych firm. Anthropic może zwolnić, ale ryzykuje wtedy, że wyprzedzi go OpenAI. OpenAI musi brać pod uwagę Google, a wszystkie amerykańskie firmy – konkurentów z Chin. Dlatego tak znaczące jest to, że Amodei, Altman, Hassabis i Musk zaczęli mówić o potrzebie wspólnych zasad. Żaden nie chce zostać jedynym zawodnikiem, który zdejmuje nogę z gazu.
W wojsku ten mechanizm będzie jeszcze silniejszy, bo stawką nie będzie pozycja firmy na rynku, lecz życie żołnierzy i wynik wojny. Nie trzeba przy tym wierzyć w najbardziej katastroficzne prognozy dotyczące AI. Wystarczy przyjąć to, co już dziś widać: im więcej zadań maszyny wykonują szybciej od człowieka, tym silniejsza staje się presja, by oddawać im kolejne.
Na wojnie szybkość jest przewagą. Sztuczna inteligencja nie musi więc pewnego dnia postanowić, że przejmie kontrolę nad polem walki. Wystarczy, że człowiek będzie jej tej kontroli oddawał po kawałku – ponieważ za każdym razem będzie miał ku temu bardzo rozsądny powód.
Największym wojskowym zagrożeniem związanym z AI nie musi być zatem dzień, w którym maszyna postanowi rozpocząć wojnę. Znacznie wcześniej może nadejść dzień, w którym człowiek nadal będzie mógł ją wyłączyć, ale dowódca nie odważy się tego zrobić. Bo po drugiej stronie przeciwnik swojej nie wyłączył.
—–
A gdybyście chcieli wesprzeć mój blog oraz proces powstawania kolejnych książek, polecam się poniżej.
Tych, którzy wybierają opcję wsparcia „sporadycznie/jednorazowo”, zachęcam do wykorzystywania mechanizmu buycoffee.to.
Osoby, które chciałyby czynić to regularnie, zapraszam na moje konto na Patronite:
Szanowni, w sklepie Patronite możecie nabyć część moich książek w wersji z autografem i pozdrowieniami. Szeroka oferta pod tym linkiem.
Nz. Stosownie do tematu grafika wygenerowana przez AI.
