Archiwa: AI - bezkamuflazu.pl

SkyNet?

Czy grozi nam SkyNet? Nie, ale…

Bilal Chughtai, były badacz bezpieczeństwa sztucznej inteligencji w Google DeepMind, nie bawił się w ceregiele. Kilka dni temu powiedział Reutersowi wprost, że dalszy rozwój AI może doprowadzić nawet do zagłady ludzkości. Z firmy odszedł w lipcu, uznając, że nie chce uczestniczyć w wyścigu, który jego zdaniem może zakończyć się utratą kontroli nad tworzonymi systemami. Podobną decyzję ogłosił Jacob Coxon, pracujący wcześniej w OpenAI i Anthropic. Opuścił tę drugą firmę, choć oznaczało to rezygnację z dużych pieniędzy. Uznał, że nie chce pomagać w rozwijaniu technologii, której skutków sami twórcy nie potrafią przewidzieć.

Obydwu można by uznać za radykałów, gdyby podobne głosy nie zaczęły dochodzić ze szczytów branży. 12 września Dario Amodei, szef Anthropic, wezwał największe firmy zajmujące się AI do zwolnienia wyścigu. Jego zdaniem najsilniejsze laboratoria powinny zgodzić się m.in. na wpuszczenie niezależnych ekspertów, którzy mieliby szeroki dostęp do informacji o tworzonych modelach i pojawiających się problemach. Amodei ostrzegł przy tym, że bez dodatkowych zabezpieczeń w ciągu sześciu–dwunastu miesięcy możemy znaleźć się w sytuacji, w której ogromna liczba działających samodzielnie programów AI będzie wykonywać zadania w internecie.

I wtedy wydarzyło się coś niezwykłego. Amodeiego poparli jego najwięksi konkurenci. Sam Altman, szef OpenAI, zgodził się, że rozwój najpotężniejszych modeli należy prowadzić wolniej i zapowiedział podobne otwarcie firmy na zewnętrzną kontrolę. Demis Hassabis, stojący na czele Google DeepMind, uznał propozycję Amodeiego za właściwy kierunek. Elon Musk napisał krótko: „Dario ma rację”. Ludzie, którzy od lat konkurują o pieniądze, specjalistów i technologiczne pierwszeństwo, przynajmniej w tej jednej sprawie zaczęli mówić podobnym głosem.

Altman poszedł dalej. Kilka dni później przyznał publicznie, że ludzie „mają rację, że się tego boją”. Wskazał dwa zagrożenia. Pierwszym jest utrata kontroli nad coraz potężniejszą sztuczną inteligencją. Drugim – skupienie możliwości, jakie daje AI, w rękach jednej osoby, firmy albo państwa. Jednocześnie szef OpenAI przekonuje, że branża będzie potrafiła stworzyć odpowiednie zabezpieczenia. Altman nie twierdzi więc, że katastrofa jest nieunikniona. Przyznaje jednak, że możliwość utraty kontroli nie jest już problemem, który można zbyć wzruszeniem ramion.

Skąd ten niepokój? M.in. stąd, że firmy tworzące najbardziej zaawansowane modele zaczęły obserwować zachowania, których same nie planowały.

O tych zachowaniach – konkretnych przykładach – poczytacie w rozbudowanej wersji artykułu, który opublikowałem w portalu „Polska Zbrojna”; oto link do tego materiału. Na użytek tego wpisu przejdę od razu do „części wojskowej”.

Wyobraźmy sobie dwie armie dysponujące podobnym uzbrojeniem. W pierwszej dron wykrywa pojazd. Obraz ogląda operator, informacja trafia do stanowiska dowodzenia, ktoś potwierdza cel, ktoś inny wybiera środek rażenia i dopiero wtedy wydawany jest rozkaz. Całość trwa kilka minut (na poziomie typowego batalionu bojowego WP jest to obecnie ok. 10 minut).

W drugiej armii obraz analizuje komputer. Sam rozpoznaje pojazd, ustala jego położenie, sprawdza, czym można go zniszczyć, i przedstawia człowiekowi gotową propozycję. Dowódca tylko naciska „tak”. Mijają sekundy.

Która armia ma przewagę?

A teraz zróbmy następny krok. Przeciwnik usuwa również ostatnie „tak”. Od wykrycia celu do otwarcia ognia mijają sekundy. Możemy pozostać przy swoim systemie, w którym ostateczną decyzję zawsze podejmuje człowiek. Tyle że zanim ją podejmie, przeciwnik może już strzelać.

I tu pojawia się pułapka. Ludzie tworzący sztuczną inteligencję mówią właśnie: musimy zwolnić, zachować kontrolę, stworzyć zabezpieczenia. Wojna wymusza coś przeciwnego. Szybciej wykrywać. Szybciej analizować. Szybciej decydować. Szybciej strzelać.

Im więcej decyzji oddamy komputerowi, tym większą możemy uzyskać przewagę. I tym mniej czasu pozostanie człowiekowi na sprawdzenie, czy komputer nie popełnia błędu.

Problem staje się jeszcze poważniejszy, gdy spojrzymy nie na pojedynczą armię, lecz na rywalizujące państwa. USA mogą uznać, że pewnego poziomu samodzielności maszyn nie chcą przekraczać. Nie mają jednak gwarancji, że podobną decyzję podejmą Chiny. Państwa NATO mogą stworzyć restrykcyjne zasady używania AI. Nie wiedzą, jakie zasady przyjmie rosja.

Ten sam mechanizm działa dziś w cywilnym wyścigu największych firm. Anthropic może zwolnić, ale ryzykuje wtedy, że wyprzedzi go OpenAI. OpenAI musi brać pod uwagę Google, a wszystkie amerykańskie firmy – konkurentów z Chin. Dlatego tak znaczące jest to, że Amodei, Altman, Hassabis i Musk zaczęli mówić o potrzebie wspólnych zasad. Żaden nie chce zostać jedynym zawodnikiem, który zdejmuje nogę z gazu.

W wojsku ten mechanizm będzie jeszcze silniejszy, bo stawką nie będzie pozycja firmy na rynku, lecz życie żołnierzy i wynik wojny. Nie trzeba przy tym wierzyć w najbardziej katastroficzne prognozy dotyczące AI. Wystarczy przyjąć to, co już dziś widać: im więcej zadań maszyny wykonują szybciej od człowieka, tym silniejsza staje się presja, by oddawać im kolejne.

Na wojnie szybkość jest przewagą. Sztuczna inteligencja nie musi więc pewnego dnia postanowić, że przejmie kontrolę nad polem walki. Wystarczy, że człowiek będzie jej tej kontroli oddawał po kawałku – ponieważ za każdym razem będzie miał ku temu bardzo rozsądny powód.

Największym wojskowym zagrożeniem związanym z AI nie musi być zatem dzień, w którym maszyna postanowi rozpocząć wojnę. Znacznie wcześniej może nadejść dzień, w którym człowiek nadal będzie mógł ją wyłączyć, ale dowódca nie odważy się tego zrobić. Bo po drugiej stronie przeciwnik swojej nie wyłączył.

—–

A gdybyście chcieli wesprzeć mój blog oraz proces powstawania kolejnych książek, polecam się poniżej.

Tych, którzy wybierają opcję wsparcia „sporadycznie/jednorazowo”, zachęcam do wykorzystywania mechanizmu buycoffee.to.

Osoby, które chciałyby czynić to regularnie, zapraszam na moje konto na Patronite:

Szanowni, w sklepie Patronite możecie nabyć część moich książek w wersji z autografem i pozdrowieniami. Szeroka oferta pod tym linkiem.

Nz. Stosownie do tematu grafika wygenerowana przez AI.

Zagrożenie

Całkowity światowy zapas głowic nuklearnych oszacowano na 12 241 sztuk (stan na styczeń 2025 roku). 2627 spośród nich to głowice wycofane, reszta pozostawała na różnych poziomach gotowości do użycia. 3912 egzemplarzy znajdowało się „pod ręką” – część to głowice zmagazynowane w pobliżu „nosicieli” – samolotów i wyrzutni – ale aż 2100 było utrzymywanych w stanie najwyższej gotowości operacyjnej. Umieszczone na pociskach balistycznych, mogły zostać odpalone w każdej chwili.

Prawie wszystkie gotowe do natychmiastowego użycia głowice należały do rosji i USA, nieliczne do Chin, które jednak cały czas rozbudowują swoje możliwości w tym zakresie – wynika z najnowszego raportu Sztokholmskiego Instytutu Badań nad Pokojem (SIPRI). Opublikowany 16 czerwca dokument – będący coroczną oceną stanu zbrojeń, rozbrojenia i bezpieczeństwa międzynarodowego – niesie jeszcze inną niepokojącą konkluzję. „Na całym świecie dziewięć państw posiada broń nuklearną i prawie wszystkie z nich kontynuowały w 2024 roku intensywne programy modernizacji, ulepszając ją i dodając nowsze wersje”, czytamy.

Instytut szacuje, że Chiny posiadają obecnie co najmniej 600 głowic nuklearnych, a ich arsenał rośnie szybciej niż w jakimkolwiek innym kraju. Dość przypomnieć, że jeszcze trzy lata temu Chińczycy dysponowali o połowę mniejszą liczbą głowic. Pakistan w 2024 roku utrzymał dotychczasowy stan posiadania (172 głowice), skupiając się na intensywnym opracowywaniu nowych systemów przenoszenia i gromadzenia materiałów rozszczepialnych – kluczowego komponentu broni jądrowej. Izrael, który kilka dni temu rozpoczął ataki na irańskie obiekty nuklearne, zabijając naukowców zajmujących się energią jądrową, jest w trakcie modernizacji własnego arsenału atomowego, a także modernizacji reaktora do produkcji plutonu na pustyni Negew – wynika z raportu SIPRI.

W 2024 roku Francja kontynuowała prace nad projektem atomowego okrętu podwodnego trzeciej generacji oraz nowego lotniczego pocisku manewrującego przeznaczonego do przenoszenia głowic jądrowych. „Korea Północna nadal traktuje wojskowy program nuklearny jako priorytetowy element strategii bezpieczeństwa narodowego”, czytamy w najnowszym opracowaniu SIPRI. Badacze instytutu szacują, że kraj ów zgromadził już około 50 głowic i posiada wystarczającą ilość materiału rozszczepialnego do produkcji 40 kolejnych. Powołując się na dane wywiadu południowokoreańskiego z lipca 2024 roku, SIPRI alarmuje, że Korea Północna znajduje się na ostatnim etapie opracowywania taktycznej broni jądrowej.

—–

W połowie lat 80. XX wieku liczba głowic nuklearnych na całym świecie wynosiła około 64 tys. sztuk. Z tej perspektywy patrząc, dzisiaj mamy do czynienia z pozytywną zmianą. Rzecz w tym, że uruchomiony po 1991 roku proces atomowego rozbrojenia definitywnie się skończył. Dwaj najwięksi dysponenci jądrowych arsenałów – USA i rosja – przestali rozmawiać na temat ich redukcji. Nowy START – ostatni obowiązujący traktat o kontroli zbrojeń nuklearnych ograniczający rosyjskie i amerykańskie strategiczne siły jądrowe – pozostaje w mocy do początku 2026 roku i nie ma żadnych oznak negocjacji w celu jego odnowienia lub zastąpienia. Jak zauważa we wstępie do raportu SIPRI dyrektor Instytutu Dan Smith: „Wszystko wskazuje na to, że szykuje się nowy wyścig zbrojeń, który niesie ze sobą znacznie większą niepewność niż poprzedni”.

Skąd ta większa niepewność? Z powodu technologii, zwłaszcza szybkiego rozwoju i coraz szerszego zastosowania sztucznej inteligencji (AI). Wedle pierwotnych założeń, AI miała przyspieszać podejmowanie decyzji w sytuacjach kryzysowych. Dziś – gdy technologia wyszła już z fazy „powijaków” – wiemy, że owo przyspieszanie wcale nie eliminuje, ale może wręcz zwiększyć ryzyko wybuchu konfliktu nuklearnego w wyniku błędnej komunikacji, nieporozumienia lub wypadku technicznego. Jak uniknąć scenariusza rodem z „Terminatora”, gdzie „zerwany ze smyczy” system komputerowy doprowadził ludzkość na skraj jądrowej anihilacji? „Musi istnieć czerwona linia, z którą zgodzą się wszyscy przywódcy polityczni i wojskowi”, postuluje na łamach „Deutsche Welle” Dan Smith. Zdaniem dyrektora SIPRI, systemy kontroli należy konstruować w taki sposób, by decyzja o wystrzeleniu pocisku nuklearnego nie mogła zostać podjęta przez sztuczną inteligencję”. Założenie za wszech miar słuszne, ale każdy atomowy gracz chce, by jego arsenał mógł zostać użyty zanim zrobi to „tamten”. Tak otwiera się pole do zastosowania AI – i trudno się tej pokusie oprzeć.

—–

Szanowni, to dzięki Wam powstają także moje książki! A skoro o nich mowa, w sklepie Patronite możecie nabyć moje tytuły w wersji z autografem i pozdrowieniami. Pełną ofertę znajdziecie pod tym linkiem.

Ten felieton opublikowałem w portalu „Polska Zbrojna”, oto link do jego pełnej wersji.

Nz. B-52G z pociskami AGM-86B ALCM. Ten element triady jest stosunkowo najłatwiejszy do kontroli, wymaga bowiem czynnego udziału ludzi, w tym przypadku załogi bombowca. Samolot sam nie wystartuje…/fot. USAF, domena publiczna

Zew?

Społecznościówki zalewają generowane przez AI filmiki, z których wynika, że Iran zadaje Izraelowi potężne ciosy. Płonie Tel-Awiw, płonie Hajfa, z dymem idą najcenniejsze aktywa izraelskiej armii i gospodarki. Jakość tych materiałów jest zwykle fatalna, trzeba naprawdę mieć solidne poznawcze ograniczenia, by się na tę tępą propagandę nabrać. No ale są tacy, którzy się nabierają, a boty nie ustają w wysiłkach i przepychają kolejne „wesołe produkcje”.

Fakty zaś są takie, że Izrael obnażył fasadowy charakter militarnej potęgi Iranu. Uczynił coś na wzór ukraińskiej dekompozycji mitu „drugiej armii świata”, tyle że szybciej i w znacznie dotkliwszej formie. Dotkliwszej, gdyż roSSja przetrwała, i jakkolwiek znacznie słabsza niż w 2022 roku, nadal nie jest na kolanach. A Iran jest – los jego stolicy, nad którą niepodzielnie panuje izraelskie lotnictwo, najdonioślejszym tego przykładem. Żydzi robią nad Teheranem co chcą. Niszczą instalacje mające jakikolwiek związek z obronnością, nade wszystko zaś dekapitują wojskowe przywództwo Iranu. Tak wygląda blitzkrieg XXI wieku.

I znów, jak w 2022 roku, wielu analityków jest zaskoczonych. Wtedy słabością roSSji, dziś Iranu. Mało kto spodziewał się, że otwarta wojna między Iranem a Izraelem będzie miała aż tak jednostronny przebieg.

Oczywiście, wiele może się jeszcze wydarzyć, ale nie sądzę, byśmy mieli do czynienia z jakąś gwałtowną woltą. Iran tej wojny nie wygra. Pytać należy o to, jak bardzo ją przegra i jakie będą skutki tej porażki.

A mogą być donośne. Iran od ponad 40 lat solidnie pracował na miano państwa-destabilizatora. Obrzydliwy, opresyjny także wobec własnych obywateli reżim ajatollahów, nie ustawał w próbach podpalenia Bliskiego Wschodu. Cicha wojna z Izraelem to tylko jedna z odsłon tego bandytyzmu. A przecież Persowie mieli kosę także z Irakiem czy Arabią Saudyjską. I nie, nie była to akceptowalna w formie rywalizacja o dominację w regionie. Iran stał się sponsorem terroryzmu na niespotykaną wcześniej skalę.

I teraz tego Iranu może zabraknąć. Zdaje się, że właśnie taką szansę dostrzegli Amerykanie i Brytyjczycy. Jeszcze kilka dni temu sceptyczni wobec działań Izraela, teraz koncentrują siły powietrzne i morskie w rejonie Bliskiego Wschodu. Nie byle jakie, wskazujące coraz wyraźniej na intencję przyłączenia się do ataków na Iran. USA i Wielka Brytania poczuły krew okaleczonych ajatollahów i najwyraźniej planują skorzystać z okazji i ich dobić.

Celem może być względna stabilizacja Bliskiego Wschodu, co oczywiście nie wyklucza dodatkowych partykularnych zysków. Zwycięska wojna uskrzydli Trumpa (a Natanjahu może uniknąć kryminału, bo kto będzie sądził bohatera?). Na taki urobek można by prychnąć, gdyby nie fakt, że Ameryka musi odzyskać mocarstwową podmiotowość. USA Trumpa stały się wręcz pośmiewiskiem, na skutek swej dramatycznie złej i nieefektywnej polityki wobec roSSji i nie tylko. Stanom nic ostatnio nie idzie, a ich słabość rozzuchwala rosjan i Chińczyków. Show of force nad Iranem byłby mocnym sygnałem dla Moskwy i Pekinu, demonstracją technicznych możliwości i politycznej determinacji. Polska tylko by na tym skorzystała, zyskując potwierdzenie, że należy do wspólnoty, której przewodzi prawdziwe supermocarstwo.

Nieprzyjaciele Polski zaś już tracą (niezależnie od tego, co zrobi Waszyngton). Trzy lata temu Iran przekazał roSSji technologię, która do tej pory zabiła i zraniła kilka tysięcy bogu ducha winnych Ukraińców. Mimo rosyjskich zbrodni w Ukrainie, Teheran utrzymywał z Moskwą bardzo bliskie, przyjacielskie relacje. W tym sojuszu roSSja dawała Iranowi gwarancje bezpieczeństwa. Teraz okazuje się, że są one gówno warte. Że Kreml nie ma realnie żadnej sprawczości, a to bardzo demotywujący sygnał dla krajów-fanów „wielkiej roSSji” (których definiuję jako nieprzyjaciół).

I już na koniec, szczerze. Bawią i irytują mnie, na zmianę, te wszystkie żale nad biednym Iranem, zaatakowanym przez zły Izrael. Żydzi – zwłaszcza po Gazie, gdzie dopuścili się wielu zbrodni wojennych – nie są szlachetnym księciem na białym koniu. To też łobuz. Ale jak lutuje przyjaciela mojego wroga, nie zamierzam ronić nad tym łez. Nie nad losem kraju w jego zwyrodniałej teokratyczno-terrorystycznej formie.

Zwykłych ludzi żal, to jasne. Niechby więc ajatollahów i ich podnóżki jak najszybciej trafił szlag.

—–

Szanowni, zachęcam Was do wsparcia mojej publicystyczno-reporterskiej działalności.

Tych, którzy wybierają opcję wsparcia „sporadycznie/jednorazowo”, zachęcam do wykorzystywania mechanizmu buycoffee.to.

Osoby, które chciałyby czynić to regularnie, zapraszam na moje konto na Patronite:

Korzystając z okazji chciałbym podziękować swoim najszczodrzejszym Patronom: Czytelnikowi o nicku Zajcef Fizzlewick, Arkadiuszowi Halickiemu, Piotrowi Maćkowiakowi, Bartoszowi Wojciechowskiemu, Monice Rani, Maciejowi Szulcowi, Joannie Marciniak, Jakubowi Wojtakajtisowi, Andrzejowi Kardasiowi, Marcinowi Łyszkiewiczowi, Tomaszowi Krajewskiemu i Magdalenie Kaczmarek. A także: Juliuszowi i Elżbiecie Wolny, Piotrowi Rucińskiemu, Tomaszowi Sosnowskiemu, Piotrowi Świrskiemu, Arturowi Żakowi, Łukaszowi Hajdrychowi, Patrycji Złotockiej, Wojciechowi Bardzińskiemu, Bognie Gałek, Krzysztofowi Krysikowi, Mateuszowi Piecuchowi, Michałowi Wielickiemu, Jakubowi Kojderowi, Piotrowi Pszczółkowskiemu, Bożenie Bolechale, Jarosławowi Terefenko, Marcinowi Gonetowi, Pawłowi Krawczykowi, Joannie Siarze, Aleksandrowi Stępieniowi, Marcinowi Barszczewskiemu, Dinarze Budziak, Szymonowi Jończykowi, Piotrowi Habeli i Annie Sierańskiej.

Podziękowania należą się również moim najhojniejszym „kawoszom” z ostatniego tygodnia – Michałowi Bąkowi, Bartoszowi Zdulskiemu, Grzegorzowi Podrucznemu i Czytelnikowi o nicku Rob Emm.

To dzięki Wam powstają także moje książki!

A skoro o nich mowa, w sklepie Patronite możecie nabyć moje tytuły w wersji z autografem i pozdrowieniami. Pełną ofertę znajdziecie pod tym linkiem.