Dylemat podwójnego zastosowania sztucznej inteligencji na przykładzie Chin

Dylemat podwójnego zastosowania sztucznej inteligencji dotyczy niemal każdego kraju, który już jest supermocarstwem lub aspiruje do tego miana. Ten artykuł mógłby opisywać każdego dużego międzynarodowego gracza. Dlaczego więc Chiny? Po pierwsze, są one wdzięcznym podmiotem lirycznym, ponieważ ich działania są wyraźnie widoczne i nie ukrywają swoich intencji, udając, że szerzą demokrację lub stoją na straży porządku międzynarodowego. Wręcz przeciwnie, otwarcie mówią, że ten porządek im nie odpowiada i że chcą go napisać na nowo, po swojemu. Po drugie, choć być może za późno, postaram się nieco wykorzystać boom związany z DeepSeek – narzędziem, które jest być może najbardziej jaskrawym przejawem chińskich ambicji w dziedzinie sztucznej inteligencji. Doniesienia o wyciekach baz danych osobowych, historii czatów i innych naruszeniach bezpieczeństwa to tylko wierzchołek góry lodowej. Gdyby ktoś mnie zapytał, powiedziałbym, że nie jest to zbieg okoliczności wynikający z niekompetencji chińskich programistów.

Truizmem jest stwierdzenie, że postępy w dziedzinie sztucznej inteligencji radykalnie zmieniają krajobraz cyberbezpieczeństwa. Ale truizm to dobry wstęp do dyskusji. Od razu można poczuć się jak na rodzinnym obiedzie.

Dynamiczny krajobraz cyberbezpieczeństwa

Ambitne plany Chińczyków, w połączeniu z ich wojskowo-cywilną strategią fuzji, tworzą mieszankę wybuchową i wyzwanie, które, delikatnie mówiąc, budzi obawy o potencjalne niewłaściwe wykorzystanie technologii AI. Ten „dylemat podwójnego zastosowania” odnosi się do nieodłącznego wyzwania, jakim jest zrównoważenie chęci wspierania innowacji i wzrostu gospodarczego z potrzebą złagodzenia potencjalnych zagrożeń dla bezpieczeństwa. Pod koniec stycznia napisałem na moim Substacku kilka słów o tym, jak Unia Europejska wsadza sobie kij w szprychy, wprowadzając AI Act w jej obecnej formie i w tym momencie. Regulacje są oczywiście potrzebne. Ale moralna wyższość nie da nikomu przewagi w wyścigu o międzynarodową dominację.

Znaczna część postępu w dziedzinie sztucznej inteligencji opiera się na badaniach typu open source, współpracy międzynarodowej i swobodnym przepływie informacji. Ta otwartość sprzyja innowacjom i przyspiesza postęp, ale zwiększa również ryzyko, że technologie te wpadną w niepowołane ręce. Kontrolowanie rozpowszechniania wiedzy i technologii przy jednoczesnym zachowaniu korzyści płynących ze współpracy międzynarodowej jest dużym wyzwaniem.

Wyzwania kontroli i regulacji

Nakładanie ścisłych kontroli eksportu na technologie sztucznej inteligencji hamuje z kolei innowacje i wzrost gospodarczy. Takie ograniczenia szkodzą stosunkom międzynarodowym i prowokują działania odwetowe ze strony innych krajów. Co więcej, że pozwolę sobie na kolejny truizm, w erze cyfrowej niezwykle trudno jest skutecznie kontrolować przepływ informacji i technologii.

Granica między cywilnymi i wojskowymi zastosowaniami sztucznej inteligencji zawsze była zatarta. Na przykład technologia rozpoznawania twarzy, początkowo opracowana z myślą o wygodnych systemach płatności i inicjatywach inteligentnych miast, może być (i jest) łatwo przystosowana do masowej inwigilacji lub śledzenia osób będących przedmiotem zainteresowania. Podobnie, oparte na sztucznej inteligencji narzędzia cyberbezpieczeństwa zaprojektowane w celu ochrony infrastruktury krytycznej mogą być (i są) również wykorzystywane do opracowywania zaawansowanej broni cybernetycznej i prowadzenia cyberszpiegostwa.

Zatarte granice: wykorzystania wojskowo-cywilne

Chińska strategia fuzji wojskowo-cywilnej aktywnie zachęca do współpracy między cywilnymi i wojskowymi instytucjami badawczymi. To zintegrowane podejście zaciera granice między badaniami cywilnymi i wojskowymi, utrudniając śledzenie przepływu technologii i identyfikację potencjalnych zastosowań wojskowych. Uniwersytety i laboratoria badawcze mogą być zaangażowane zarówno w cywilne projekty AI, jak i te o potencjalnych zastosowaniach wojskowych, co utrudnia rozróżnienie między nimi.

Technologia rozpoznawania twarzy, szeroko stosowana w Chinach do wygodnych płatności i inicjatyw inteligentnych miast, może być również wykorzystywana do masowego nadzoru, śledzenia osób, a nawet w autonomicznych systemach uzbrojenia. Wojsko może wykorzystywać rozpoznawanie twarzy do identyfikacji wrogich bojowników, wartościowych celów, a nawet cywilów w czasie rzeczywistym podczas konfliktu. W przyszłości autonomiczne systemy uzbrojenia mogłyby potencjalnie wykorzystywać rozpoznawanie twarzy do wybierania i atakowania celów. Analiza ogromnych zbiorów danych obrazów twarzy może być wykorzystywana do identyfikacji osób, śledzenia ich ruchów i tworzenia szczegółowych profili do celów wywiadowczych. Chiński system kredytów społecznych, który w dużej mierze opiera się na rozpoznawaniu twarzy, jest de facto systemem masowego nadzoru i kontroli społecznej. System ten można łatwo zaadaptować do celów wojskowych, takich jak identyfikacja i śledzenie dysydentów lub potencjalnych zagrożeń.

Przykłady podwójnego zastosowania AI w Chinach

Systemy cyberbezpieczeństwa oparte na sztucznej inteligencji mogą być wykorzystywane do ochrony infrastruktury krytycznej, ale także do opracowywania zaawansowanej broni cybernetycznej i prowadzenia cyberszpiegostwa. Sztuczna inteligencja może być wykorzystywana do opracowywania wysoce wyrafinowanych cyberataków, takich jak exploity zero-day, złośliwe oprogramowanie oparte na sztucznej inteligencji i autonomiczne cyberataki. Sztuczna inteligencja może być wykorzystywana do wzmacniania zabezpieczeń cybernetycznych, ale stawia też nowe wyzwania, takie jak problem „czarnej skrzynki” polegający na zrozumieniu, w jaki sposób systemy sztucznej inteligencji podejmują decyzje i identyfikują potencjalne luki w zabezpieczeniach.

Z drugiej strony przetwarzanie języka naturalnego (NLP) może zasilać usługi tłumaczeniowe i obsługę klienta, ale może być również wykorzystywane do generowania deepfake’ów, rozpowszechniania dezinformacji i analizowania ogromnych ilości danych tekstowych w celu gromadzenia danych wywiadowczych. NLP można wykorzystać do analizy ogromnych ilości danych tekstowych, takich jak posty w mediach społecznościowych, artykuły informacyjne i komunikaty wroga, w celu wydobycia cennych informacji. Sztuczna inteligencja może być wykorzystywana do analizowania nastrojów społecznych, identyfikowania potencjalnych zagrożeń i przewidywania prawdopodobnych reakcji ludności na wydarzenia polityczne lub działania wojskowe. NLP może być wykorzystywane do generowania i rozpowszechniania kampanii dezinformacyjnych, manipulowania opinią publiczną i siania niezgody wśród ludności wroga. Narzędzia sztucznej inteligencji mogą tworzyć wysoce realistyczne deepfake’i, w tym zmanipulowane filmy i nagrania audio przywódców politycznych, które mogą być wykorzystywane do propagandy, szantażu oraz siania zamętu i nieufności.

Zbieranie danych i jego konsekwencje

Modele sztucznej inteligencji są szkolone na wielkich zbiorach danych. Chiny dysponują ogromną ilością danych na temat swoich obywateli, gromadzonych za pomocą różnych środków, w tym mediów społecznościowych, systemów nadzoru i rejestrów rządowych. Teraz, dzięki udostępnianiu bezpłatnych aplikacji i narzędzi open-source, posiadają również dane o obywatelach innych krajów. Ta przewaga danych może być wykorzystywana do celów wojskowych, takich jak modelowanie predykcyjne i rozwój doskonałych systemów sztucznej inteligencji. Gromadzenie i wykorzystywanie ogromnych ilości danych budzi poważne obawy dotyczące prywatności i bezpieczeństwa danych. Chiński rząd może potencjalnie niewłaściwie wykorzystywać te dane do kontroli społecznej, nadzoru i tłumienia sprzeciwu. Potencjalne naruszenia danych i niewłaściwe wykorzystanie danych osobowych gromadzonych przez chińskie firmy powinny budzić obawy ludzi na całym świecie. Mówię „powinny”, ponieważ odsetek osób, które przejmują się tym, co dzieje się z ich danymi, jest wciąż zbyt mały, byśmy mogli mówić o przełomie w postrzeganiu tego problemu.

Wyścig zbrojeń w AI

Szybki postęp Chin w dziedzinie sztucznej inteligencji napędza wyścig zbrojeń między największymi mocarstwami. Rywalizacja ta prowadzi do cyberataków, rozwoju autonomicznych systemów uzbrojenia i zwiększonej niestabilności geopolitycznej. Szybki rozwój i wdrażanie systemów uzbrojenia opartych na sztucznej inteligencji może zwiększyć ryzyko błędnych obliczeń i niezamierzonych konsekwencji. Nie będzie to już wina tego czy innego Wani, który obsługiwał wyrzutnię w stanie wskazującym na spożycie. Po prostu decydenci powiedzą: „Ups, wypadek, komputer popełnił błąd, ale to nie nasza wina”. Rozwój technologii opartych na sztucznej inteligencji może zasadniczo zmienić międzynarodową równowagę sił. Dominacja Chin w dziedzinie sztucznej inteligencji może dać im znaczącą przewagę gospodarczą i technologiczną, potencjalnie wpływając na globalny handel i porządek gospodarczy. Rozwój zaawansowanych systemów uzbrojenia opartych na sztucznej inteligencji może zmienić równowagę sił militarnych, potencjalnie destabilizując istniejący porządek międzynarodowy. Do czego, jak pisałem wcześniej, dążą Chiny.

Poszukiwanie rozwiązań

Trudno mi znaleźć rozwiązanie tej sytuacji. Nic dziwnego – mądrzejsi ode mnie próbowali i nadal nic nie wymyślili. Wprowadzanie coraz to nowych regulacji przyniesie skutek odwrotny do zamierzonego – jeszcze bardziej ograniczy ręce przedsiębiorców i wynalazców w UE i spowoduje dalszy exodus do krajów o bardziej liberalnym podejściu do technologii. A ci międzynarodowi gracze, którzy do tej pory nie przestrzegali unijnych regulacji, nadal nie będą ich przestrzegać.

Jedynym rozwiązaniem, jakie widzę, jest podniesienie świadomości społecznej na temat potencjalnych zagrożeń i korzyści związanych z technologiami sztucznej inteligencji. Niezbędne jest wspieranie publicznego dyskursu i debaty na temat etycznych, społecznych i politycznych implikacji rozwoju sztucznej inteligencji. Inwestowanie w programy edukacyjne i szkoleniowe ma również kluczowe znaczenie dla wyposażenia przyszłych pokoleń w wiedzę i umiejętności niezbędne do poruszania się w przyszłości opartej na sztucznej inteligencji.