Scenariusz użycia sztucznej inteligencji do tworzenia broni biologicznej to jeden z najbardziej poważnych i dyskutowanych ryzyk. W przeciwieństwie do zagrożenia nuklearnego, gdzie potrzebne są ogromne masy przemysłowe, broń biologiczna wymaga przede wszystkim informacji oraz dostępu do laboratoriów. AI może znacznie obniżyć ten barierę.

KLuczowe zagrożenie: obniżenie bariery wejścia

Glówna zagrożenie nie tkwi w tym, że AI sam chciałby zabić kogoś, ale w tym, że może uczynić tworzenie broni biologicznej dostępne dla małej grupy ludzi lub nawet jednostek. Jeśli wcześniej do tego potrzeba było lat szkolenia oraz dostępu do skomplikowanych materiałów, to teraz AI może przejąć znaczna część intelektualnej pracy.

W roku 2026 firma Antropic opublikowała raport, w którym opisała pięć realnych przypadków, kiedy badacze z różnych krajów używali ich modelu do potencjalnie niebezpiecznych prac biologicznych. W szczególności, jeden z użytkowników planował użyć AI do poszukiwania mutacji wirusa dengi, które zwiększają jego zdolność do przenoszenia się i unikania odporności. Inny badacz pracował nad adaptacją wysoce zakaźnego ptasiego grypy do ssaków, co mogłoby zwiększyć jego potencjał pandemii.

Kiedy model odmawiał odpowiadania na niebezpieczne zapytania, użytkownicy znajdowały obejścia. W jednym przypadku zapytania były przekierowywane na inne modele z mniej rygorystycznymi ustawieniami, a dostęp do systemu uzyskiwano poprzez zewnętrzne platformy do obejścia ograniczeń geograficznych.

Technicznie scenariusz katastrofy może wyglądać tak.

1. Generowanie projektu. AI, trenowany na ogromnych zbiorach danych biologicznych, projektuje genom nowego patogenu. Już teraz istnieją eksperymenty, gdzie AI stworzył funkcjonalne wirusy z niczego, co dowodzi samej możliwości generacji żywotnych sekwencji genetycznych.
2. Optimizacja właściwości. Model może sugerować, które mutacje należy wprowadzić, aby wirus był bardziej zakaźny lub odporny na istniejące szczepionki i leki.
3. Syntez i montaż. Projekt przekazywany jest do laboratorium do syntezy DNA. To najbardziej skomplikowany fizyczny etap, wymagający sprzętu i materiałów, ale AI może pomagać w planowaniu logistyki oraz nawet w maskowaniu zamówień na syntezę niebezpiecznych sekwencji.
4. Przenoszenie. Gotowy patogen rozpylany lub w inny sposób wydawany w docelowej populacji.

dlaczego to trudne, ale nie niemożliwe

Na drodze do realizacji tego scenariusza stoją poważne przeszkody.

Ograniczenia fizyczne: AI nie może samodzielnie stworzyć wirusa w probówce. Do tego potrzebne są prawdziwe laboratoria, sprzęt i materiały. Ekspertów zauważa, że dla stworzenia wirusa niebezpiecznego dla ludzi, a nie bakterii, wymagane są ogromne wysiłki, czas i pieniądze.

Nieprzewidywalność biologii: systemy biologiczne są chaotyczne. Zaprojektowany patogen może mutować, tracić śmiertelność lub, co jeszcze gorsze, wrócić do twórcy. Właśnie z powodu tej nieprzewidywalności większość krajów zrezygnowała z ofensywnych programów biologicznych.

Mechanizmy ochronne: firmy rozwijające AI już wdrażają filtry blokujące niebezpieczne zapytania. Jednak, jak wykazał raport, te filtry można obejść, a nie zawsze są efektywne wobec celowych przestępców.

Co można przeciwstawić się

Ekspertów zgadzają się, że potrzebne są wieloetapowe środki ochrony. Już teraz dyskutuje się o następujących podejściach.

• Obowiązkowe skanowanie syntezy genów. Firmy sprzedające syntetyzowaną DNA powinny sprawdzać, czy klienci nie zamawiają niebezpiecznych sekwencji.
• Regulacja międzynarodowa. Obecna Konwencja o broni biologicznej jest przestarzała i nie uwzględnia wyzwań AI. Wymagają nowe umowy, obejmujące zarówno modele AI, jak i materiały biologiczne.
• Wczesne ostrzeżenia. Tworzenie systemów szybkiego wykrywania wybuchów nowych chorób, co może służyć jako hamulec.

W ten sposób AI nie tworzy broni biologicznej samodzielnie, ale jest potężnym przyspieszaczem i doradcą dla tych, którzy mają odpowiednie intencje oraz dostęp do laboratoriów. Ryzyko tkwi w tym, że bariera wejścia do tej dziedziny staje się przeraźliwie niska.

Permanent link to this publication: