Sztuczna inteligencja obiecuje przeobrażenie biologii, pozwalając nam projektować lepsze leki, szczepionki, a nawet syntetyczne organizmy do np. zjadania plastiku. Niewykluczone jednak, że może być wykorzystana również do mroczniejszych celów, tworzenia broni biologicznej, która nie byłaby wykryta za pomocą konwencjonalnych metod do czasu, gdyby już było za późno. Jak bardzo powinniśmy się martwić?
„Wzrosty w dziedzinie AI stymulują przełomy w biologii i medycynie”, mówi Eric Horvitz, główny naukowiec w firmie Microsoft. „Z nową mocą idzie odpowiedzialność za czujność.”
Jego zespół opublikował badanie mające na celu zbadanie, czy AI mogłaby zaprojektować białka, które robią to samo co białka uznane za niebezpieczne, ale są na tyle różne, że nie zostałyby uznane za niebezpieczne. Zespół nie ujawnił, jakie białka próbowano przeprojektować – części badania nie zostały ujawnione – ale prawdopodobnie obejmowały one toksyny, takie jak ricin, które słynęły z użycia w zamachu z 1978 roku, oraz botulinum, potężną neurotoksynę bardziej znaną jako Botox.
Aby wyprodukować duże ilości białka, takiego jak botulinum, potrzebujesz recepty – DNA, które koduje to białko. Kiedy biolodzy potrzebują określonego fragmentu DNA, zazwyczaj zamawiają go od firm specjalizujących się w produkcji dowolnych pożądanych fragmentów.
Ze względu na obawy, że potencjalni terroryści biologiczni mogą zamawiać receptury do produkcji broni biologicznej w ten sposób, niektóre firmy syntezy DNA dobrowolnie kontrolują zamówienia, sprawdzając, czy ktoś próbuje wyprodukować coś niebezpiecznego. Białka są sekwencjami aminokwasów, a kontrola polega na sprawdzeniu, czy sekwencja aminokwasów pasuje do „sekwencji godnych uwagi” – czyli potencjalnych broni biologicznych.
Jednakże, dzięki AI, teoretycznie możliwe jest zaprojektowanie wersji białka, które posiada różną sekwencję aminokwasów, a mimo to robi to samo. Horvitz i jego współpracownicy próbowali tego z 72 potencjalnie niebezpiecznymi białkami i pokazali, że metody skanowania często nie wykrywają tych alternatywnych wersji.
To nie jest tak alarmujące, jakby się mogło wydawać. Po pierwsze, zespół faktycznie nie wyprodukował przeprojektowanych białek, z oczywistych powodów. Jednak w osobnym badaniu wcześniejszym w tym roku, testowali przeprojektowane wersje nieszkodliwych białek – i zasadniczo okazało się, że nie działały.
Po drugie, chociaż próby ataków bioterroryzmu miały miejsce, choć bardzo rzadko, niewiele wskazuje na to, że jest to spowodowane niepowodzeniem systemu dobrowolnego skanowania. Istnieje już wiele sposobów na obejście go bez konieczności uciekania się do zmian projektowych opartych na AI – np. ricin można pozyskać z oleju rycynowego, znajdującego się w wielu ogrodach. To badanie jest równoważne ostrzeżeniu, że bank może zostać obrabowany za pomocą bardzo wyrafinowanego planu w stylu „Mission Impossible”, podczas gdy w rzeczywistości drzwi kasy zostały zostawione szeroko otwarte.
Ostatnim argumentem, choć wykluczając państwowych wykonawców, żaden terrorysta biologiczny nigdy nie zdołał zabić nikogo za pomocą broni biologicznej opartej na białkach. Kult Aum Shinrikyo w Japonii próbował zabić ludzi botulinum, ale udało się mu tylko z użyciem substancji chemicznych. Listy z nadrukiem ricinu wysłane do Białego Domu nikogo nie zabiły. Jeśli chodzi o liczbę ofiar, broń palna i materiały wybuchowe są o wiele bardziej niebezpieczne niż biotoksyny.
Czy to oznacza, że przestajemy martwić się technologią AI do projektowania broni biologicznej? Nie do końca. Mimo że badania Horvitza dotyczyły tylko białek, to wirusy stanowią dużo większe zagrożenie – i AI jest już wykorzystywana do przeprojektowywania całych wirusów.
W zeszłym miesiącu zespół z Uniwersytetu Stanforda w Kalifornii ujawnił wyniki swoich starań w celu przeprojektowania wirusa, który zaraża bakterie E. coli. Podobnie jak w przypadku przeprojektowanych białek, wyniki były niezadowalające – z 302 AI-przeprojektowanych wirusów, zaledwie 16 mogło zainfekować E. coli. Ale to dopiero początek.
Zapytany o AI-przeprojektowane wirusy, James Diggans z firmy produkującej DNA Twist Bioscience i członek zespołu Horvitza powiedział, że łatwiej jest wykrywać DNA kodujące wirusy, które budzą obawy, niż białka budzące obawy. „Skanowanie syntezy działa lepiej na więcej informacji niż mniej. Więc na skalę genomu jest to niezwykle pouczające.”
Jednakże nie wszystkie firmy produkcji DNA przeprowadzają takie skanowanie, a dostępne stają się synstralery DNA na biurkach. Mówi się o projektowaniu narzędzi AI, które odmówią tworzenia niebezpiecznych wirusów lub spróbują wykryć złośliwe zamiary, ale ludzie znaleźli już wiele sposobów na ominiecie zabezpieczeń, mający na celu np. powstrzymanie AI od dostarczania instrukcji dot. budowy bomb.
Jasne jest, że historia sugeruje, że ryzyko ze strony „dzikich” wirusów jest znacznie większe niż ryzyko terroryzmu biologicznego. Pomimo twierdzeń obecnej administracji USA, dowody wskazują, że SARS-CoV-2 pojawił się w wyniku przeniesienia wirusa z nietoperza na inne dzikie zwierzęta, a następnie na ludzi na targu – bez zaangażowania laboratorium.
Co więcej, potencjalni terroryści biologiczni mogliby wyrządzić niesamowite szkody, po prostu uwalniając znany wirus, np. ospę. Z licznymi rozmytymi lukami w wysiłkach mających na celu kontrolę broni biologicznej, nie ma potrzeby uciekania się do sztuczek AI, aby je ominąć.
Z tych wszystkich powodów ryzyko uwolnienia AI-projektowanego wirusa w najbliższym czasie jest prawdopodobnie bliskie zeru. Jednak to ryzyko będzie rosło w miarę jak różne technologie będą nadal się rozwijać – a pandemia covid-19 pokazała, jak wiele spustoszeń nowy wirus może stworzyć, nawet gdy nie jest szczególnie śmiertelny. Coraz częściej będzie pojawiać się powód do niepokoju.
