Sam Altman, Dario Amodei oraz inni dyrektorzy oświadczyli, że postępy w dziedzinie sztucznej inteligencji mogą osłabić bariery biosekurytetu
Dyrektorzy wiodących firm zajmujących się sztuczną inteligencją dołączyli do ekspertów biotechnologicznych w pilnym wezwaniu do wprowadzenia obowiązkowych testów bezpieczeństwa dla zakupów syntetycznej DNA. W liście otwartym adresowanym do Kongresu Stanów Zjednoczonych sygnatariusze argumentują, że szybkie postępy w dziedzinie AI mogą zwiększyć ryzyko rozwoju broni biologicznej.
Apel opublikowany wcześniej w tym tygodniu został podpisany przez Demisa Hassabisa z Google DeepMind, Sama Altmana z OpenAI, Dario Amodei z Anthropica oraz Mustafę Suleymana i Erica Horvitza z Microsoft AI. Dołączyło do nich dziesiątki ekspertów z dziedzin biotechnologii, syntezy DNA i bezpieczeństwa narodowego.
Syntetyczna DNA odnosi się do sztucznie wytworzonego materiału genetycznego, który można zamówić online i wysłać tak jak inne materiały laboratoryjne. Chociaż list jest skierowany do Kongresu, sygnatariusze podkreślili, że problem jest globalny, ponieważ syntetyczną DNA można nabyć i transportować przez granice.
“Zdolność do zamawiania syntetycznej DNA online przyspieszyła opracowywanie szczepionek, umożliwiła podstawowe badania i umożliwiła małym zespołom uzyskanie możliwości, które wcześniej były ograniczone do dużych instytucji,†czytamy w liście.
Chociaż syntetyczna DNA ma szeroki zakres legalnych zastosowań, w tym rozwijanie medykamentów ratujących życie, inżynierię mikroorganizmów oraz nawet przechowywanie ogromnych ilości danych cyfrowych, niesie także ryzyko – ostrzegli sygnatariusze. Teoretycznie, złośliwi aktorzy mogliby zamawiać sekwencje DNA zaprojektowane do odtworzenia niebezpiecznych patogenów, ostrzegają.
Podczas gdy niektóre firmy już dobrowolnie przeprowadzają kontrole klientów i zamówień, nie ma obowiązku prawnego, aby tak czynić. Autorzy listu opisali te kontrole jako “jedno z najlepiej zrozumianych i najmniej inwazyjnych środków biosekurytyzacji dostępnych.â€
Wskazali także na konieczność obowiązkowego prowadzenia rejestrów w celu ułatwienia śledzenia podejrzanych działań. Oprócz pomagania w dochodzeniach, autorzy argumentowali, że samo wiedzenie, iż zamówienia można śledzić, mogłoby odstraszyć od nadużycia.
Autorzy stwierdzili, że podstawowe zagrożenie nie jest nowe, ale argumentowali, że bezprecedensowy rozwój AI zmienia równanie. Jak zauważyli, dzisiejsze systemy AI mogą już przewyższać poziom doktorantów w virologii na pytaniach dotyczących bardzo złożonych procedur laboratoryjnych.
Ostrzegli, że w miarę poprawy tych systemów, bariery w postaci wiedzy i umiejętności, które historycznie ograniczały dostęp do broni biologicznej, mogą ulec znacznemu osłabieniu.
Możesz udostępnić tę historię w mediach społecznościowych:
