NHS England szybko wycofuje całe oprogramowanie, które napisało, z publicznego dostępu z obawy przed hakowaniem przez zaawansowaną sztuczną inteligencję. Eksperci ds. bezpieczeństwa twierdzą, że ta decyzja jest zbędna i przynosi efekt przeciwny do zamierzonego.
Oprogramowanie produkcji National Health Service (NHS) dotychczas udostępniane było jako otwarty kod źródłowy i umieszczane na platformie GitHub, ponieważ było tworzone z publicznych funduszy. Dzięki temu inne organizacje mogły na nim bazować, ulepszać usługi taniej i unikać podwójnych nakładów pracy.
Jednak NHS England wydało nowe wytyczne dla personelu, udostępnione magazynowi „New Scientist”, nakazujące wycofanie istniejącego i przyszłego oprogramowania z publicznego dostępu i przechowywanie go za zamkniętymi drzwiami. Nowe wytyczne mówią: „Wszystkie repozytoria kodu źródłowego muszą być prywatne jako domyślnie. Repozytoria nie powinny być publiczne, chyba że zachodzi jasna i wyjątkowa potrzeba, a dostęp publiczny został formalnie zatwierdzony”. Terminem na przekształcenie kodu w prywatny jest 11 maja.
W zeszłym miesiącu sztuczna inteligencja stworzona przez Anthropic o nazwie Mythos miała zdolność odkrywania wad w praktycznie każdym oprogramowaniu, co potencjalnie pozwalałoby hakerom na włamanie się do systemów działających na tym oprogramowaniu.
Wytyczne NHS England wyraźnie wskazują na Mythos jako przyczynę wprowadzenia nowych środków. Mówią one: „Publiczne repozytoria znacząco zwiększają ryzyko nieumyślnego ujawnienia kodu źródłowego, decyzji architektonicznych, szczegółów konfiguracyjnych i informacji kontekstowej, które mogą zostać wykorzystane – zwłaszcza w kontekście szybkich postępów w modelach inteligencji sztucznej zdolnych do masowego przechwytywania kodu, wnioskowania i rozumowania na dużą skalę (np. rozwój takich modeli jak Mythos)”.
Jednak instytut AI Security Institute (AISI) wspierany przez rząd brytyjski zbadał Mythos i uznał, że jest zdolny do atakowania tylko „małych, słabo bronionych i podatnych systemów przedsiębiorstw”, podsumowując, że nie ma wskazówek, aby rzeczywiście bezpieczna część oprogramowania lub sieć były zagrożone.
Nowe środki są sprzeczne ze standardami usług NHS, które wymagają, aby personel udostępniał jako otwarty kod źródłowy jakiekolwiek tworzone przez siebie oprogramowanie. Poprzednie wytyczne mówiły: „Usługi publiczne są finansowane publicznie. Dlatego, chyba że istnieje dobry powód, kod, na którym są oparte, powinien być udostępniony do ponownego wykorzystania i dalszego rozwoju przez inne osoby. Otwarty kod źródłowy pozwala zespołom uniknąć podwójnego nakładu pracy i pomaga im szybciej budować lepsze usługi”.
Oprogramowanie o otwartym kodzie źródłowym dla usług publicznych tworzy także większe zaufanie i przejrzystość. Na przykład, gdyby kod dla systemu IT Horizon, który skłonił brytyjską Pocztę do ścigania niewinnych osób za domniemane kradzieże i oszustwa, był publiczny, skandal mógłby nie trwać latami.
Terence Eden, mający duże doświadczenie w instytucjach publicznych w Wielkiej Brytanii w pracy nad dostępem do publicznych danych, uważa, że ta decyzja nie ma sensu logicznego.
„Czy możliwe jest, że Mythos przeskanuje repozytorium i znajdzie błąd? Tak, na pewno. Czy będzie to błąd, który spowoduje problem z bezpieczeństwem w działającej usłudze NHS? Prawdopodobnie nie”, mówi Eden. „Myślę, że ktoś w NHS England dał się nabrać na szum wokół możliwości Mythos i zaczął trochę panikować”.
Eden uważa, że oprogramowanie o otwartym kodzie źródłowym jest faktycznie bardziej bezpieczne, ponieważ wielu osób może sprawdzać je pod kątem błędów, a większość oprogramowania NHS w ogóle nie jest związana z bezpieczeństwem. Co istotne, biorąc pod uwagę, że kod był publicznie dostępny przez lata, będzie nadal istnieć w różnych kopiah zapasowych i pobieraniach.
„Zamknięcie go teraz to zamknięcie stajni po ucieczce konia”, mówi Eden. „Ja i osoby, z którymi rozmawiałem w NHS, jesteśmy kompletnie zdezorientowani, co chce się osiągnąć tym ruchem”.
Rzecznik NHS England powiedział: „Tymczasowo ograniczamy dostęp do części kodu źródłowego NHS England, aby dalsze wzmocnić cyberbezpieczeństwo, podczas gdy oceniamy wpływ szybkich postępów w modelach AI. Będziemy kontynuować publikację kodu źródłowego, gdy tylko pojawi się jasna potrzeba.”.
