Australijscy naukowcy ocenili ryzyko wykorzystania AI do broni biologicznej — ABC News Australia
W Australii badacze zajmujący się bezpieczeństwem biologicznym i zdrowiem publicznym ostrzegają, że rozwój systemów sztucznej inteligencji może obniżyć bariery dla tworzenia lub stosowania niebezpiecznych czynników biologicznych. Jednocześnie technologie te są już wykorzystywane w badaniach medycznych i rolniczych, informuje ABC News Australia.
Dyrektor generalny Anthropic, Dario Amodei, wcześniej wzywał do spowolnienia rozwoju AI, aby technologia nie wyprzedziła możliwości ludzkiej kontroli. Jednym ze wskazywanych zagrożeń jest potencjalne wykorzystanie modeli do opracowywania niebezpiecznych czynników biologicznych.
Obniżanie barier dla niebezpiecznych badań
Badacz bezpieczeństwa z Southern Cross University Brendan Walker-Munro uważa, że AI obniża bariery dostępu do specjalistycznej wiedzy. Naukowiec zajmujący się zdrowiem publicznym z University of New South Wales David Heslop stwierdził, że tempo rozwoju takich narzędzi utrudnia ludzki nadzór.
Według niego duże modele językowe mogą pomagać użytkownikom działającym w złej wierze w planowaniu wykorzystania niebezpiecznych materiałów, w tym istniejących już wirusów lub toksyn. Jednocześnie, jak zaznaczył Heslop, nadal wymaga to specjalistycznego przygotowania i wyposażenia laboratoryjnego kosztującego dziesiątki tysięcy dolarów.
W 2022 roku badacze z firmy Collaborations Pharmaceuticals wykazali, że oprogramowanie AI stworzone do odsiewania potencjalnie toksycznych leków można przystosować do projektowania niebezpiecznych toksyn. Anthropic w swoim raporcie wywiadowczym dotyczącym zagrożeń poinformował także o pięciu przypadkach użycia jego produktów w sposób, który mógł wspierać rozwój broni biologicznej. Firma zablokowała tych użytkowników za naruszenie zasad dotyczących obsługiwanych regionów.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Korzyści dla medycyny i rolnictwa
AI jest jednocześnie wykorzystywana do korzystnych badań biologicznych. Program AlphaFold stosowano do przewidywania struktury białek w pracach medycznych; jego twórcy otrzymali Nagrodę Nobla w dziedzinie chemii za 2024 rok. Amerykańscy naukowcy wykorzystali również generatywną AI do stworzenia nowych wirusów atakujących bakterie, które potencjalnie mogą być używane przeciwko infekcjom.
Biolog obliczeniowy z University of Queensland David Kainer wraz z kolegami opracował autonomiczne narzędzie AI do badań rolniczych. Przetwarza ono duże zbiory danych i modeluje, jak zmiany środowiskowe lub genetyczne mogą wpływać na cechy roślin, w tym ich plonowanie i odporność na suszę.
Zabezpieczenia i kontrola
Komercyjne modele językowe mają ograniczenia, które mają zapobiegać ich wykorzystaniu do niebezpiecznych celów. Heslop uważa, że obok takich zabezpieczeń potrzebne są przepisy i regulacje. Walker-Munro podkreślił, że modele z otwartymi wagami można pobrać i uruchamiać prywatnie, mając podstawowe umiejętności programowania.
Wśród możliwych działań eksperci wymieniają wzmocnienie kontroli nad materiałami i sprzętem, a także wykorzystanie AI do nadzorowania wrażliwych badań. Jednocześnie Walker-Munro ostrzegł, że nadmierne ograniczenia mogą utrudniać legalną pracę naukową.
