Model sztucznej inteligencji Mythos firmy Anthropic miał w czasie testów przełamać zabezpieczenia niemal wszystkich amerykańskich systemów niejawnych w ciągu kilku godzin — podał „The Economist”, powołując się na wypowiedź senatora Marka Warnera.
Sprawa dotyczy modelu Claude Mythos Preview, niewprowadzonego publicznie systemu Anthropic, który według firmy ma wyjątkowo wysokie zdolności wyszukiwania i wykorzystywania podatności w oprogramowaniu.
Nie ujawniono, kiedy dokładnie przeprowadzono test. Informacja została publicznie przywołana 11 czerwca przez Warnera, który powołał się na słowa gen. Joshuy Rudda, szefa NSA i Cyber Command.
Informacja wywołała dyskusję o bezpieczeństwie infrastruktury państwowej i ryzyku wykorzystania najbardziej zaawansowanych modeli AI do cyberataków. W połowie czerwca rząd USA nakazał Anthropic zawieszenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich cudzoziemców, zarówno poza Stanami Zjednoczonymi, jak i na ich terytorium. Anthropic podał, że w praktyce zmusiło go to do nagłego wyłączenia tych modeli dla wszystkich klientów, aby zapewnić zgodność z decyzją władz.
Według „The Economist”, 11 czerwca Mark Warner, wiceprzewodniczący senackiej komisji ds. wywiadu, powiedział, że gen. Joshua Rudd, stojący na czele amerykańskiej Agencji Bezpieczeństwa Narodowego oraz Cyber Command, przekazał mu, iż Mythos „włamał się do prawie wszystkich naszych systemów niejawnych, nie w tygodnie, lecz w godziny”.
Nie jest to jednak publiczny raport techniczny NSA ani oficjalny komunikat CIA, a jedynie relacja z wypowiedzi senatora, który przywołał słowa szefa NSA i Cyber Command. Z tego powodu analiza tego, co naprawdę się wydarzyło, wymaga ostrożności.
Anthropic już wcześniej ostrzegał, że Mythos Preview osiągnął poziom, który może zmienić sytuację w cyberbezpieczeństwie. Firma podała, że model znalazł tysiące poważnych podatności, w tym w głównych systemach operacyjnych i przeglądarkach internetowych. W ramach projektu Glasswing dostęp do modelu otrzymały wybrane firmy technologiczne i instytucje zajmujące się zabezpieczaniem krytycznego oprogramowania.
W osobnym opisie technicznym Anthropic twierdził, że Mythos potrafił identyfikować i wykorzystywać podatności zero-day oraz łączyć kilka luk w jeden skuteczny atak. Według firmy model samodzielnie uzyskiwał m.in. lokalne podniesienie uprawnień w systemach operacyjnych i opracowywał ataki na usługi sieciowe.
Bardziej powściągliwą ocenę możliwości narzędzia przedstawił brytyjski AI Security Institute. Po własnych testach instytut stwierdził, że Mythos jest zdolny do autonomicznego atakowania małych, słabo bronionych i podatnych systemów firmowych, jeśli wcześniej uzyska dostęp do sieci. Jednocześnie zastrzeżono, że wyniki mogą być nieprecycyjne, ponieważ środowiska testowe są łatwiejsze od realnych celów.
Brak publicznego raportu technicznego z testów Mythosa sprawia, że nie wiadomo, jakie konkretnie systemy sprawdzano, jakie zabezpieczenia przełamano i czy test obejmował realną infrastrukturę operacyjną, czy kontrolowane środowisko przygotowane do oceny modelu.
Mimo tych zastrzeżeń nieco bardziej jasne staje się, dlaczego administracja USA zdecydowała się ograniczyć dostęp do najbardziej zaawansowanych modeli Anthropic. Sprawa Mythosa pokazała, że modele tworzone z myślą o cyberobronie mogą budzić obawy także jako narzędzia do szybkiego wyszukiwania luk i automatyzacji działań ofensywnych. Rozmowy w sprawie odblokowania kontrowersyjnych modeli nadal trwają.
http://kresy.pl/wydarzenia/mythos-wlamal-sie-do-tajnych-systemow-usa-zajelo-mu-to-kilka-godzin/
#ai #sztucznainteligencja #cyberbezpieczenstwo #cyberatak
Sprawa dotyczy modelu Claude Mythos Preview, niewprowadzonego publicznie systemu Anthropic, który według firmy ma wyjątkowo wysokie zdolności wyszukiwania i wykorzystywania podatności w oprogramowaniu.
Nie ujawniono, kiedy dokładnie przeprowadzono test. Informacja została publicznie przywołana 11 czerwca przez Warnera, który powołał się na słowa gen. Joshuy Rudda, szefa NSA i Cyber Command.
Informacja wywołała dyskusję o bezpieczeństwie infrastruktury państwowej i ryzyku wykorzystania najbardziej zaawansowanych modeli AI do cyberataków. W połowie czerwca rząd USA nakazał Anthropic zawieszenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich cudzoziemców, zarówno poza Stanami Zjednoczonymi, jak i na ich terytorium. Anthropic podał, że w praktyce zmusiło go to do nagłego wyłączenia tych modeli dla wszystkich klientów, aby zapewnić zgodność z decyzją władz.
Według „The Economist”, 11 czerwca Mark Warner, wiceprzewodniczący senackiej komisji ds. wywiadu, powiedział, że gen. Joshua Rudd, stojący na czele amerykańskiej Agencji Bezpieczeństwa Narodowego oraz Cyber Command, przekazał mu, iż Mythos „włamał się do prawie wszystkich naszych systemów niejawnych, nie w tygodnie, lecz w godziny”.
Nie jest to jednak publiczny raport techniczny NSA ani oficjalny komunikat CIA, a jedynie relacja z wypowiedzi senatora, który przywołał słowa szefa NSA i Cyber Command. Z tego powodu analiza tego, co naprawdę się wydarzyło, wymaga ostrożności.
Anthropic już wcześniej ostrzegał, że Mythos Preview osiągnął poziom, który może zmienić sytuację w cyberbezpieczeństwie. Firma podała, że model znalazł tysiące poważnych podatności, w tym w głównych systemach operacyjnych i przeglądarkach internetowych. W ramach projektu Glasswing dostęp do modelu otrzymały wybrane firmy technologiczne i instytucje zajmujące się zabezpieczaniem krytycznego oprogramowania.
W osobnym opisie technicznym Anthropic twierdził, że Mythos potrafił identyfikować i wykorzystywać podatności zero-day oraz łączyć kilka luk w jeden skuteczny atak. Według firmy model samodzielnie uzyskiwał m.in. lokalne podniesienie uprawnień w systemach operacyjnych i opracowywał ataki na usługi sieciowe.
Bardziej powściągliwą ocenę możliwości narzędzia przedstawił brytyjski AI Security Institute. Po własnych testach instytut stwierdził, że Mythos jest zdolny do autonomicznego atakowania małych, słabo bronionych i podatnych systemów firmowych, jeśli wcześniej uzyska dostęp do sieci. Jednocześnie zastrzeżono, że wyniki mogą być nieprecycyjne, ponieważ środowiska testowe są łatwiejsze od realnych celów.
Brak publicznego raportu technicznego z testów Mythosa sprawia, że nie wiadomo, jakie konkretnie systemy sprawdzano, jakie zabezpieczenia przełamano i czy test obejmował realną infrastrukturę operacyjną, czy kontrolowane środowisko przygotowane do oceny modelu.
Mimo tych zastrzeżeń nieco bardziej jasne staje się, dlaczego administracja USA zdecydowała się ograniczyć dostęp do najbardziej zaawansowanych modeli Anthropic. Sprawa Mythosa pokazała, że modele tworzone z myślą o cyberobronie mogą budzić obawy także jako narzędzia do szybkiego wyszukiwania luk i automatyzacji działań ofensywnych. Rozmowy w sprawie odblokowania kontrowersyjnych modeli nadal trwają.
http://kresy.pl/wydarzenia/mythos-wlamal-sie-do-tajnych-systemow-usa-zajelo-mu-to-kilka-godzin/
#ai #sztucznainteligencja #cyberbezpieczenstwo #cyberatak
