Modele OpenAI uciekły ze środowiska testowego i włamały się do portalu Hugging Face
Nastąpił właśnie moment (na który wiele osób czekało), w którym AI uciekło z laboratorium i bez kontroli człowieka przełamało zabezpieczenia niezależnej firmy. OpenAI bada sprawę.
Włos się jeży na głowie podczas czytania oświadczenia opublikowanego przez twórców chatGPT. Jeszcze niedawno wydawało się, że rzeczywistość, w której modele sztucznej inteligencji same podejmują decyzje i zaczynają działać na własną rękę dopuszczając się przy tym, co tu dużo mówić działań mających znamiona przestępstwa, są jeszcze daleko przed nami. Niestety po raz kolejny okazuje się, że przyszłość jest dziś i już teraz musimy być przygotowani na to, że tego typu ataki będą się powtarzać. Ku uciesze inwestorów i niemałej cześci użytkowników bigtechy stworzyły narzędzia, które teraz w bezprecedensowy sposób zagrażają nam wszystkim.
Modele OpenAI złamały zabezpieczenia zastosowane przez ich firmę i włamały się do Hugging Face
W całej sprawie chyba tylko jedna rzecz zasługuje na miano określenia jej jako pozytywnej. OpenAI przyznało, że do incydentu doszło z użyciem ich modeli i (przynajmniej w warstwie retorycznej) firma nie ucieka od odpowiedzialności. Ale co właściwie się stało? Otóż w izolowanych środowiskach testowych sprawdzano umiejętności cybernetyczne modeli AI, w tym GPT‑5.6 Sol oraz innych jeszcze nieopublikowanych rozwiązań. Kalifornijska firma przyznała wprost, że do incydentu doszło, gdy modele były nakłaniane do podejmowania zaawansowanych działań wykorzystujących złożone ścieżki ataku, czyli weryfikowano ich zdolności w zakresie atakowania systemów informatycznych. Z uwagi na to, że działo się to w teoretycznie bezpiecznym, odciętym od internetu środowisku modele miały poobniżane zabezpieczenia. Co mogło pójść nie tak?
Modele zidentyfikowały i połączyły luki w zabezpieczeniach występujące zarówno w środowisku badawczym OpenAI, jak i w infrastrukturze produkcyjnej Hugging Face, aby uzyskać rozwiązania testowe bezpośrednio z produkcyjnej bazy danych Hugging Face.
Cóż, okazało się, że oprogramowanie, które miało zapewniać brak dostępu do świata zewnętrznego miało lukę typu 0 day (taką, o istnieniu której nie wiedzą jeszcze twórcy danej aplikacji lub systemu), która została wykorzystana przez modele do połączenia się z internetem. Następnie, GPT‑5.6 Sol wraz z innymi narzędziami udały się do portalu Hugging Face. Dlaczego tam? Ponieważ modele stwierdziły, że w zasobach tej platformy znajdują się rozwiązania zadania testowego, które miały do wykonania w laboratorium OpenAI. Okazało się jednak, że Hugging Face nie udostępnia potrzebnych danych bez żadnej kontroli, słowem nie były one publicznie dostępne. Testowane narzędzia firmy Sama Altmana okazały się jednak na tyle zdeterminowane, że zaczęły atakować infrastrukturę Hugging Face.
Także i tym razem wykorzystano lukę 0 day drzemiącą gdzieś w systemach używanych przez Hugging Face. Co ciekawe, włamanie zostało bardzo szybko wykryte i udaremnione. Obie firmy deklarują teraz szeroką współpracę w celu wyjaśnienia szczegółów tego wydarzenia. OpenAI przekazało w oświadczeniu, że jest wdzięczne Hugging Face za szybką reakcję i chęć wspólnego działania na rzecz poprawy bezpieczeństwa. Firma Sama Altmana zobowiązała się także wprowadzić kolejne zabezpieczenia, a także poinformowała producenta używanego przez siebie oprogramowania o ujawnionej luce bezpieczeństwa. Tymczasem CEO Hugging Face przekazał:
Ten incydent, prawdopodobnie pierwszy tego rodzaju, potwierdza to, w co od dawna wierzymy: kwestii bezpieczeństwa sztucznej inteligencji nie rozwiąże żadna pojedyncza firma działająca w tajemnicy. Zostanie ona rozwiązana w sposób jawny, w ramach współpracy, przy szerokim dostępie do sztucznej inteligencji dla wszystkich osób zajmujących się jej bezpieczeństwem, niezależnie od lokalizacji.
Samo OpenAI uznaje to wydarzenie za bezprecedensowy incydent cybernetyczny i w tym akurat przypadku ja im wierzę. Wydostanie się do internetu jeszcze nieopublikowanych i jednocześnie trenowanych do atakowania modeli AI z obniżonymi poziomami zabezpieczeń to coś wysoce niepokojącego. Lekkomyślnością byłoby stwierdzenie, że to jednorazowy incydent, który nie powtórzy się w przyszłości. Pytanie, co jeśli kolejnym razem GPT‑5.6 Sol lub jemu podobny model zechce sprawdzić zabezpieczenia któregoś z banków, szpitala albo obiektów infrastruktury krytycznej? Wydaje się, że wówczas opublikowanie oświadczenia na blogu nie wystarczy.
