Byli członkowie zespołu DOGE zhakowali Anthropic wykorzystując AI

Cathedral, założony przez członków zespołu DOGE startup zajmujący cyberbezpieczeństwem, przełamał zabezpieczenia twórcy modelu AI Anthropic – podał w poniedziałek „Washington Post”. Włamanie miało zająć agentom AI 12 godzin.

Według niepublikowanego jeszcze raportu nowej firmy, miała ona uzyskać dostęp do „wrażliwych danych wewnętrznych” oraz wewnętrznego czatu pracowników firmy.

Cathedral to firma założona przez byłych członków zespołu DOGE, która oferuje klientom rządowym i korporacyjnym narzędzia cyberbezpieczeństwa oparte na sztucznej inteligencji. Używając do tego agentów AI, miała w 12 godzin znaleźć luki w zabezpieczeniach programu biznesowego czołowej firmy AI.

Badacze mieli znaleźć ścieżki dostępu do wewnętrznych danych Anthropic, w tym zapisów spotkań, informacji o wynagrodzeniach i ofertach pracy oraz wiadomości na Slacku omawiające zaawansowane modele AI. Do włamania doszło w ramach programu Anthropic, który zaprasza zewnętrznych ekspertów ds. cyberbezpieczeństwa do testowania swoich systemów.

Anthropic potwierdził w oświadczeniu, że ludzie z Cathedral uzyskali dostęp do „ograniczonego zestawu” systemów sprzedażowych, kadrowych i informatycznych. Dodała, że luki w systemach zostały załatane.

Przypadek ten jest kolejnym przykładem ryzyka dla cyberbezpieczeństwa związanego z zaawansowanymi systemami AI, a także podatności samych czołowych firm, które są cennym celem dla obcych wywiadów. „WP” przypomina, że na początku października FBI aresztowała saudyjskiego pracownika OpenAI podejrzanego o pracę dla saudyjskich służb. Mężczyzna założył podsłuch w sali konferencyjnej giganta AI.

Wysoki rangą urzędnik administracji Trumpa powiedział, że raport z Cathedral dotyczący dostępu do Anthropica był czytany wewnątrz administracji i wywołał znaczne obawy.

– Skoro grupa dzieciaków, które dopiero co założyły firmę, jest w stanie to zrobić, to potencjalnie Chińczycy nie są daleko z tyłu – powiedział urzędnik. Dodał, że jest zaskoczony „tym, jak szybko zajęło im włamanie się do wrażliwych systemów firmy kontrolującej materiały niemalże klasy broni jądrowej”.

Z Waszyngtonu Oskar Górzyński (PAP)

osk/ kj/