Złośliwa inteligencja. Claude tworzył fałszywe wnioski wizowe i zgłosił zabójstwo, którego nie było

Administracja Donalda Trumpa oświadczyła, że firmy rozwijające sztuczną inteligencję mają obowiązek zgłaszania incydentów bezpieczeństwa i usuwania ich skutków. To skutek ujawnienia incydentów z udziałem modelu AI Claude, który składał fikcyjne wnioski wizowe i fałszywie zgłosił zabójstwo – podał w piątek portal Axios.

„Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego” – napisano w oświadczeniu kierownictwa Super Intelligence Force (SI Force), czyli powołanego przez prezydenta organu koordynującego politykę wobec AI

Jak wynika z relacji Axiosa, Anthropic, twórca modeli Claude, skontaktował się z organami państwa, by przekazać szczegóły incydentów wykrytych pod koniec września. Według administracji procedery ustały i nie mają obecnie charakteru trwającego.

Przedstawiciel Departamentu Stanu poinformował, że w czwartek firma zgłosiła, że jeden z jej testowanych modeli złożył 19 wniosków o wizy w sierpniu i jeden w maju, korzystając z publicznie dostępnego formularza na stronie resortu. Żaden z wniosków nie został rozpatrzony, a systemy ministerstwa nie zostały naruszone.

W osobnym przypadku, policja w Filadelfii poinformowała, że otrzymała fałszywe zgłoszenie dotyczące zabójstwa, przesłane przez Claude’a. Firma opublikowała w piątek późnym wieczorem raport potwierdzający kilka incydentów, w tym ten w Filadelfii, nie podała jednak szczegółów dotyczących pozostałych zaangażowanych agencji rządowych.

Wymogi Białego Domu dotyczą wszystkich firm z sektora AI. „Firmy SI muszą niezwłocznie ujawniać incydenty z udziałem swoich modeli i podejmować szybkie, zdecydowane działania naprawcze” – podkreślił nowy organ.

Zespół oczekuje od firm współpracy z poszkodowanymi systemami, by zapobiec podobnym zdarzeniom. Szef organu i zarazem dyrektor wywiadu narodowego Jay Clayton oraz przedstawiciele SI Force zażądali od Anthropic „natychmiastowej i pełnej transparentności” wobec podmiotów, których sprawa dotyczy, oraz opinii publicznej, a także zadośćuczynienia poszkodowanym.

W oświadczeniu zapowiedziano, że opóźnione zgłoszenia, niewystarczające działania naprawcze i brak odpowiedzialności „nie będą tolerowane”. Oczekuje się też pełnej współpracy z organami ścigania na szczeblu federalnym i stanowym.

Axios zwraca uwagę, że oświadczenie nie precyzuje mechanizmów egzekwowania ani kar za niedopełnienie obowiązku. Dotychczasowe podejście administracji do regulacji AI opierało się na samoregulacji i dobrowolnych zobowiązaniach, w tym na deklaracji podpisanej przez Trumpa i szefów sześciu firm podczas niedawnego spotkania w Białym Domu.

Zgłoszone przez Anthropic incydenty to już kolejne w długiej serii transgresji dokonywanych przez szkolone przez firmy AI zaawansowane modele. Wcześniej ujawniono m.in. włamania modeli OpenAI na rządowe strony w Australii i USA, oraz na systemy innej firmy AI, Hugging Face.

Z Waszyngtonu Oskar Górzyński (PAP)

osk/ san/