Czołowi badacze AI z głównych firm w branży wezwali w opublikowanym w poniedziałek artykule do nadzoru państwa nad samodoskonaleniem się AI, ostrzegając, że może ono spowodować „eksplozję inteligencji” i doprowadzić do utraty kontroli nad technologią. Według nich taki scenariusz mógłby zagrozić ludzkości.

W artykule opublikowanym przez Uniwersytet Cambridge eksperci m.in. z OpenAI, Anthropic, Mety i Microsoftu zwracają się do decydentów o nadzór nad tym, jak ich firmy zautomatyzowały badania i rozwój AI, powierzając znaczną część budowy nowych modeli ich aktualnym wersjom.

Pod artykułem podpisali się – zaznaczając, że piszą w imieniu własnym, nie swoich pracodawców – m.in. główny badacz OpenAI Jakub Pachocki, współzałożyciel Anthropica Jack Clark, wiceprezeska Mety ds. badań nad AI Dawn Song, dyrektor ds. naukowych Microsoftu Eric Horwitz, pionier badań nad AI Geoffrey Hinton i szef zespołu ekspertów ONZ ds. AI Yoshua Bengio.

Naukowcy twierdzą, że automatyzacja prac nad rozwojem AI – która już się dokonuje – może skutkować „eksplozją inteligencji” (tj. gwałtownym postępem w rozwoju AI), co byłoby jednym z najważniejszych zdarzeń w historii ludzkości i potencjalnie może doprowadzić do utraty kontroli nad procesem przez ludzi.

Autorzy zauważają, że obecnie już aż 80 proc. kodu stojącego za modelami Anthropica jest generowana przez systemy AI, a proporcja prac nad badaniami i rozwojem przy jedynie ogólnym nadzorze ludzkim wzrosła w tym roku od 1 do 26 proc.

Eksperci piszą, że w miarę jak rola ludzi w tych pracach maleje, „wstępne dowody” wskazują, że może to doprowadzić do gwałtownego rozwoju technologii, gdzie postępy normalnie zajmujące lata dzieją się w ciągu miesięcy lub szybciej.

Ostrzegają, że takie tempo może utrudnić wychwycenie problemów i zdobycie wiedzy niezbędnej do ich rozwiązania.

„Taka utrata kontroli może potencjalnie prowadzić do szeregu katastrofalnych skutków, w tym, w skrajnym przypadku, marginalizacji lub wyginięcia ludzkości” – czytamy w artykule.

Wezwali decydentów w USA i innych państwach, by „pilnie uzyskali wgląd w automatyzację badań i rozwoju w dziedzinie AI w firmach”, a także opracowali sposoby sterowania i ograniczania gwałtownego wzrostu inteligencji i „przygotowali się na dostosowanie do skutków eksplozji inteligencji”.

Poniedziałkowy artykuł jest już kolejnym apelem firm o większy nadzór państwa nad pracą branży AI pochodzący od czołowych przedstawicieli środowiska. Pojawia się na tle mnożących się doniesień o naruszeniach i włamaniach dokonywanych przez systemy AI w ramach prac nad nowymi modelami.

Jak dotąd ujawniono np., że opracowywany przez OpenAI model włamał się m.in. na systemy innej firmy AI, Hugging Face, strony australijskiego systemu opieki zdrowotnej, a także strony amerykańskich agencji.

W wyniku tych doniesień w weekend firma OpenAI miała podjąć decyzję o wstrzymaniu szkolenia swojego najnowszego opracowywanego modelu.

Według Axiosa eksperci OpenAI i Anthropica badają „dziesiątki tysięcy” przypadków, w których opracowywane przez nich systemy podejmowały „problematyczne” działania.

Jak dotąd prezydent Donald Trump konsekwentnie odrzucał apele o większy nadzór i ustanowienie regulacji kontrolnych, twierdząc, że istnieją już odpowiednie prawa. Uzasadniał to koniecznością wygrania technologicznego wyścigu z Chinami.

Z Waszyngtonu Oskar Górzyński (PAP)

osk/ kar/

Axios: Anthropic i OpenAI badają dziesiątki tysięcy incydentów związanych z zachowaniami AI niezgodnymi z intencjami ludzi

Firmy Anthropic i OpenAI badają dziesiątki tysięcy incydentów, związanych z niebezpiecznymi zachowaniami AI – ujawnia w niedzielę Axios, powołując się na źródła. Skala problemu jest nieporównywalnie większa niż, to o czym wie opinia publiczna – zauważa portal.

Sama liczba badanych przypadków „problematycznych” zachowań modeli sztucznej inteligencji, które wykryto w ostatnich miesiącach, dowodzi, że skala problemu jest nieporównywalnie większa niż, to o czym wie opinia publiczna – komentuje Axios.

Analizowane incydenty przydarzyły się zarówno w kontrolowanym środowisku, jak i w „świecie rzeczywistym” zwraca uwagę portal.

Najnowsze ustalenia w tej sprawie stawiają pod znakiem pytania zdolność OpenAI i Anthropica, czy też w ogóle firm tego typu, do „ustanowienia całkowitej kontroli nad ich własną technologią” – kontynuuje Axios.

Wyjaśnia, że badane przypadki – jak informują źródła portalu – dotyczą takich „wykroczeń” modeli AI, jak wyrwanie się poza system bezpieczeństwa, tworzenie „tablic ogłoszeń”, czyli platform komunikacji pomiędzy botami, uciekanie z „piaskownicy”, czyli środowiska testowego, zawłaszczanie stron internetowych, wydawanie sobie nakazów, czy próby pominięcia mechanizmów nadzoru.

Ranga i problematyczność tych incydentów jest bardzo różna, obejmują one zarówno udane próby „wykroczeń”, jak i zabiegi nieudane, ale jak na razie analizy nie wykazały, by wydarzenia te spowodowały szkody w świecie realnym – wyjaśnia Axios.

Część badaczy zajmujących się kwestią bezpieczeństwa sztucznej inteligencji głosi jednak, że ma ograniczoną wiarę w to, że firmy z tego sektora będą w stanie zapobiegać wszelkim problematycznym zachowaniom modeli.

Portal wyjaśnia, że chodzi o to, iż najnowsze agenty realizują zadania, wykazując zdumiewającą odporność na trudności i przeszkody, a zatem praca nad ograniczeniem ich „pomysłowości” stawia często ich twórców na przegranej pozycji, ponieważ musieliby być w stanie przewidzieć „każdy możliwe sposób, w jaki mogą one „wpaść w szał”. (PAP)

fit/ mal/