Byli inżynierowie AI ostrzegają Radę NYC. „Może zagrozić istnieniu ludzkości”

Byli pracownicy Anthropic, OpenAI i Google DeepMind ostrzegli władze miasta Nowy Jork przed zagrożeniami związanymi z szybkim rozwojem sztucznej inteligencji. Ich zdaniem największe firmy technologiczne tworzą coraz bardziej zaawansowane systemy szybciej, niż są w stanie w pełni zrozumieć i kontrolować ich działanie. Rada Miasta Nowego Jorku rozważa w międzyczasie wprowadzenie nowych przepisów dotyczących AI.

Jacob Coxon, były inżynier Anthropic, podczas przesłuchania przed Radą Miasta skrytykował podejście zakładające szybkie wdrażanie technologii i późniejsze usuwanie pojawiających się problemów. Według Coxona brak odpowiednich zabezpieczeń i przejrzystości może w przyszłości doprowadzić do utraty kontroli nad sztuczną inteligencją, a w najbardziej pesymistycznym scenariuszu – nawet zagrozić istnieniu ludzkości.

Po jego wystąpieniu przedstawiciele m.in. Anthropic, OpenAI i SpaceXAI zgodzili się, że tempo rozwoju AI powinno zostać ograniczone. Jednocześnie obecni pracownicy OpenAI, Anthropic, Google i Meta wskazywali, że sztuczna inteligencja już przynosi ludziom korzyści, a ich firmy poświęcają dużą uwagę kwestiom bezpieczeństwa.

Na pytanie o prawdopodobieństwo wystąpienia katastrofy spowodowanej przez AI przedstawicielka OpenAI Morgan Dwyer nie wskazała podczas przesłuchania konkretnego odsetka szans. Zaznaczyła jednak, że ryzyko, czy to na poziomie 1 proc., czy 10 proc. lub 20 proc. byłoby nieakceptowalne. Jej zdaniem firmy nie powinny trenować modeli, jeśli nie mają bardzo mocnych podstaw, by zakładać, że pozostaną one pod kontrolą człowieka.

W Wielkim Jabłku trwa dyskusja nad nowymi regulacjami, które obejmują m.in. obowiązek ujawniania informacji o systemach AI, niezależną kontrolę i zatwierdzanie części z nich oraz możliwość przyznawania sygnalistom części kar nakładanych na firmy naruszające przepisy w ramach nagrody. Nad zwiększeniem przejrzystości i obowiązków sprawozdawczych dotyczących AI pracują także władze stanu Nowy Jork.

Red. JŁ