Były pracownik Anthropic twierdzi, że Chiny mogą mieć szpiegów w OpenAI i Anthropic

Jacob Coxon, były pracownik Anthropic, ponownie zabrał głos w sprawie największych laboratoriów sztucznej inteligencji. W najnowszych wypowiedziach zasugerował, że Chiny mogą mieć informatorów wewnątrz OpenAI i Anthropic, a także opisał kulturę organizacyjną swojej byłej firmy jako silnie podporządkowaną misji budowy superinteligencji.

Coxon mówi o ryzyku chińskiej infiltracji

Coxon, który kilka tygodni wcześniej zrezygnował z pracy w Anthropic w proteście przeciwko kierunkowi rozwoju firmy w stronę, jak to określał, samodoskonalącej się superinteligencji, stwierdził obecnie, że jest „w 90 proc.” pewien, iż Chiny mają już szpiegów zarówno w OpenAI, jak i w Anthropic.

Według jego oceny taka obecność miałaby dawać Pekinowi możliwość uzyskania dostępu do systemów obu laboratoriów „w dowolnym momencie”. Coxon nie przedstawił jednak w przytoczonych wypowiedziach publicznie weryfikowalnych dowodów na poparcie tej tezy.

Kultura pracy w Anthropic według byłego pracownika

Coxon odniósł się również do wewnętrznej atmosfery w Anthropic. Jak twierdzi, pracownicy firmy określają siebie mianem „mrówek w mrowisku”, co ma odzwierciedlać gotowość do podporządkowania własnych ambicji zawodowych nadrzędnej misji przedsiębiorstwa.

Były pracownik wskazywał, że osoby zatrudnione w Anthropic są skłonne podejmować mniej efektowne lub mniej interesujące zadania, jeśli uznają je za istotne dla celu firmy. Tym celem, według Coxona, pozostaje rozwój sztucznej superinteligencji.

Najważniejsze elementy wypowiedzi Coxona

• Ocena ryzyka: Coxon twierdzi, że z dużym prawdopodobieństwem Chiny mają szpiegów w OpenAI i Anthropic.
• Opis Anthropic: były pracownik mówi o kulturze silnego podporządkowania misji firmy.
• Krytyka OpenAI: Coxon określił OpenAI jako organizację „rozproszoną” i „chaotyczną”.
• Przykład Sory: wskazał, że Anthropic nie stworzyłoby platformy wideo podobnej do Sory, ponieważ nie uznałoby jej za kluczową dla drogi do superinteligencji.

Krytyka OpenAI i kontekst rywalizacji

W swojej wypowiedzi Coxon zestawił Anthropic z OpenAI. Jego zdaniem OpenAI pozwala na rozwijanie projektów pobocznych, takich jak Sora, podczas gdy Anthropic miałoby koncentrować się wyłącznie na działaniach uznawanych za bezpośrednio związane z budową zaawansowanej sztucznej inteligencji.

Źródłowy materiał odnotowuje jednocześnie, że OpenAI w ostatnim czasie informowało o nowych wynikach matematycznych uzyskanych z wykorzystaniem wewnętrznego modelu frontier. Firma podała także, że konsultowała się z niezależną grupą doradczą ds. matematyki i sztucznej inteligencji przy Institute for Advanced Study.

Wypowiedzi Coxona wpisują się w szerszą debatę o bezpieczeństwie zaawansowanych modeli AI, konkurencji między laboratoriami oraz ryzyku geopolitycznym związanym z rozwojem najpotężniejszych systemów sztucznej inteligencji.