Anthropic ostrzega przed możliwym przełomem w samodoskonaleniu AI

Anthropic sygnalizuje, że rozwój sztucznej inteligencji może zbliżać się do ważnego etapu związanego z rekurencyjnym samodoskonaleniem. W poprawionym dokumencie S-1/A złożonym do amerykańskiej SEC firma wskazała, że przyszłe modele mogą w niedługim czasie osiągnąć poziom, przy którym AI istotnie przyspiesza rozwój kolejnych systemów.

Ostrzeżenie w dokumentach dla SEC

Jak podał TechCrunch, informacja znalazła się w poprawionym zgłoszeniu S-1/A Anthropic, przekazanym do Securities and Exchange Commission 2 listopada. Spółka odwołała się w nim do swojej polityki Responsible Scaling Policy, która określa progi bezpieczeństwa i odpowiedzialnego skalowania dla coraz bardziej zaawansowanych modeli.

Według wewnętrznych szacunków Anthropic przyszłe systemy mogą wkrótce spełnić definicję znacząco przyspieszonego postępu przypisywanego AI. Firma zaznacza jednocześnie, że mowa o oczekiwaniach wobec kolejnych generacji modeli, a nie o obecnie działających rozwiązaniach.

Anthropic wyraźnie podkreślił, że żaden z aktualnych modeli nie przekroczył formalnie tego progu.

Na czym polega wskazany próg

W ramach Responsible Scaling Policy za taki etap uznaje się sytuację, w której systemy AI mogłyby zastąpić całość zespołu badawczego firmy przy konkurencyjnych kosztach albo przyczynić się do podwojenia tempa postępu w zagregowanych możliwościach AI dzięki automatyzacji badań i inżynierii.

Anthropic zaznacza, że nie chodzi wyłącznie o podwojenie produktywności pojedynczych programistów. Przekroczenie progu nie oznaczałoby też automatycznie pełnego, autonomicznego rekurencyjnego samodoskonalenia, w którym system samodzielnie projektuje, trenuje i ulepsza swoich następców bez istotnego nadzoru człowieka.

Claude ma coraz większy udział w tworzeniu kodu

Z ujawnionych informacji wynika, że AI odgrywa już bardzo dużą rolę w pracach programistycznych Anthropic. We wrześniu 2026 roku Claude miał odpowiadać za ponad 90 proc. wkładu w kod źródłowy firmy. W trzecim kwartale średnia dzienna ilość kodu przypadająca na jednego inżyniera była natomiast ponad 45 razy wyższa niż w 2024 roku.

Anthropic zastrzega, że dane te odnoszą się do wolumenu kodu, a nie do równoważnego wzrostu produktywności inżynierskiej. Oznacza to, że nie należy ich interpretować jako prostego przełożenia na efektywność całego procesu badawczo-rozwojowego.

Obszary, w których AI wspiera firmę

• Programowanie: Claude coraz częściej uczestniczy w tworzeniu i modyfikowaniu kodu.
• Eksperymenty: system wspiera prace związane z testowaniem i prowadzeniem zadań technicznych.
• Badania: AI przejmuje część czynności pomocniczych, choć nie zastępuje w pełni ludzkiego osądu naukowego.

Firma opisywała ten trend także w publikacji badawczej zatytułowanej When AI Builds Itself. Zaznaczono w niej, że ludzie nadal mają istotną przewagę w wyznaczaniu celów badawczych oraz w podejmowaniu szerszych decyzji naukowych.

Ryzyko dla bezpieczeństwa i kontroli

Anthropic ostrzega, że szybki wzrost możliwości AI może wyprzedzić tempo wdrażania odpowiednich zabezpieczeń, mechanizmów dopasowania do intencji człowieka oraz rozwiązań związanych z bezpieczeństwem. Firma przyznaje również, że w przeszłości znaczące przyspieszenia rozwoju rozpoznawano dopiero po fakcie.

Spółka deklaruje, że obecnie nie spodziewa się, aby mogła bezpiecznie pozwolić Claude na autonomiczne tworzenie kolejnych modeli frontier bez znaczącego nadzoru człowieka. Rozważane są dodatkowe środki ostrożności, które miałyby utrzymać ludzką kontrolę nad procesem rozwoju.

Potencjalnie samodoskonalące się systemy mogłyby przyspieszyć odkrycia naukowe i postęp technologiczny. Najnowsze ostrzeżenie Anthropic pokazuje jednak, że jednym z kluczowych wyzwań pozostaje zapewnienie, aby mechanizmy bezpieczeństwa nadążały za coraz bardziej autonomicznymi systemami badawczymi.