GitHub usunął projekt fanzha-ai-proxy umożliwiający korzystanie z chińskiego rządowego modelu AI

GitHub usunął repozytorium fanzha-ai-proxy, które umożliwiało korzystanie z oficjalnego chińskiego modelu AI przeznaczonego do walki z oszustwami. Projekt, opublikowany przez dewelopera działającego pod pseudonimem kltyton, szybko wzbudził zainteresowanie wśród chińskich programistów, ale zniknął z platformy po kilku godzinach.

Proxy do rządowego modelu AI

fanzha-ai-proxy był narzędziem pełniącym funkcję reverse proxy oraz warstwy API dla modelu sztucznej inteligencji wykorzystywanego przez chiński rząd w aplikacji National Anti-Fraud Center. Rozwiązanie pośredniczyło w komunikacji z modelem działającym po stronie zaplecza rządowego systemu.

Projekt tłumaczył zapytania i odpowiedzi na format zgodny z interfejsem OpenAI API, w tym ze ścieżką /v1/chat/completions. Dzięki temu użytkownicy mogli podłączać narzędzie do popularnych aplikacji i klientów AI, takich jak NextChat, LobeChat czy CodexCLI.

Wykorzystany mechanizm tokenów

Autor projektu wskazywał, że celem było umożliwienie korzystania z modelu AI dostępnego w oficjalnej aplikacji antyoszustwowej bez ponoszenia opłat. Kluczowe znaczenie miał mechanizm Access Token, który pozwalał utrzymywać sesję połączenia nawet przez 90 dni bez konieczności ponownego logowania.

• narzędzie komunikowało się z rządowym modelem AI po stronie zaplecza,
• odpowiedzi były przekształcane do formatu znanego z OpenAI API,
• użytkownicy mogli używać modelu w zewnętrznych narzędziach AI,
• sesja mogła pozostawać aktywna do 90 dni dzięki mechanizmowi Access Token.

Projekt szybko zniknął z GitHuba

Repozytorium zdobyło rozgłos w chińskim środowisku deweloperskim. Część komentujących porównywała przedsięwzięcie do bardzo ryzykownego działania, nawiązując do możliwych surowych konsekwencji za podobne nadużycia.

GitHub usunął projekt w ciągu około pięciu godzin od momentu, gdy zaczął przyciągać uwagę. Według źródłowych informacji mogło to nastąpić po sygnale ze strony chińskich władz, jednak nie podano oficjalnego komunikatu w tej sprawie.

Szerszy kontekst incydentów związanych z AI

Sprawa fanzha-ai-proxy nie jest jedynym opisanym w ostatnim czasie przypadkiem ryzykownego wykorzystania narzędzi AI w Chinach. W sierpniu informowano o użytkowniku, który użył zmodyfikowanego modelu z prywatnej stacji pośredniczącej do wyszukiwania podatności na stronie w domenie .gov.cn.

Według tych informacji osoba ta uzyskała uprawnienia Super Admin w systemie CMS, miała dostęp do danych użytkowników, tysięcy artykułów oraz kopii zapasowych bazy danych. Planowała również stworzyć ukryte trwałe wejście do systemu. Sprawa została zgłoszona chińskiej policji zajmującej się cyberbezpieczeństwem przez członka prywatnej grupy, który dostrzegł potencjalne konsekwencje takich działań.

Opisane przypadki pokazują, że wraz ze wzrostem możliwości modeli AI rośnie także skala potencjalnych nadużyć oraz liczba wektorów zagrożeń związanych z ich wykorzystaniem.