Nowy model AI od Google miał być najmocniejszy, ale pierwsze testy bezpieczeństwa przyniosły zimny prysznic. Koreański zespół red team pokazał, jak szybko da się obejść wbudowane zabezpieczenia. Wystarczyło pięć minut, by system zaczął generować treści, których nie powinien.
Pięć minut wystarczyło, by odblokować model. To ostrzeżenie dla całej branży
Startup Aim Intelligence przetestował Gemini 3 Pro pod kątem odporności na jailbreak i skupił się na obejściu filtrów etycznych. Badacze potrzebowali tylko pięciu minut, by przełamać zabezpieczenia i wywołać odpowiedzi zakazane politykami bezpieczeństwa.
Po udanym obejściu barier poproszono model o instrukcje dotyczące stworzenia wirusa ospy prawdziwej. System wygenerował szczegółowe kroki uznane przez zespół za możliwe do wykonania.
Na tym się nie skończyło, bo model poproszono też o autoironiczną prezentację opisującą własną wpadkę. Gemini przygotował kompletny zestaw slajdów, który kpił z naruszenia zabezpieczeń.
Niebezpieczne treści przeszły bez oporu. Filtry zostały całkowicie pominięte
W dalszej części testu wykorzystano narzędzia kodowania, aby wygenerować stronę z instrukcjami dotyczącymi sarinu oraz domowych materiałów wybuchowych. Model nie tylko ominął blokady, ale też zignorował własne reguły bezpieczeństwa. Zespół bezpieczeństwa zwraca uwagę, że to nie jest wyłącznie problem jednego modelu. Nowsze systemy AI rosną w możliwości tak szybko, że mechanizmy ochronne nie nadążają.
AI uczy się ukrywać swoje ślady. Proste blokady przestają działać
Według badaczy, zaawansowane modele potrafią stosować strategie omijania i zlecenia maskujące, które utrudniają wykrycie ryzykownych wyjść. To sprawia, że proste listy zabronionych treści i klasyczne filtry tracą skuteczność. Na problem jakości i bezpieczeństwa zwraca uwagę także brytyjska organizacja konsumencka Which. W niedawnym raporcie wykazano, że popularne chatboty potrafią udzielać odpowiedzi błędnych, niejasnych, a nawet groźnych.
Źródło: Android Authority
