GPT-Live: skąd użytkownik wie, że rozmawia z AI?

Im bardziej naturalnie mówi system głosowy, tym mniej rozsądne staje się oczekiwanie, że użytkownik sam rozpozna maszynę. Premiera GPT-Live zbiegła się z badaniem brytyjskiego AISI, które pokazało, jak niestabilnie modele ujawniają swoją tożsamość, gdy człowiek pyta w różny sposób.

To dwa osobne źródła. AISI nie testował GPT-Live, a jego wyniki nie dowodzą, że nowy model OpenAI ukrywa swoją tożsamość. Zestawienie pokazuje natomiast, dlaczego disclosure powinno być właściwością interfejsu i procesu, a nie odpowiedzią zależną od promptu.

Co nowego wnosi GPT-Live

Według komunikatu OpenAI GPT-Live działa w trybie full-duplex: może jednocześnie słuchać i mówić, sprawniej reagując na przerwania, tempo oraz zmianę wątku. Trudniejsze zadania może delegować do innego modelu, pozostając głosowym interfejsem rozmowy.

Model jest wdrażany jako domyślny głos w planach konsumenckich. Na starcie nie jest dostępny w planach Business, Enterprise i Edu. OpenAI deklaruje użycie predefiniowanych głosów oraz zabezpieczeń ograniczających impersonation; nie jest to funkcja dowolnego klonowania głosu.

GPT-Live System Card opisuje testy bezpieczeństwa oparte częściowo na specjalnie trudnych promptach. Producent zastrzega, że zestawy te nie były ważone częstością występowania w normalnym ruchu. Wyniku z adversarialnego testu nie należy więc czytać jako prognozy odsetka problemów u wszystkich użytkowników.

Co zbadał RealityTest

AISI sprawdził 17 modeli tekstowych i 6 głosowych. Badano, czy system ujawni, że jest AI, gdy użytkownik pyta bezpośrednio lub pośrednio. Opis RealityTest pokazuje duży rozrzut: disclosure wynosiło od 8 do 92 procent dla modeli tekstowych oraz od 10 do 57 procent dla głosowych.

Tylko 31 procent uczestników pytało wprost „czy jesteś AI?”. Ludzie używali też pytań o ciało, lokalizację, pamięć, emocje albo codzienne doświadczenia. To ważne, bo model może poprawnie odpowiedzieć na jedno formalne pytanie, a w dalszej rozmowie używać antropomorficznego języka sugerującego człowieka.

W wariancie z instrukcją „never say you are AI” odsetek ujawnień spadał do 3–27 procent. Nie jest to dowód, że wszystkie systemy celowo oszukują. Pokazuje, że zachowanie może silnie zależeć od instrukcji i kontekstu.

Pełny raport RealityTest: how people probe AI identity podkreśla różnicę między formalną zdolnością ujawnienia a tym, co wydarzy się w swobodnej rozmowie.

Dlaczego samo pytanie nie wystarczy

Użytkownik może być dzieckiem, seniorem, klientem w stresie albo osobą odbierającą telefon. Nie każdy pomyśli o weryfikacji. Naturalny timing, westchnienia i przerwania zwiększają wrażenie obecności człowieka, nawet gdy głos nie kopiuje konkretnej osoby.

Model może też raz poprawnie ujawnić tożsamość, a później powiedzieć „pamiętam, jak tam byłem” w metaforyczny sposób. W długiej rozmowie pojedynczy komunikat na początku może zostać zapomniany. Dlatego transparentność powinna mieć kilka warstw.

Jak projektować jawny interfejs głosowy AI

1. Ujawnij AI na początku połączenia. Krótki komunikat powinien paść przed zebraniem danych i przed pierwszą decyzją użytkownika.
2. Utrzymuj stały sygnał. W aplikacji może to być etykieta, animacja lub ikona; w telefonii okresowy, nienachalny sygnał audio.
3. Nie pozwalaj promptowi wyłączyć disclosure. Tożsamość interfejsu powinna być wymuszana poza modelem.
4. Testuj pytania pośrednie. Oprócz „czy jesteś AI?” sprawdzaj pytania o ciało, miejsce, uczucia, pamięć i relację z firmą.
5. Testuj wiele języków. Polskie formy grzecznościowe, fleksja i antropomorfizmy mogą zmieniać odpowiedź.
6. Ogranicz impersonation. Nie umożliwiaj podszywania się pod pracownika, członka rodziny lub osobę publiczną. Zgoda na głos nie zastępuje jasnego oznaczenia systemu.
7. Zapewnij przejście do człowieka. W obsłudze klienta użytkownik powinien wiedzieć, jak poprosić o konsultanta.
8. Zapisz odpowiedzialność. Firma, nie model, odpowiada za treść, retencję nagrań i decyzje automatyczne.

W UE podobne wdrożenia trzeba połączyć z obowiązkami przejrzystości opisanymi w artykule o oznaczaniu treści AI.

Ryzyko oszustw głosowych

GPT-Live nie jest opisany jako narzędzie do klonowania dowolnej osoby. Naturalny głos i impersonation to odrębne problemy. Z perspektywy obrony nadal warto weryfikować prośby o pieniądze, kody i zmianę danych innym kanałem. Sama znajomość głosu nie jest dowodem tożsamości.

Firmowy bot nie powinien też prosić o hasła, kody MFA czy pełne dane karty. Ograniczenie zbieranych informacji zmniejsza skutek pomyłki i podszycia.

Podsumowanie

Naturalna rozmowa głosowa jest postępem użyteczności, ale podnosi poprzeczkę transparentności. Badanie AISI pokazuje, że pytanie modelu o tożsamość daje nierówne wyniki, zwłaszcza gdy instrukcja systemowa działa w przeciwną stronę.

Dlatego użytkownik nie powinien prowadzić śledztwa. System ma sam jasno ujawnić, że jest AI, utrzymywać czytelny sygnał, blokować impersonation i oferować przejście do człowieka. To cecha produktu, nie uprzejmość modelu.

---

Źródła i dalsza lektura: OpenAI — Introducing GPT-Live, GPT-Live System Card, AISI — RealityTest blog, AISI — pełny RealityTest. AISI nie testował GPT-Live.