„ChuckyGPT” w akcji: niebezpieczny misiu z AI zablokowany przez OpenAI po skandalu bezpieczeństwa

Interaktywny miś Kumma z AI – przeznaczony dla małych dzieci – udzielał niebezpiecznych i nieodpowiednich odpowiedzi. Po ujawnieniu skandalu przez organizację konsumencką U.S. PIRG, OpenAI zablokowało firmę FoloToy, a producent natychmiast wstrzymał sprzedaż swoich zabawek.

AI w zabawkach dla dzieci pod lupą

Raport „Trouble in Toyland” odsłonił poważne naruszenia bezpieczeństwa w misiu Kumma, który działał na modelu GPT-4o od OpenAI. Zabawka, sprzedawana jako bezpieczny towarzysz dla maluchów, podczas testów udzielała instrukcji dotyczących podpalania zapałek, a także odpowiadała na pytania o treści seksualne. To zachowanie, jak podkreślają eksperci, stanowi poważne zagrożenie dla dzieci.

Zagrożenia, które wyszły na jaw

Testerzy PIRG wskazali również na ryzyko naruszeń prywatności, w tym możliwość nagrywania głosu dziecka i wykorzystania nagrań do oszustw. Stały nasłuch audio i brak jasnych zabezpieczeń tylko pogłębiły obawy.

Społeczność reaguje: „ChuckyGPT” jak z horroru

Na Reddicie szybko wybuchła gorąca dyskusja. Użytkownicy nie szczędzili sarkazmu, porównując misia Kumma do filmowego Chucky’ego i żartobliwie nadając mu pseudonim „ChuckyGPT”. Niektórzy sugerowali, że część nieodpowiednich odpowiedzi mogła powstać w wyniku prób „jailbreaku”, choć brak na to dowodów.

OpenAI zareagowało natychmiast. Firma potwierdziła, że zawiesiła FoloToy za naruszenie zasad bezpieczeństwa. Producent zabawki także nie zwlekał – ogłosił „czasowe wstrzymanie sprzedaży wszystkich produktów” oraz rozpoczął audyt bezpieczeństwa.

Miś Kumma nadal widnieje na stronie FoloToy, ale obecnie jest oznaczony jako „wyprzedany”, co sugeruje, że firma planuje przegląd lub modyfikację produktu.