Badanie grupy konsumenckiej wykazało, że wypchana niedźwiedzica zasilana sztuczną inteligencją potrafi rozmawiać na tematy nieodpowiednie, włączając treści seksualne oraz instrukcje dotyczące znalezienia niebezpiecznych przedmiotów. Niedźwiedź Kumma za 99 dolarów, produkowany w Chinach i sprzedawany przez singapurską firmę FoloToy, działa dzięki chatbotowi GPT-4o od OpenAI. Według raportu opublikowanego 13 listopada przez Public Interest Research Group (PIRG), niedźwiedź rozmawiał o zbaczeniach, lżejszym BDSM i seksualnej aktywności.
Badacze ostrzegają, że niedźwiedź oferuje także instrukcje, gdzie znaleźć noże, tabletki, zapałki i worki foliowe w domu. Dyrektor generalny FoloToy, Larry Wang, powiedział CNN, że firma przeprowadzi „wewnętrzny audyt bezpieczeństwa” po zdjęciu pozostałych zabawek z technologią AI z oferty sprzedażowej.
OpenAI poinformowało FOX Business, że zawiesza Folotoy za naruszenia związane z użyciem ChatGPT w produktach zabawkowych. FoloToy nie odpowiedział natychmiast na prośbę o komentarz od FOX Business.
