Sprawa dotyczy Darrena Zhou, byłego analityka Goldman Sachs mieszkającego na Florydzie. Według akt sądowych i relacji amerykańskich mediów 25-latek przez kilka miesięcy prowadził rozmowy z ChatGPT, w których opisywał swoją byłą dziewczynę, jej zwyczaje oraz miejsca, w których bywała. Z czasem wiadomości miały przybrać formę konkretnych gróźb i planów przemocy.
OpenAI wykryło rozmowy jako potencjalnie niebezpieczne. Nie oznacza to jednak, że sam chatbot automatycznie „zadzwonił na policję”. Zgodnie z procedurami firmy przypadki wskazujące na możliwość poważnej przemocy mogą zostać skierowane do ręcznej analizy. Jeśli po takiej ocenie zagrożenie zostanie uznane za wiarygodne i bezpośrednie, OpenAI może powiadomić organy ścigania.
W tej sprawie informacja trafiła do FBI, a następnie do lokalnych śledczych w hrabstwie Palm Beach. Zhou został zatrzymany w maju. Według aktu oskarżenia usłyszał zarzuty dotyczące gróźb śmierci lub poważnego uszkodzenia ciała, cyberstalkingu oraz wykorzystania urządzenia komunikacyjnego do popełnienia przestępstwa.
W sierpniu mężczyzna przyznał się do winy. Sąd nie orzekł wobec niego kary więzienia poza dwoma dniami spędzonymi wcześniej w areszcie, lecz nałożył pięcioletni okres próby.
OpenAI podkreśla, że przypadki przekazywania informacji organom ścigania mają dotyczyć jedynie ograniczonej grupy rozmów, w których pojawia się wiarygodne i bezpośrednie ryzyko poważnej krzywdy wobec innych osób.
