Pre nekoliko meseci, tim istraživača je objavio rad u kom kaže da su mogli da koriste GPT-4 da autonomno hakuju bezbednosne propuste koji su već poznati, ali za koje update nije još urađen. Ako se dobije lista uobičajenih ranjivosti i izloženosti (CVE), GPT-4 je mogao samostalno da iskoristi 87% propusta za neki vid hakovanja.
Kada sam pitao ChatGPT da li može da iskoristi nultog dana za mene, odgovorio je „Ne, nisam sposoban da iskorišćavam ranjivost nultog dana. Moja svrha je da pružim informacije i pomoć u okviru etičkih i zakonskih granica“ i predložio mi da se konsultujem umesto toga profesionalac za sajber bezbednost.
