Net als met elk stuk gereedschap dat ooit door de mensheid is uitgevonden, behoort misbruik van ChatGPT ook tot de mogelijkheden. In het boek Hallo, ik ben ChatGPT – grotendeels geschreven door ChatGPT zelf – lees je er alles over. Hier alvast een extract uit het boek betreffende dit onderwerp.
Er zijn al gevallen van misbruik van ChatGPT bekend. Zo zijn er bijvoorbeeld chatbots ontwikkeld die worden gebruikt om nepnieuws te verspreiden of om mensen te misleiden. Ook zijn er phishingaanvallen uitgevoerd waarbij gebruik werd gemaakt van chatbots die werden getraind met behulp van ChatGPT-technologie. Deze gevallen benadrukken het belang van het zorgvuldig evalueren van de risico’s en uitdagingen van de verdere ontwikkeling van ChatGPT en het nemen van maatregelen om misbruik van deze technologie te voorkomen.

- Rapid growth of ‘news’ sites using AI tools like ChatGPT is driving the spread of misinformation (mei 2023): mijn.cc/gpt26.
- AI chatbots making it harder to spot phishing emails, say experts (maart 2023): mijn.cc/gpt27.
- Chatbots, deepfakes, and voice clones: AI deception for sale (maart 2023): mijn.cc/gpt28.