Denkwerk: Prompt injection: hack ChatGPT en andere AI-toepassingen
ChatGPT kan vragen beantwoorden, teksten samenvatten en gedichten schrijven. Door die veelzijdigheid wordt de chatbot steeds vaker aan andere software gekoppeld, zoals een e-mailprogramma om je te helpen met e-mails te formuleren. Maar met die koppeling introduceer je een fundamentele kwetsbaarheid: prompt injections. Wat is het probleem, en is het wel op te lossen?