Der Artikel behandelt die Anfälligkeit von Prompt Injection in Large Language Models (LLMs) wie GPT-3/4/ChatGPT. Prompt Injection bedeutet, dass eine sorgfältig erstellte Eingabeaufforderung mit nicht vertrauenswürdigen Eingaben eines Benutzers verknüpft wird, was zu gefährlichen Schwachstellen führen kann. Der Autor gibt Beispiele dafür, wie Prompt Injection ausgenutzt werden kann, z. B. in einem KI-Assistenten-Prototyp, der E-Mails lesen und zusammenfassen kann, und in KI-gestützten Suchmaschinen wie Bing. Der Autor argumentiert, dass es keinen 100% zuverlässigen Schutz gegen Prompt Injection gibt und dass Entwickler das Problem verstehen müssen. Der Autor schlägt vor, dass die generierten Eingabeaufforderungen für die Benutzer sichtbar gemacht werden sollten und dass vor der Ausführung von Aktionen eine Bestätigung verlangt werden sollte, um das Risiko von Prompt Injection zu verringern. Der Autor stellt auch fest, dass Prompt Injection nicht so ernst genommen wird, wie es sein sollte. Der Artikel schließt mit der Feststellung, dass Prompt Injection auch mit der Einführung von GPT-4 noch immer kein gelöstes Problem ist.
