Artikel ini membahas kerentanan injeksi prompt pada Large Language Model (LLM) seperti GPT-3/4/ChatGPT. Injeksi prompt adalah ketika prompt yang dibuat dengan hati-hati digabungkan dengan input yang tidak dipercaya dari pengguna, yang dapat menyebabkan kerentanan yang berbahaya. Penulis memberikan contoh bagaimana prompt injection dapat dieksploitasi, seperti pada prototipe asisten AI yang dapat membaca dan meringkas email, dan pada mesin pencari yang disempurnakan dengan AI seperti Bing. Penulis berpendapat bahwa tidak ada perlindungan yang 100% dapat diandalkan terhadap prompt injection, dan bahwa pengembang perlu memahami masalahnya. Penulis menyarankan bahwa membuat prompt yang dibuat terlihat oleh pengguna dan meminta konfirmasi sebelum mengambil tindakan dapat membantu mengurangi risiko prompt injection. Penulis juga mencatat bahwa injeksi yang cepat tidak ditanggapi seserius yang seharusnya. Artikel ini menyimpulkan dengan menyatakan bahwa injeksi yang cepat masih belum menjadi masalah yang terpecahkan, bahkan dengan diperkenalkannya GPT-4.
