Makalede GPT-3/4/ChatGPT gibi Büyük Dil Modellerinde (LLM’ler) istem enjeksiyonu güvenlik açığı ele alınmaktadır. Komut istemi enjeksiyonu, dikkatlice hazırlanmış bir komut isteminin bir kullanıcıdan gelen güvenilmeyen girdiyle birleştirilmesidir ve bu da tehlikeli güvenlik açıklarına yol açabilir. Yazar, e-postaları okuyabilen ve özetleyebilen bir yapay zeka asistan prototipinde ve Bing gibi yapay zeka ile geliştirilmiş arama motorlarında olduğu gibi, istem enjeksiyonunun nasıl istismar edilebileceğine dair örnekler sunmaktadır. Yazar, istem enjeksiyonuna karşı %100 güvenilir bir koruma olmadığını ve geliştiricilerin bu sorunu anlamaları gerektiğini savunmaktadır. Yazar, oluşturulan istemlerin kullanıcılar tarafından görülebilir hale getirilmesinin ve işlem yapmadan önce onay istenmesinin istem enjeksiyonu riskini azaltmaya yardımcı olabileceğini öne sürmektedir. Yazar ayrıca hızlı enjeksiyonun olması gerektiği kadar ciddiye alınmadığını da belirtmektedir. Makale, GPT-4’ün kullanılmaya başlanmasıyla bile prompt injection’ın hala çözülmüş bir sorun olmadığını belirterek sona ermektedir.
