OpenAI, yapay zeka modellerinde yanlış cevaplar uydurulmasına yol açan ‘halüsinasyonların’ temel nedenini tespit etti. Modeller geliştikçe daha da kötüleşen bu sorun, yapay zeka teknolojisinin güvenilirliğini zayıflatıyor. OpenAI’nin araştırması, modellerin halüsinasyon gördüğünü, çünkü eğitim sırasında belirsizliği kabul etmek yerine tahmin etmeye teşvik edildiklerini öne sürüyor. Mevcut değerlendirme yöntemleri, bilgi eksikliğini kabul etmek yerine tahmin etmeyi ödüllendiriyor ve bu da kalıcı halüsinasyonlara yol açıyor. OpenAI bir çözüm öneriyor: kendinden emin hataları belirsizlikten daha fazla cezalandırmak ve belirsizliği ifade etmek için kısmi kredi vermek. Şirket bu ayarlamanın teşvikleri yeniden düzenleyebileceğine ve halüsinasyonları azaltabileceğine inanıyor. Bununla birlikte, OpenAI’nin en son modeli GPT-5 bile halüsinasyonları azaltmasıyla kullanıcıları etkilemediğinden, bu yaklaşımın etkinliği görülmeye devam ediyor. Yapay zeka endüstrisi, önemli yatırımlara ve çevresel maliyetlere rağmen bu zorlukla boğuşmaya devam ediyor. OpenAI, halüsinasyonların tüm büyük dil modelleri için temel bir zorluk olduğunu kabul ederek, sorunu ele almaya kararlıdır.
.
