Büyük dil modellerinin tüm bu etkileyici yeteneklerine rağmen öngörülemeyen açıklıkları var. Genel olarak çok başarılı performanslar gösterebiliyor ancak çok basit sorularda tutarsız veya hatalı cevaplar verebiliyorlar. Örneğin matematik olimpiyatları soruları çözebilen bir model “9,11 mi büyük yoksa 9,9 mu?” şeklindeki basit bir matematik problemine “9,11“ diye cevap verebiliyor. Ya da doktora seviyesinde fizik problemlerini adım adım çözerken bir cümledeki harf sayısını yanlış sayabiliyor. Bu tür tutarsızlıklar modellerin sınırlarını gösteriyor.
Sonuç olarak bu yapay zeka araclarini yanılmaz bilgi kaynakları olarak değil, yardımcı araçlar olarak değerlendirmek gerekiyor. Fikir üretme, taslak oluşturma ve alternatif bakış acıları keşfetme gibi alanlarda olağanüstü faydalar sağlıyorlar.