Eski OpenAI araştırmacısı Andrew Ho ile Cambridge araştırmacısı Adam Hunt, büyük dil modellerinin (LLM) karşı karşıya olduğu temel bir sorunu tanımlamışlardır. Mevcut modeller, ölçeklendirme stratejileri yoluyla genel yeteneklerini artırmaktan ziyade giderek daha da özelleşmektedir; kodlama ve matematik alanlarında mükemmelleşirken, başka alanlarda stagnasyon yaşamakta hatta gerileme göstermektedir.\n\nHo, OpenAI'den ayrılarak özelleştirilmiş eğitim verilerine odaklanan yeni bir şirket kurmaya hazırlanmaktadır. Araştırmacılara göre, tek başına ölçeklendirme artık yeterli olmamakta; yapay zeka laboratuvarları modellerin dengeli ve çok yönlü gelişimi için hedeflenmiş veri toplama stratejilerine yatırım yapması gerekecektir. Ho, bu alanda yapılacak toplam harcamanın 100 milyar doları aşacağını tahmin etmektedir.