Yapay zeka iş yükleri hızla yayılırken veri merkezleri bellek mimarisinin ciddi zorlukları ile karşı karşıya bulunuyor. Veri merkezlerinin yaklaşık yedide biri şu anda yapay zeka donanımlarına sahipken, bu oranın 2030 yılına kadar yüzde 70'e yaklaşması bekleniyor. Uç bilişim yapay zeka uygulamaları ise on yıl içinde yaklaşık 66,5 milyar dolarlık bir pazar oluşturacak.
Geleneksel DRAM ve yüksek bant genişlikli bellek (HBM) mimarileri, özellikle yapay zeka çıkarımı iş yükleri karşısında ciddi sınırlamalarla karşılaşıyor. DRAM kapasitesi ölçeklemesi durağanlaşırken, yapay zeka çıkarımı için gerekli bellek kapasitesi artmaya devam ediyor. Hiper ölçekli veri merkezi üreticileri artan DRAM ve HBM maliyetleri, tasarım karmaşıklığı ve enerji tüketimiyle mücadele ederken, kurumsal veri merkezlerinde bu sorunlar daha da keskinleşiyor.
DRAM'ın düşük gecikme süresi ve rastgele erişim özellikleri, veri erişim kalıplarının öngörülebilir olduğu yapay zeka çıkarımı senaryolarında belirleyici rol oynamıyor. Veri ön getirme teknikleri sayesinde çıkarım işlemleri gecikmeye karşı daha toleranslı çalışabiliyor. Bu nedenle, yüksek bant genişlikli flash bellek teknolojisi, çıkarım iş yükleri için optimize edilmiş bir bellek mimarisi sunarak, kapasite, maliyet ve enerji verimliliği açısından daha ölçeklenebilir bir çözüm sunabilir.
