Samsung bugün, yeni HBM2 tabanlı belleğinin, 1,2 TFLOPS gömülü bilgi işlem gücünü dışarı çıkarabilen ve belleğin kendisinin genellikle CPU’lar, GPU’lar, ASIC’ler veya FPGA’lar için ayrılmış işlemleri gerçekleştirmesine izin veren entegre bir AI işlemcisine sahip olduğunu duyurdu.
Yeni HBM-PIM (bellekte işleme) yongaları, her bellek bankasının içine bir AI motoru enjekte ediyor. Böylece işlemlerini HBM’nin kendisine aktarıyor. Bu yeni bellek sınıfı genellikle güç tüketimi ve zaman açısından gerçek hesaplama işlemlerinden daha pahalı olan bellek ve işlemciler arasında veri taşıma yükünü hafifletmek için tasarlandı.
Samsung, mevcut HBM2 Aquabolt belleğine uygulandığında, teknolojinin enerji tüketimini %70’ten fazla azaltırken iki kat daha fazla sistem performansı sağlayabileceğini söylüyor. Şirket ayrıca yeni belleğin, bellek denetleyicileri de dahil olmak üzere yazılım veya donanımda herhangi bir değişiklik gerektirmediğini ve böylece erken benimseyenler için daha hızlı pazarlama süresi sağladığını iddia ediyor. Samsung, belleğin zaten önde gelen AI çözüm sağlayıcıları ile AI hızlandırıcılarda denemeler altında olduğunu ve şirketin tüm doğrulamaların bu yılın ilk yarısında tamamlanarak pazara hızlı bir giriş yapacağını söylüyor.
Ayrıca Samsung, bu hafta Uluslararası Katı Hal Devreleri Sanal Konferansı (ISSCC) sırasında yeni bellek mimarisinin daha ince ayrıntılarını sundu.
Yukarıdaki slaytlarda görebileceğiniz gibi yeni bellekte, her bellek yuvasına gömülü 300 MHz’de çalışan bir Programlanabilir Hesaplama Birimi (PCU) bulunuyor. Bu birim, DRAM içi hesaplamaları etkinleştirmek için ana bilgisayardan gelen geleneksel bellek komutlarıyla kontrol edilip standart veya FIM (hesaplama) modunda çalışabiliyor.
Özellikle, yukarıdaki slaytlar teknolojiye Function-In Memory DRAM (FIMDRAM) olarak atıfta bulunuyor. Ancak bu HBM-PIM adını taşıyan teknolojinin dahili kod adıydı. Ne yazık ki, bu teknolojiyi en son çıkan GPU’larda en azından şimdilik göremeyeceğiz. Samsung yeni belleğin veri merkezlerinde, HPC sistemlerinde ve yapay zeka destekli mobil uygulamalardaki büyük ölçekli işleme gereksinimlerini karşılamaya yönelik olduğunu belirtiyor.
