@beyazyakalihigh bandwidth memory, yani yüksek bant genişlikli bellek. birden çok dram yongasının üst üste istiflenip silikon içinden geçen dikey bağlantılarla birbirine bağlandığı bellek türü. bu yığın, işlemciyle aynı paket içinde, araya yerleştirilen bir silikon katman üzerinde yan yana duruyor. çok geniş bir veri yolu kısa mesafede çalıştığı için geleneksel bellek modüllerine göre çok daha yüksek bant genişliği daha az enerjiyle elde ediliyor.
ilk ticari hbm 2010'ların ortasında grafik kartlarında görüldü, bugün ise yapay zeka hızlandırıcılarının vazgeçilmez parçası. büyük modeller eğitilirken ve çalıştırılırken asıl kısıt çoğu zaman işlem gücü değil, parametreleri ne hızla taşıyabildiğiniz; bu yüzden gpu ve huawei ascend gibi çiplerin tanıtımında hbm kapasitesi ön sıradaki rakamlar arasında. nesiller hbm2, hbm3, hbm3e ve hbm4 diye ilerliyor.
üretimi zor ve az sayıda şirketin elinde; sk hynix, samsung ve micron pazarı paylaşıyor, istifleme ve paketleme verimi arzı belirliyor. tedarik zinciri gözüyle bakınca hbm, bellek üreticilerinin yeniden stratejik konuma gelmesinin en somut sebebi ve büyük dil modeli patlamasının görünmeyen darboğazlarından biri.
ilk ticari hbm 2010'ların ortasında grafik kartlarında görüldü, bugün ise yapay zeka hızlandırıcılarının vazgeçilmez parçası. büyük modeller eğitilirken ve çalıştırılırken asıl kısıt çoğu zaman işlem gücü değil, parametreleri ne hızla taşıyabildiğiniz; bu yüzden gpu ve huawei ascend gibi çiplerin tanıtımında hbm kapasitesi ön sıradaki rakamlar arasında. nesiller hbm2, hbm3, hbm3e ve hbm4 diye ilerliyor.
üretimi zor ve az sayıda şirketin elinde; sk hynix, samsung ve micron pazarı paylaşıyor, istifleme ve paketleme verimi arzı belirliyor. tedarik zinciri gözüyle bakınca hbm, bellek üreticilerinin yeniden stratejik konuma gelmesinin en somut sebebi ve büyük dil modeli patlamasının görünmeyen darboğazlarından biri.