Panmnesia CXL ile AI GPU Performansını Artırıyor

Panmnesia, AI GPU’lar için devrim niteliğinde bir yenilik olan CXL Protokolü’nü duyurdu. Bu protokol, AI GPU’ların DRAM veya SSD’lerden ek bellek kullanmasını sağlayarak, mevcut HBM sınırlamalarını aşmayı hedefliyor. CXL 3.1 uyumlu Root Complex çipi ile donatılan bu sistem, GPU’ları PCIe aracılığıyla dış belleğe bağlayarak, veri alışverişindeki gecikmeyi önemli ölçüde azaltıyor. Samsung ve Meta’nın prototipleriyle karşılaştırıldığında, Panmnesia’nın çözümü çok daha düşük gecikme süreleri sunuyor. Bu yenilik, AI uygulamalarının performansını artırırken, maliyet ve kaynak kullanımını optimize ediyor.

Panmnesia, KAIST destekli bir girişim olarak, AI GPU’lar için bellek kapasitelerini genişletmek amacıyla CXL Protokolü’nü tanıttı. Bu yenilikçi IP, AI GPU’lara ek bellek eklemeyi mümkün kılıyor ve böylece mevcut HBM sınırlamalarını aşmayı hedefliyor. Panmnesia’nın CXL çözümü, mevcut AI hızlandırıcıların onboard bellekle sınırlı kalmasına bir alternatif sunuyor. Üreticilerin HBM’ye sığdırabileceği bellek miktarı sınırlı olduğundan, büyüyen veri setleri ve artan güç ihtiyacı göz önünde bulundurulduğunda, endüstri daha fazla AI GPU eklemeye odaklanıyor. Ancak bu yaklaşım, finansal ve üretim kaynakları açısından uzun vadede sürdürülebilir değil.

CXL, PCIe bağlantılarını kullanarak bağlantıyı sağlıyor ve böylece tüketiciler arasında kitlesel benimsenmeyi garanti ediyor. Ancak, geleneksel AI hızlandırıcılar, doğrudan bellek genişletme için gerekli alt sistemlere sahip değil ve UVM (Birleşik Sanal Bellek) gibi çözümler oldukça yavaş, bu da asıl amacı boşa çıkarıyor. Panmnesia, GPU’yu PCIe otobüsü üzerinden dış belleğe bağlayan çoklu portlara sahip kendi CXL 3.1 uyumlu Root Complex çipini geliştirdi. HDM (Host-Managed Device Memory) kod çözücü, bellek tahsisini ve çevirisini yöneterek bağlantı arasında köprü görevi görüyor.

Panmnesia, çözümünü (CXL-Opt) Samsung ve Meta tarafından geliştirilen prototiplerle (CXL-Proto olarak etiketlenmiş) karşılaştırmaya karar verdi. CXL-Opt, GPU’dan belleğe ve geri dönüş yolculuğunda alınan süre olan yuvarlak yol gecikmesinde önemli ölçüde daha düşük bir süre gösteriyor. CXL-Opt, iki haneli nanosaniye gecikme süresine sahipken, CXL-Proto 250ns gecikme süresine sahip. Bunun yanı sıra, CXL-Opt’un yürütme süresi, IPC performans hızlarında UVM çözümünden 3.22 kat daha fazla.

Panmnesia’nın çözümü, pazarlarda büyük adımlar atabilir, çünkü HBM çiplerini istiflemek ve daha verimli bir çözüme geçmek arasında bir aracı görevi görüyor. Şirket, yenilikçi bir CXL IP ile ilklerden biri olduğu için, bu ivme kazanırsa Panmnesia önemli ölçüde fayda sağlayacak.