İşte KIOXIA AiSAQ™ Teknolojisi

KIOXIA AiSAQ™ Teknolojisi, Üretken Yapay Zeka Sistemlerinde DRAM Gereksinimlerini Azaltmak için Tasarlanan Açık Kaynak Kodlu Yazılım Olarak Yayınlandı. Yazılım teknolojisi, SSD'leri kullanarak RAG iş akışlarında vektör veritabanı ölçeklendirmesini ve doğruluğunu geliştiriyor.

KIOXIA, bugün yeni All-in-Storage ANNS with Product Quantization (AiSAQ) teknolojisinin açık kaynaklı sürümünü duyurdu. SSD'ler için optimize edilmiş yeni bir “yaklaşık en yakın komşu” arama (ANNS) algoritması olan KIOXIA AiSAQ™[1] yazılımı, dizin verilerini DRAM'e yerleştirmeden ve bunun yerine doğrudan SSD'lerde arama yaparak erişim artırımlı nesil (RAG) için ölçeklenebilir performans sunuyor.

Üretken yapay zeka sistemleri önemli miktarda hesaplama, bellek ve depolama kaynağı gerektiriyor. Çeşitli sektörlerde dönüştürücü atılımlar gerçekleştirme potansiyeline sahip olsalar da, dağıtımları genellikle yüksek maliyetlerle birlikte geliyor. RAG, büyük dil modellerini (LLM'ler) şirkete veya uygulamaya özel verilerle iyileştiren kritik bir yapay zeka aşaması olarak öne çıkıyor.

RAG'nin merkezi bir bileşeni, belirli verileri biriktiren ve veritabanında özellik vektörlerine dönüştüren bir vektör veritabanı. RAG ayrıca, birikmiş ve hedef vektörler arasındaki benzerliğe dayalı olarak modeli iyileştiren vektörleri tanımlayan bir ANNS algoritması kullanıyor. RAG'nin etkili olabilmesi için, bir sorguyla en alakalı bilgileri hızlı bir şekilde alması gerekiyor. Geleneksel olarak ANNS algoritmaları, bu aramalar için gereken yüksek hızlı performansı elde etmek için DRAM'de kullanılıyor.

KIOXIA AiSAQ™ teknolojisi, ihmal edilebilir bellek kullanımı ve hızlı dizin değiştirme özellikleriyle milyar ölçekli veri kümeleri için ölçeklenebilir ve verimli bir ANNS çözümü sunuyor.

KIOXIA AiSAQ™ Teknolojisinin Temel Faydaları:

Büyük ölçekli veritabanlarının sınırlı DRAM kaynaklarına ihtiyaç duymadan çalışmasını sağlayarak RAG sistemlerinin performansını artırıyor.
Dizin verilerini DRAM'e yükleme ihtiyacını ortadan kaldırarak vektör veritabanının anında başlatılmasını sağlıyor. Bu, verimli RAG hizmeti sunumu için aynı sunucu üzerinde kullanıcıya özel veya uygulamaya özel veritabanları arasında sorunsuz geçişi destekliyor.
Dizinleri birden fazla sunucu arasında paylaşmak için ayrıştırılmış depolama alanında depolayarak bulut sistemleri için optimize edildi. Bu yaklaşım, belirli kullanıcılar veya uygulamalar için vektör veritabanı arama performansını dinamik olarak ayarlıyor ve fiziksel sunucular arasında arama örneklerinin hızlı geçişini kolaylaştırıyor.

KIOXIA Europe GmbH Baş Teknoloji Sorumlusu ve Başkan Yardımcısı Axel Stoermann, “KIOXIA AiSAQ™ çözümü, temelde flaş tabanlı SSD'lere dayanan Generative AI Sistemlerinde RAG uygulamalarının neredeyse sonsuz ölçeklendirilmesinin önünü açıyor” dedi ve ekledi: “SSD tabanlı ANNS kullanarak, önde gelen bellek içi çözümlerin performans ihtiyaçlarını karşılarken maliyetli DRAM'e olan bağımlılığı azaltıyoruz ve büyük ölçekli RAG uygulamalarının performans aralığını önemli ölçüde artırıyoruz.”

KIOXIA, yenilikçi KIOXIA AiSAQ teknolojisini açık kaynaklı yazılım olarak topluma sunarak yapay zekayı geliştirme konusundaki kararlılığını ortaya koyuyor.