Üretim Yapay Zekasına Giden Yol

Ortak geliştirilen yeni ürün, Red Hat AI Enterprise ve NVIDIA'nın hızlandırılmış bilgi işlem yazılımını bir araya getirerek AI özellikli uygulamaları oluşturmak, dağıtmak ve ölçeklendirmek için birleşik bir temel sağlıyor.

Dünyanın önde gelen açık kaynak çözümleri sağlayıcısı Red Hat, NVIDIA ile birlikte Red Hat AI Factory'yi duyurdu. Bu ortaklaşa geliştirilen yazılım platformu, Red Hat AI Enterprise ve NVIDIA AI Enterprise'ı bir araya getirerek, yapay zekayı büyük ölçekte kullanan kurumlar için optimize edilmiş uçtan uca bir yapay zeka çözümü sunuyor. Red Hat AI Factory with NVIDIA, iki şirketin derin işbirliğinin en son kilometre taşı ve günümüzün kurumsal müşterilerine en yeni AI yeniliklerini daha hızlı sunarken, NVIDIA donanım mimarileri 0. Gün desteği de sağlıyor.
 
Büyük ölçüde “agentic AI” uygulamaları tarafından yönlendirilen kurumsal yapay zeka harcamalarının 2029 yılına kadar 1 trilyon doların¹ üzerine çıkması beklenirken, kurumlar stratejilerini yüksek yoğunluklu, ajans iş akışlarına kaydırmak ve bunun sonucunda ortaya çıkan AI çıkarım ve altyapı taleplerini karşılamak istiyor. Kurumların bu hızı yakalamasına yardımcı olmak için, NVIDIA ile Red Hat AI Factory, BT operasyon ekiplerine hem geleneksel altyapının hem de AI yığınının gelişen taleplerinin yönetimini kolaylaştırma olanağı sunuyor.

NVIDIA ile Red Hat AI Factory, üretim yapay zekasına giden yolu hızlandırıyor ve AI fabrikaları için yazılım platformu sunuyor. Bu platform, modeller ve çıkarım yığınına güç veren NVIDIA GPU'lar için daha yüksek performans sağlayan hızlandırılmış bilgi işlem altyapısı üzerinde çalışıyor. Platform, Cisco, Dell Technologies, Lenovo ve Supermicro gibi önde gelen sistem üreticilerinin AI fabrika altyapısı tarafından destekleniyor. Bu, BT yöneticileri ve operasyon ekiplerinin AI dağıtımlarını, herhangi bir kurumsal iş yüküyle aynı operasyonel titizlik ve öngörülebilirlikle ölçeklendirmelerine ve sürdürmelerine olanak tanıyor.

Bu ortaklaşa geliştirilen yazılım platformu, Red Hat ve NVIDIA'nın açık kaynaklı işbirliği, mühendislik ve destek uzmanlığını bir araya getirerek güvenilir, kurumsal düzeyde bir çözüm sunuyor. NVIDIA ile Red Hat AI Factory, şirket içinde, bulutta veya uçta, her türlü ortamda yapay zeka dağıtımları için son derece ölçeklenebilir bir temel sağlıyor. Güvenlik odaklı, yüksek performanslı yapay zeka çıkarımları, model ayarlama, özelleştirme ve ajan dağıtımı ve yönetimi için temel yetenekleri içeriyor. Bu, kurumların veri merkezinden genel buluta kadar mimari kontrolü sürdürmelerini sağlayarak şunları sunuyor:

• Hızlandırılmış değer elde etme süresi: NVIDIA NIM mikro hizmetleri olarak sunulan, tazminatlı IBM Granite ailesi, NVIDIA Nemotron ve NVIDIA Cosmos açık modelleri dahil olmak üzere, optimize edilmiş iş akışları ve önceden yapılandırılmış modellere anında erişim ile yapay zeka üretimine geçilebiliyor. Ayrıca, kurumlar NVIDIA NeMo'yu kullanarak modelleri kurumsal verilerle daha da uyumlu hale getirebiliyor, böylece ayarlama süresini ve maliyetini azaltabiliyor.
• Optimize edilmiş performans ve maliyet: Birleşik, yüksek performanslı hizmet yığını ile altyapı kullanımı en üst düzeye çıkarılabiliyor ve çıkarım performansı güçlendiriliyor. NVIDIA ile Red Hat AI Factory, yerleşik gözlemlenebilirlik özellikleri sunuyor ve vLLM, NVIDIA TensorRT-LLM ve NVIDIA Dynamotarafından desteklenen Red Hat AI çıkarım özelliklerinden yararlanarak katı AI hizmet seviyesi hedeflerini karşılıyor. Bu, kurumların modeller ve NVIDIA GPU'lar arasındaki bağlantıyı optimize ederek AI için toplam sahip olma maliyetini (TCO) azaltmasına yardımcı oluyor.
• Akıllı GPU düzenleme: Akıllı düzenleme ve havuzlanmış altyapı sayesinde GPU kaynaklarına isteğe bağlı erişim sağlayın, uzun süren işleri korumak ve dinamik ortamlarda daha öngörülebilir hesaplama maliyetleri sağlamak için otomatik kontrol noktası oluşturulabiliyor.
• Güçlendirilmiş kurumsal yapı: Red Hat Enterprise Linux'un esnek ve istikrarlı temelinden yararlanan kurumlar, riski azaltmaya, zamandan tasarruf etmeye ve kesinti sürelerini azaltmaya yardımcı olan, baştan itibaren yerleşik olarak sunulan gelişmiş güvenlik ve uyumluluk özelliklerinden yararlanıyor. Bu, izolasyon ve sürekli doğrulama gerektiren görev açısından kritik AI iş yükleri için güvenlik açısından güçlendirilmiş bir temeli olanaklı kılıyor. NVIDIA DOCA mikro hizmetleri bu temele dayanarak sıfır güven mimarisi oluşturur ve altyapı genelinde AI çalışma zamanı güvenliği sağlıyor.

NVIDIA ile Red Hat AI Factory şu anda ulaşılabilir durumda.
 
Red Hat Global Mühendislik Teknoloji Direktörü ve Kıdemli Başkan Yardımcısı Chris Wright, "AI deneylerinden endüstriyel ölçekte, kurumsal çapta üretime geçiş, AI bilgi işlem yığınını yönetme şeklimizde köklü bir değişiklik gerektiriyor. NVIDIA ile Red Hat AI Factory'yi kullanarak yapay zeka dağıtım sürecini hızlandırıyor ve üretime hızlı bir şekilde geçiyoruz. Kanıtlanmış hibrit bulut çözümlerimizle desteklenen istikrarlı, yüksek performanslı bir temel sayesinde, müşterilerimizin yapay zeka stratejilerini sahiplenmelerini ve temel BT platformlarına uyguladıkları titizlikle ölçeklendirmelerini sağlıyoruz” dedi.

NVIDIA Kurumsal Yapay Zeka Platformları Başkan Yardımcısı Justin Boitano ise görüşlerini şöyle ifade etti: “İşletmeler, çıkarım sırasında verileri büyük ölçekte zekaya dönüştüren yapay zeka fabrikaları kuruyorlar. Bu da, hibrit bulutu kapsayan üretim düzeyinde altyapı ve yazılım gerektiriyor. NVIDIA ile Red Hat AI Factory, kurumların hızlı altyapı yeniliklerine ayak uydurmalarına yardımcı olurken, yeni nesil yapay zeka uygulamalarını güvenilir bir şekilde oluşturup dağıtmalarını sağlayan yazılım altyapısını sunuyor.”