Yapay Zeka İş Yüklerini Optimize Etmek

Red Hat OpenShift AI üzerindeki Run:ai, kuruluşların GPU kaynaklarını en üst düzeye çıkarmasına ve yapay zeka iş akışlarını kolaylaştırmasına yardımcı oluyor.

Dünyanın önde gelen açık kaynak çözümleri sağlayıcısı Red Hat, Inc., Run:ai'nin kaynak tahsis yeteneklerini Red Hat OpenShift AI'ye getirmek için AI optimizasyonu ve orkestrasyonunda lider olan Run:ai ile bir işbirliği yaptığını duyurdu. Bu işbirliği, yapay zeka operasyonlarını kolaylaştırarak ve temel altyapıyı optimize ederek, işletmelerin yapay zeka kaynaklarından en iyi şekilde yararlanmasını, hem insan hem de donanım odaklı iş akışlarını en üst düzeye çıkarmasını ve yapay zeka özellikli uygulamaları ve modelleri büyük ölçekte oluşturmak, ayarlamak, dağıtmak ve izlemek için güvenilir bir MLOps platformunda olmasını sağlıyor.

GPU'lar yapay zeka iş akışlarını yönlendiren, model eğitimi, çıkarım, deney ve daha fazlasını sağlayan bilgi işlem motorları. Ancak bu özel işlemciler, özellikle dağıtılmış eğitim işlerinde ve çıkarımlarda kullanıldığında maliyetli olabiliyor. Red Hat ve Run:ai, kullanıcıların yapay zeka iş yükleri nerede olursa olsun ölçeklendirmelerine yardımcı olan Red Hat OpenShift AI üzerinde Run:ai'nin sertifikalı OpenShift Operatörü ile GPU kaynak optimizasyonuna yönelik bu kritik ihtiyacı karşılamak için çalışıyor. Ayrıca, Run:ai'nin Red Hat OpenShift AI üzerindeki bulutta yerel bilgi işlem düzenleme platformu yardımcı oluyor:

Görev açısından kritik iş yüklerini daha kolay önceliklendirmek ve bu iş yüklerini desteklemek amacıyla yeterli kaynakların tahsis edildiğini doğrulamak için özel bir iş yükü zamanlayıcısı ile yapay zeka iş yüklerinde GPU zamanlama sorunları ortadan kalkıyor.

Kaynakları önceden belirlenmiş önceliklere ve politikalara göre dinamik olarak tahsis etmek ve altyapı verimliliğini artırmak için fraksiyonel GPU ve izleme özelliklerinden yararlanılıyor.

BT, veri bilimi ve uygulama geliştirme ekipleri arasında daha kolay erişim ve kaynak tahsisi sağlamak için paylaşılan GPU altyapısı üzerinde gelişmiş kontrol ve görünürlük elde ediliyor.

Run:ai'nin sertifikalı OpenShift Operatörü şu anda kullanılabiliyor. Gelecekte Red Hat ve Run:ai, Red Hat OpenShift AI üzerinde Run:ai için ek entegrasyon yetenekleri ile bu işbirliğini geliştirmeye devam etmeyi planlıyor. Bu sayede daha sorunsuz müşteri deneyimlerinin desteklenmesi ve yapay zeka modellerinin üretim iş akışlarına daha da büyük bir tutarlılıkla taşınmasının hızlandırılması hedefleniyor.

Red Hat Yapay Zeka İş Biriminden sorumlu Başkan Yardımcısı ve Genel Müdür Steven Huels, konuyla ilgili “Kullanılabilir, kullanışlı ve esnek bir yapay zeka platformu, hibrit bulutun neresinde olursa olsun, operasyonlarından ve altyapılarından en iyi şekilde yararlanmak isteyen kuruluşlar için hayati önem taşıyor. Run:ai ile işbirliğimiz sayesinde, kuruluşların AI/ML platformunun güvenilirliğinden veya değerli GPU kaynaklarından ödün vermeden, ihtiyaç duyulan her yerde AI iş yüklerini en üst düzeye çıkarmalarını sağlıyoruz” dedi.

Run:ai CEO'su ve Kurucusu Omri Geller ise, “Yapay zeka operasyonlarının gücünü ve potansiyelini artırmak için Red Hat OpenShift AI ile ortaklık yapmaktan heyecan duyuyoruz. Red Hat OpenShift'in MLOps gücünü Run:ai'nin yapay zeka altyapı yönetimindeki uzmanlığıyla birleştirerek kurumsal yapay zeka için yeni bir standart belirliyor, sorunsuz ölçeklenebilirlik ve optimize edilmiş kaynak yönetimi sunuyoruz” dedi.