FhGenie: Fraunhofer-Gesellschaft dahili bir yapay zeka sohbet robotu geliştirdi

Üretken yapay zeka sistemlerinin yıkıcı potansiyeli en son ChatGPT'nin piyasaya sürülmesiyle ortaya çıktı. Beklenen ekonomik ve toplumsal etki çok büyüktür. Bu nedenle, mevcut sistemlere hızlı ve güvenli erişim, büyük araştırma kuruluşlarının kapsamlı ilk elden deneyim kazanabilmeleri, teknolojik gelişmeleri yönlendirebilmeleri ve yenilikçi gücü koruyabilmeleri için çok önemlidir.

Fraunhofer-Gesellschaft şimdi çalışanları için yapay zeka sohbet robotu FhGenie'yi piyasaya sürdü. Microsoft Azure OpenAI Service'i temel alan FhGenie, kurumların OpenAI'nin GPT-3.5 veya GPT-4, Codex, ChatGPT ve DALL-E 2 gibi en yeni jeneratif yapay zeka teknolojilerini Microsoft Azure Cloud üzerinden kullanabilmelerini sağlıyor.

Fraunhofer-Gesellschaft Dijital Dönüşüm ve ICT Altyapısı Direktörü Prof. Ingo Weber, "Microsoft ile birlikte Fraunhofer-Gesellschaft'ın gereksinimlerine göre uyarlanmış bir AI sohbet sistemi geliştirmeyi başardığımız için çok memnunum ve bunu çok kısa bir sürede başardık" diyor. "Birçok meslektaşımızın işlerinde ve araştırmalarında sohbet tabanlı yapay zeka uygulamalarını kullanmak istediğini gördük. Ancak, şimdiye kadar mevcut olan kamusal çözümler, özellikle veri koruma, gizlilik ve bilgi güvenliği söz konusu olduğunda, işle ilgili amaçlar için sorunludur."

FhGenie, araştırma, yönetim ve idare alanlarındaki Fraunhofer çalışanlarına bu sistemlerle deneyim kazanma şansı sunuyor: "FhGenie'nin dayandığı Microsoft Azure OpenAI Hizmeti, Fraunhofer çalışanlarının kendi çalışmaları için üretken yapay zeka sistemlerinin potansiyelinden yararlanmalarını sağlıyor. Hızlı teknolojik gelişmeler karşısında, halihazırda mevcut olan çözümlere aşina olmak ve bunların avantajlarından yararlanmak önemlidir," diyor Microsoft Almanya Kamu Sektörü Lideri Alexander Britz.

GDPR uyumlu dahili sohbet robotu
Üretken metin yapay zeka çözümü FhGenie, OpenAI dil modeli GPT-3.5-turbo'ya dayanmaktadır ve görüntüleri de işleyebilen daha güçlü ve çok modlu GPT-4.0 ile mümkün olan en kısa sürede yükseltilecektir. Şu anda FhGenie, Python tabanlı bir çerçeveye ve JavaScript çalışma zamanı ortamı node.js'ye sahip bir web uygulamasından oluşmaktadır. Çalışanlar akıllı kartlarını kullanarak SSO kimlik doğrulaması ile tarayıcılarından kolayca erişebilirler. Veri güvenliğini sağlamak için örnek, Microsoft'un bulut platformunda kapalı bir bölüm olan Fraunhofer'a ait bir Avrupa Azure aboneliğinde yapılandırıldı.

Fraunhofer aboneliğinin özel bir parçası olan Azure OpenAI Hizmeti aracılığıyla yapılan taleplerde bir API istemi kullanılıyor. Bu, komutları yapay zeka sistemine ileten özelleştirilmiş bir arayüzdür. Kullanıcılar sonuçlarını bir tamamlama uç noktasından alırlar (otomatik tamamlama işlevi). Girilen tüm veriler Fraunhofer-Gesellschaft bünyesinde kalır ve yapay zekayı eğitmek için kullanılmaz. Uygunsuz kullanımı kontrol eden otomatik bir filtre programı dışında, girilen içerik izlenmez veya kaydedilmez.

Çalışma konseyi, Fraunhofer-Gesellschaft genelinde GDPR uyumlu Azure OpenAI Service uygulamasının kullanımını onaylamıştır, erişim yetkileri yerel olarak Fraunhofer enstitüleri ve kuruluşlarındaki BT yöneticileri tarafından atanmaktadır. Mevcut kullanım rakamları, yeni aracın Fraunhofer'in iş gücü tarafından iyi karşılandığını gösteriyor: Bugün itibariyle Fraunhofer'in 30.000'den fazla çalışanından 19.200'ü hizmete kaydolmuş durumda ve bunların yaklaşık 6.500'ü aktif kullanıcı olarak kabul edilebilir.

Raporlamadan bilgi yönetimine: geniş bir yelpazede olası uygulamalar
Yapay zekalı sohbet robotu için çok sayıda olası uygulama var ve bunların tamamı muhtemelen ancak gelecekte netleşecek. FhGenie halihazırda Fraunhofer çalışanlarına yalnızca şirket içi raporlar gibi metin ve sunumların oluşturulması ve iyileştirilmesi konusunda destek sunmakla kalmıyor, aynı zamanda yazılım, prototip veya veri analizi komut dosyalarının daha hızlı geliştirilmesine de yardımcı olabiliyor. Birlikte çalışabilir bir intranet gibi dahili bilgi yönetimi sistemlerinin daha da geliştirilmesi için potansiyel kullanım durumları da vardır. Fraunhofer enstitülerindeki araştırmacılar, uzmanlıklarını hızla genişletmek ve yapay zeka modellerini müşterilerle birlikte test etmek için deneysel alanı kullanabilirler.

Ancak çözümü nasıl kullanacakları kullanıcıların kendilerine kalmış. Yasal nedenlerle FhGenie ile işlenemeyecek tek şey kişisel verilerdir. Weber, "Şu anda bir geçiş ve deney aşamasındayız, bu nedenle şu anda meydana gelen hızlı teknolojik gelişmelerin ön saflarında yer almak için hızlı bir şekilde uygulanabilir bir çözüm sunmamız önemliydi" diye açıklıyor. "Elbette, telif hakkı veya yanlış sonuçlar için sorumluluk gibi hala birçok belirsizlik var. Bu nedenle enstitülerdeki ve departmanlardaki sorumlulardan, tüm kullanıcıların YZ tarafından üretilen sonuçların kalitesinden sorumlu olduklarının ve bunu kendilerinin doğrulaması gerektiğinin farkında olmalarını istedik."

YZ dil modelleri ve Fraunhofer: erişim, uyarlama, ilerleme
Çok sayıda Fraunhofer enstitüsü, üretken yapay zeka ve temel modellerin araştırılması ve uygulanmasına yönelik girişim ve projelerde halihazırda aktif olarak yer almaktadır. Bunun bir örneği, büyük Avrupa YZ dil modellerinin geliştirilmesi için oluşturulan OpenGPT-X konsorsiyumudur. Fraunhofer ICT Grubundan bir görev gücünün, ChatGPT başlatıldığında Fraunhofer-Gesellschaft için YZ dil modelleriyle nasıl başa çıkılacağına dair yönergeler hazırlamasının bir başka nedeni de budur. FhGenie'nin piyasaya sürülmesi, büyük ölçekli YZ modelleri için gereken üç adımın (erişim, uyarlama ve ilerleme) ilkinin bir parçasıdır. Fraunhofer aynı zamanda sektörden daha fazla işbirliği ortağı kazanmayı hedefliyor.

Fraunhofer ICT Grubu Başkan Yardımcısı ve Fraunhofer Akıllı Analiz ve Bilgi Sistemleri Enstitüsü IAIS Direktörü şunları söylüyor: "Büyük dil modelleri ve üretken yapay zeka yeni ürünleri mümkün kılıyor ve iş dünyamızı daha üretken hale getiriyor. Fraunhofer-Gesellschaft, disiplinler arası bir yaklaşıma ve sanayi sektörüyle güçlü bağlara sahip uygulamalı bir araştırma kuruluşu olarak, bu yenilikleri etkili bir şekilde uygulamaya koymak için mükemmel bir konumdadır. Benzer teknolojiler, örneğin finans ve sağlık sektörlerindeki şirketlerde halihazırda günlük olarak kullanılmakta ve %50'ye varan verimlilik artışları sağlamaktadır. FhGenie, Fraunhofer'deki herkesin bu potansiyelden hemen ve güvenli bir şekilde yararlanabilmesini ve müşterilerimiz ve ortaklarımız için bu potansiyelden yararlanabilmesini sağlamamıza yardımcı oluyor." 

Yazar: Thomas Eck

Department Head for Press and Media

Fraunhofer-Gesellschaft