Yapay zeka sistemlerinin yerel değerleri ve düzenlemeleri yansıtmasını sağlamak için ülkeler giderek daha fazla bağımsız yapay zeka stratejileri izliyor; kendi altyapılarını, verilerini ve uzmanlıklarını kullanarak yapay zeka geliştiriyorlar. NVIDIA, dört yeni NVIDIA’nın piyasaya sürülmesiyle bu harekete destek veriyor Nöral Çıkarım Mikro Hizmetleri (NIM).
Bu mikro hizmetler, bölgesel olarak özelleştirilmiş topluluk modellerini destekleyerek üretken yapay zeka uygulamalarının oluşturulmasını ve dağıtımını basitleştirmek için tasarlanmıştır. Yerel dillerin ve kültürel nüansların daha iyi anlaşılması yoluyla daha doğru ve alakalı yanıtlara yol açacak şekilde daha derin kullanıcı etkileşimi vaat ediyorlar.
Bu hamle, Asya-Pasifik üretken yapay zeka yazılım pazarında beklenen bir patlamanın ortasında gerçekleşti. ABI Araştırması tahminler gelirin bu yıl 5 milyar dolardan 2030’a kadar 48 milyar dolara çıkması bekleniyor.
Yeni teklifler arasında iki bölgesel dil modeli yer alıyor: Japonca verilerle eğitilmiş Llama-3-Swallow-70B ve Mandarin için optimize edilmiş Llama-3-Tayvan-70B. Bu modeller yerel kanunları, düzenlemeleri ve kültürel incelikleri daha kapsamlı bir şekilde kavramak için tasarlanmıştır.
Japonca dil teklifini daha da güçlendiren şey ise RakutenAI 7B model ailesidir. Mistral-7B üzerine inşa edilmiş ve hem İngilizce hem de Japonca veri kümeleri üzerinde eğitilmiş olup, Sohbet ve Talimat işlevleri için iki ayrı NIM mikro hizmeti olarak mevcutturlar. Rakuten’in modelleri, LM Evaluation Harness karşılaştırmasında etkileyici sonuçlar elde ederek Ocak ve Mart 2024 arasında açık Japonca büyük dil modelleri arasında en yüksek ortalama puanı elde etti.
Yüksek Lisans’ların bölgesel diller konusunda eğitilmesi, çıktı verimliliğinin artırılması açısından çok önemlidir. Kültürel ve dilsel incelikleri doğru şekilde yansıtan bu modeller, daha kesin ve incelikli iletişimi kolaylaştırır. Llama 3 gibi temel modellerle karşılaştırıldığında bu bölgesel değişkenler, Japonca ve Mandarin dilini anlama, bölgesel hukuki görevleri yerine getirme, soruları yanıtlama ve metni çevirip özetleme konularında üstün performans sergiliyor.
Egemen yapay zeka altyapısına yönelik bu küresel baskı, Singapur, BAE, Güney Kore, İsveç, Fransa, İtalya ve Hindistan gibi ülkelerden gelen önemli yatırımlarda açıkça görülüyor.
“LLM’ler herkese aynı faydayı sağlayan mekanik araçlar değildir. Daha ziyade insan kültürü ve yaratıcılığıyla etkileşime giren entelektüel araçlardır. Etki karşılıklıdır, burada yalnızca üzerinde eğitim verdiğimiz verilerden etkilenen modeller değil, aynı zamanda kültürümüz ve ürettiğimiz veriler de Yüksek Lisans’lardan etkilenecektir,” dedi Tokyo Küresel Bilimsel Bilgi ve Bilgi İşlem Merkezi profesörü Rio Yokota Teknoloji Enstitüsü.
“Bu nedenle kültürel normlarımıza uygun, egemen yapay zeka modellerinin geliştirilmesi büyük önem taşıyor. Llama-3-Swallow’un bir NVIDIA NIM mikro hizmeti olarak kullanılabilirliği, geliştiricilerin çeşitli sektörlerdeki Japon uygulamalarına yönelik modele kolayca erişmesine ve dağıtmasına olanak tanıyacak.”
NVIDIA’nın NIM mikro hizmetleri işletmelerin, devlet kurumlarının ve üniversitelerin yerel LLM’leri kendi ortamlarında barındırmasına olanak tanır. Geliştiriciler, gelişmiş yardımcı pilotlar, sohbet robotları ve yapay zeka asistanları oluşturma yeteneğinden yararlanır. NVIDIA AI Enterprise ile birlikte sunulan bu mikro hizmetler, açık kaynaklı NVIDIA TensorRT-LLM kitaplığı kullanılarak çıkarım için optimize edilmiş olup gelişmiş performans ve dağıtım hızı vaat etmektedir.
5 kata kadar daha yüksek aktarım hızına sahip Llama 3 70B mikro hizmetlerinde (yeni Llama–3-Swallow-70B ve Llama-3-Taiwan-70B tekliflerinin temeli) performans kazanımları açıkça görülüyor. Bu, minimum gecikme süresi sayesinde operasyonel maliyetlerin azalması ve kullanıcı deneyimlerinin iyileştirilmesi anlamına gelir.
(Fotoğraf: BolivyaInteligente)
Ayrıca bakınız: OpenAI, GPT-4o’ya ince ayar sağlar
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
