Yapay zeka platformu sağlayıcısı Clarifai, kuruluşların herhangi bir bilgi işlem ortamında yapay zeka iş yüklerini optimize etmelerine, maliyetleri azaltmalarına ve satıcıya bağımlı kalmayı önlemelerine yardımcı olmayı vaat eden yeni bir bilgi işlem düzenleme yeteneğini açıkladı.
3 Aralık 2024’te açıklanan genel önizleme sürümü Kuruluşların yapay zeka iş yüklerini, bu iş yükleri bulutta, şirket içinde veya hava boşluklu altyapıda çalışıyor olsun, birleşik bir kontrol düzlemi üzerinden düzenlemesine olanak tanır. Platform, GPU’lar, CPU’lar ve TPU’lar dahil olmak üzere herhangi bir AI modeli ve donanım hızlandırıcıyla çalışabilir.
“Clarifai, özel yapay zeka iş yükleri oluşturmak için tam kapsamlı yapay zeka araçlarıyla büyük kurumsal ve görev açısından kritik hükümet ihtiyaçlarını destekleyen on yılı aşkın deneyimiyle her zaman diğerlerinden önde olmuştur.” söz konusu Clarifai’nin kurucusu ve CEO’su Matt Zeiler. “Artık milyonlarca modele aynı anda hizmet verecek şekilde ölçeklenirken bilgi işlem maliyetlerimizi optimize etmek için şirket içinde oluşturduğumuz yetenekleri kullanıma açıyoruz.”
Şirket, platformunun model paketleme optimizasyonları yoluyla bilgi işlem kullanımını 3,7 kat azaltabileceğini ve %99,9997 güvenilirlikle saniyede 1,6 milyondan fazla çıkarım talebini destekleyebileceğini iddia ediyor. Clarifai’ye göre optimizasyonlar, konfigürasyona bağlı olarak maliyetleri potansiyel olarak %60-90 oranında azaltabilir.
Bilgi işlem düzenleme platformunun yetenekleri şunları içerir:
- Model paketleme, bağımlılığı basitleştirme ve model replikaları ve bilgi işlem düğümleri için sıfıra kadar ölçeklenebilen özelleştirilebilir otomatik ölçeklendirme seçenekleri de dahil olmak üzere otomatik kaynak yönetimi yoluyla maliyet optimizasyonu,
- Bulut, şirket içi, hava boşluklu ve Clarifai SaaS altyapısı da dahil olmak üzere herhangi bir donanım satıcısında dağıtım esnekliği,
- Veri etiketleme, eğitim, değerlendirme, iş akışları ve geri bildirim için Clarifai’nin yapay zeka platformuyla entegrasyon,
- Açık gelen bağlantı noktaları, VPC eşleme veya özel IAM rolleri gerektirmeden müşteri VPC’lerine veya şirket içi Kubernetes kümelerine dağıtım yapılmasına olanak tanıyan güvenlik özellikleri.
Platform, Clarifai müşterilerinin yapay zeka performansı ve maliyetle ilgili sorunlarından ortaya çıktı. Bir müşteri, “Bunu bütünsel olarak düşünmenin ve şirket içi maliyetlerimizi bulut maliyetlerimizle karşılaştırmanın bir yolunu bulsaydık ve ardından ortamlar arasında maliyet esasına göre düzenleme yapabilseydik, bu inanılmaz derecede değerli olurdu” dedi. Clarifai’nin duyurusunda alıntılanmıştır.
Bilgi işlem düzenleme yetenekleri, Clarifai’nin bilgisayar görüşü, dil ve ses yapay zekasında 2 milyardan fazla işlemi gerçekleştirdiğini söylediği mevcut yapay zeka platformu üzerine inşa ediliyor. Şirket, kritik uygulamalar için %99,99’un üzerinde çalışma süresi ve 7/24 kullanılabilirlik sağladığını bildiriyor.
Bilgi işlem düzenleme özelliği şu anda genel önizlemede mevcuttur. Platformu test etmek isteyen kuruluşlar erişim için Clarifai ile iletişime geçmelidir.