Endor Laboratuvarları AI modellerini güvenlik, popülerlik, kalite ve etkinliklerine göre puanlamaya başladı.
‘Yapay Zeka Modelleri için Endor Puanları’ olarak adlandırılan bu benzersiz yetenek, Büyük Dil Modellerini (LLM’ler), makine öğrenimi modellerini ve diğerlerini paylaşmaya yönelik bir platform olan Hugging Face’te şu anda mevcut olan en güvenli açık kaynaklı yapay zeka modellerini belirleme sürecini basitleştirmeyi amaçlıyor. Basit puanlar sağlayarak açık kaynaklı yapay zeka modelleri ve veri kümeleri.
Duyuru, geliştiricilerin hazır yapay zeka modelleri için giderek daha fazla Hugging Face gibi platformlara yönelmesiyle birlikte geliyor; bu platformlar, hazır açık kaynaklı yazılımın (OSS) ilk günlerini yansıtıyor. Bu yeni sürüm, geliştiricilerin AI modelleriyle “temiz bir başlangıç” yapmasını sağlayarak AI yönetimini geliştiriyor; bu, şu ana kadar ulaşılması zor bir hedef.
Endor Labs Kurucu Ortağı ve CEO’su Varun Badhwar şunları söyledi: “Kodunuzun bağlı olduğu her şeyi güvence altına almak her zaman misyonumuz oldu ve AI modelleri bu kritik görevde bir sonraki büyük sınırdır.
“Her kuruluş, ister belirli uygulamaları güçlendirmek ister yapay zeka tabanlı işletmelerin tamamını oluşturmak olsun, yapay zeka modellerini deniyor. Güvenliğin de buna ayak uydurması gerekiyor ve burada temiz bir başlangıç yapmak ve ilerideki risklerden ve yüksek bakım maliyetlerinden kaçınmak için nadir bir fırsat var.”
Endor Labs Kurucu Mühendisi George Apostolopoulos şunları ekledi: “Şu anda herkes yapay zeka modellerini deniyor. Bazı ekipler yepyeni yapay zeka tabanlı işletmeler kurarken, diğerleri ürünlerine ‘Yapay Zeka tarafından desteklenmektedir’ etiketi yapıştırmanın yollarını arıyor. Kesin olan bir şey var ki, geliştiricileriniz yapay zeka modelleriyle oynuyor.”
Ancak bu kolaylık risksiz değildir. Apostolopoulos, insanların potansiyel güvenlik açıklarını dikkate almadan ihtiyaçlarına uygun modelleri kaptığı mevcut manzaranın “vahşi batıya” benzediği konusunda uyarıyor.
Endor Labs’ın yaklaşımı yapay zeka modellerini yazılım tedarik zincirindeki bağımlılıklar olarak ele alıyor
Apostolopoulos, “Endor Labs’teki misyonumuz, ‘kodunuzun bağlı olduğu her şeyin güvenliğini sağlamak'” diyor. Bu perspektif, kuruluşların diğer açık kaynak bileşenlerine yaptıkları gibi benzer risk değerlendirme metodolojilerini yapay zeka modellerine de uygulamalarına olanak tanır.
Endor’un yapay zeka modellerini puanlamaya yönelik aracı birkaç temel risk alanına odaklanıyor:
- Güvenlik açıkları: Önceden eğitilmiş modeller, model ağırlıkları içerisinde kötü amaçlı kod veya güvenlik açıkları barındırabilir ve bu durum, bir kuruluşun ortamına entegre edildiğinde potansiyel olarak güvenlik ihlallerine yol açabilir.
- Yasal ve lisanslama sorunları: Lisanslama şartlarına uyum, özellikle yapay zeka modellerinin ve eğitim setlerinin karmaşık kökeni göz önüne alındığında çok önemlidir.
- Operasyonel riskler: Önceden eğitilmiş modellere bağımlılık, yönetilmesi ve güvenliğinin sağlanması zor olabilecek karmaşık bir grafik oluşturur.
Endor Labs’ın değerlendirme aracı, bu sorunlarla mücadele etmek için Hugging Face’teki yapay zeka modellerine 50 adet kullanıma hazır kontrol uyguluyor. Sistem, bakımcı sayısı, kurumsal sponsorluk, sürüm sıklığı ve bilinen güvenlik açıkları gibi faktörlere dayalı olarak bir “Endor Puanı” oluşturur.
Yapay zeka modellerini puanlamak için sistemdeki olumlu faktörler arasında güvenli ağırlık formatlarının kullanılması, lisans bilgilerinin varlığı ve yüksek indirme ve etkileşim ölçümleri yer alır. Olumsuz faktörler arasında eksik dokümantasyon, performans verilerinin eksikliği ve güvenli olmayan ağırlık formatlarının kullanımı yer alır.
Endor Scores’un önemli bir özelliği kullanıcı dostu yaklaşımıdır. Geliştiricilerin belirli model adlarını bilmesine gerek yoktur; Aramalarına “Duyguları sınıflandırmak için hangi modelleri kullanabilirim?” gibi genel sorularla başlayabilirler. veya “Meta’nın en popüler modelleri hangileri?” Araç daha sonra her modelin hem olumlu hem de olumsuz yönlerini sıralayan net puanlar sağlayarak geliştiricilerin ihtiyaçlarına en uygun seçenekleri seçmesine olanak tanır.
Apostolopoulos, “Ekiplerinize her gün yapay zeka hakkında sorular soruluyor ve inovasyonu hızlandırmak için kullanabilecekleri modelleri arayacaklar” diyor. “Açık Kaynak Yapay Zeka modellerini Endor Labs ile değerlendirmek, kullandığınız modellerin beklediğiniz şeyi yaptığından ve kullanımının güvenli olduğundan emin olmanıza yardımcı olur.”
(Fotoğraf: Element5 Dijital)
Ayrıca bakınız: China Telecom, yapay zeka modelini yerli çiplerde 1 trilyon parametreyle eğitiyor
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
