AI donanım başlangıcı Beyinler Nvidia’nın işletmelere yönelik GPU tekliflerine potansiyel olarak rakip olabilecek yeni bir yapay zeka çıkarım çözümü yarattı.
Cerebras Çıkarım aracı, şirketin Wafer-Scale Engine’ini temel alıyor ve şaşırtıcı bir performans sunmayı vaat ediyor. Kaynaklara göre araç, Llama 3.1 8B için saniyede 1.800 jeton, Llama 3.1 70B için ise saniyede 450 jeton hıza ulaştı. Cerebras, bu hızların, bu sistemleri Nvidia’nın GPU’ları tarafından oluşturmak için gereken olağan hiper ölçekli bulut ürünlerinden daha hızlı olmakla kalmayıp, aynı zamanda daha uygun maliyetli olduğunu da iddia ediyor.
Bu, üretken yapay zeka pazarıGartner analisti Arun Chandrasekaran’ın belirttiği gibi. Bu pazarın odağı daha önce eğitim üzerindeyken, şu anda çıkarım yapmanın maliyeti ve hızına doğru kayıyor. Bu değişim, kurumsal ortamlarda yapay zeka kullanım durumlarının artmasından kaynaklanmaktadır ve Cerebras yapay zeka ürün ve hizmetleri gibi satıcılara performansa dayalı olarak rekabet edebilmeleri için harika bir fırsat sunmaktadır.
Yapay Analiz’in kurucu ortağı ve CEO’su Micah Hill-Smith’in söylediği gibi Cerebras, yapay zeka çıkarım kriterlerinde gerçekten parladı. Şirketin ölçümleri, Llama 3.1 8B’de saniyede 1.800 çıkış tokeninin üzerine ulaştı ve Llama 3.1 70B’deki çıkış, saniyede 446 çıkış tokeninin üzerindeydi. Bu sayede her iki kriterde de yeni rekorlar kırdılar.
Ancak potansiyel performans avantajlarına rağmen Cerebras kurumsal pazarda önemli zorluklarla karşı karşıya. Nvidia’nın yazılım ve donanım yığını sektöre hakimdir ve işletmeler tarafından geniş çapta benimsenmektedir. Futurum Group analistlerinden David Nicholson, Cerebras’ın yonga levha ölçekli sistemi Nvidia’ya göre daha düşük maliyetle yüksek performans sunabilirken, asıl sorunun şirketlerin mühendislik süreçlerini Cerebras’ın sistemiyle çalışacak şekilde uyarlamaya istekli olup olmadıkları olduğuna dikkat çekiyor.
Nvidia ile Cerebras gibi alternatifler arasındaki seçim, operasyonların ölçeği ve mevcut sermaye gibi çeşitli faktörlere bağlı. Daha küçük firmaların halihazırda yerleşik çözümler sunduğu için Nvidia’yı seçmesi muhtemeldir. Aynı zamanda, daha fazla sermayeye sahip daha büyük işletmeler, verimliliği artırmak ve maliyetlerden tasarruf etmek için ikincisini tercih edebilir.
Yapay zeka donanım pazarı gelişmeye devam ettikçe Cerebras, uzman bulut sağlayıcıları, Microsoft, AWS ve Google gibi hiper ölçekleyiciler ve Groq gibi özel çıkarım sağlayıcıları ile de rekabet edecek. Performans, maliyet ve uygulama kolaylığı arasındaki denge, yeni çıkarım teknolojilerinin benimsenmesinde kurumsal kararları muhtemelen şekillendirecektir.
Saniyede 1.000 jetonu aşabilen yüksek hızlı yapay zeka çıkarımının ortaya çıkışı, yapay zeka uygulamaları için yeni bir ufuk açabilecek geniş bant internetin geliştirilmesine eşdeğerdir. Cerebras’ın 16 bit doğruluğu ve daha hızlı çıkarım yetenekleri, tüm yapay zeka aracılarının hızlı, tekrarlı ve gerçek zamanlı olarak çalışması gereken gelecekteki yapay zeka uygulamalarının oluşturulmasına olanak sağlayabilir.
Yapay zeka alanının büyümesiyle birlikte yapay zeka çıkarım donanımı pazarı da genişliyor. Toplam AI donanım pazarının yaklaşık %40’ını oluşturan bu segment, daha geniş AI donanım endüstrisi içinde giderek daha kazançlı bir hedef haline geliyor. Bu segmentin çoğunluğunu daha önde gelen şirketlerin işgal ettiği göz önüne alındığında, birçok yeni gelenin, rekabetçi doğayı ve kurumsal alanda gezinmek için gereken önemli kaynakları göz önünde bulundurarak, bu rekabet ortamının önemli yönlerini dikkatle düşünmesi gerekir.
(Fotoğraf: Timothy Dykes)
Ayrıca bakınız: Sovereign AI, yeni NVIDIA mikro hizmetlerinden destek alıyor
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
