Yapay zeka, iş operasyonlarının giderek daha fazla ayrılmaz bir parçası haline geldikçe, yeni güvenlik endişeleri ve güvenlik tehditleri, benzeri görülmemiş bir hızla ortaya çıkıyor ve geleneksel siber güvenlik çözümlerinin yeteneklerini geride bırakıyor.
Potansiyel olarak önemli yansımaları olan riskler yüksektir. Cisco’nun açıklamasına göre 2024 Yapay Zeka Hazırlık EndeksiAnkete katılan kuruluşların yalnızca %29’u yapay zeka teknolojilerine yetkisiz müdahaleleri tespit etmek ve önlemek için tam donanımlı olduğunu düşünüyor.
Sürekli model doğrulama
DJ Sampath, Yapay Zeka Yazılım ve Platform Başkanı Ciscoşunları söyledi: “Model doğrulamadan bahsettiğimizde bu sadece bir kerelik bir şey değil, değil mi? Model doğrulamasını sürekli olarak yapıyorsunuz.
“Modelde değişiklikler olduğunu gördüğünüzde (herhangi bir ince ayar yapıyorsanız ya da öğrenebileceğiniz modellere ihtiyaç duyduğunuz yeni saldırıların ortaya çıkmaya başladığını keşfederseniz), tüm bu bilgileri sürekli olarak öğreniyoruz. ve bu modellerin keşfettiğimiz bu yeni saldırılar altında nasıl davrandığını görmek için modeli yeniden doğrulamak.
“Diğer çok önemli nokta da, sürekli olarak bu yapay zeka saldırılarını inceleyen ve bu saldırıların nasıl daha da geliştirilebileceğini anlayan, gerçekten gelişmiş bir tehdit araştırma ekibimizin olması. Aslında MITRE, OWASP ve NIST gibi standart kuruluşları içindeki çalışma gruplarına katkıda bulunuyoruz, katkıda bulunuyoruz.”
Cisco, zararlı çıktıları önlemenin ötesinde, yapay zeka modellerinin davranışlarını değiştirebilecek kötü niyetli dış etkenlere karşı zayıf noktalarını giderir. Bu riskler arasında hızlı enjeksiyon saldırıları, jailbreak ve eğitim verilerinin zehirlenmesi yer alır; bunların her biri sıkı önleyici tedbirler gerektirir.
Evrim yeni karmaşıklıklar getiriyor
Frank Dickson, Güvenlik ve Güvenden Sorumlu Grup Başkan Yardımcısı IDCsiber güvenliğin zaman içindeki gelişimini ve yapay zekadaki ilerlemelerin sektör için ne anlama geldiğini anlattı.
“İlk makro trend, şirket içinden buluta geçmemizdi ve bu, ele almamız gereken bir sürü yeni sorun bildirimini ortaya çıkardı. Uygulamalar monolitik hizmetlerden mikro hizmetlere geçtikçe, bir dizi yeni sorun setini gördük.
“Yapay zeka ve yüksek lisansların eklenmesi… aynı şey, bir sürü yeni problem seti.”
Uygulamalar çok modelli hale geldikçe yapay zeka güvenliğinin karmaşıklığı da artıyor. Geliştiriciler, son kullanıcılar ve satıcılar gibi farklı paydaşları etkileyen modellerden uygulamalara kadar çeşitli düzeylerde güvenlik açıkları ortaya çıkabilir.
“Bir uygulama şirket içinden buluta geçtiğinde bir nevi orada kalıyordu. Evet, birden çok bulutta uygulamalar geliştirdik, ancak bir uygulamayı AWS’ye, Azure’a ya da GCP’ye yerleştirdiğinizde onu aylık, üç aylık, haftalık olarak bu çeşitli bulut ortamlarına aktarmadınız, değil mi?
“Monolitik uygulama geliştirmeden mikro hizmetlere geçtiğinizde orada kalırsınız. Kubernetes’e bir uygulama koyduğunuzda başka bir şeye atlamazsınız.
“LLM’yi güvence altına almaya çalışırken dikkat edilmesi gereken önemli şey model değişiklikleridir. Ve model değişikliğinden bahsettiğimizde bu bir revizyon gibi değil… bu hafta belki [developers are] Anthropic’i kullanarak gelecek hafta Gemini’yi kullanıyor olabilirler.
“Bunlar tamamen farklı ve her modelin tehdit vektörleri de tamamen farklı. Hepsinin güçlü yönleri var ve hepsinin dramatik zayıflıkları var.
Bireysel modellere entegre edilen geleneksel güvenlik önlemlerinin aksine Cisco, yeni duyurulan özelliği aracılığıyla çok modelli bir ortam için kontroller sağlar. Yapay Zeka Savunması. Çözüm, Cisco Talos’un tehdit istihbaratı ile bilgilendirilmiş, gelişen yapay zeka emniyet ve güvenlik endişelerini belirlemek için Cisco’nun tescilli makine öğrenimi algoritmalarını kullanarak kendi kendini optimize ediyor.
Yeni normale uyum
Cisco’nun Yönetici Başkan Yardımcısı ve Baş Ürün Sorumlusu Jeetu Patel, kısa sürede gerçekleşen büyük ilerlemelerin her zaman devrim niteliğinde görünse de hızla normal hissettirdiği yönündeki görüşünü paylaştı.
“Waymo Google’ın sürücüsüz arabaları biliyorsunuz. Arabaya biniyorsunuz ve arabada oturan kimse yok ve sizi A noktasından B noktasına götürüyor. Sanki gelecekte yaşıyormuşuz gibi, insanın aklını başından alacak kadar harika bir duygu. İkinci seferde alışırsın. Üçüncü seferde koltuklardan şikayet etmeye başlıyorsunuz.
“Geçtiğimiz birkaç yılda AI ve ChatGPT’ye ne kadar çabuk alışmış olsak da, büyük bir ilerlemenin kısa bir süre için olağanüstü derecede ilerici hissettireceğini düşünüyorum. Sonra herkesin alışmaya başladığı bir normalleşme oluyor.”
Patel, normalleşmenin AGI ile de gerçekleşeceğine inanıyor. Ancak kendisi, “bu modellerin kaydetmeye başladığı ilerlemeyi ve nihayetinde ortaya çıkaracakları kullanım senaryolarını hafife alamazsınız” diye belirtiyor.
“Kimse ana bilgisayardan daha fazla bilgi işlem kapasitesine sahip bir akıllı telefonun parmaklarınızın ucunda olacağını ve üzerinde herhangi bir zamanda binlerce şey yapabilecek bir akıllı telefona sahip olacağımızı düşünmemişti ve artık bu sadece başka bir yaşam biçimi. 14 yaşındaki kızımın aklına bile gelmiyor.
“Şirketler olarak buna çok çabuk uyum sağladığımızdan emin olmalıyız.”
Ayrıca bakınız: Sam Altman, OpenAI: Süper zekaya yönelik çalışmak ‘şanslı ve alçakgönüllü’
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
