Uzun Vadeli Dayanıklılık Merkezi (CLTR), yapay zeka düzenleme planlarındaki kritik bir boşluğu acilen gidermek için kapsamlı bir olay raporlama sistemi çağrısında bulundu.
CLTR’ye göre, yapay zekanın beklenmedik şekillerde başarısızlıklarla dolu bir geçmişi var; 2014’ten bu yana konuşlandırılmış yapay zeka sistemlerinde haber kuruluşları tarafından kaydedilen 10.000’den fazla güvenlik olayı bulunuyor. Yapay zeka toplumla daha fazla bütünleştikçe, bu olayların sıklığı ve etkisi muhtemelen artacak. .
Düşünce kuruluşu, havacılık ve tıp gibi güvenliğin kritik olduğu sektörlerle paralellik kurarak, iyi işleyen bir olay raporlama rejiminin etkili yapay zeka düzenlemesi için gerekli olduğunu savunuyor. Bu görüş, uzmanların yanı sıra ABD ve Çin hükümetleri ile Avrupa Birliği’nin de geniş bir fikir birliğiyle destekleniyor.
Rapor, bir olay raporlama sisteminin uygulanmasının üç temel faydasını özetlemektedir:
- Gerçek dünyadaki yapay zeka güvenlik risklerini izleme düzenleyici ayarlamaları bilgilendirmek
- Hızlı yanıtların koordine edilmesi Büyük olaylara müdahale etmek ve kök nedenlerini araştırmak
- Erken uyarıların belirlenmesi Gelecekteki potansiyel büyük ölçekli zararların
Şu anda Birleşik Krallık’ın yapay zeka yönetmeliği etkili bir olay raporlama çerçevesinden yoksundur. Bu boşluk, Bilim, Yenilik ve Teknoloji Bakanlığı’nın (DSIT) aşağıdakiler de dahil olmak üzere çeşitli kritik olaylara ilişkin görünürlükten yoksun kalmasına neden oluyor:
- Yüksek kapasiteli temel modelleriyle ilgili sorunlar
- Birleşik Krallık Hükümeti’nin kamu hizmetlerinde yapay zeka kullanımından kaynaklanan olaylar
- Yapay zeka sistemlerinin kötü amaçlarla kötüye kullanılması
- Yapay Zeka arkadaşlarının, eğitmenlerinin ve terapistlerinin neden olduğu zararlar
CLTR, uygun bir olay raporlama sistemi olmadan DSIT’in yeni zararları yerleşik raporlama süreçleri yerine haber kaynakları aracılığıyla öğrenebileceği konusunda uyarıyor.
Bu boşluğu gidermek için düşünce kuruluşu Birleşik Krallık Hükümetine acil üç adım öneriyor:
- Hükümet olay raporlama sistemi: Kamu hizmetlerinde kullanılan yapay zekadan kaynaklanan olayların raporlanması için bir sistem oluşturun. Bu, uygulamanın basit bir uzantısı olabilir. Algoritmik Şeffaflık Kayıt Standardı (ATRS) kamu sektöründeki AI olaylarını içerecek, bir hükümet organına aktarılacak ve şeffaflık amacıyla potansiyel olarak halkla paylaşılacaktır.
- Düzenleyicilerin ve uzmanların katılımını sağlayın: Düzenleyicileri görevlendirin ve en çok endişe verici boşlukları tespit etmek, öncelikli olayların etkili bir şekilde kapsanmasını sağlamak ve işlevsel bir rejim için paydaşların ihtiyaçlarını anlamak için uzmanlara danışın.
- DSIT kapasitesi oluşturun: Potansiyel olarak bir pilot AI olay veri tabanı aracılığıyla DSIT’in olayları izleme, araştırma ve müdahale etme yeteneğini geliştirin. Bu, DSIT’in merkezi işlevinin bir parçasını oluşturacak ve başlangıçta en acil boşluklara odaklanacak, ancak sonunda Birleşik Krallık’taki düzenleyici kurumların tüm raporlarını kapsayacak şekilde genişleyecektir.
Bu tavsiyeler, hükümetin kamu hizmetlerini sorumlu bir şekilde iyileştirme, öncelikli olayların etkili bir şekilde kapsanmasını sağlama ve AI olay raporlarını toplamak ve bunlara yanıt vermek için gerekli altyapıyı geliştirme yeteneğini geliştirmeyi amaçlamaktadır.
Veera Siivonen, CCO ve Ortak Saidotşu yorumu yaptı:
“Uzun Vadeli Dayanıklılık Merkezi’nin bu raporu tam zamanında geldi. Birleşik Krallık Genel Seçimlere doğru hızla ilerlerken, bir sonraki hükümetin yapay zeka politikası ekonomik büyümenin temel taşı olacak. Ancak bu, sektörün deneme potansiyelini daraltmadan korkuluklar sağlayarak düzenleme ve yenilik arasındaki dengeyi yönlendirmede hassasiyet gerektirir. Yapay zekanın kötüye kullanımı ve arızaları için merkezi bir olay raporlama sisteminin uygulanması övgüye değer bir ilk adım olsa da atılacak daha birçok adım var.
Yeni gelen Birleşik Krallık hükümeti, en olası riskleri izleyip azaltırken, açık yönetişim gereklilikleri olan işletmelere kesinlik ve anlayış sağlamalıdır. Birleşik Krallık, çeşitli yapay zeka yönetişim stratejilerini merkezi olay raporlamayla entegre ederek yapay zekanın ekonomik potansiyelinden yararlanabilir, demokratik süreçleri ve kamu güvenini korurken topluma fayda sağlamasını sağlayabilir.”
Yapay zeka ilerlemeye ve toplumun çeşitli yönlerine nüfuz etmeye devam ettikçe, sağlam bir olay raporlama sisteminin uygulanması, risklerin azaltılması ve yapay zeka teknolojilerinin güvenli bir şekilde geliştirilmesi ve konuşlandırılmasının sağlanması açısından hayati öneme sahip olabilir.
Ayrıca bakınız: SoftBank şefi: AGI’yi unutun, ASI 10 yıl içinde burada olacak
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
