OpenAI Kaliforniya’da tartışmalı bir yapay zeka güvenlik tasarısına karşı çıkan teknoloji liderleri ve politikacıların büyüyen korosuna sesini ekledi. Şirket, mevzuatın, SB1047yeniliği engelleyecektir ve bu düzenlemenin federal düzeyde ele alınması gerekir.
Kaliforniya Eyalet Senatörü Scott Wiener’in ofisine gönderilen bir mektupta OpenAI, tasarının ABD’nin rekabet gücü ve ulusal güvenliği üzerinde “geniş ve önemli” etkileri olabileceği yönündeki endişelerini dile getirdi. Şirket, SB 1047’nin Kaliforniya’nın yapay zeka alanında küresel bir lider olarak konumunu tehdit edeceğini ve yetenekleri “başka yerlerde daha büyük fırsatlar” aramaya teşvik edeceğini savundu.
Senatör Wiener tarafından sunulan tasarı, belirli boyut ve maliyet eşiklerini aşan büyük yapay zeka modelleri geliştiren şirketler için “sağduyulu güvenlik standartlarını” yürürlüğe koymayı amaçlıyor. Bu standartlar, şirketlerin kapatma mekanizmaları uygulamasını, felaketle sonuçlanabilecek sonuçları önlemek için “makul özen” göstermesini ve Kaliforniya başsavcılığına uyumluluk bildirimleri sunmasını gerektiriyor. Buna uyulmaması davalara ve para cezalarına yol açabilir.
ABD Hava Kuvvetleri’nde görev yapan ve ABD Savunma Bakanlığı Ortak Yapay Zeka Merkezi’nin (JAIC) açılış direktörü olan Korgeneral John (Jack) Shanahan, tasarının “yapay zekanın hem sivil toplum hem de sivil toplum için oluşturduğu ciddi riskleri düşünceli bir şekilde yönlendirdiğine” inanıyor ve ulusal güvenlik” ve “pragmatik çözümler” sunmaktadır.
Tatlım. Nükleer, Kimyasal ve Biyolojik Savunma Programlarından sorumlu eski Savunma Bakan Yardımcısı Andrew C. Weber, ulusal güvenlik kaygılarını yineledi.
Weber, “Güçlü bir yapay zeka sisteminin düşmanlarımız tarafından önde gelen bir laboratuvardan çalınması hepimiz için önemli riskler oluşturacaktır” dedi. “En gelişmiş yapay zeka sistemlerini geliştirenlerin, işlerinin içerdiği potansiyel riskler göz önüne alındığında önemli siber güvenlik önlemleri alması gerekiyor. SB 1047’nin gerekli koruyucu önlemlerin alınmasına yardımcı olduğunu görmekten mutluluk duyuyorum.”
SB 1047, yeni ortaya çıkan bir teknolojiye aşırı erişim sağladığını, potansiyel olarak inovasyonu boğduğunu ve işletmeleri devletten uzaklaştırdığını iddia eden büyük teknoloji şirketlerinin, startupların ve risk sermayedarlarının şiddetli muhalefetine yol açtı. Bu endişeler OpenAI tarafından da yineleniyor; kaynaklar, şirketin belirsiz düzenleyici ortam nedeniyle San Francisco ofislerini genişletme planlarını duraklattığını ortaya koyuyor.
Senatör Wiener savundu OpenAI’nin mektubunun “tek bir hükmü eleştirmediği”ni belirten tasarı. Yetenek göçüyle ilgili endişeleri “saçma” bularak reddetti ve yasanın, fiziksel konumlarına bakılmaksızın Kaliforniya’da iş yapan tüm şirketler için geçerli olacağını belirtti. Wiener, tasarının büyük yapay zeka laboratuvarlarının modellerini yıkıcı güvenlik risklerine karşı test etmesi yönündeki “oldukça makul” gerekliliğin altını çizdi; bu, çoğu kişinin halihazırda taahhüt ettiği bir uygulamadır.
Ancak eleştirmenler, model ayrıntılarının hükümete sunulmasını zorunlu kılmanın yenilikçiliği engelleyeceğine karşı çıkıyor. Ayrıca dava tehdidinin daha küçük, açık kaynak geliştiricileri yeni girişim kurmaktan caydıracağından da korkuyorlar. Tepkilere yanıt olarak Senatör Wiener yakın zamanda tasarıyı değiştirerek uyumlu olmayan şirketlerin cezai sorumluluğunu ortadan kaldırdı, daha küçük geliştiricileri korudu ve önerilen “Frontier Model Division”ı kaldırdı.
OpenAI, ABD’nin Çin gibi rakiplere karşı rekabet gücünü korurken kamu güvenliğini korumak için eyalet düzeyinde düzenleme yerine net bir federal çerçevenin gerekli olduğunu savunuyor. Şirket, Beyaz Saray Bilim ve Teknoloji Politikası Ofisi ve Ticaret Bakanlığı gibi federal kurumların yapay zeka risklerini yönetmeye uygunluğunu vurguladı.
Senatör Wiener kongre eyleminin idealini kabul etti ancak bunun olasılığı konusunda şüphelerini dile getirdi. Federal eylemin yokluğunda kabul edilen Kaliforniya’nın veri gizliliği yasasıyla paralellikler kurdu ve Kongre’nin eylemsizliğinin Kaliforniya’nın öncü bir rol üstlenmesini engellememesi gerektiğini öne sürdü.
Kaliforniya eyalet meclisi bu ay SB 1047’yi oylayacak. Tasarı yasalaştığı takdirde, yasaya ilişkin tutumu belirsizliğini koruyan Vali Gavin Newsom’un masasına inecek. Ancak Newsom, yapay zeka inovasyonunu risk azaltmayla dengeleme ihtiyacını kamuoyu önünde kabul etti.
(Fotoğraf: Şölen Feyissa)
Ayrıca bakınız: OpenAI, GPT-4o’ya ince ayar sağlar
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
