Beş önde gelen Senato Demokratı bir mektup gönderdi OpenAI CEO Sam Altman, şirketin güvenlik ve istihdam uygulamalarına açıklık getirmek istiyor.
Senatörler Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner ve Angus S. King, Jr. tarafından imzalanan mektup, OpenAI’nin güvenli ve sorumlu yapay zeka geliştirme hedeflerine olan bağlılığını sorgulayan son raporlara yanıt olarak geliyor.
Senatörler, ulusal ekonomik rekabet gücü ve jeopolitik duruş için yapay zeka güvenliğinin önemini vurguluyor. OpenAI’nin siber güvenlik araçları geliştirmek için ABD hükümeti ve ulusal güvenlik kurumlarıyla olan ortaklıklarına dikkat çekerek güvenli yapay zeka sistemlerinin kritik doğasının altını çiziyorlar.
Mektupta, “Ulusal ve ekonomik güvenlik, Amerika Birleşik Devletleri Hükümeti’nin en önemli sorumlulukları arasındadır ve güvenli olmayan veya başka şekilde savunmasız olan yapay zeka sistemleri kabul edilemez” deniyor.
Kanun koyucular, 13 Ağustos 2024’e kadar birçok önemli alanla ilgili ayrıntılı bilgi talep etti. Bunlar arasında şunlar yer alıyor:
- OpenAI’nin bilgi işlem kaynaklarının %20’sini yapay zeka güvenlik araştırmalarına ayırma taahhüdü.
- Şirketin mevcut ve eski çalışanlara yönelik kötüleme yasağı anlaşmalarına ilişkin tutumu.
- Çalışanların siber güvenlik ve güvenlik endişelerini dile getirmesine yönelik prosedürler.
- Yapay zeka modellerinin, araştırmalarının veya fikri mülkiyet haklarının çalınmasını önlemeye yönelik güvenlik protokolleri.
- OpenAI’nin misilleme önleme politikaları ve ihbar kanallarıyla ilgili kendi Tedarikçi Davranış Kurallarına bağlılığı.
- OpenAI sistemlerinin yayın öncesi bağımsız uzman testleri ve değerlendirmesi için planlar.
- Gelecekteki temel modellerini dağıtım öncesi testler için ABD Devlet kurumlarının kullanımına sunma taahhüdü.
- Yayın sonrası izleme uygulamaları ve devreye alınan modellerden öğrenilenler.
- Uygulanan modellere ilişkin geriye dönük etki değerlendirmelerinin kamuya açıklanmasına yönelik planlar.
- Biden-Harris yönetiminin gönüllü emniyet ve güvenlik taahhütlerinin yerine getirilmesine ilişkin belgeler.
Senatörlerin soruşturması, güvenlik uygulamalarına ilişkin iç anlaşmazlıklar ve siber güvenlik ihlalleri iddiaları da dahil olmak üzere OpenAI’yi çevreleyen son tartışmalara değiniyor. Özellikle OpenAI’nin “şirket uygulamalarıyla ilgili endişelerini kamuya açık bir şekilde dile getiren çalışanları cezalandırmak için kullanılabilecek iş sözleşmelerinden diğer hükümleri kaldırmayı taahhüt edip etmeyeceğini” soruyorlar.
Bu kongre incelemesi, yapay zeka düzenlemeleri ve güvenlik önlemleri konusundaki tartışmaların arttığı bir dönemde geldi. Mektup, önde gelen yapay zeka şirketlerinin geçen yıl Beyaz Saray’da yaptığı gönüllü taahhütlere atıfta bulunuyor ve bunları yapay zeka emniyeti ve güvenliği konusunda “bu güveni inşa etmeye yönelik önemli bir adım” olarak çerçeveliyor.
Kamala Harris, bu yıl yapılacak seçimlerden sonra ABD’nin bir sonraki başkanı olabilir. Geçtiğimiz yıl Birleşik Krallık’ta düzenlenen Yapay Zeka Güvenlik Zirvesi’nde Harris şunları söyledi: “Açık konuşalım, eylemimizi gerektiren ek tehditler de var. Şu anda zarara neden olan ve birçok insana varoluşsal gelen tehditler… dünyanın dört bir yanındaki insanlar, yapay zekanın desteklediği mitler ve dezenformasyon seli nedeniyle gerçeği kurgudan ayırt edemiyor.”
Danışmanı Chelsea Alves UNMiss, şu yorumu yaptı: “Kamala Harris’in yapay zeka ve büyük teknoloji düzenlemelerine yaklaşımı, başkanlık yarışına girerken hem zamanında hem de kritik. Onun politikaları, modern teknolojinin ve bireysel mahremiyetin karmaşıklıklarında nasıl hareket edeceğimize dair yeni standartlar belirleyebilir.”
OpenAI’nin bu sorulara vereceği yanıt, yapay zeka yönetişiminin geleceği ve teknoloji şirketleri ile devlet gözetim organları arasındaki ilişki açısından önemli sonuçlar doğurabilir.
(Fotoğrafı çeken Darren Halstead)
Ayrıca bakınız: OpenResearch evrensel temel gelirin potansiyel etkilerini ortaya koyuyor
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
