Google’ın eski CEO’su Eric Schmidt, AI kötüye kullanımının “aşırı bir risk” oluşturduğu ve felaket zarar verebileceği konusunda uyardı.
BBC Radio 4’lerle konuşuyor Bugün Program, Schmidt, AI’nın aşırılık yanlıları ve Kuzey Kore, İran ve Rusya gibi “haydut devletler” tarafından “masum insanlara zarar vermesi” için silahlandırılabileceği konusunda uyardı.
Schmidt, biyolojik ataklar da dahil olmak üzere silah yaratmak için hızlı AI gelişmelerinin kullanılabileceği endişesini dile getirdi. Tehlikeleri vurgulayarak, “Sahip olduğum gerçek korkular, çoğu insanın AI hakkında konuştuğu değil, aşırı riskten bahsediyorum.” Dedi.
Schmidt, ürpertici bir benzetme kullanarak, 9/11 saldırılarından sorumlu El Kaide liderine atıfta bulundu: “Modern hayatımızın bazı yönlerini devralan gerçekten kötü bir insanın olduğu Usame bin Laden senaryosu için her zaman endişeleniyorum. Masum insanlara zarar vermek için kullanıyor. ”
Yapay zeka gelişiminin hızını ve kötü niyetli niyetli uluslar veya gruplar tarafından seçilme potansiyelini vurguladı.
Schmidt, “Kuzey Kore, İran, hatta kötü bir hedefi olan Rusya’yı düşünün… onu kötüye kullanabilir ve gerçek zarar verebilirler” diye uyardı.
İçindekiler
İnovasyonu boğmadan gözetim
Schmidt, hükümetleri AI araştırmalarına öncülük eden özel teknoloji şirketlerini yakından izlemeye çağırdı. Teknoloji liderlerinin genellikle AI’nın toplumsal sonuçlarının farkında olduklarını belirtmekle birlikte, kamu görevlilerinden farklı değerlere dayanarak kararlar alabilirler.
“Teknoloji liderleriyle olan deneyimim, sahip oldukları etkiyi anlamaları, ancak hükümetin yapabileceğinden farklı bir değer yargısı verebilmeleridir.”
Schmidt ayrıca, gelişmiş mikroçiplerin satışını kısıtlamak için geçen yıl eski ABD Başkanı Joe Biden altında tanıtılan ihracat kontrollerini onayladı. Önlem, AI araştırmalarında jeopolitik rakiplerin ilerlemesini yavaşlatmayı amaçlamaktadır.
Yapay zeka kötüye kullanımını önleme konusundaki küresel bölünmeler
Teknoloji gazisi, Salı günü tamamlanan iki günlük bir etkinlik olan AI Eylem Zirvesi’ne katıldığında, sözlerini verdiğinde Paris’teydi.
57 ülkenin katıldığı zirve, “kapsayıcı” AI gelişimi ile ilgili bir anlaşmanın duyurulduğunu gördü. İmzacılar arasında Çin, Hindistan, AB ve Afrika Birliği gibi büyük oyuncular vardı.
Ancak, İngiltere ve ABD tebliği imzalamayı reddetti. Birleşik Krallık hükümeti, anlaşmanın “pratik netlikten” sahip olmadığını ve ulusal güvenliği çevreleyen kritik “zor soruları” ele alamadığını söyledi.
Schmidt, bu dönüştürücü alandaki ilerlemeyi engelleyebilecek aşırı düzenlemelere karşı uyardı. Bu, ABD Başkan Yardımcısı JD Vance tarafından, ağır elle düzenlemenin “tıpkı yola çıktığı gibi dönüştürücü bir endüstriyi öldüreceği” konusunda uyardı.
Süpürme uluslararası anlaşmaları onaylama konusundaki bu isteksizlik, AI yönetişimine yönelik farklı yaklaşımları yansıtmaktadır. AB, tüketici korumalarına öncelik vererek yapay zeka için daha kısıtlayıcı bir çerçeve savunurken, ABD ve İngiltere gibi ülkeler daha çevik ve inovasyon odaklı stratejiler tercih ediyor.
Schmidt, bölgenin AI’daki öncü rolleri kaçıracağını tahmin ederek Avrupa’nın sıkı düzenleyici duruşunun sonuçlarına dikkat çekti.
“Elektrikten bu yana benim görüşüme göre en önemli devrim olan AI devrimi Avrupa’da icat edilmeyecek” dedi.
Ulusal ve küresel güvenliğe öncelik vermek
Schmidt’in yorumları, AI’nın çift kullanımlı potansiyeli üzerinde artan incelemenin zeminine karşı geliyor-hem faydalı hem de zararlı amaçlar için kullanılabiliyor.
Deepfores’tan otonom silahlara kadar AI, kötüye kullanıma karşı korunacak önlemler olmadan bırakılırsa bir miktar risk oluşturur. Schmidt de dahil olmak üzere liderler ve uzmanlar, bu tehlikeleri ele alırken inovasyonu teşvik eden dengeli bir yaklaşımı savunuyorlar.
Uluslararası işbirliği karmaşık ve tartışmalı bir konu olmaya devam etse de, kapsayıcı fikir birliği açıktır: güvence altına alınmadan, AI’nın evrimi istenmeyen ve potansiyel olarak felaket sonuçları olabilir.
(Fotoğraf Guillaume Paumier altında CC 3.0 lisans. Orijinal versiyondan manzaraya kırpıldı.)
Ayrıca bakınız: NEPC: AI Sprint Çevresel Felaket Riskleri
Endüstri liderlerinden yapay zeka ve büyük veriler hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak AI ve Big Data Fuarı Amsterdam, California ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, diğer önde gelen etkinliklerle birlikte toplanır. Akıllı Otomasyon Konferansı– Blockx– Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
Techforge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.