OpenAI uygulamaları ve teknolojisinin yarattığı potansiyel riskler nedeniyle bir iç çekişme ve dış eleştiri dalgasıyla karşı karşıyadır.
Mayıs ayında, OpenAI’nin gelişmiş yapay zeka sistemlerinin insani değerlerle uyumlu kalmasını sağlamaya yönelik “süper uyum” çabalarının eski başkanı Jan Leike de dahil olmak üzere çok sayıda yüksek profilli çalışan şirketten ayrıldı. Leike’nin çıkışı, OpenAI’nin Bahar Güncellemesi etkinliğinde “büyülü” olarak nitelendirdiği yeni amiral gemisi GPT-4o modelini tanıtmasından kısa bir süre sonra gerçekleşti.
Raporlara göre Leike’nin ayrılışı, güvenlik önlemleri, izleme uygulamaları ve güvenlik hususlarından ziyade gösterişli ürün sürümlerine öncelik verilmesi konusundaki sürekli anlaşmazlıklardan kaynaklandı.
Leike’nin çıkışı yapay zeka firması için Pandora’nın kutusunu açtı. Eski OpenAI yönetim kurulu üyeleri, CEO Sam Altman’a ve şirketin liderliğine yönelik psikolojik taciz iddialarıyla öne çıktı.
OpenAI’de artan iç karışıklık, şirketin kendi dil modelleri gibi üretken yapay zeka teknolojisinin oluşturduğu potansiyel riskler hakkında artan dış endişelerle örtüşüyor. Eleştirmenler, gelişmiş yapay zekanın insan yeteneklerini aşması gibi yakın varoluşsal tehdidin yanı sıra işten çıkarılma ve yapay zekanın yanlış bilgilendirme ve manipülasyon kampanyaları için silah haline getirilmesi gibi daha acil riskler konusunda uyarıda bulundu.
Buna yanıt olarak OpenAI, Anthropic, DeepMind ve diğer önde gelen AI şirketlerinin mevcut ve eski çalışanlarından oluşan bir grup, bu riskleri ele alan açık bir mektup kaleme aldı.
“Biz öncü yapay zeka şirketlerinin mevcut ve eski çalışanlarıyız ve yapay zeka teknolojisinin insanlığa benzeri görülmemiş faydalar sağlama potansiyeline inanıyoruz. Mektupta ayrıca bu teknolojilerin oluşturduğu ciddi risklerin de farkındayız” ifadeleri yer alıyor.
“Bu riskler, mevcut eşitsizliklerin daha da derinleşmesi, manipülasyon ve yanlış bilgilendirmeden otonom yapay zeka sistemlerinin kontrolünün kaybedilmesine ve potansiyel olarak insanlığın yok olmasına kadar uzanıyor. Dünyanın her yerindeki hükümetler ve diğer yapay zeka uzmanları gibi yapay zeka şirketleri de bu riskleri kabul etti.”
13 çalışan tarafından imzalanan ve yapay zeka öncüleri Yoshua Bengio ve Geoffrey Hinton tarafından onaylanan mektupta, ihbarcıları korumayı ve yapay zeka geliştirme konusunda daha fazla şeffaflık ve hesap verebilirliği teşvik etmeyi amaçlayan dört temel talep özetleniyor:
- Şirketler, riskle ilgili endişelerini dile getiren çalışanlara karşı aşağılayıcı hükümler uygulamayacak veya misilleme yapmayacak.
- Bu şirketler, çalışanların endişelerini kurullara, düzenleyicilere ve bağımsız uzmanlara iletmeleri için doğrulanabilir bir şekilde anonim bir süreci kolaylaştıracak.
- Şirketler açık eleştiri kültürünü destekleyecek ve ticari sırların uygun şekilde korunmasıyla çalışanların riskle ilgili endişelerini kamuya açık bir şekilde paylaşmasına izin verecek.
- Şirketlerin, diğer süreçler başarısız olduktan sonra riskle ilgili gizli bilgileri paylaşan çalışanlara karşı misilleme yapmaması.
Konuyla ilgili endişeler nedeniyle ayrılan eski bir OpenAI çalışanı olan Daniel Kokotajlo, “Onlar ve diğerleri, ‘hızlı hareket et ve işleri kır’ yaklaşımını benimsediler ve bu, bu kadar güçlü ve bu kadar az anlaşılmış bir teknoloji için gerekenin tam tersidir” dedi. şirketin değerleri ve sorumluluk eksikliği.
Talepler, OpenAI’nin işten ayrılan çalışanları, şirketi eleştirmelerini veya kazanılmış özsermayelerini kaybetme riskine girmelerini engelleyen gizlilik anlaşmaları imzalamaya zorladığı yönündeki raporların ortasında geldi. OpenAI CEO’su Sam Altman, durumdan “utandığını” itiraf etti ancak şirketin hiçbir zaman kimsenin kazanılmış özsermayesini geri almadığını iddia etti.
Yapay zeka devrimi ileriye doğru ilerlerken, OpenAI’deki iç çekişmeler ve ihbarcı talepleri, teknolojiyi çevreleyen büyüyen acıların ve çözülmemiş etik ikilemlerin altını çiziyor.
Ayrıca bakınız: OpenAI beş gizli etki operasyonunu sekteye uğrattı
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
