OpenAI katılıyor İçerik Kaynağı ve Orijinalliği Koalisyonu (C2PA) yönlendirme komitesi ve oluşturulan içerikle ilgili şeffaflığı artırmak için açık standardın meta verilerini üretken yapay zeka modellerine entegre edecek.
C2PA standardı, ister tamamen yapay zeka tarafından oluşturulmuş, ister yapay zeka araçları kullanılarak düzenlenmiş veya geleneksel olarak yakalanmış olsun, dijital içeriğin kökenini kanıtlayan meta verilerle sertifikalandırılmasına olanak tanır. OpenAI, ChatGPT ve OpenAI API’deki en son DALL-E 3 model çıktısından görüntülere C2PA meta verilerini eklemeye başladı. Meta veriler, daha geniş çapta piyasaya sürüldüğünde OpenAI’nin yakında çıkacak video oluşturma modeli Sora’ya entegre edilecek.
OpenAI, “İnsanlar bu bilgi olmadan da yanıltıcı içerik oluşturabilir (veya kaldırabilir), ancak bu bilgiyi kolayca taklit edemez veya değiştiremezler, bu da onu güven oluşturmak için önemli bir kaynak haline getirir” diye açıkladı.
Bu hamle, yapay zeka tarafından oluşturulan içeriğin ABD, İngiltere ve diğer ülkelerde bu yıl yapılacak büyük seçimler öncesinde seçmenleri yanıltma potansiyeline ilişkin endişelerin arttığı bir dönemde geldi. Yapay zeka tarafından oluşturulan medyanın kimliğinin doğrulanması, dezenformasyon kampanyalarını amaçlayan derin sahtekarlıklarla ve diğer manipüle edilmiş içeriklerle mücadeleye yardımcı olabilir.
Teknik önlemler yardımcı olsa da OpenAI, pratikte içerik özgünlüğünün sağlanmasının, platformların, yaratıcıların ve içerik işleyicilerin son tüketiciler için meta verileri muhafaza etmek amacıyla ortak eylemde bulunmasını gerektirdiğini kabul ediyor.
OpenAI, C2PA entegrasyonuna ek olarak, yapay zeka tarafından oluşturulan görselleri tanımlamak amacıyla ses ve görüntü algılama sınıflandırıcıları için kurcalamaya dayanıklı filigranlama gibi yeni kaynak yöntemleri geliştiriyor.
OpenAI, DALL-E 3 görüntü algılama sınıflandırıcısına erişim için uygulamaları açtı. Araştırmacı Erişim Programı. Araç, bir görüntünün OpenAI modellerinden birinden kaynaklanma olasılığını tahmin ediyor.
Şirket, “Amacımız, sınıflandırıcının etkinliğini değerlendiren, gerçek dünyadaki uygulamasını analiz eden, bu tür kullanımla ilgili hususları ortaya çıkaran ve yapay zeka tarafından oluşturulan içeriğin özelliklerini araştıran bağımsız araştırmayı mümkün kılmaktır” dedi.
Dahili testler, DALL-E görüntülerinin yaklaşık %98’inin doğru şekilde tanımlandığı ve AI olmayan görüntülerin %0,5’inden daha azının yanlış işaretlendiği, AI olmayan görüntüleri DALL-E 3 görsellerinden ayıran yüksek doğruluğu göstermektedir. Ancak sınıflandırıcı, DALL-E tarafından üretilen görüntüler ile diğer üretken yapay zeka modelleri arasında ayrım yapmakta daha fazla zorlanıyor.
OpenAI ayrıca, şu anda sınırlı ön izleme aşamasında olan Voice Engine özel ses modeline filigran eklemeyi de içeriyor.
Şirket, kaynak standartlarının giderek daha fazla benimsenmesinin, “dijital içerik özgünlüğü uygulamalarındaki önemli bir boşluğu” doldurmak için tüm yaşam döngüsü boyunca içeriğe eşlik eden meta verilere yol açacağına inanıyor.
OpenAI Microsoft’a katılıyor öğle yemeği AARP, Uluslararası IDEA ve Yapay Zeka Ortaklığı dahil olmak üzere yapay zeka eğitimini ve anlayışını desteklemek için 2 milyon dolarlık bir toplumsal dayanıklılık fonu.
OpenAI, “Yukarıdaki gibi teknik çözümler bize savunmalarımız için aktif araçlar sağlarken, pratikte içerik özgünlüğünü etkili bir şekilde sağlamak kolektif eylem gerektirecektir” diyor.
“Kaynak konusundaki çabalarımız, daha geniş bir sektör çabasının yalnızca bir parçası; emsal araştırma laboratuvarlarımızın ve üretken yapay zeka şirketlerimizin çoğu da bu alandaki araştırmaları ilerletiyor. Bu çabaları takdir ediyoruz; anlayışımızı geliştirmek ve çevrimiçi şeffaflığı teşvik etmeye devam etmek için sektör iş birliği yapmalı ve içgörüleri paylaşmalı.”
(Fotoğrafı çeken Marc Sendra Martorell)
Ayrıca bakınız: Chuck Ros, SoftServe: Dönüştürücü yapay zeka çözümlerini sorumlu bir şekilde sunmak
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
