Yapay zeka ve politika oluşturmanın birleşimi, yakın zamanda Alaska’da görüldüğü gibi zaman zaman öngörülemeyen sonuçlara yol açabilir.
Alışılmadık bir olay akışında, Alaska yasa koyucularının, okullarda cep telefonlarını yasaklayan önerilen bir politikayı haklı çıkarmak için yapay zeka tarafından oluşturulan hatalı alıntıları kullandığı bildirildi. /The Alaska Beacon/ tarafından bildirildiği üzere, Alaska Eğitim ve Erken Gelişim Departmanı (DEED), aslında var olmayan akademik çalışmalara referanslar içeren bir politika taslağı sundu.
Durum, Alaska’nın Eğitim Komiseri Deena Bishop’un cep telefonu politikası taslağını oluşturmak için üretken yapay zekayı kullanmasıyla ortaya çıktı. Yapay zeka tarafından hazırlanan belge, ne doğrulanmış ne de doğru olan sözde bilimsel referansları içeriyordu, ancak belge, hazırlanırken yapay zekanın kullanımını açıklamıyordu. Yapay zeka tarafından oluşturulan içeriğin bir kısmı, incelenmeden önce Alaska Eyaleti Eğitim ve Erken Gelişim Kurulu’na ulaştı ve potansiyel olarak kurul tartışmalarını etkiledi.
Komiser Bishop daha sonra yapay zekanın yalnızca ilk taslak için “alıntılar oluşturmak” için kullanıldığını iddia etti ve yönetim kurulu üyelerine güncellenmiş alıntılar göndererek toplantıdan önce hataları düzelttiğini ileri sürdü. Ancak, yapay zekanın “halüsinasyonları” (yapay zekanın makul ancak doğrulanmamış içerik yaratmaya çalıştığında üretilen uydurma bilgiler) kurul tarafından oylanan son belgede hâlâ mevcuttu.
DEED’in internet sitesinde yayınlanan nihai karar, bakanlığa okullarda cep telefonu kısıtlamalarına ilişkin örnek bir politika oluşturma yönünde talimat veriyor. Ne yazık ki belgede, dördü saygın bilimsel dergilerden olduğu anlaşılan altı alıntı yer alıyordu. Ancak referanslar tamamen alakasız içeriğe yönlendiren URL’lerden oluşuyordu. Olay, özellikle politika kararları alınırken yapay zeka tarafından üretilen verilerin uygun insan doğrulaması olmadan kullanılmasının risklerini gösteriyor.
Alaska’nın durumu türünün tek örneği değil. Yapay zeka halüsinasyonları çeşitli profesyonel sektörlerde giderek daha yaygın hale geliyor. Örneğin, bazı hukuk profesyonelleri mahkemede yapay zeka tarafından oluşturulan hayali dava alıntılarını kullanmanın sonuçlarıyla karşı karşıya kaldı. Benzer şekilde, yapay zeka kullanılarak oluşturulan akademik makaleler, çarpık veriler ve sahte kaynaklar içeriyor ve bu da ciddi güvenilirlik endişeleri yaratıyor. Gerçeklere dayalı doğruluk yerine kalıplara dayalı içerik üretmeyi amaçlayan üretken yapay zeka algoritmaları, kontrol edilmediğinde kolayca yanıltıcı alıntılar üretebilir.
Politika oluşturmada, özellikle de eğitimde yapay zekanın ürettiği verilere güvenmek önemli riskler taşıyor. Sahte bilgilere dayalı olarak politikalar geliştirildiğinde, kaynaklar yanlış tahsis edilebilir ve potansiyel olarak öğrencilere zarar verilebilir. Örneğin, uydurma verilere dayalı olarak cep telefonu kullanımını kısıtlayan bir politika, dikkatleri öğrencilere gerçekten fayda sağlayabilecek daha etkili, kanıta dayalı müdahalelerden uzaklaştırabilir.
Dahası, doğrulanmamış yapay zeka verilerinin kullanılması, halkın hem politika oluşturma sürecine hem de yapay zeka teknolojisine olan güvenini sarsabilir. Bu tür olaylar, öğrenciler üzerindeki etkisinin derin olabileceği eğitim başta olmak üzere hassas karar alma alanlarında yapay zekayı kullanırken bilgi kontrolünün, şeffaflığın ve dikkatli olmanın önemini vurguluyor.
Alaska yetkilileri, uydurma alıntıları daha sonra düzeltilmesi amaçlanan “yer tutucular” olarak nitelendirerek durumu küçümsemeye çalıştı. Bununla birlikte, “yer tutucuların” yer aldığı belge yine de yönetim kuruluna sunuldu ve oylamanın temeli olarak kullanıldı; bu da yapay zeka kullanılırken sıkı bir gözetim ihtiyacının altını çizdi.
(Fotoğraf: Hartono Yaratıcı Stüdyo)
Ayrıca bakınız: Antropik, felaketleri önlemek için yapay zeka düzenlemesini teşvik ediyor
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: Akıllı Otomasyon Konferansı, BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
