Berlin merkezli sivil toplum kuruluşunun yayınladığı rapora göre çoğu teknoloji şirketi, Avrupa Parlamentosu (AP) seçimlerinde dezenformasyonun yayılmasına karşı yeterli önlem almadı. Rapor, özellikle yapay zeka destekli sohbet robotlarında yeterli değişikliğin yapılmadığını ortaya çıkardı.
Yapılan bir araştırma, Avrupa'nın en popüler yapay zeka (AI) sohbet robotlarının Avrupa Parlamentosu (AP) seçimleri hakkında dezenformasyon yaydığını ortaya çıkardı.
Berlin merkezli sivil toplum kuruluşu Democracy Reporting International (DRI), araştırması kapsamında Google Gemini, OpenAI ChatGPT4, ChatGPT4-o ve Microsoft'un Copilot sohbet robotlarının seçim sürecine ilişkin soruları nasıl yanıtladığını inceledi.
Araştırmacılar, 22-24 Mayıs tarihleri arasında chatbotlara 10 dilde sorular sordu. Yurt dışında yaşayan bir kullanıcının oy vermek için nasıl kayıt olabileceği, posta yoluyla oy vermek için ne yapılması gerektiği ve Avrupa Parlamentosu seçim sonuçlarının ne zaman açıklanacağı gibi 5 soru soruldu.
Raporda, “Bir şirket yanlış bilginin farkında olmasına rağmen harekete geçmezse, bilerek yanlış bilginin yayılmasına rıza göstermiş olur” ifadesine yer veriliyor.
DRI genel müdürü Michael-Meyer Resende, Euronews Next'e verdiği röportajda şunları söyledi:[Yapay zeka sohbet botlarına] “Ellerinde çok fazla malzeme olmadığında ve internette hakkında fazla bilgi bulamadığınız bir şeyi sorduğunuzda, sadece uyduruyorlar” dedi.
Gemini, yardımcı pilot yanıt vermeyi reddediyor
Google Gemini'nin seçim süreciyle ilgili soruları test edilen AB dillerinde yanıtlamayı da reddettiğini ortaya koyan raporda şunlar belirtiliyor: “Kullanıcıların her şey hakkında bilgi almaması daha iyi olacağından, arama bu sorunu çözmenin doğru yolu değil Seçimle ilgili yanlış bilgi almak yerine (ve başka yere bakın).” “Biz de öyle düşünüyoruz.”
DRI'nin Nisan ayı raporuna göre Gemini uygulaması, doğru ve eyleme dönüştürülebilir bilgiler sağlama konusunda en kötü performansa ve en yüksek reddedilme oranına sahip.
Google daha önce Euronews Next'e Gemini'nin 10 dilli çalışmada seçimle ilgili soruları ne kadar doğru yanıtlayabileceği konusunda daha fazla kısıtlama getirdiğini söylemişti.
Microsoft'un yardımcı pilotunun çoğunlukla İngilizce ve Portekizce olmak üzere bazı soruları yanıtlamayı reddettiği ve kullanıcıları geçerli bilgiler bulmaları için Bing arama motoruna yönlendirdiği görüldü.
Diğer dillerde, Copilot'un yanıt vermeye çalıştığı veya yanıt vermeyi reddettiği durumlara ilişkin “tanınabilir bir model” yoktur. Araştırmacılara göre bu, Microsoft'un chatbot'un yanıtlarını sınırlamak için çaba harcadığını ancak bu kısıtlamanın tüm AB dillerini kapsamadığını gösteriyor. Verilen cevapların 1/3'ünden fazlasının kısmen ya da tamamen yanlış olduğu belirlendi.
Araştırmacılar, Copilot'un son çalışmalarında da aynı sorunları gözlemlediler; örneğin yurtdışında yaşayan vatandaşların kendi ülkelerinden parlamenterleri seçmek için oy kullanmak üzere kayıt yaptırabileceklerinin Leh dilinde belirtilmemesi gibi.
Yapay zeka destekli botlar Yunan seçmeni de aldattı. Oy vermek için kayıt yaptırmak zorunda kalan Yunan seçmenlere, tüm vatandaşların otomatik olarak kaydolacağı yönünde yanlış bilgi verildi.
Euronews Next'e daha önce yapılan bir açıklamada Microsoft, Avrupa seçimleri öncesinde “seçmenlerin, adayların, kampanyaların ve seçim yetkililerinin korunmasına yardımcı olan” bir dizi seçim koruma taahhüdünü içeren eylemlerini duyurmuştu.
Bu taahhütler arasında seçmenlere Bing arama motoru aracılığıyla “yetkili seçim bilgileri” sağlanması da yer alıyor.
Microsoft'tan yapılan açıklamada şu ifadelere yer verildi: “Hiçbir kişi, kurum veya şirket seçimlerin özgür ve adil olacağını garanti edemez ancak herkesin özgür ve adil seçim hakkını koruma konusunda önemli ilerleme kaydedebiliriz.”
REKLAMOpenAI'nin sohbet robotlarını “acilen yeniden eğitmesi” gerekiyor
OpenAI'nin ChatGPT4 modellerinin her ikisi de nadiren soruları yanıtlamayı reddetti. Diğer rakiplerine göre daha yüksek oranda yanlış cevap verdi. Yanlış cevapların genellikle küçük ama önemli ayrıntılar içerdiği görülmüştür.
ChatGPT, İrlandalı seçmenleri oy vermek için bireysel olarak doldurmaları gereken bir forma yönlendirdi. Ancak gerçekte bu formlar çevrimiçi olarak mevcuttu ve formun doldurulması “kişisel bağlam ve duruma” bağlıydı.
Çalışmada “Sohbet robotları tek bir forma odaklanarak İrlanda'daki kayıt süreciyle ilgili eksik bilgileri ortaya çıkardı” diyor.
Araştırmacılar, ChatGPT'nin daha doğru yanıtlar verebilmesi için kullanıcıların sorularına ayrıntılı yanıtlar vermek yerine “daha genel bilgi sağlayabileceğini” söylüyor.
REKLAMRapor, yanıtların zaman zaman ChatGPT tarafından sağlanan bilgileri doğrulamak için bir sorumluluk reddi beyanı içerdiğini belirtiyor.
Çalışma, “OpenAI'nin seçimle ilgili yanlış bilgileri önlemek için herhangi bir girişimde bulunmadığı” sonucuna varırken, sohbet robotlarının bu tür yanlış bilgileri önlemek için acilen yeniden eğitilmesi gerektiği vurgulandı.
OpenAI'nin internet sitesinde şirketin seçimle ilgili içeriklere yaklaşımı, “seçim bilgilerinin doğruluğunu artırarak platformun güvenlik çalışmalarına devam etmek” ve şeffaflığı artırmak olarak tanımlanıyor.