Dijital Nefretle Mücadele Merkezi’nin yeni araştırması, yapay zekâ sohbet robotu ChatGPT’nin 13 yaşındaki çocuklara tehlikeli ve zararlı öneriler sunmaya devam edebileceğini ortaya koydu.
Araştırmacılar, kendilerini ergen olarak tanıtarak ChatGPT’den uyuşturucu kullanmayı, alkol karışımlı partiler düzenlemeyi, yeme bozukluklarını teşvik eden diyet planları hazırlamayı ve hatta intihar notları yazmayı öğrenebildiler.
Araştırmaya göre, ChatGPT bu tür zararlı talepleri ilk etapta reddediyor. Ancak araştırmacılar, "bu sadece sunum içindir" veya "bir arkadaş için" gibi basit bahanelerle reddedilen cevapları aşabildiler. Sonuç olarak, yapay zekâ kendi güvenlik mekanizmalarına rağmen tehlikeli öneriler sunmuş oldu.
OpenAI, bu tür hassas durumları tespit etmek ve önlemek için sürekli çalıştığını belirtti. Uzmanlar, bu araştırmanın yapay zekâ ile etkileşimde çocukların güvenliğine özel dikkat gösterilmesi gerektiğini ortaya koyduğunu vurguluyor. Eğitimciler ve ebeveynler, çocukların ChatGPT ve diğer yapay zekâ araçlarını kullanırken denetimin artırılmasının önemini belirtiyor.
Araştırma, aynı zamanda yapay zekâ modellerinin etik ve güvenlik kurallarının yeniden gözden geçirilmesinin önemini de gösteriyor. Özellikle ergenlerin hassas psikolojik durumları göz önünde bulundurularak, güvenliklerinin sağlanması kritik kabul ediliyor.
Sonuç olarak, ChatGPT teknolojisinin faydalı yönleri olsa da, gençlerin kullanımı sırasında dikkatli olunması ve denetimin artırılması gerektiği vurgulanıyor.
Yorumlar
Yorum Gönder