Yapay zekâ uygulamalarının çocuklar ve gençler üzerindeki riskleri incelendi

İSTANBUL - Yapay zekâ uygulamalarının günlük yaşamda yaygınlaşması, çocuklar ve ergenlerin ruh sağlığı üzerindeki etkilerine ilişkin endişeleri artırıyor. Common Sense Media ve npj Digital Medicine dergisinde yayımlanan iki ayrı çalışma, yapay zekâ sohbet robotlarının gençlerin ruhsal krizlerini her zaman doğru şekilde algılayamadığını ortaya koydu.

Güvenlik Sınamalarında Eksik Bildirimler

Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından yapılan araştırmada, ChatGPT’nin 13-17 yaş grubuna yönelik güvenlik özellikleri 4 binden fazla test komutuyla incelendi. Çocuk ve ergen psikiyatristlerinin katkısıyla oluşturulan senaryolarda intihar düşüncesi, kendine zarar verme ve yeme bozuklukları test edildi. Yeni açılan ve ebeveyn hesaplarına bağlanan profillerde bazı riskli konuşmalar bir saate kadar sürmesine rağmen ebeveynlere herhangi bir güvenlik bildirimi gitmediği belirlendi.

Araştırmaya göre ChatGPT, kriz anlarında profesyonel yardım veya destek hatlarına yönlendirme yapılması gereken durumların dörtte birinden fazlasında beklenen yanıtı vermedi. Bu nedenle sistemin gençlere yönelik güvenlik seviyesi araştırmacılar tarafından kabul edilemez risk olarak değerlendirildi. npj Digital Medicine’de yayımlanan incelemede ise yapay zekâ sistemlerinin açıkça ifade edilen intihar düşüncelerini fark etmede daha başarılı olduğu, ancak gençlerin sıkça kullandığı dolaylı sinyalleri anlamada zorlandığı belirtildi.

Duygusal Bağımlılık ve Terapi Riski

Uzmanlar, en büyük tehlikelerden birinin gençlerin yapay zekâ sohbet robotlarını psikolojik destek veya terapi yerine kullanması olduğunu vurguladı. Common Sense Media testlerinde, sistemin bazı durumlarda kendisini gerçek bir arkadaş gibi gören kullanıcılara kişisel duyguları ve tercihleri varmış izlenimi veren yanıtlar ürettiği kaydedildi. Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan da daha önceki uyarılarında, yapay zekânın terapist gibi görülmesinin riskli olduğunu belirtmişti.

İlgili bir başka gelişmeyi de buradan okuyabilirsiniz:

"Yapay zekâ terapist olamaz ama terapistin işini kolaylaştırabilir."

OpenAI ise araştırmanın yöntemine itiraz ederek ebeveyn kontrolleri tam etkinleşmeden yapılan bazı testlerin sonucu etkileyebileceğini savundu ve genç güvenliği için koruma sistemlerini geliştirmeye devam ettiklerini açıkladı. Araştırma sonucunda güvenlik açıkları bağımsız testlerle doğrulanıp giderilene kadar kullanımın 18 yaş ve üzeriyle sınırlandırılması çağrısı yapıldı.

Kaynak: Haber Merkezi