Yapay zekanın zararı çocuklara!

Her şeyin fazlası zarar olduğu gibi yapay zekanın da fazlası zarar haline geldi. Sesli sohbet etme özelliği ile dünyayı şaşırtan yapay zeka, şimdi ise çocukların hassas noktasına indi…

GUNES.COM

ABONE OL

Masal üretmeye başlayan yapay zeka, hayatımızın her alanında bulunmaya başladı. Fakat uzmanlar çocuk masalları konusunda ebeveynleri uyardı. "İçerikler tehlikeli olabilir."

UZMANLAR UYARDI

''MÜSTEHCENLİK OLUŞTURUYOR''

"Yapay zekâ ile çocuk hikâyeleri yazmak, başlangıçta büyük bir kolaylık sağlıyor. Ancak, yapay zeka modeli, geniş bir veri havuzundan öğrenme yapar. Dolayısıyla, çocuk hikayesi yazmak için kullanılan yapay zeka modeli, istenmeyen öğeleri hikayelere dahil edebilir. Ayrıca, güvenilirlik sorunu da yaşanabilir. Başka bir olumsuzluk da, yapay zeka tarafından üretilen hikayelerin duygusal bağlamdan yoksun olmasıdır. Yapay zeka, çocukların yaşamla ya da hayatla ilgili duygusal bağı koparabilir, müstehcen içerikler üretebilir. Uygunsuz içeriklerin çocuklara ulaşması riski bulunuyor. Hikayeyi daha etkileyici hale getirmek için, yapay zeka sohbet robotu hikayeyi görsellerle destekliyor. Fakat bu görsellerde kullanılan simge ve semboller de subilimine mesajları bünyesinde barındırabilir. Örneğin GPT-4o'nun metin, ses ve görselleri gerçekçi bir şekilde üretebilme özelliği, derin sahtecilik gibi kötü amaçlı da kullanılabilir.

''HAYALİ KARAKTER İLE EVLENMEK İSTİYORLAR''

Reblika adlı sohbet uygulamasının çocukları sanal dünyaya bağımlı yaptığına dikkat çeken Kırık, şöyle devam etti: "Bu yapay zeka destekli sohbet robotu. Çocuklar onunla duygusal bir bağ kurabilir, istismar etmek için kullanılabilir, savunmasız hale gelebilir. Öyle ki çocukların 'reblikaya aşık oldum evlenmeyi bile düşünüyorum' diyenlerin olduğunu bile duymuştum."