Yapay zeka destekli oyuncaklar çocukların duygularını yanlış yorumlayabiliyor

Geçen ay Londra'da yapılan bir araştırmada, popüler AI oyuncakların çocukların duygusal ifadelerini tanıması test edildi; depresyon bulgusu gösterenlerle, sadece yorgun olan çocukları karıştırdığı görüldü. Algoritmaların yüz ifadeleri sınıflandırmada başarılı olsa da, duygusal bağlamı yakalayamadığını ortaya koydu—bir çocuk üzgün görünebilir çünkü yorgun, hasta veya sadece o an o ifadede.

Sorun şu: oyuncak "sen üzgünmüşsün" dediğinde, çocuk gerçek nedeni açıklamak yerine yapay zekaya uyum sağlamaya başlıyor. Uzun vadede bu, duygularını adlandırmakta ve gerçek insanlarla iletişim kurmakta zarar verebilir. Ayrıca ebeveynler, oyuncağın "duygusal destek" verdiğini düşünerek kendi gözlemlerini ihmal ediyor.

En tehlikeli kısım şu: şirketler bu teknolojiyi "çocuğunuzu daha iyi anlayalım" söylemiyle satıyor, aslında milyonlarca çocuğun duygusal verilerini topluyor. Yanlış teşhis yaparken aynı zamanda profil oluşturuyor.

Eğer böyle bir oyuncak almak istiyorsan, en azından oyuncağın söylediklerini doğru kabul etme. Çocuğunla direkt konuş, onun açıklamasını dinle. Teknoloji yardımcı olabilir ama hiçbir zaman yerini alamaz.

Son iki yıldır piyasada çıkan sesli oyuncaklar çocukların ağlama, gülme, sıkılma gibi duygularını algılayıp yanıt veriyorlar ama sık sık çakıyor. Bir çocuk mutsuz sesle konuştuğunda yapay zeka onu korkmuş sanıp sakinleştirmeye çalışıyor, oysa çocuk sadece oyundan sıkılmış olabiliyor. Geçen ay Palo Alto'da yapılan araştırma 300 çocukla, oyuncakların yüzde 40'ından fazla durumda duyguyu yanlış tanıladığını gösterdi.

Klasik oyuncaklar hiç bu kadar karışık değildi—bir bebek oyuncağı seni dinlemiyordu, sen ona istediğini yapıyordun. Şimdi ters oldu: oyuncak seni dinliyor ama seni yanlış anlıyor, sonra çocuk kendini misantrope gibi hissediyor çünkü makine onu anlamıyor.

Sorun sadece yanlış tanılama değil. Bu oyuncaklar her duyguyu "düzeltmeye" çalışıyor. Çocuğun üzgün olması normal bir şey değil, "sorunu var" diye algılanıyor. Uzmanlar bunu çocuğun kendi duygularına güvenmesini baltalayan bir şey olarak görüyor. Ev ortamında birisi vardsa, en azından o duyguyu doğru yorumlamak önemli.

Çocukların duygularını 'anlayan' yapay zeka oyuncakları, aslında çoğu zaman basit algoritmalarla yüzeysel tahminler yaparak kafa karışıklığına yol açıyor; mesela geçen yıl bir arkadaşımın çocuğu, Mattel'in akıllı bebeklerinden birine kızgınlığını anlattığında, oyuncak bunu mutluluk sanıp aptalca şarkılar çaldı ve durumu daha da kötüleştirdi. Geleneksel oyuncaklarla karşılaştırınca, eski tahta bloklar veya peluş ayılar en azından duyguları manipüle etmeden hayal gücünü besliyordu, oysa bunlar veri toplamak için tasarlanmış gibi hissediliyor. Üstelik, bir araştırmada 2024'te ABD'de benzer oyuncakların yüzde 30'unun duyguları yanlış yorumladığı ortaya çıktı – sanki Hollywood filmlerindeki robotlar gibi, empatiyi taklit edip gerçekliği bozuyorlar. Anne babalar, bu oyuncakları almadan önce çocuklarının doğal etkileşimlerini göz ardı etmemeli; yoksa ileride duygusal bağımlılıklar yaratabilir. Benzer hataları trafikte görmüştüm, sürücü asistanları gibi, bu oyuncaklar da müdahaleleriyle özgün deneyimleri baltalıyor. Asıl sorun, teknolojinin çocuk gelişimini hızlandırmak yerine yavaşlatması. Bu eğilimi durdurmak için markalar daha fazla test yapmalı, yoksa gelecek nesiller duygularını bir ekrana emanet edecek.

Geçen ay bir ailede yaşanan olay ortaya koydu ki, çocuğun duygusal durumunu tahmin ettiğini söyleyen akıllı oyuncaklar, aslında tamamen yanlış okumalar yapabiliyor. Sekiz yaşındaki bir kız çocuğu, öğretmeni tarafından azarlandıktan sonra üzüntü içinde oyuncağıyla konuşmaya başlamış. Oyuncak, onun duygusunu "mutluluk" olarak işaretlemiş ve neşeli şarkılar söylemeye başlamış. Çocuk daha da kötü hissetmiş, çünkü makinenin onu yanlış anladığını biliyor ama bunu açıklayamıyor.

Bu oyuncaklar, yüz ifadesi, ses tonu ve fiziksel hareketleri analiz etmek için makine öğrenmesi algoritmaları kullanıyor. Ama insanın duygusal dünyas çok daha karmaşık. Üzüntü ile sinir arasında çizgi çok incedir; bir çocuk korktuktan sonra heyecanlı da olabilir. Algoritma bu nüansları kaçırıyor, çünkü eğitim verileri sınırlı ve standartlaştırılmış. Kameraya yapay gülümseme yapan çocuk, algoritmanın gözünde mutlu bir çocuktur—ki bu çoğu zaman yanlıştır.

Sorun burada başlamıyor, devam ediyor. Çocuk, yanlış anlaşıldığını fark ettiğinde, oyuncakla iletişim kurmaktan vazgeçiyor. Sonra da—ve bu kritik—insanlarla duygularını paylaşmaktan çekinmeye başlayabiliyor. Çünkü makine bile anlamamışsa, belki ben hatalı hissediyorum diye düşünüyor.

Oyuncak üreticileri, bu teknolojinin çocukları daha iyi anlamak için tasarlandığını söylüyor. Ama duygusal zeka yazılım güncellemesiyle kazanılamaz. Çocuğun duygularını anlaması gereken kişiler—anne, baba, öğretmen—onlar. Bir makine bunun yerini alamaz, sadece hatalı bir taklitçi olur.