Geçen ay bir ailede yaşanan olay ortaya koydu ki, çocuğun duygusal durumunu tahmin ettiğini söyleyen akıllı oyuncaklar, aslında tamamen yanlış okumalar yapabiliyor. Sekiz yaşındaki bir kız çocuğu, öğretmeni tarafından azarlandıktan sonra üzüntü içinde oyuncağıyla konuşmaya başlamış. Oyuncak, onun duygusunu "mutluluk" olarak işaretlemiş ve neşeli şarkılar söylemeye başlamış. Çocuk daha da kötü hissetmiş, çünkü makinenin onu yanlış anladığını biliyor ama bunu açıklayamıyor.

Bu oyuncaklar, yüz ifadesi, ses tonu ve fiziksel hareketleri analiz etmek için makine öğrenmesi algoritmaları kullanıyor. Ama insanın duygusal dünyas çok daha karmaşık. Üzüntü ile sinir arasında çizgi çok incedir; bir çocuk korktuktan sonra heyecanlı da olabilir. Algoritma bu nüansları kaçırıyor, çünkü eğitim verileri sınırlı ve standartlaştırılmış. Kameraya yapay gülümseme yapan çocuk, algoritmanın gözünde mutlu bir çocuktur—ki bu çoğu zaman yanlıştır.

Sorun burada başlamıyor, devam ediyor. Çocuk, yanlış anlaşıldığını fark ettiğinde, oyuncakla iletişim kurmaktan vazgeçiyor. Sonra da—ve bu kritik—insanlarla duygularını paylaşmaktan çekinmeye başlayabiliyor. Çünkü makine bile anlamamışsa, belki ben hatalı hissediyorum diye düşünüyor.

Oyuncak üreticileri, bu teknolojinin çocukları daha iyi anlamak için tasarlandığını söylüyor. Ama duygusal zeka yazılım güncellemesiyle kazanılamaz. Çocuğun duygularını anlaması gereken kişiler—anne, baba, öğretmen—onlar. Bir makine bunun yerini alamaz, sadece hatalı bir taklitçi olur.

Bu oyuncaklar satılmaya devam edecek, çünkü ebeveynler teknolojiye güveniyor. Ama güven yanlış yerde. Ağlamaktan hoşlanmayan bir çocuk, yapay zeka oyuncağına açılmayacak; gerçek bir insana ihtiyacı var.