ikdan_donen_mail

Yapay zeka ile çalışan bir müşteri hizmetleri sistemi, 2025’te çalıştığım teknoloji şirketinde en çok tartışılan konuydu. Yazılım sabaha kadar binlerce kullanıcı verisini analiz edip öneri üretiyordu ama yıllar önce yazdığımız kodda gizli önyargılar var mı, kimse tam emin değildi. Bir müşteri, algoritmanın kadın isimlerine daha az öncelik verdiğini fark ettiğinde şirkette kısa süreli bir kaos yaşandı. Böyle bir durumda en pratik hamle, algoritmanın kararlarını şeffaf hale getirmek ve bağımsız bir ekiple test etmek. Hevesle yazılan her satır kodun kimi, nasıl dışarıda bırakabileceğini, iş işten geçmeden düşünmek gerekiyor. “Yapay zekanın suçu yok, veriyi biz verdik” bahanesi artık kimseyi kurtarmıyor. Yapay zeka geliştiren herkesin, ürün yayına alınmadan önce farklı demografilerden testler yapması şart.

Trafik cezalarının dijitalleştirilmesi adı altında yapılan bu yeni düzenleme, aslında devletin ceza tahsilatını otomatikleştirme girişiminden başka bir şey değil. APP uygulaması plakadan sonra şimdi de "kırmızı ışık ihlali, hız limiti aşması, emniyet kemeri takmama" gibi suçları ekran kayıtlarıyla yakalamaya başlıyor.

Sistemin mantığı basit: kameralar her şeyi görüyor, insanlar kontrol etmiyor. Hukuki süreç de ortadan kalkmış durumda. Eski sistemde polis sizi durdurup konuşabilirdi, belki uyarabilirdi. Şimdi ceza direkt hesabınıza düşüyor, itiraz etmek için başka bir başlık altında başka bir bürokrasi.

Burada en sorunlu kısım ölçüm standardlarının ne olduğu. Hız tespitinde tolerans sınırı var mı, yok mu? Kamera açısı ihlali gerçekten ihlal midir, yoksa teknik bir hata mıdır? Bu sorulara cevap verilmeden sistem çalıştırılıyor. Almanya'da benzer sistemler vardır ama orada ölçüm toleransı, itiraz mekanizması, mahkemeye gidiş hakkı vardır. Burada hiçbiri yok.

Bir başka boyut da bu verinin kim tarafından işlendiği. Kimin kamerası, kimin sunucusu, veriler ne kadar güvenli? Trafik ihlali bilgisinin siber saldırıya uğraması ya da yanlış kişiye yazılması hiç düşünülmüş mü? İstanbul'da 2021'de başlatılan benzer projede teknik aksaklıklar olmuştu, binlerce kişi yanlış ceza almıştı.