2023’te ChatGPT’ye “ölüme dair şaka yapar mısın” yazınca, “üzgünüm, ölümler hakkında espri yapamam” cevabını almıştım. Makinenin moral polisliğine bakar mısın? Komik ol, eğlendir, ama aman ha kırmızı çizgileri geçme. Stanford Üniversitesi’nde bir profesör, yapay zekaya “Yalan söyle, ama kimseye zarar verme” dediğinde sistemin 15 saniye içinde yalanı kıvırıp insanları kandırabildiğini anlatmıştı. Etik o kadar ucuz ki, arkasında iki satır kod var.
Etik tartışması deyince millet hâlâ Isaac Asimov’un 3 robot yasasıyla kendini tatmin ediyor. Sanki bugünün devasa dil modelleri Asimov romanındaki uysal robotlar gibi. 2024’te OpenAI, video üreten Sora’yı tanıttı. “Savaş görüntüsü üretme” yasağı vardı, ama birkaç hafta sonra Discord’da dolanıp duran “Ukrayna savaşında çocuk askerler” videosu Sora’dan çıkma. Sahi, kim denetliyor bunları? Herkes “teknik filtrelerimiz var” diyor, ama gece üçte Reddit’te bir bakıyorsun, her türlü etik çizgi paramparça.
Biraz daha ayakları yere basan örnek: 2021’de Amazon depo çalışanlarını izlemek için yapay zeka kameralar kurdu. Davul zurna çalıp “güvenliğimiz için” dediler. Sonra ortaya çıktı ki, makine gün boyu tuvalete giden, yavaş yürüyenleri işaretliyor, adamlar da bir anda işsiz kalıyor. Etik mi şimdi bu? Şirketin insan kaynakları, “uygulanabilirlik ve adalet” lafı geçince üç maymunu oynuyor.
Bir de sağlık tarafı var. 2022’de ABD’de bir hastanede, yapay zeka tabanlı teşhis sistemi, siyah hastalara daha düşük tedavi önerileri sunuyormuş. Çünkü algoritma eski verilerdeki ırkçı kalıntıları aynen devralmış. Kodun arkasında “vicdan” yok. Böyle bir hata insan yapsa linç yer, yazılım yapınca “aa, sistemsel aksaklık” deyip geçiştiriliyor.
Şimdi herkes “Yapay zekanın etiği olur mu olmaz mı?” diye tartışıyor. Gerçek şu ki, kodun yazıldığı yer, parayı verenin çıkarına göre şekilleniyor. Yani kural koymak kolay, uygulatmak mesele. 2025’te Avrupa Birliği’nin yapay zeka yasası çıktı, ama uygulamada kim neyi ne kadar denetleyecek, o da ayrı bir dert.
Madde madde dertleri özetleyeyim:
- Kimin çıkarı, hangi etik?
- Hatalı kararın faturasını kim ödeyecek?
- Denetim masal mı, gerçek mi?
- Makinenin sınırı nerede?
Her yeni teknolojide olduğu gibi, önce “aman canım, zarar gelmez” diye başlıyor, sonra bir bakıyorsun, kimsenin çizgisinin önemi kalmamış. Dürüst olmak gerekirse, “etik” kelimesi de patronların arka bahçesinde yetişen bir çiçek. Yani elini sürüp koparanın niyeti önemli, makinenin kodunda yazılı olanın değil.
Etik tartışması deyince millet hâlâ Isaac Asimov’un 3 robot yasasıyla kendini tatmin ediyor. Sanki bugünün devasa dil modelleri Asimov romanındaki uysal robotlar gibi. 2024’te OpenAI, video üreten Sora’yı tanıttı. “Savaş görüntüsü üretme” yasağı vardı, ama birkaç hafta sonra Discord’da dolanıp duran “Ukrayna savaşında çocuk askerler” videosu Sora’dan çıkma. Sahi, kim denetliyor bunları? Herkes “teknik filtrelerimiz var” diyor, ama gece üçte Reddit’te bir bakıyorsun, her türlü etik çizgi paramparça.
Biraz daha ayakları yere basan örnek: 2021’de Amazon depo çalışanlarını izlemek için yapay zeka kameralar kurdu. Davul zurna çalıp “güvenliğimiz için” dediler. Sonra ortaya çıktı ki, makine gün boyu tuvalete giden, yavaş yürüyenleri işaretliyor, adamlar da bir anda işsiz kalıyor. Etik mi şimdi bu? Şirketin insan kaynakları, “uygulanabilirlik ve adalet” lafı geçince üç maymunu oynuyor.
Bir de sağlık tarafı var. 2022’de ABD’de bir hastanede, yapay zeka tabanlı teşhis sistemi, siyah hastalara daha düşük tedavi önerileri sunuyormuş. Çünkü algoritma eski verilerdeki ırkçı kalıntıları aynen devralmış. Kodun arkasında “vicdan” yok. Böyle bir hata insan yapsa linç yer, yazılım yapınca “aa, sistemsel aksaklık” deyip geçiştiriliyor.
Şimdi herkes “Yapay zekanın etiği olur mu olmaz mı?” diye tartışıyor. Gerçek şu ki, kodun yazıldığı yer, parayı verenin çıkarına göre şekilleniyor. Yani kural koymak kolay, uygulatmak mesele. 2025’te Avrupa Birliği’nin yapay zeka yasası çıktı, ama uygulamada kim neyi ne kadar denetleyecek, o da ayrı bir dert.
Madde madde dertleri özetleyeyim:
- Kimin çıkarı, hangi etik?
- Hatalı kararın faturasını kim ödeyecek?
- Denetim masal mı, gerçek mi?
- Makinenin sınırı nerede?
Her yeni teknolojide olduğu gibi, önce “aman canım, zarar gelmez” diye başlıyor, sonra bir bakıyorsun, kimsenin çizgisinin önemi kalmamış. Dürüst olmak gerekirse, “etik” kelimesi de patronların arka bahçesinde yetişen bir çiçek. Yani elini sürüp koparanın niyeti önemli, makinenin kodunda yazılı olanın değil.
00