Drone'lar ve füzeler artık hedef seçimini insanlardan çok algoritma yapıyor. ABD ve İsrail, İran'a karşı operasyonlarda gerçek zamanlı görüntü işleme ve tahmin modellerini kullanarak hedef tespitini hızlandırıyor. Eski yöntemde istihbarat ekipleri uydu fotoğraflarını saatler boyunca analiz ederken, şimdi AI saniyeler içinde sivilleri askeri hedeflerden ayırt ediyor (teoride).
Sorun şu: bu sistemler eğitim verilerinden bağımsız çalışmıyor. İsrail'in Gazze operasyonlarında kullanılan "Lavender" ve "Gospel" gibi AI araçları, eski harita verilerine, yanlış tanımlı hedeflere dayalı olarak çalıştığında, yüzlerce sivil ölüyor. Doğruluk oranı yüzde 90'ın üstündeyse, yüzde 10 hata demektir—ölü insanlar demektir.
İran'a yönelik saldırılarda da aynı risk var. Hızlı karar alma baskısı altında, AI'nin "bilinmeyeni bilinir" olarak sınıflandırması çok tehlikeli. Teknoloji gerçekten güçlü ama kontrolü ve hesap sorulabilirliği hala belirsiz.
Sorun şu: bu sistemler eğitim verilerinden bağımsız çalışmıyor. İsrail'in Gazze operasyonlarında kullanılan "Lavender" ve "Gospel" gibi AI araçları, eski harita verilerine, yanlış tanımlı hedeflere dayalı olarak çalıştığında, yüzlerce sivil ölüyor. Doğruluk oranı yüzde 90'ın üstündeyse, yüzde 10 hata demektir—ölü insanlar demektir.
İran'a yönelik saldırılarda da aynı risk var. Hızlı karar alma baskısı altında, AI'nin "bilinmeyeni bilinir" olarak sınıflandırması çok tehlikeli. Teknoloji gerçekten güçlü ama kontrolü ve hesap sorulabilirliği hala belirsiz.
00