Algoritma çağında yaşıyoruz. Yaşamlarımızı etkileyen kararlar, okula gittiğimiz yer, araba kredisi alıp almadığımız, sağlık sigortası için ne kadar ödeyeceğimiz, insanlar tarafından değil matematiksel modeller tarafından veriliyor. Teoride bunun daha fazla adalet sağlaması gerekir çünkü bu şekilde herkes aynı kurallara göre değerlendirilmiş olur, dolayısıyla önyargı ortadan kalkar.
Cathy O'Neil, aslında bu durumun tam tersinin yaşanmakta olduğunu söylüyor. Bugün kullanılan modeller, şeffaflıktan ve tartışılabilir olmaktan çok uzaklar. En rahatsız edici olansa, ayrımcılığı güçlendirmeleri...
"Demokrasi için zehirli bir kokteyl" yaratan Büyük Veriler'in karanlık tarafına hoş geldiniz!
Hem birey hem de toplum olarak geleceğimizi şekillendiren kara kutu modellerinin; yani "matematiksel imha silahları"nın özgeçmişleri nasıl sıraladığını, kimlere nasıl kredi verdiğini (veya vermediğini), çalışanları nasıl değerlendirdiğini, seçmenleri nasıl hedeflediğini ve sağlığımızı nasıl izlediğini göz önüne seren O'Neil, modelcileri ve politikacıları algoritmalarla ilgili daha fazla sorumluluk almaya davet ediyor.
Yine de günün sonunda, hayatlarımızı yöneten modeller hakkında daha fazla bilgi sahibi olmak bize kalmış. Matematiksel İmha Silahları zor soruları sormamıza, gerçeği ortaya çıkarmamıza ve değişim talep etmemize yardımcı olacak.
