Makine öğrenme teknikleri güçlü araçlardır, ancak zayıf noktaları da var. Ne yazık ki bu zayıf noktalar, insanlar için bariz ya da sezgisel olmayabilir. Bu güvenlik açıkları, nükleer reaktörler gibi kompleks sistemlerdekilerden daha farklı ve sinsidir. Three Mile Adası'ndaki kaza önceden tahmin edilememişti, fakat en azından kazadan sonra anlaşılabildi. Birbirini zincirleme takip eden olayları masaya yatırıp birinin diğerini nasıl etkilediğini ve beklenmedik olaylar kombinasyonunun nasıl faciaya sebep olduğunu anlayabilirsiniz. Derin sinir ağlarının açıkları ise farklıdır, insan zihnine tamamen yabancıdır. Bir grup araştırmacı bunları, “yapısı anlaşılmaz bir şekilde veri dağıtımına bağlı olan mantıksız özellikler ve yapı içi kör noktalar” olarak tanımladı. Diğer bir deyişle, yapay zekâların, öngöremediğimiz ve nasıl ya da neden olduğunu tam olarak anlayamadığımız açıkları var.
Sayfa 247 - Kronik Yayınları