"Ama bir süre sonra olacaksın. Peki, ben ne yapacağım o zaman?"
"Sen de birini seveceksin ve mantıklı bir çocuk gibi bu dertten kurtulacaksın."
"Ben başkasını sevemem. Seni asla unutmacağım, Jo, asla! Asla!"
Jacob. Senin dilinden anlamayan biriyle birlikteysen, bütün hayatını ruhunu tercüme ederek geçirirsin derler, bunu duymuş muydun?
Amy senin dilinden anlamıyordu. Hepsi bu. İkinizin de kusuru yok, sadece birbirinizden çok farklı insanlarsınız.
Briana’nın farklı olduğunu buradan anlıyorum. “Sen hiçbir şey söylemediğinde bile o seni anlıyor.”
Diğer mesleklerde ve teknik alanlarda insanların nasıl çalışacaklarını belirleyen prensipler var ve dürtme bu prensiplerin ruhuna da saldırıyor. Tıpta Hipokrat yemini vardır, doktorlar belli etik standartlara göre hareket etmeye yemin ederler. Avukatlıkta müvekkil gizliliği vardır ve insanların onları temsil eden kişilerle yaptıkları konuşmaların gizliliğini korur. Gazeteciler birincil kaynak kullanmak ve kamu yararını gözeten haberler yayımlamak gibi çeşitli prensiplere göre hareket ederler. Șu anda kimsenin yapay zekâda belli kodlanmış prensiplerin yokluğunda optimizasyonun ne gibi sonuçlar doğurabileceğini göz önünde bulundurması için teşvik edilmiyor. Yapılan işin insanlığın geleceğini nasıl etkileyeceğini ve potansiyel sonuçları analiz eden bir ekiptense belli ölçütleri karşılayan ekip tercih ediliyor. Sonuç olarak yapay zekâ kabileleri, Dokuz Dünya Devi ve onların çalıştığı ülkeler alınan kararları etkiliyor.
Çin’de kullanıcılar sosyal kredilerinin düşürülmesinden korktukları için internet kurallarına uyuyorlardı. Karşılarındakini kışkırtacak şekilde konuşmaları veya taciz etmeleri gibi şeyler söz konusu olmuyordu, çünkü her zaman devlet kurumlarının dinlemesi mümkündü.
Matematikçilere göre "mükemmel karar" diye bir şey mümkün değil, çünkü sistemler çok karışık ve gelecek sürekli bir akış içinde. Ta moleküler seviyede bile sürekli bir değişim var. Bilinmeyen sayıda değışkenle olası her bir sonucu tahmin etmek imkânsız ve muhtemel tüm cevapları tartabileceğimiz bir model oluşturmanın da yolu yok. Bundan birkaç on yıl önce yapay zekâ damada insanı yenmeye başladığında karar değişkenleri belliydi. Şimdi yapay zekâdan tıbbi bir teşhis koymasını veya bir sonraki finansal krizi öngörmesini istediğimizde çok daha karmaşık veriler ve kararlar gerekiyor. O yüzden sistemlerimiz optimizasyonla ilerlemeyi tercih ediyor ve bu optimizasyonun içinde bir öngörülemezlik, yani kendi insani düşünme şeklimizden sapan seçimler de var.
Princeton profesörü Daniel Kahneman ve Kudüs İbrani Üniversitesi profesörü Amos Tversky yıllar boyunca insan zihnini incelediler ve sonunda iki düşünme sistemimiz olduğunu keşfettiler:
Biri problemleri analiz etmek için mantığı kullanıyor, diğeri ise hızlı ve otomatik. İkincisini neredeyse fark etmiyoruz bile.
Kahneman bu ikili sistemi Yavaş ve Hızlı Düşünme adlı ödüllü kitabında şöyle açıklıyor: Zor sorunlar dikkat ve dolayısıyla çok miktarda enerji gerektiriyor. Bu sebepten pek çok insan yürürken aritmetik problemi çözemiyor, çünkü sadece yürüme eylemi bile beynin enerji isteyen kısmına ihtiyaç duyuyor. Fakat çoğunlukla kontrolü elinde tutan diğer sistem. Hızlı, sezgisel zihnimiz gün boyunca otonom şekilde binlerce karar veriyor. Bu sistem daha az enerjiye ihtiyaç duysa da duygularımızı, inançlarımızı ve fikirlerimizi etkileyen bilişsel ön yargılarla dolu.