Hayatımızı başka birçok açıdan kolaylaştırarak üstlerine düşeni yapan makinelerden bir de matematiksel olarak erişilebilir olup olmadığı bile bilinmeyen bir ahlak seviyesi beklemek ne kadar gerçekçidir?
Öznel deneyimler, tanımları gereği sadece onları yaşayan kişinin zihninde hissettiği, dışarıdaki bir gözlemcinin erişemeyeceği, bu nedenle teyit de edemeyeceği şeylerdir. Bir kişinin bedeninin verdiği birçok sinyali ölçebilirsiniz ama ne hissettiğini deneyimleyemezsiniz. Gerçekten acı çekiyor mu? Onun çektiği acı sizin acı çe kerken hissettiğinizle aynı şey mi? ...
Bu zor soruların yanıtı henüz bilinmiyor ve böyle öznel deneyimlerin bir bilimcinin deneyini bir başkasının tekrarlayıp denetlemesi esasına dayalı nesnel bilimsel yaklaşımın kapsamına girmediğini söyleyenler bile var. Bence önemli nokta şu: Eğer kendimden başka hiçbir varlığın öznel deneyimlerine (onun sözüne inanmaktan başka bir yolla) erişemiyorsam, bırakın robotları, başka insanların öznel deneyimleri olduğuna, örneğin acı çekiyor gibi göründüklerinde gerçekten acı çektiklerine hangi gerekçeyle inanayım? Eğer insanlara bu konuda inanıyorsam, o zaman tıpatıp insana benzeyen bir robot aynı şekilde davrandığında ona niye inanmayayım?
Çoğu durumda makinemizin duyguları olmasını istemeyiz. Nükleer santral kazalarında devrelerine sonuçta hasar verecek yükseklikte radyasyon içeren bölgelere yollayacağımız robotların korkup kaçması, ya da cep telefonumuzdaki kişisel asistanımızın bazı arkadaşlarımızdan hoşlanmadığı için telefonu suratlarına kapatması mantıklı olmaz. Ama robotlarımızın kimi duyguları varmışçasına davranmasının anlamlı olacağı durumlar da akla gelmiyor değil.
Google Çeviri "O bir doktor" cümlesini İngilizceye "He is a doctor" diye çevirirken, "O bir hemşire" karşılığı olarak "She is a nurse" diyor; yani bu meslekleri icra edenlerin cinsiyetleri hakkındaki yerleşik varsayımları da öğrenmiş. Önyargılarımızın bilgisayarlarımızda ilelebet yaşamaması için önlem almalıyız.