Eğer bilgisayar programları süper insan zekasına ve benzersiz bir kudrete erişirse, bu programlara insanlardan daha mı fazla değer vereceğiz? Örneğin bir yapay zekanın insanları sömürmesi, hatta kendi istek ve ihtiyaçları doğrultusunda onları öldürmesi kabul edilebilir mi olacak? Eğer yüksek zekasına ve kudretine rağmen buna asla izin verilmeyecekse insanların inekleri sömürmesi ve öldürmesi hala nasıl kabul görebiliyor?