Diğer hayvanlardan çok daha güçlü veya çok daha hızlı olduğumuz için besin zincirinin tepesinde yer almıyoruz. Onlardan çok daha akıllı olduğumuz için bu konuma eriştik. Bu birinciliğimizi kaybedersek, nasıl Goriller bizim insafımız dahilinde yaşıyorlarsa biz de süper zeki bir yapay zekanın insafına kalmış bir hale gelebiliriz.
Zeka, kişinin çevresini doğru bir şekilde algılama ve verilen hedeflere ulaşma olasılığını en üst düzeye çıkaran eylemler yapma yeteneğidir. Zeka, büyük bir bilgi birikimine sahip olmak anlamındaki ya da karmaşık matematik problemlerini çözebilmek gibi anlamlara gelen akıllı olmakla aynı şey değildir.
“Küçük bir grup insanın, belki de sadece iki ya da üç kişinin, bir bio silahı kullanarak 100 milyon insanı öldürmesi zor olmayacaktır. Muhtemelen şu anda gezegende bunu yapabilecek teknik bilgiye sahip olan bir milyon insan vardır. Aslında bunun henüz gerçekleşmemiş olması şaşırtıcıdır.” Eric Klien
Biyoteknolojideki gelişmeler sayesinde genetik mühendislik ve gen düzenlemesi için gereken beceri seviyesi ve finansman düşmüştür. Bir zamanlar, devletin hizmetindeki koca bir virolok ordusunu gerektiren işler, artık bir grup yetenekli ve eğitimli insan tarafından yapılabilir. Belki tek bir kişi bile yeterli olabilir.