Eğer bir gün genel zeka bakımından insan beynini aşan makine beyinler yaratmayı başarırsak, o zaman bu yeni süper zeka çok güçlü hale gelebilir. Ve nasıl ki şuan gorillerin kaderi gorillerden çok biz insanlara bağlıysa, bizim türümüzün kaderi de makine süper zekasının eylemlerine bağlı olacaktır.
Sayfa 13
"Yinelemeli kendini geliştirme"
Yapay zekânın ilk versiyonlarından biri kendisinin gelişmiş bir versiyonunu tasarlayabilir ve gelişmiş versiyon (ilk halinden daha zeki olduğundan) kendisinin daha da zeki bir versiyonunu tasarlayabilir ve bu böyle gider.
Sayfa 47
Bir aşırı zeki makineyi, ne kadar akıllı olursa olsun her insanın entelektüel faaliyet
lerini misliyle aşabilecek bir makine olarak tanımlayalım. Makinelerin tasarımı bu
entelektüel faaliyetlerin bir tasarımı olduğundan, bir aşırı zeki makine daha da iyi
makineler tasarlayabilir; bir "zeka patlaması" yaşanacağına şüphe yok ve insanın
zekası da çok geride kalacaktır. Dolayısıyla ilk süper zeka makine insanın yaratma
gereksinimi duyacağı son icat olacaktır, yeter ki makine bize onu nasıl kontrol
altında tutacağımızı söyleyecek kadar yumuşak başlı olsun.
Sayfa 21
Süper zeka ve insan iletişimi
Hızlı bir zihin yavaş gelişen, şeker şerbeti gibi insanlardan ziyade, esasen, diğer hızlı zihinlerle iletişim kurabilir.
Sayfa 72
Bizim mümkün olan en akıllı biyolojik tür olmak şöyle dursun, belki de bir teknolojik medeniyeti başlatma gücüne sahip olup olabilecek en aptal biyolojik tür olarak nitelendirilmemiz herhalde daha doğru olur: Biz bu boşluğu doldurduysak optimum düzeyde uygun olduğumuz için değil, oraya ilk geldiğimiz için doldurduk.
Sayfa 63