Uzmanlar toplumları iki farklı gelecek senaryosu hakkında uyarıyor.
Bunlardan ilki, yapay zekanın insanlar arasında halihazırda var olan çatışmalar alevlendiri rp insanlığı kendi içinde bölme ihtimali. Yapay zekayla silahlanma yarışı şimdiye kadarki en güçlü silahları üreteceğinden, çakacak minicik bir kıvılcım bile devasa bir yangına dönüşebilir.
İkincisi ise “silikon perde”nin insanları kendi aralarında değil, tüm insanlığı yeni yapay zeka temelli efendilerimizden ayırma ihtimali. Dünyanın neresinde yaşarsak yaşayalım, kendimizi tüm hayatımızı yöneten, siyaset imizi ve kültürümüzü yeni baştan şekillendiren, hatta bedenlerimizi ve zihinlerimizi yeniden programlayan, akıl sır erdirmediğimiz dağlardan oluşan bir kozanın içinde, bizi kontrol eden bu güçlere direnmek bir yana, ne olduğunu anlayamadığımız bir durumda bulabiliriz. 21. yüzyılda eğer bir total ite ağa dünyayı feth etmeyi başarırsa, muhtemelen bua insan bir diktatör tarafından değil, insan dışı bir zeka tarafından yönetilecek.
Kuşkusuz hepimiz yapay zeka uzmanı olamayız ama yine de yapay zekanın tarihte kendi kendine karar alabilen ve yepyeni fikirler üretebilen ilk teknoloji olduğunu aklımızdan çıkarmamalıyız. Geçmişteki tüm insan icatları insanlığı desteklemişti, çünkü tüm bu yeni ayıracaklar ne kadar tehlikeli olurlarsa olsun, nasıl kullanacağımızın kararı daima bizim elimizdeydi. Onlar, bilgileri analiz edemeyecek ve bağımsız kararlar alamayacak kadar zekadan yoksun aletlerdi. Buna karşın yapay zeka bilgiyi kendi kendine işleyebilir, dolayısıyla insanların yerine karar alabilir. Yapay zeka yeni bir alet değil, etkili bir oyuncudur. Yapay zeka halihazırda kendi başına sanat üretme ve bilimsel keşifler yapma yetkisine sahip. Gelecek birkaç on yılda, genetik kodlar yazarak veya inorganik varlıkları
Yōzō denize bir taş fırlattı. "Çok rahatlamıştım. 'Şimdi buradan atlarsam bütün sorunlarım yok olacak.' diye düşünmüştüm. Borçlarım, okulum, ailem, pişmanlıklarım, sanatım, utanç duyduğum ne varsa... Marksizim, arkadaşlarım, ormanlar, çiçekler. Artık hiçbiri umurumda değildi. Bunu fark ettiğim an, o kayanın üstünde gülmeye başladım. Gerçekten çok rahatlatıcı bir histi.
Teknolojik ve bilimsel ilerlemenin olanakları ve tuzakları, yüzyıllar boyunca insanlığın ilerlemesine dair düşlerin malzemesi oldu ama burada da kendimizi uğursuz bir döngüsel yolda yürürken buluyoruz. Serbest geliştirme, deney ve araştırma Yapay Zeka'ya yol açtı ve YZ insan zihninin yerini almaya dönük bir tehdit olmakla kalmıyor, özel olarak insanın sınırlılıklarını aşmak, onu kırılganlıklarından arındırarak yeniden üretmek üzere tasarlanmış durumda.
Tasarlanan başarıldığında bu nasıl bir şeye benzeyecek ve ne anlama gelecek gibi daha soyut soruları bir kenara bıraksak bile, "ilerleme" yoluna sonbahar yaprakları gibi serilmiş ölü kuşları görmek için fazla uzağa bakmaya gerek yok; yanan bir gezegene yüklenen astronomik enerji maliyetlerine ve YZ'nin işlerini ellerinden aldığı insanlara bakmak yeterli.
21. yy.'ın bir gerçeği olsa da teorik ve pratik kökleri 19. ve 20.yy.'da bulunan transhümanizmin, teorik alt yapısını Darwin ve Freud vb. bilim insanları, pratik altyapısını ise sanayileşme ve teknolojikleşme vb. uygulamalar oluşturur. Sanayileşme
(19. yy.), Yüksek Teknoloji (20. yy.), Siber-teknoloji (21. yy.) ürünü olan transhümanizm; genetik, robotik, sibernetik, nano-teknoloji ve YZ vb. uygulamalarla insanın transhuman'a dönüşeceğini düşünür.