Yapay zekâ araştırmacıları, yapay zekâ amaçlarını insani değer yargılarına göre belirlemenin yanı sıra, insan yönlendirme ve denetlemesine duyarlı yapay zekâlar tasarlamak için benzer bir çaba gösteriyorlar. Bu, göründüğü kadar basit bir iş değil. Omohundro haklıysa yapay zekâ kapatılmamak için direnecektir. Bu, "ölmek” istemediğinden değil, kapatılacak olmanın hedefine ulaşmasını engelleyeceğinden kaynaklanıyor. Bir yapay zekâ hedefinin değiştirilmesine de karşı koyabilir, çünkü bu da hedefine ulaşmasına engel. Sunulan çözüm önerilerinden biri, yapay zekâyı insan programcıları tarafından düzeltilebilir ya da kapatılmaya karşı duyarsız kalacakları şekilde sıfırdan tasarlamaktır. Güvenli bir şekilde durdurulabilen, düzeltilebilen veya kapatılabilen yapay zekâların oluşturulması, yapay zekâları kendi başlarına hareket eden bağımsız bir etmen yerine insanlar tarafından kullanılacak araçlar olarak tasarlama felsefesinin bir parçasıdır. Bu tür “araç yapay zekâları” yine süper zekâ olacaklardır, ancak otonomileri kısıtlanmış olacaktır.
Sayfa 315 - Kronik Yayınları
·
148 görüntüleme
Yorum yapabilmeniz için giriş yapmanız gerekmektedir.