İnsansız Ordular Sözleri ve Alıntıları
İnsansız Ordular sözleri ve alıntılarını, İnsansız Ordular kitap alıntılarını, İnsansız Ordular en etkileyici cümleleri ve paragragları 1000Kitap'ta bulabilirsiniz.
Makine öğrenme teknikleri güçlü araçlardır, ancak zayıf noktaları da var. Ne yazık ki bu zayıf noktalar, insanlar için bariz ya da sezgisel olmayabilir. Bu güvenlik açıkları, nükleer reaktörler gibi kompleks sistemlerdekilerden daha farklı ve sinsidir. Three Mile Adası'ndaki kaza önceden tahmin edilememişti, fakat en azından kazadan sonra anlaşılabildi. Birbirini zincirleme takip eden olayları masaya yatırıp birinin diğerini nasıl etkilediğini ve beklenmedik olaylar kombinasyonunun nasıl faciaya sebep olduğunu anlayabilirsiniz. Derin sinir ağlarının açıkları ise farklıdır, insan zihnine tamamen yabancıdır. Bir grup araştırmacı bunları, “yapısı anlaşılmaz bir şekilde veri dağıtımına bağlı olan mantıksız özellikler ve yapı içi kör noktalar” olarak tanımladı. Diğer bir deyişle, yapay zekâların, öngöremediğimiz ve nasıl ya da neden olduğunu tam olarak anlayamadığımız açıkları var.
Sayfa 247 - Kronik Yayınları
Yasal olanla doğru olan her zaman aynı değildir.
Sayfa 30
Yapay zekâ araştırmacıları, yapay zekâ amaçlarını insani değer yargılarına göre belirlemenin yanı sıra, insan yönlendirme ve denetlemesine duyarlı yapay zekâlar tasarlamak için benzer bir çaba gösteriyorlar. Bu, göründüğü kadar basit bir iş değil. Omohundro haklıysa yapay zekâ kapatılmamak için direnecektir. Bu, "ölmek” istemediğinden değil, kapatılacak olmanın hedefine ulaşmasını engelleyeceğinden kaynaklanıyor. Bir yapay zekâ hedefinin değiştirilmesine de karşı koyabilir, çünkü bu da hedefine ulaşmasına engel. Sunulan çözüm önerilerinden biri, yapay zekâyı insan programcıları tarafından düzeltilebilir ya da kapatılmaya karşı duyarsız kalacakları şekilde sıfırdan tasarlamaktır. Güvenli bir şekilde durdurulabilen, düzeltilebilen veya kapatılabilen yapay zekâların oluşturulması, yapay zekâları kendi başlarına hareket eden bağımsız bir etmen yerine insanlar tarafından kullanılacak araçlar olarak tasarlama felsefesinin bir parçasıdır. Bu tür “araç yapay zekâları” yine süper zekâ olacaklardır, ancak otonomileri kısıtlanmış olacaktır.
Sayfa 315 - Kronik Yayınları
Hava harbinde pilotlar düşman uçağıyla angajmana girerken geçtikleri bir bilişsel süreç olan “gözle-konumlan-karar ver-uygula” (OODA) döngüsünden söz ederler. Düşmandan daha hızlı bir biçimde ortamı algılayıp, karar verip, harekete geçmek pilotun düşmanın OODA döngüsünün “içine girmesini sağlıyor. Düşman halen ne olduğunu anlamaya ve harekete geçmeye çalışırken pilot koşulları çoktan değiştirmiş, düşmanı tekrar başa döndürmüş ve onu yeni koşullara alışmaya zorlar halde olur. OODA döngüsünün fikir babası Hava Kuvvetleri stratejisti John Boyd amacı şöyle tanımlıyor:
“Amaç: Düşmanı hem tehlikeli hem de muğlak, karışık ve yanıltıcı bir eyleme sürekli karşılık vermeye zorlayarak düşmanın sisteminde karmaşa ve düzensizlik yaratmak.”
Sayfa 52 - Kronik Yayınları
Uzun Menzilli Gemisavar Füze (LRASM) otonominin sınırlarını zorlayan son teknoloji bir füzedir.
Sayfa 97
Dünyanın dört bir yanındaki mühendisler drone'lar için yazılım programlamaktadır. Otonom silahların geleceği onların elinde yazılıyor.
Sayfa 90 - Kronik KitapKitabı okudu
Askeriyede Otonomi
İnsan askerlerin aksine makineler asla sinirlenmez ya da intikam peşinde koşmaz. Asla tükenip yorulmazlar. Uçak otopilotları sivil uçaklar için güvenliği çarpıcı biçimde artırarak sayısız hayatı kurtardılar. Otonomi aynısını savaş için de yapamaz mı?
Sayfa 29 - KronikKitabı okudu
Kontrolden çıkmış bir otonom silah, devletleri savaşın eşiğine sürükleyebilir.
Sayfa 301 - Kronik KitapKitabı okudu
ROBOKIYAMETE DOĞRU GİDİŞ
Hiçbir devlet otonom silahlar ürettiğini açıkça söylemedi, ancak gizli savunma laboratuvarlarında ve çift kullanımlı ticari uygulamalarda YZ (Yapay Zeka) teknolojisi ileriye doğru bir yarış içerisinde. Uygulamaların birçoğunda hatta silahlı robotlarda bile insanlar ölümcül kararlarda kontroldeler, fakat savaş alanının baskısı askeri yetkilileri insanı sistem dışında bırakacak otonom silahlar kullanmaya itebilir. Askeri yetkililer bilgisayarların üstün hızından faydalanmak ya da robotların insan kontrolörleriyle iletişimi koptuğunda da çalışmaya devam etmeleri için daha fazla otonomi isteyebilirler veya ordular sadece başkalarının yapmasından korktuğu için otonom silahlar üretebilirler. ABD Savunma Bakanı Yardımcısı Bob Work şöyle söylemişti:
“Eğer rakiplerimiz Terminatöre giderse (...) ve Terminatörler kötü olmalarına rağmen daha hızlı karar alabiliyorlarsa bu durumda biz nasıl karşılık verecektik?"
Sayfa 32 - Kronik Yayınları
"Kısmen eminsek" diye bir şey olamaz. Alanda masum insanlarda olabilir.
"Alanda dost hedeflerin olmadığından kısmen eminsek, atış serbest. Bırakalım silah karar versin."
Sayfa 138 - Kronik KitapKitabı okudu
Otonom silahlara giden yol 150 yıl önce 19. yüzyılın ortalarında başladı.
Sayfa 64
Yapay zekâ araştırmacıları daha şeffaf bir yapay zekâ geliştirmeye çalışıyor, ancak Jeff Clune pek umutlu değil. “Derin öğrenme, daha güçlü, daha etkileyici ve daha karmaşık bir hal aldıkça ve ağlar ebat olarak büyüdükçe, anlayamadığımız çok daha fazla şey olacak. Öyle karmaşık bir yapı yarattık ki, kendimiz bile onları anlayamıyoruz.”
Sayfa 245 - Kronik Yayınları
İnsanlar kusursuz değiller, ancak karşındakilerle empati yapabilirler ve büyük resmi görebilirler. İnsanların aksine otonom silahlar ise eylemlerinin sonuçlarını anlama yetisine, savaşın eşiğinden dönme becerisine sahip değiller.
Sayfa 413 - Kronik KitapKitabı okudu
... teknolojinin karanlık tarafı reddedilemez.
Sayfa 324 - Kronik KitapKitabı okudu
Günümüzdün en gelişmiş makine zekâsı bile bilim kurgu filmlerinde betimlenen sezgisel yapay zekâlardan çok uzaktır.
Sayfa 303 - Kronik KitapKitabı okudu