İnsanlar, Yapay Zekaya ve Robotlara Neden Güvenmiyor?

İnsanlar yapay zekaya ve robotlara neden güvenmiyor?

Yazar Jim Everett Çeviren Evrim Ağacı, Editor Çağrı Mert Bakırcı, Seslendiren Emre Akman Yapay zeka üzerine kurulu teknolojiler insan hayatını kökten

değiştirmektedir. Bu makineler günlük hayatımızla gitgide bütünleştikçe onların vereceği kararlar da sadece faydacı olmanın ötesine geçip ahlaki bir hal alacaktır.

Kaçınılmaz bir kazayla karşı karşıya kaldığında sürücüsüz bir araba yolcuları mı korumalıdır yoksa toplamda kaybedilecek canları en aza indirgemenin yollarını mı aramalıdır?

İnsansız bir hava aracı sonucunda sivil kayıplar olsa bile saldırıyı düzenleyen teröristleri vurmalı mıdır?

Yapay zekaya sahip olan makineler bağımsız hale geldikçe bu tür soruları göz ardı etmek imkansızlaşmaktadır.

Bazı ahlaki kararların neden bilgisayarlara bırakılması gerektiğine dair güçlü iddialar bulunmaktadır.

İnsanlardan farklı olarak, makineler bilişsel önyargılar tarafından yanlış yönlendirilmezler, yorgunluk hissetmezler ve bir düşmana karşı nefret beslemezler.

Etik bir yapay zeka, ilke olarak ideal bir ahlak temsilcisinin değerlerini ve kurallarını yansıtacak biçimde programlanabilir.

İnsan kısıtlamalarından arınmış olan bu tür makinelerin biz insanlardan daha iyi ahlaki kararlar verdiği bile söylenebilir.

Ancak bir makinenin ahlaki karar verme sürecinde özgür bir biçimde hüküm süreceği fikri pek çok insanı tedirgin etmektedir.

Öyle ki kimisi için makinelerin kullanımı insan oluruna karşı önemli bir tehdit oluşturmaktadır.

Peki iş ahlaki kararlar vermeye gelince neden makinelere güvenmekten çekiniyoruz?

Bir psikoloji araştırması bize şu ipucunu veriyor.

Bilgisayarlar gibi fayda ve zararları hesaplayarak ahlaki kararlar veren bireylere karşı temel bir güvensizliğimiz var gibi görünüyor.

Bu bulgular felsefede uzun süredir devam eden ve ahlaki kararlar alınırken yapılması gereken asıl şeyin sonuçları hesaplamak olduğunu savunan gelenekli hiç de uyumlu değildir.

Sonuççuluk olarak da adlandırılan bu düşünce ekolü bir kararın ancak ve ancak daha iyi sonuçlara yol açması halinde ahlaki anlamda doğru bir karar olduğunu savunur.

Ancak filozof olmayan pek çok insan ahlaki yargıya böyle bir yaklaşımı yetersiz bulur.

Bunun yerine insanların ahlaki sezgisi iyi sonuçlar doğursa bile belirli eylemlerin kesinlikle yanlış kabul edildiği bir takım ahlaki kurallara uyma eğilimindedir.

Sonuççuluğa karşı hissedilen bu hoşnutsuzluk, katılımcılara sonuççuluk ile daha kurala dayalı ahlakı karşı karşıya getiren, varsayımsal ahlaki ilkelerin verildiği birkaç çalışmada gözlemlenmiştir.

Örneğin tren ikliminde, katılımcılara kontrolden çıkmış bir trenin, tren raylarında mahsur kalan 5 masum insana doğru ve onları kesinlikle öldürecek şekilde hareket ettiği söylenir.

Trenin ilerleyişi küçük bir üst geçitten aşağıdaki raylara bakan iri bir adamın aşağıya diğer 5 kişiyi öldürmeden önce vücudunun trenin durduracağı yere ölümüne itilmesiyle durdurulabilir.

Çoğu insan iyi sonuçlarına rağmen bu durumda üst geçitteki adımı aşağıya itmenin yanlış olduğuna inanır.

Peki o zaman çoğunluğun iyiliği için soğukkanlılıkla bir kişinin canını feda etmeye hazır olan azınlığa ne gözle bakıyoruz?

2016'da Journal of Experimental Psychology dergisine yayınlanan bir makalede toplumsal ilişkiler söz konusu olduğunda sonuçluluğun bir zaaf olabileceğine dair kanıtlar sunduk.

Diğer bir deyişle sonuççu biri olmak insanları diğer insanlar tarafından daha az sevilen bireyler haline getiriyor.

Bazen daha kötü sonuçlar doğurabilecek olmasına rağmen belirli ahlaki kurallara bağlı kalan insanların sosyal partner olarak tercih edildiği sonucuna vardık.

Bu oldukça mantıklıdır çünkü bir arkadaş veya partnerin aldatma, yalan söyleme veya çoğunluğun iyiliği için birini ölüme sürüklemenin fayda ve zararlarını hesaplaması düşüncesi bize ters

düşmektedir. Kurallara dayalı kararlarımız, diğer insanlara karşı davranış şekillerimizle belirli duygusal tepkilerimizin rol aldığını kısmen de olsa gösterdiği için bağlılıklarımıza ilişkin önemli

bir işarettir. 2400'dan fazla katılımcıyla 9 deney sonucunda tam olarak şu sonuçlara ulaştık.

Tren ikilemi de dahil olmak üzere feda etmeye dayalı bir takım ahlaki ikilimlerde, kurallara dayalı yaklaşımı tercih eden insanlar, kararlarını bir eylemin sonuçlarına dayandıran kişilerden daha güvenilir

olarak görülmektedir. Mutlak ahlaki kurallara bağlı kalmak, insanlara maddi bir fayda da sağlamaktadır.

Güveni test etmek için tasarlanmış ekonomiyle ilgili bir oyunda katılımcıların sonuçlara dayalı olarak ahlaki kararlar veren kişilere nazaren çoğunluğun iyiliği için birini feda etmeyi reddeden insanlarla

muhatap oldukları zaman daha fazla para verdikleri ve verdikleri parayı geri alacaklarına daha çok güvendikleri sonucuna vardık.

Ancak sonuççu olan kişilerin hepsi toplumdan eşit oranda dışlanmamışlardır.

Çoğunluğu korumak için bir kişiyi feda etmeyi desteklemenin kendileri için zor olduğunu belirtenlere de böyle yapmanın asla kabul edilebilir olmadığını söyleyen kararlı kişilere güvenildiği kadar güvenilmiştir.

Böyle durumlarda karar çatışmasının varlığı kişi hakkında olumlu bir işaret olarak görülmüş, belki de kişinin kararına rağmen ahlaki kurallara da uygulama zorunluluğunu hissettiğini göstermiştir.

Peki bu bulguların robotlarla ne ilgisi var?

Birincisi bu bulgular ahlak söz konusu olduğunda makinelere olan güvensizliğimizin olası bir nedenine dikkat çekmektedir.

Yapay zeka başkalarının güvenilerek olup olmadığını ayırt etmekte kullandığımız özelliklerden yoksundur.

Sonuçları ne olursa olsun, insanların belirli ahlaki kurallara tartışmaya çık da olsa mantıksız bir şekilde bağlı kalmasını ve ahlaki kararları verirken suçluluk ve empati gibi sosyal

duygularla yönlendirilmesini tercih ederiz.

Kurallara aşırı bağlı olmak, insan psikolojisine dair önemli ipuçları verir.

Makineler insanların ahlaki yargılarını kusursuz bir şekilde taklit edebilse bile onların bu yargılara bizimle aynı sebeplerden ötürü varmadığını biliriz.

Verecekleri karar ne olursa olsun robotların hesaplama yaparak karar verme yöntemi insanların ahlak bağlamında güvenilmez buldukları bir şeydir.

İnsan hakları izleme örgütünün en son raporu da katil robot yaratmayı amaçlayan araştırmanın ertelenmesi gerektiğini savunmuştur.

Çünkü bu tarz robotlar insanların bir başka insanı öldürmelerini veya incitmelerini engelleyen içgüdüye sahip değillerdir.

Başka bir deyişle makinelerin doğru ve hatta ideal kararlar vermesi bizim için yeterli olmayabilir.

Bu kararların onları vermemizi sağlayan psikolojik süreçlerle aynısının bir sonucu olarak yani bizi ayırt edilebilir şekilde ahlaki varlıklar haline getiren duygusal tepkiler ve sezgisel

yanıtların sonucunda verilmesini istiyoruz.

Teknoloji bu başarıyı elde edene kadar ahlaki anlamda bağımsız makine yapmaya yönelik herhangi bir girişim kuşkuyla karşılanacaktır.

Belki de sorunun aslında robotlarda değil de kendi psikolojimizde yattığının farkına varırız.

Teşekkür. Bu yazıyı çeviren Melike Sultan İşcan ve Büşra Nur Güner'e teşekkür ederiz.