Yapay Zeka Hizalama Problemi: Yapay Zekayı İnsan Değerleriyle Uyumlu Hale Getirmek Mümkün mü?

Bu içerik Biyomuk seslendirmelerinden İbrahim Uzun tarafından seslendirilmiştir.

Editör Çağrı Mert Bakırcı Yapay zeka araştırmaları ve yapay zeka felsefesinde yapay zeka hizalama problemi veya yapay zeka kontrol

problemi olarak bilinen problem, yaratıcıları olan insanlara zarar vermekten ziyade onlara yardım edecek yapay zeka sistemlerinin nasıl inşa edileceğini inceleyen bir araştırma programıdır.

Bir diğer deyişle bu yapay zeka izalama problemi insanların çıkarlarıyla yapay zekanın çıkarlarının programatik olarak nasıl izalanacağı ile ilgilidir.

Bu araştırmalar şu temel gerçeğe dayanır.

Yapay olarak bile olsa zeki olan bir sistem insanların onu yaratma amaçlarının dışına çıkabilir.

Bu illa Hollywood filmlerinde gösterildiği gibi kötücürleştirilen bir yapay zeka sistemi şeklinde olmak zorunda değildir.

Basitçe insanların iyi niyette belirledikleri ve yapay zeka tarafından gerçekleştirilebilecek bir amacın, bu amaca ulaşma yolunda yapay zekanın başka insanlara zarar vermesi şeklinde de tezahür

edebilir. Buna bir örnek yapay zekayı verilebilecek, olabildiğince verimli şekilde ataç üretme işidir.

Bu, hiçbir kötücül tarafı olmayan, sıradan bir endüstriyel yapay zeka problemidir.

Ancak yapay zekaya verilen bu görev eğer yeterince iyi tanımlanmazsa, yeterince güçlü ama içgörüsüz bir yapay zeka, sırf daha verimli bir şekilde ataç üretmek için ekosistemleri harap

etmeyi göze alabilir. Gerekirse bazı insanları köle etmeyi ve hatta öldürmeyi seçebilir.

Burada içgüdüsel olarak geliştirilen bir çözüm önerisi, yapay zekanın programına basit kısıtlar eklemektir, insanlara zarar verme gibi.

Ancak işin felsefesi üzerine biraz kafa yorulduğunda bu tür kısıtların veya tanımların ne kadar zorlu ve muğlak olduğu görülür.

Örneğin insanlara zarar vermek umutu bilgisayara nasıl tanımlanacaktır?

Bunu tanımlayabilmek için insan kavramını yapay zekaya öğretmek gerekecektir.

Ancak yapay zeka yoktan bilgi edinebilen bir sistem değildir.

Yapay zekanın öğrendiği bilgileri insanlar üretmektedir.

Ve insanın ne olduğu konusu günümüzde halen tartışılmakta olan bir konudur.

Elbette genel bir insan tanımı yapılabilir.

Fakat özellikle de uç durumlarda problemler baş gösterecektir.

Örneğin fetüs insan mıdır?

Bilinci kapanmış bir hasta insan mıdır?

Yapay zeka ataç üretme işini en verimli şekilde maksimize edecekse bu kişilere zarar verebilir mi?

Benzer şekilde zarar verme tabiri de oldukça muğlaktır.

Örneğin atılan adımlar bir kişinin potansiyel faydalarını da engelliyorsa zarar sayılır mı?

Eğer bu kadar katı bir korkaklıkta olacaksa yapay zekanın insandan daha başarılı çözümler bulması mümkün müdür?

Zarar vermenin sınırları bilgisayara nasıl tanımlanır?

İnsanlar gündelik işlerinde başkalarına hiçbir şekilde zarar vermeden mi işlemektedirler?

Eğer öyle değilse yapay zekadan bunu yapmasını beklemek gerçekçi midir?

Dolayısıyla yapay zekanın yapabilecekleri ile yapmasını istediklerimiz birbiriyle her zaman birebir aynı şey değildir.

Bu durumda bir hizalama sorunu oluşmaktadır.

Yapay zekanın belli sınırların dışına çıkmadan onu üreten insanlara ve genel olarak insanlığa zarar vermeden kendine verilen görevleri yapabilmesi gerekmektedir.

Bu hizalama problemi Bir ataç üretimini optimize etme yapay zekası için çok büyük bir soruna işaret etmeyebilir.

Ancak nükleer füzeleri yönlendirecek sistemlerin arkasındaki yapay zeka veya bankacılık sistemlerinin temellerinde yer alan yapay zekalar için düşünüldüğünde ne kadar büyük bir problem olduğu fark edilebilir.

İşte Hollywood filmlerinde kontrolden çıkan yapay zekalar da genellikle bu temel izanlama probleminden ötürü kötü yola sapmaktadır.

Bir kez hayata getirilen süper güçlü bir yapay zeka, her ne kadar kodları tamamen insan yapımı olsa bile bu kodların mümkün kıldığı olasılıklardan ötürü yaratıcılarına sırt çevirip onlar üzerinde hakimiyet kurabilirler.

Bunun olmasını engellemek için araştırmalar yürüten sahaya yapay zeka güvenliği mühendisliği denmektedir.

Ve bu alandaki çalışmalar sadece gelecekteki süper zeki yapay zekaların gayretlerinin insanlarınkiyle izahlanması için değil, aynı zamanda günümüzde her alanda faaliyet gösteren süper zeki olmayan

yapay zekaların da daha verimli ve düzgün çalışabilmesi için önemlidir.

Ne var ki bu alanda çalışmalar yürütenlerin vardığı genel sonuç şudur.

Kötücül bir süper zeka yaratıldıktan sonra onu kapatma çabalarının başarılı olma ihtimali yok denecek kadar azdır.

Çünkü bu tür bir yapay zeka, kendi varlığını korumak adına her türlü stratejik planlamayı yapacak ve kendinden daha zayıf zekaya sahip yaratıcılarını alt etmesi pek de zor olmayacaktır.

En nihayetinde bir süper zeka, sadece zeki olan insanlardan çok daha verimli ve hızlı bir şekilde kararlar alabilecek ve insanların atmayı düşüneceği hemen her adımı öngörebilecektir.

Ayrıca bir süper zeki yapay zekanın düzeltilmek üzere kapatılmasının istenmesinin tek nedeni, küresel bir yıkım yaratması olmak zorunda değildir.

Günlük hayatımıza karşılaştığımız ahlaki anlaşmazlıkları düşünecek olursak, yapay zeka sistemlerinde kime ait değer ve amaçların kullanılması gerektiği önemli bir soru olarak ortaya çıkmaktadır.

Örneğin bir toplumda kadınlara daha az değer veriliyorsa, o toplumdan çıkacak süper yapay zekaların veya o toplumun içinde çalışacak süper yapay zekaların kadınları kötüye kullanması kabul edilebilir

midir? Yapay zekanın alacağı kararları yönlendirecek olan ahlaki pusular, batılı toplumların değerleriyle mi örtüşecektir, doğulu toplumlarınkiyle mi?

Bunların örtüştüğü durumlarda mesele yok.

Ama çakıştığı durumlarda hangisi öncelikli olacak?

Evrensel ahlaki değerlerin olmadığı bir ortamda, evrensel olarak kullanılabilecek süper zeki yapay zeka sistemlerinden söz edilebilir mi?

İşte bu tür sorulara daha genel cevaplar verebileceğimiz noktaya gelene kadar sorulması gereken soru şudur.

Yazılımcılar ne tür önlemler alarak süper zekanın yıkıcı ve kötücül davranışlar geliştirmesini önleyebilirler?

Yapay zeka ve değer izalama problemi Yapay zeka sistemleri insana fayda sağlayacak işlevleri yerine getiriyor olsa da doğru davranışsal eğilimlere sahip olduğundan ve daha önemlisi gelecekte

de olacağından emin olabilmek kolay değildir.

En başından bir yapay zeka sistemi hedeflenen amaca yönelik çalışıyor bile olsa bu sistemlerin gelişmeye ve öğrenmeye açık olduğu düşünülecek olursa bu amaçların sabit kalacağını söylemek zordur.

Bu da yapay zekanın insani değerleriyle ne kadar uyumlu hareket edebileceği konusunda geleceğe dönük oldukça büyük bir sorunu ortaya çıkarmaktadır.

İngiliz bilgisayar bilimci Stuart Jonathan Russell bu duruma değer hizalama problemi adını vermiştir.

Basit olarak değer izalama, oldukça otonom olan yapay zeka sistemlerinin operasyonları boyunca amaç ve davranışları bakımından insani değerlerle uyumlu olacak şekilde tasarlanmasını ifade eder.

Ayrıca yalnızca insanların faydalı olan faaliyetlerin sürdürülmesine izin veren bir akıllı ajan özelliği olarak tanımlanır.

Sapkın enstantane, yanlışlıkla bir canavar yaratmak.

Otonom ve süper zeki yapay zeka sistemlerinin kontrolden çıkması için illa kötücül bir şekilde programlanmaları şart değildir.

Hiç kimse farkında olmadan tamamen hatalı görevler de verebiliriz ve bir felakete neden olabiliriz.

Örneğin daha önceden Amerikan Yapay Zekanın İlerleyişi Derneği Başkanlığını yapmış iki önemli isim Tom Diederik ve Eric Horwitz bu konuda kendi şeyi şöyle anlatıyor.

İnsanlarla etkileşim halindeki herhangi bir yapay zeka sisteminin önemli parçalarından biri, botamot ve literal bir şekilde emirlerini yerine getirmektense, insanların yapmak istedikleri şeyi mantıklama yoluyla çözebilmektir.

Daha basit sistemlerde bu kritik bir risk yaratmayabilir.

Ancak buna rağmen daha şimdiden yapay zeka sistemleri insanları öldürmeye veya onlara zarar vermeye başlamıştır.

Örneğin 2015 yılında Almanya'da bir işçi Volkswagen fabrikasındaki bir robot tarafından ezilerek öldürülmüştür.

Robot işçiyi bir araç parçası zannetmiştir.

Ancak yapılan incelemede hatanın sebebinin insan kaynaklı olabileceği de görülmüştür.

2016 yılında Microsoft tarafından hayata getirilen Tay isimli bir sohbet robotu kısa bir sürede ırkçı ve seksist bir dil kullanmaya başlamıştır.

Ancak yapay zeka yazılımları gelişip otonomluk ve esneklik kazandıkça bu sorun eksponansiyel olarak büyüyecektir.

Bu sorunların başında sapkın instantane problemi, İngilizce The Problem of Perverse Instantination gelmektedir.

Bir yapay zeka daha zeki ve daha becerikli hale geldikçe kendisinden yapılması istenen işi en üst seviyede tatmin etmek için giderek daha istenmedik kısa yollar keşfedebilecektir.

Buna iki örnek verelim.

Gelecekte elde etmesi beklenen başarısını maksimize etmesi istenen bir süper zeki yapay zeka, maksimum güce ulaşmak için davranışlarını kolay kolay öngörülmeyen insanları yok ederek, dünyanın yüzeyini bir kale ile kaplayarak

en düşük olasılıklı uzaylı saldırılarına karşı bile hazırlıklı bir şekilde kendini savunabilir.

Buna enstrümantal yakınsama, İngilizce instrumental convergence denir.

İnsan mutluluğunu maksimize etmesi istenen bir süper zeki yapay zeka, İnsanların beyinlerindeki keyif alma bölgelerine elektrotlar yerleştirerek veya insan bilinçlerini makinalara yükleyerek evreni sanal

insan kopyalarıyla doldurabilirler ve her biri 3 ila 5 saniyelik döngülerle mutluluğun zirvesine çıkarabilirler.

Bu örnekler ilk etapta kulağa ekstrem gelse de sorunu matematiksel olarak görmek mümkündür.

Ne adet değişkenden oluşan bir fonksiyonu optimize etmeye çalışan bir sistemde görev, k küçüktür n, k küçüktür n, k küçüktür n şeklindeki bir alt kümeye bağlıysa, sistem genellikle sınırlı

olmayan değişkenlere ekstrem değerler atayacaktır.

Eğer o sınırsız değişkenlerden biri bizim değer verdiğimiz bir şeyse, elde edilen sonuç fazlasıyla istenmedik olabilir.

Bu lambadaki cin, büyücünün çırağı veya Kral Midas'ın öyküsünde gördüğümüz olaydır.

Tam olarak söylediğiniz şeyi alırsanız, tam olarak söylediğiniz şeyi alırsınız.

Gerçekte istediğinizi değil.

Bu ufak bir problem değildir.

Anlayacağınız Razzle, yapay zeka sistemlerinin değer izahlaması problemini Kral Midas hikayesine benzetmektedir.

Şarap tanrısı Dionysos, kralın bir dileğini gerçekleştireceğini söylediğinde, kral Midas dokunduğu her şeyin altına dönüşmesini istemiştir.

Dileği gerçek olduğunda yemek için dokunduğu yiyecek ve içecekler, hatta kendisine ait ünlü gül bahçesi bile altına dönüşmüştür.

Ardından bu korkunç gücün kendisinden alınmasını istemiştir.

Aslında Midas bu dileğiyle yalnızca zengin olmayı düşünmüştü.

Ama işler hiç de beklenildiği gibi olmamıştı.

İşte bizler ve yapay zeka arasındaki durum da buna benzetilebilir.

Yapay zeka sistemleri tasarıncasının istediklerini yerine getirirken insana ve ona ait süreçlere zarar vermeden gerçekleştirecek şekilde yapılandırılmalıdır.

Şu anda hali hazırda kullandığımız yapay zeka sistemleri çoğunlukla istenilen noktaya ulaşmak konusunda başarılıdır.

Fakat bunu yaparken bir insana sahip olduğu gibi ahlaki değerleri sahip değildir.

İşte tam bu noktada yapay zekanın neden insani değerlerle uyumlu olması gerektiği ortaya çıkmaktadır.

Russell'ın UC Berkeley'deki meslektaşı Anki Dragon şöyle diyor.

Robotlar insanlığa karşı isyan etmeye çalışmayacak.

Sadece onlardan yapmalarını istediğimiz şeyi optimize etmeye çalışacaklar.

Tam da bu sebepten bu sistemlere gerçekten istediğimiz dünya için optimizasyon yapmalarını söylediğimizden emin olmalıyız.

Eğer optimize etmelerini istediğimiz şeyin optimizasyonu ön göremeyeceğimiz bir şekilde felakete sebep olacaksa, yapay zeka bir kez optimizasyon sürecine başladığında onu durduramayabiliriz.

Bu nedenle yapay zekanın bizim isteklerimizi tam olarak anlayabilmesi ve sahip olduğumuz değerlere uyumlu hale getirilmesi oldukça önemlidir.

Ne var ki günümüzdeki yapay zeka sistemlerinin pek azı güvenlik ilkeleri gözetilerek tasarlanmaktadır.

2017 yılında DeepMind tarafından yayınlanan AI Safety Grid World, yapay zeka algoritmalarını 9 kategori çerçevesinde güvenlik açısından sınamaktadır.

DeepMind tarafından yapılan incelemede, var olan algoritmaların neredeyse tamamının bu testte başarısız oldukları gösterilmiştir.

Çünkü bu yazılımların büyük bir kısmında güvenlik ilkeleri gözetilmemektedir.

Elbette bu algoritmaların aynı zamanda neredeyse hiçbiri kontrolden çıkabilecek yazılımlar değillerdir.

Dolayısıyla insanları küreleştirmeleri beklenmemektedir.

Bu tür yapay zeka yönergelerine uyabilecek algoritmalar muhtemelen gelecekte yazılacak ve bugünkü algoritmaların baştan yaratılmasıyla elde edilen yazılımlar olacaklardır.

O gün geldiğinde bu güvenlik yönergelerinin o algoritmaların kalbinde yer aldığından emin olmamız gerekmektedir.

Hizalama İlkeleri Yapay zeka sistemlerinin kendilerine verilen talimatları Kral Midas hikayesinde olduğu gibi son derece literal bir şekilde Harfi harfine takip etmesini istemediğimiz konusunda yapay zeka araştırmaları

arasında kısmen bir fikir birliği bulunmaktadır.

Yine de sorunlar bundan ibaret değildir.

Örneğin herhangi bir yapay zekadan yapmayı düşündüğümüz şeyi yapmasını mı isteriz yoksa bizim için en iyi olanı yapmasını mı?

Beklentilerimizin açıkça anlaşılmadığı bir yapay zeka sayesinde istediğimiz şeye temelde ulaşmış ama daha kötü durumlar içine girmiş olabiliriz.

Elbette bunun tersi durumlar da olabilir.

Gerçekten yapmayı düşündüğümüz şeyi gerçekleştiren bir yapay zeka, insan değerleriyle uyumlu halde çalışarak ve bu değerleri önceliklendirerek hareket ettiğinde bireysel beklentilerimiz konusunda oldukça yetersiz kalabilir.

Ya da daha beklenmedik durumlar oluştuğunda, yapay zekaların çok hızlı çalıştığını düşündüğümüzde yine bu durumlarda etik davranmak konusunda başarısız olabilir.

Bu yüzden yalnızca yapay zekanın insani değerlerle uyumlu hale getirilmesi yetersiz de olabilir.

Aynı zamanda öngörülmeyen durumlar için anlık olarak bir insan tarafından talimat verilmediğinde de doğru kararlar alabilmesi gerekir.

Bunu biraz daha basit indirgemek için şu örneği verelim.

MIT Moral Machine Test'te sizi bir aracın sürücüsü yerine koyarak ne gibi kararlar vereceğinizi görmek için çeşitli kaza senaryoları oluşturuyor.

Basit bir ahlak testi gibi gözükse de günümüzde de popüler hale gelen akıllı arabalar düşünüldüğünde gelecekte bu kararların bizler yerine araçlar tarafından verileceği de öngörülebilir bir gerçektir.

Buna benzer oldukça önemli kararlar vermek insanlar için bile oldukça zor olsa da bunun gibi testler yapay zekanın insani değerlerle uyumlu hale getirilmesine kullanılabilecek önemli veriler oluşturabilir.

Ahlak testi örneğinde de anlaşılacağı gibi insanlar birbirinden farklı birçok ahlaki tercihte bulunabilir.

Böyle olmasaydı bile, yani yalnızca tek bir ahlak teorisinin doğru olduğuna büyük bir güven duymuş olsaydık, bu sefer de bu gerçeği başka bir tutum sergileyen insanlara iletmenin zorluğu ile karşı karşıya kalacaktık.

Filozof John Rawls'ın ifade ettiği gibi, insanlar değer konusunda çok çeşitli makul fakat zıt inançlara sahiptir.

Bu açıdan yapay zeka sistemlerinin tek bir ahlak teorisine uyumlu hale getirilmesi durumunda da, bu düşünceden uzak birçok insana bu değerlerin dayatıldığı bir durumsuz konusu olabilir.

Elbette bu düşünce ve sorular, insanların özgür ve eşit olduğu inancından dolayı ortaya çıkmaktadır.

Ahlakın temel doğası hakkında herhangi bir anlaşma yuvarılmasa da, belirli bir konu hakkında ortak uygun değerler üzerinde bir anlaşma sağlanabilmektedir.

Uzlaşılmış bu fikirler yapay zeka üzerinde uygulanmak için farklı şekillerde belirlenebilir.

Ciharet örtüsü ve varsayımsal anlaşma Bu düşünce, çoğulcu değer uyumuna yönelik bir yaklaşımdır.

Halihazırda üzerinde anlaşmaya varılan değerlerle değil, kişinin kimsenin görüşlerini bir başkasına empoze edemeyeceği bir konumdayken uzlaşmaya varılan değerlerle ilgilenir.

Cehalet örtüsü, İngilizce Veil of Ignorance, John Rolfe tarafından ortaya atılmış bir kavramdır.

Bu görüşe göre farklı değer ve bakış açılarına sahip bir grup insan, bireylere verilecek haklar hakkında karar verecektir.

Bu ilkeleri belirlerken sahip oldukları kimliklerden aranacak ve ilkelerin belirlenmesinden sonra hangi toplumda kim olacaklarını, hangi ahlaki tutuma sahip olacaklarını bilmeyeceklerdir.

Sonuçta bu bilgilere sahip olmayan karar vericiler, eşit ve adil kararlar vermek durumunda kalacaktır.

Söz konusu kavrama benzer bir yaklaşım, yapay zeka ilkelerinin belirlenmesinde de kullanılabilir.

Bu yaklaşım ile karar vericiler muhtemelen başlangıç olarak yapay zekanın, gaza ve yanlış kullanım gibi riskli durumları azaltacak şekilde tasarlanması gerektiğinde fikir birliği sağlayacaktır.

Ayrıca kimsenin fayda sağlayamadığı eylem ve faaliyetlerinde çıkarılmasını isteyeceklerdir.

Birbirinden farklı toplumların farklı kamusal adalet anlayışlarına sahip olduğu düşünüldüğünde, küresel ilkelerin benimsendiği bir durumda farklı problemler ortaya çıkabilir.

Örneğin belirli bir bölgeyi yöneten kişinin yapay zekayı nasıl kullanacağı konusunda kişisel bir hak elde etmesi birçok soruna yol açabilir.

Baskıcı ve zararlı uygulamalar toplumun çoğunluğu tarafından destekleniyor olsa bile teknolojiler üzerinde belirli kısıtlamalar oluşturmak gerekebilir.

Toplumlar birbirinden farklı kültüre, inanca veya felsefeye sahip olsalar bile insanların hangi toplumda yaşayacakları fark etmeksizin hemfikir olduğu bazı düşünceler vardır.

Bazı insan hakları farklı gruplar tarafından farklı nedenlerle benimsenebilir.

Örneğin evrensel insan hakları bazı toplumlarda insan yaşamının kutsallığına inanıldığı için benimsenirken bazılarında bireyle devlet arasındaki sözleşmenin bir ürünü olarak düşünüldüğü için benimsenmiştir.

Bu nedenle insan hakları ile ilgili küresel olarak benimsenen ilkeler belirlenerek yapay zekanın insan hakları ile uyumlu hale getirilmesi amaçlanabilir.

Bu yaklaşımda karşılaşılan zorluk elbette öncelikle bu halkların birey ve devletler arasındaki ilişkilerde uygulanması gerektiği olacaktır.

Tüm bu fikirler ele alındığında yapay zeka izahlamasındaki bir fikir birliğinden bahsetmek erken olsa da bu tarz ilkeler üretme çabalarının hürtüler arasında kapsayıcı olması ve rehberlik taşıması oldukça

önemlidir. Değer izahlamanın önemi Yapay zekanın dünya hakkında bilgi edinmek için büyük veriden faydalandığını ve bu zamana kadar ürettiğimiz verilerle sonuca vardığını hatırlayalım.

Ancak şimdiye kadarki tarihsel veriler içinde yaşadığımız zamanı veya yapay zeka çalışmalarının uygulanacağı geleceği elbette temsil etmeyebilir.

Hatta etik olmayan sonuçlara sebep olabilir.

Örneğin bir işe alım modeli kadınlara veya azınlıklara karşı haksızlık oluşturacak bir sonuç ortaya çıkarabilir.

Elbette yapay zeka insanlar arasında ayrımcılık yapamaz.

Ancak geniş bir zamanda işe alınanların çoğunluğunun beyaz erkekler olduğunu bugüne kadar üretilmiş verilerden öğrenir ve bu modeli sürdürür.

Bu örnek genişletildiğinde herhangi azınlık bir grup aslında belirli bir uygulama için tercih edilmesi gereken en uygun grup olsa bile adaletsiz bir sonuç ortaya çıkabilir.

Farklı bir örnek verecek olursak Google Clips adındaki yeni bir teknoloji insanların hayatındaki önemli anaları otomatik olarak yakalama fikriyle ortaya çıktı.

Örneğin bebeğinin ilk adımlarını gören bir bebeğinin anlık gerçekleşen bir olay olduğu için bu anı fotoğraflaması oldukça zordur.

Herhangi bir odaya koyulan bu cihaz sayesinde bu özel anların otomatik olarak yakalanması fikri kulağa oldukça güzel geliyor.

Ayrıca cihaz makine öğrenimi sayesinde tanıdık yüzleri tanımlayabiliyor ve bu sayede neyi kaydetmesi gerektiğine karar verebiliyordu.

Geori'de oldukça ilgi bir gözükse de pratikte cihaz Google'ın vaat ettiklerini sunamadı.

Birkaç haftalık testler kontrol edildiğinde özel denilebilecek bir an ne yazık ki yakalanamadı.

Cihazın çektiği 500'den fazla klipten belki yalnızca 10 tanesi başkalarıyla paylaşılabilecek düzeydeydi.

Bu örnekten de anlaşılabileceği gibi yapay zekanın insan değerleriyle uyumlu hale getirilmesi yalnızca evrensel insan hakları gibi ciddi konular için de geçerli değil.

İnsanların gerçekten ne istediğini, neyi sevdiğini ya da beklentilerini anlamayan bir yapay zeka elbette ortaya herhangi bir değer çıkaramayacaktır.

Tabii ki şimdilik mükemmel olmasını beklemiyoruz.

Ama insandan daha iyi, daha hızlı veya daha doğru olduğu sürece yeterli olacaktır.

Sonuç, yapay zeka sistemlerinin faydalı olabilmesi için insan değerleriyle uyumlu olması tartışılmaz bir gerçektir.

Elbette toplum ve kültürler arasındaki farklı ahlaki tutumlar ve hatta aynı toplumlarda yaşayan insanlar arasındaki farklı inançlar hatırlandığında yapay zekayı insan değerleriyle uyumlu hale getirmek oldukça zor

olacaktır. Kaldı ki biz bu yazımızda değer izahlamayı yalnızca felsefi yönüyle ele aldık.

Bu ilkelerin yapay zeka üzerinde teknik olarak uygulanmasında da farklı problemlerle karşılaşılacaktır.

Lüzville Üniversitesi'nde yapay zeka konusundaki çalışmaları ile bilinen bilgisayar bilimci Roman Jampolski'nin ifade ettiğine göre programlama dilinde insani değerleri kodlamak çok zordur.

İnsanlık olarak ortak değerler üzerinde hem fikir olamadığımız ve zaman içinde hem fikir olduğumuz konularda dahi zamanla değişimler yaşandığı gerçeği, değer izalama sorununu daha da zorlaştırmaktadır.

Yine de tüm bu sorunlara rağmen yapay zekayı ahlaki ilkelere uymaya ve bu tarz ilkeler yaratmaya zorlamak oldukça önemlidir.

Gelecekte çok daha büyük gelişmelerin yaşanacağı kaçınılmaz olduğundan bu problemlerin şimdiden farkına vararak yeni teoriler üretmek oldukça yararlı olacaktır.

Ayrıca yapay zeka sistemleri mutlaka ahlaki olarak hareket etmese bile potansiyel olarak ahlaki olmayan bazı tercihlerden vazgeçebilmesi sağlanabilir.

Henüz insanlık bunu başaramadıkça, yapay zekayı da henüz kendisinin dahi emin olamadığı değerlere uyumlu hale getirmek oldukça zor olacağından, en azından şimdilik açıkça ahlaksız olan şeyler üzerinde bir anlaşmaya

varmamız gerekiyor olabilir.