ChatGPT’ye sordum ayrıl dedi: İlişki danışmanı olarak sohbet botları |31|

Çok değil daha birkaç ay önce bir arkadaşım sevgilisiyle ilgili konuşurken abi chat GPT'ye de sordum ayrıl dedi demişti.

Ben de hem şaşırmış hem de gülmüştüm.

Sonra bunu başka insanlarla da konuşunca aslında ilişkilerle ilgili chat GPT'ye danışmanın çok sık yapılan bir şey olduğunu öğrendim.

Peki bu ne kadar mantıklı bir şey?

İşin gizlilik ve kişisel verilerin güvenliği konusunu bir kenara bırakıyorum.

Çünkü benim çok anladığım bir konu değil.

Ben daha çok bir psikiyatrist gözüyle bakacağım.

Acaba geniş dil modelleriyle çalışan bu sohbet botları duygularından arınmış, mantıklı, tarafsız birer ilişki danışmanı olabilir mi?

Çift terapisi yapabilirler mi?

Avantajları ne? Riskleri var mı?

Ne biliyorsa hoş geldiniz.

Ben Cenan, psikiyatri uzmanıyım.

Bu bölümde önce chat GPT gibi yapay zeka sohbet botlarının nasıl çalıştıklarından biraz bahsedeceğiz.

Konuyu daha iyi anlamak için.

Sonra da ilişki danışmanı ya da terapist olarak nasıl bir iş çıkardıklarına bakacağız.

Sohbet botları içinde herhalde en çok kullanılanlar OpenAI'ın GPT modelleri fakat genel olarak tüm geniş dil modellerinin çalışma mantığı aynı.

Ben hem kolay olsun diye hem de söylediklerimiz sadece chat GPT ile sınırlıymış gibi anlaşılmasın diye bu bölüm boyunca yazılarda ve yayınlarda en çok kullanılan kısaltmayı LLM terimini

kullanacağım. Peki bu modeller nasıl çalışıyor?

Bir LLM bize bir şeyler anlatırken aslında yaptığı şey En son söylediği kelimeden sonra hangi kelimenin gelmesi gerektiğini tahmin etmeye çalışmak.

Bu tahmini neye göre yapıyor?

Daha önceden gerçek insanlar tarafından üretilmiş cümlelere bakarak yapıyor.

Yani internetten, kitaplardan ya da milyonlarca metinden öğrendiği dil kalıplarına göre.

Daha önce benzer cümleler kuran kişiler hangi kelimeleri seçmiş tamamen buna göre bir yanıt üretiyor.

Yani aslında hemen her dahiyane fikirde olduğu gibi çok basit bir mantığı var.

Yalnız burada çok tatlı bir ayrıntı var.

Ben ilk duyduğumda vay be muhteşem demiştim.

Her seferinde sadece en olası kelimeyi değil bazen de biraz daha az olası kelimeleri seçiyor.

Böylece aynı sorulara hep aynı yanıtı vermediği için doğal bir konuşma hissi yaratıyor.

Bu konuyla ilgili en güzel ve en bilinen benzetmelerden birini 1980 yılında filozof John Searle yapmış.

Ve bilgisayarların bizi anlayıp anlamadığını sorgulamak için Çin Odası deneyini kullanmış.

Deney derken bu bir düşünce deneyi aslında.

Diyelim ki siz küçük bir odadasınız ve Çince hakkında hiçbir fikri olmayan birisiniz.

Kapının altından da biri size sürekli Çince bir yazı parçası gönderiyor.

Odanın içinde de koca bir kitap var.

Burada biri size şu şekli gönderirse siz de ona bu yanıtı verin diye talimatlar yazıyor.

Siz de aslında hiçbir şey anlamadan sadece oradaki kuralları takip ederek dışarıdaki de anlamlı bir Çince konuşma yapıyorsunuz.

Sonuçta dışarıdan bakan kişi sizde Çince sohbet ettiğini sanabilir ama aslında siz hiçbir şey anlamıyorsunuz ve sadece talimatları uyguluyorsunuz.

İşte standart el elemler de aslında buna benzer çalışıyor.

Yani anlamıyor, hissetmiyor hatta tam olarak ne yaptığını da bilmiyor.

Ama dil kurallarını o kadar iyi öğrenmiş ki neredeyse gerçek bir insanla konuşuyormuş gibi hissettirebiliyor.

Özellikle de siz onun konuşma tarzına önceden çok aşina değilseniz.

Şimdi bölümün ana konusuna doğru yumuşak bir geçiş yapalım.

Diyelim ki biz sevgilimizle, eşimizle ya da ailemizden, iş yerinden biriyle yaşadığımız bir problemi gittik eleleme danıştık.

Buradaki problemi bir yapboza benzetelim.

Gerçek insan zihni bir yapbozu çözmeye çalışırken önce kutudaki resme bakar, ondan sonra o resmi oluşturmaya çalışır.

Fakat elelemler gerçekten kelimenin tam anlamıyla büyük resmi görmeden eline önce bir parça alıyor, sonra bunun yanına en çok hangisi yakışır diye ek diye ek diye gidiyor.

Ve bunu da çok başarılı yaptığı için sonuçta ufak tefek hatalarla da olsa gerçekten çok benzer bir resim ortaya çıkıyor.

Ama aslında elelemin ortaya ne çıktığıyla ilgili hiçbir fikri yok.

Şimdi karşılaştırma için biraz insan zihninin nasıl karar verdiğinden bahsetmek istiyorum.

Karar verme psikolojisiyle ilgili bir şeyler okuduysanız mutlaka görmüşsünüzdür.

Benim önceki bölümlerde daha çok alt beyin, üst beyin diye anlattığım şeye benzer çok yaygın kabul gören sistem 1, sistem 2 modeli var.

Sistem 1 daha çok otomatik, hızlı, sezgisel kararlar veriyor.

Yani daha çok benim alt beyin terimime benziyor.

Mesela iki kere iki kaç eder gibi bir soruyu direkt hiçbir işlem yapmadan sistem 1 yanıtlıyor.

Daha başarılı karar verebilmek için de bedensel ipuçlarını, yüz ifadelerini anında yakalıyor.

Bunlar sayesinde tüm hızına rağmen çoğu zaman doğru yanıt vermeyi başarıyor.

Ama bazen de acelecilik tabii ki bizi yanıltıyor.

Daha çok üst beyne benzeyen sistem 2, yavaş, bilinçli ve mantıksal çalışan taraf.

Kanıtlar arıyor, plan yapıyor ve hataları bulup düzeltiyor.

Mesela biri bize 17 kere 24 kaç eder çabuk söyle dese bile biz onu sistem 1 ile yanıtlayamayız.

Mecburen duraksayacağız ve sistem 2'yi devreye sokacağız.

Her iki sisteminde güçlü ve zayıf yanları var.

Diyelim ki bir işvereniz ve iş görüşmeleri yapıyoruz.

Eğer gelen adaylardan biri çok güzel, çok yakışıklı, işte düzgün giyimli, kendine güvenen, düzgün Türkçe konuşan biri ise bu kişinin işe de uygun olduğu konusunda sistem 1 bizi ikna etmeye çalışacaktır.

Tabi bu doğru da olabilir.

Her zaman yanlış olacak diye bir şey yok ama eksik bir değerlendirme.

Çünkü birini işe alacakken bu adayın deneyimi, eğitimi, becerileri yani CV'si de çok önemli.

Bu da aslında sistem 2'nin işi.

Böyle bir kararda daha yavaş, analitik ve dikkatli düşünmeye ihtiyaç var.

Ama başka bir senaryo düşünelim.

Diyelim ki bir gece ıssız bir yerde tek başımıza yürüyoruz karanlıkta.

Karşıda da 3 tane atırsızı tipli adam beliriyor.

Burada bu herifler tehlikeli diye hemen yolumuzu değiştirten sistem tabii ki sistem 1.

Burada gidip analiz yapacak, CV inceleyecek vaktimiz yok.

Peki elelemler daha çok hangi sisteme benziyor?

Maalesef sistem 1'e.

Nasıl sistem 1 deneyimlerimiz sayesinde oluşan sezgilerle bilinç dışı ve çok hızlı karar veriyorsa standart elelemler de sonraki kelimeyi hızlı hızlı seçerek bize yanıt veriyor.

Arka planda aslında korkunç bir istatistiksel örüntü var ama.

Sonuçta ortaya çıkan ürün çoğu zaman tutarlı olsa da bazen aynı sistem 1 gibi hatalı.

Peki el elemleri sistem 2'ye yaklaştırmanın bir yolu yok mu?

Gelişmiş akıl yürütme modelleri de denen, mesela OpenAI'daki O3 gibi daha sonradan çıkan modeller aslında bunu yapmaya çalışıyor.

Bunlar da aslında sorunu parçalara ve adımlara ayırarak sistem 2'yi taklit etmeye çalışıyorlar.

Yine yapboz üzerinden söyleyeyim, bunlar da büyük resmi kavramasalar da Aynı insanın yaptığı gibi önce kenarları köşeleri çıkarayım, işte benzer renkte olanları gruplayayım, daha sonra ortaya

doğru ilerlerim diye bir rota belirliyorlar ve hangi yolu izlediklerini de zaten sizle paylaşıyorlar.

Böylece sonuçta gerçeğe daha benzer bir resim ortaya çıkıyor.

Ayrıca siz izlenen yolun mantıklı olup olmadığını da görebiliyorsunuz.

Peki bunun tam teşekküllü bir sistem 2'den farkı ne?

Birkaç önemli farkı var.

Mesela dikkatini nereye odaklayacağına kendi kendine karar veremiyor.

İnsan zihninin güçlü bir odak değiştirebilme becerisi var.

Ama el elemin nereye odaklanacağını hem onu kodlayan ekip hem de verdiğimiz komutlarla biz belirliyoruz.

Bir başka fark hata yaptığını fark edebilme de.

Bu becerileri de daha önceden kodlanmış kontrol mekanizmalarıyla sınırlı.

Çok önemli bir başka fark da duygusal bağlamdan yoksun olması.

Sistem 2 tamamen duygusuzca karar verir demek yanlış olur.

İnsan karar verirken aslında sadece mantık yürütmez.

Aynı zamanda duygularını ve sosyal ipuçlarını da tartar.

Kendi bedenimizden gelen sinyalleri karar verirken nasıl kullanacağımızla ilgili bir hipotez var.

Somatik marker hipotezi deniyor.

İlginizi çekerse Antonio Damasio'nun Descartes'in Yanılgısı kitabını öneririm.

Elelem bu çok önemli güçten yoksun.

Yine bir başka çok önemli farklılık uzun vadeli tutarlılık.

Bir kişiyi de tartışırken tabii ki geçmişte onunla yaşadıklarımız çok çok önemli.

Halbuki el elemler çoğu zaman sadece o oturumda anlattığınız kadarını biliyor.

Son olarak da tabii ki etik konular, vicdan da insanın karar vermesinde çok önemli bir faktör.

Ama el elemler için etik sadece eğitim aldığı metinlerdeki bazı sayılardan ibaret.

Sonuç olarak gelişmiş el elemlere de bir çeşit sistem bir buçuk diyebiliriz.

Belki zamanla sistem 2 hatta belki de insandan daha gelişmiş sistem 3-4-5 geliştirilecektir.

Ama artık işin teknik kısmını sonlandırıp esas konumuza tamamıyla dönelim.

El elemleri ilişkilerimizle ilgili sorunları danışmak için kullanabilir miyiz?

Bence eğer beklentimizi gerçekçi tutarsak, sohbet botuna gidip de tarafsız kusursuz bir bilge muamelesi yapmazsak neden olmasın?

Ne diyecek acaba diye bir bakılabilir.

Sadık dinleyicilerimiz biliyorlar, ben hemen her zaman üst beynin tarafını tutuyorum.

Aslında gerçekten de sadece ilişkiler konusunda değil, herhangi bir konuda benden daha bilgili bir kişiye danışacaksam, tabii eğer acil bir durum değilse, sistem ikisiyle yanıt versin isterim.

E madem el elem böyle bir şey yapamıyorsa niye o zaman danışılabilir diyorum?

Çünkü gerçek hayatta danıştığımız kişiler de kusursuz değil.

Günlük yaşamda çoğu insan birbirini çok da can kulağıyla dinlemiyor.

Kendisine bir şey sorulduğu zaman çok da analitik yaklaşmadan aslında aklına ilk gelen cevabı veriyor.

Ya da bir profesyonele danıştığımızı düşünelim.

Çift terapisi yapan bir psikolog ya da psikiyatrist olabilir.

Bu kişinin doğru sonuca ulaştığını nasıl bileceğiz?

Sonuçta sistem 1 ya da sistem 2 artık hangisiyle konuşuyorsa bize bir şeyler önerecek, biz de o kafamıza yatıyor mu diye bakacağız.

Eee el elem de aynı şeyi yapıyor.

Eee o zaman en kötü canlı terapist bile el elemden iyidir gibi bir şey söyleyemeyiz.

Sadece terapiler için değil ben bu yaklaşımı hemen her alana uygulayabileceğimizi düşünüyorum.

Daha önceki bölümlerde çok kez atıfta bulunduğum liseden bilgisayarcı arkadaşlarla olan sohbetlerde yapay zekanın bazı meslekleri yok edip etmeyeceğiyle ilgili de çok konuştuk.

Boğaziçi bilgisayar mühendisinden mezun, doktorasını da Carnegie Mellon'da doğal dil işleme üzerine yapan Volkan, ''Bence yapay zeka ortalama ve altında iş yapan herkesi işsiz bırakacak.

Bu hemen her alanda geçerli.'' diyordu.

Ben de buna katılıyorum.

Birçok terapist, yapay zeka sizce hangi mesleğin yerini alamaz sorusuna önce kendi mesleğini söyleyecektir.

Çünkü yapay zeka empatiyi dil üzerinden mükemmel taklit etmeyi başarsa da gerçek duygusal yakınlığı hissedemez ve dolayısıyla da hissettiremez.

Bir ilişkiyi tüm geçmişiyle derinlemesine ele alamaz.

Ayrıca terapatik işbirliğinde çok önemli bir şey olan etik sorumluluğu da yoktur.

Bunlar çok doğru.

O yüzden hiçbir gelişmiş dil modeli iyi bir terapistin yerini tamamen alamaz.

Ama bence uyduruk terapist yeri en kolay doldurulabilecek kişilerden biri.

O halde özetlersek, aslında acil olmayan her türlü durumda en sağlıklı karar nasıl verilir?

Önce hızlı sistem bir olası çözümleri masaya koyar, daha sonra bilinçli analitik sistem iki bu seçenekleri gözden geçirir, en mantıklısını seçer.

Biz o zaman elelemleri doğru yanlış demeden hızla bir sürü fikir üreten bir çeşit dijital sistem bir olarak kullanabiliriz.

Ama son kararı yine kendi sistem ikimiz de veririz.

Diyelim ben gittim yaşadığım bir sorunu eleleme danıştım.

O da bana bir takım önerilerde bulundu.

Bu önerileri gözden geçirirken nelere dikkat edeyim?

Birincisi elelemlerin konuyla ilgili bilgisi çoğu zaman o oturumla sınırlı olduğu için.

Önerileri duruma özgü olmaktan çok genel geçer ifadeler şeklinde oluyor.

Bu ifadelerin bizim durumumuzda ne kadar geçerli olduğuna tabii ki biz karar vereceğiz.

Ayrıca kullananlar muhakkak deneyimlemiştir.

Büyük resmi görmediği için bazen bir önceki önerisiyle tamamen tutarsız başka şeyler önerebiliyor.

Bununla yüzleştirdiğiniz zaman da çok haklısın diyor ama sonraki önerilerde gene aynı şeyi yapıyor.

İkincisi el elemi tarafsız bir yorumcu sanmak çok büyük bir yanılgı olur.

Çünkü hemen her konuda bizi övme ve çok haklı görme eğiliminde yanıtlar veriyor.

Canlı çift terapilerinde de bence en büyük tuzaklardan biri, önceki bölümlerde de söylemiştim.

Ya hoca bizi dinlesin, benim haklı olduğumu şuna da söylesin motivasyonuyla terapiye gitmektir.

Eğer soruları bu motivasyonla soruyorsak çok yüksek olasılıkla tam da istediğimiz yanıtları alırız.

Sonra gidip eşimize bak chat GPT'ye sordum o da beni haklı buldu dememiz hiçbir sorunu çözmez tam tersi bir tane daha sorunumuz olur.

Üçüncü konu kültür farkı.

Elelemlerin eğitildiği metinler büyük oranda batı dünyasının bireyci kültürünün ürünü.

Dolayısıyla önerileri de o kültürün kalıplarına uyuyor.

Biz de bu kalıpları benimseyip ona göre konuşmaya başlarsak yakınlarımız bir süre sonra ya bu gene chat GPT'ye danışmış gelmiş diyecektir.

Ayrıca batılı kişisel gelişim kitaplarında çok yaygın olan toksik pozitiflik üslubu elelemlerde de sık görülüyor.

Sürekli rahatlatan, olumsuz duyguları görmezden gelen abartılı bir imserlik sergileyebiliyorlar.

Dikkat edilecek dördüncü şey tabii ki güvenilirlik.

Elelemler halüsine olabiliyorlar.

Mesela araştırmaların %88'i bunu gösteriyor gibi söylemler tamamen uydurma olabiliyor.

Eğer bu tarz bir ifadeyi ciddiye alıp ona göre karar vereceksek bilginin gerçekten doğru olup olmadığını kontrol etmek gerekir.

Beşinci ve son olarak benim bu yayınlarda hep bahsettiğim bir şey var.

Tüm psikiyatrik görüşmelerin en önemli hedeflerinden biri kişinin oh be bu doktor beni anladı diye düşünmesi ve bunu hissetmesi.

Dil modelleri çok başarılı bir empati taklidiyle bu anlaşıldım hissini oluşturabilir.

Ama gerçekte bu tek taraflı bir bağ.

Gerçek bir terapatik işbirliği değil.

Bir insanla konuştuğunuzda karşınızdaki de bir sorumluluk alır.

Hem ona açtığınız bilgilerin gizliliği konusunda hem de size zararı olacak şeyleri önermeme konusunda.

Botlarsa konuşurken böyle bir sorumluluk hissetmez.

Zaten bu yüzden biz psikiyatrik görüşmede evlenme, boşanma, ayrılma, taşınma gibi kişinin hayatıyla ilgili önemli kararlarda doğrudan tavsiyede bulunmayı hiç istemeyiz, sevmeyiz.

Ama botlar, benim en başta söylediğim gibi, rahatlıkla en iyisi sen bu kızdan ayrıl diyebiliyor.

Çok kıyak iş, insanlara kafana göre şunu yap bunu yap diyorsun, her şeylerine karışıyorsun, işler kötü giderse de hiçbir sorumluluk almıyorsun.

Bence böyle bir güç kimseye verilmemeli.

Herkese sağlıklı günler dilerim.

Sonraki bölümde görüşmek üzere.