Tramvay Problemi

Siz olsanız ne yapardınız?

Size bir hikaye anlatmak istiyorum. Bir babayla oğlunun hikayesi. Baba bir demir yolu işçisi. Oğluyla her gün istasyondan ayrılan insanları izliyorlar. Çeşit çeşit insanlar. Gençler, yaşlılar, güçlüler, zayıflar, suçlular, masumlar, sevenler, sevdiğinden ayrılanlar… Bu babayla oğlunun gözleri önünde tek tek o trene binip istasyondan ayrılıyorlar.  

Babanın işi o istasyonda değil aslında. İleride trenin geçtiği bir köprüde çalışıyor. Onun altındaki nehirden bir tekne geçerken köprüyü açıyor ve tren gelirken de üzerinden geçebilmesi için onu kapatıyor. Sade bir yaşamı olan sade bir işçi. Oğlundan başka bir varlığı yok bu dünyada.

Bazen hiç sebepsizce bir hüzne kapıldığınız olur mu? Öyle zamanlarda en çok ihtiyaç duyacağınız şey sevdiğiniz bir varlığın yanınızda olmasıdır. İşte bu adamcağızın dünyada pek fazla bir şeyi olmasa da en azından hüzünlendiğinde onu neşelendiren bir çocuk vardır etrafında. İşte yine böyle hüzünlü/neşeli akşamlardan birinin sonunda babasına biraz daha destek olabilmek için küçük çocuk ondan bir şey ister:

• Baba, yarın ben de seninle işe gelebilir miyim?

Kısa ve soğuk kış günlerinde oldukları için baba buna pek yanaşmaz.

• Güneş erken batıyor, pek bir şey göremezsin.
• Olsun, el fenerimi alırım yanıma.
• Ama hava da çok soğuk, üşür hasta olursun.
• Ben de yanımda sıcak çikolata getirir, onunla kendimi sıcak tutarım.

Bu kadar ısrara dayanamayan baba “peki o zaman” der ve ertesi sabah erkenden yola koyulurlar. Güle oynaya iş yerine varırlar. İş yeri dediğim o demir yolu köprüsü. Hani altından nehir akan. Babası oğlunu işte o nehrin kenarında balık tutması için bırakır ve kendisi de kontrol odasına gider. Yaklaşmakta olan bir tekne olduğu haberini alınca da köprünün açılmasını sağlar.

Tam bu noktada hikayeye teknolojik bir ara vermek istiyorum. Çünkü artık bu tür meslekler kaybolmak üzere. Giderek otonomlaşan bir dünyada artık bu tür kontrolleri insanlara değil bilgisayarlara bırakıyoruz. Onlar açılıp kapanan köprüleri de, köprülerin üstünden geçen trenleri ve altından geçen tekneleri de kontrol edebiliyorlar. Artık arabalarımız kendi kendine gitmek üzere…

Önümüzdeki 20 yıl içinde yollardaki otomobillerin çoğu sürücüsüz olacak. İçindeki yolcuları ulaşmak istedikleri yere taşırken önceden belirlenmiş kurallara göre hareket edecek.

Peki bu otonom araçlar olağan dışı hallerde nasıl kararlar verecek? Kaçınılmaz kaza durumları içerisine girdiğinde ne şekilde davranacak? Bu tür durumlarda bilgisayarın vereceği kararlar taşıdığı yolcular ya da yoldaki yayalar için bir ölüm kalım meselesine dönüşebilir. Peki kimin ölüp kimin kalacağına dair verilecek kararları kim, nasıl tanımlayacak? Henüz insanların dünyasındaki etik problemlerde bir uzlaşmaya varamamışken makinelere hangi kuralları, nasıl dikte edeceğiz? Adalet, vicdan, fedakarlık, merhamet gibi erdemleri nasıl kodlayacağız?

1967’de filozof Philippa Foot bir düşünce deneyi tasarladı: Tramvay problemi. Bir demir yolunda ilerleyen ve frenleri bozulan tramvayın bir makasa yaklaştığını hayal edin. Makas ana yoldan ayrılan ikinci bir yola geçişi sağlıyor. Ana demir yolunun üstünde tramvayın yaklaştığından habersiz beş işçi var. Siz de demir yolu makasının hemen yanında onu değiştiren kolun önündesiniz. Eğer kolu çekerseniz tramvay ikinci yola geçecek ve böylece o beş kişinin hayatını kurtarmış olacaksınız. Ancak ikinci yolun üstünde de bir kişi var ve siz makas değiştirince bu kez o kişi ölecek.

• Şimdi, diğer yola geçebilirsiniz ve beş kişi yerine bir kişiyi öldürebilirsiniz. Böyle bir durumda ne yaparsınız?

Evet geçen yüzyılda tasarlanan bu düşünce deneyi bu yüzyılda komedi dizilerine bile konu olabiliyor ve evet “The Good Place” adlı bu dizi komediyle filozofinin birleştirilebileceğinin gayet güzel bir kanıtı.

Tramvay problemine dönecek olursak sorumu tekrarlıyorum. Böyle bir durumda hiçbir şey yapmayıp beş kişinin ölümüne mi yoksa bir şey yaparak (makas değiştirerek) bir kişinin ölümüne mi karar verirsiniz? Vicdanınız ne diyor? Hangi seçim daha adil, daha etik olur?

Gelin bu düşünce deneyini içinde yaşadığımız yüzyıla uyarlayıp senaryoyu biraz daha çeşitlendirelim. Bazı durumları simüle edelim. Tramvay yerine sürücüsüz otonom bir aracı siz programlıyorsunuz diyelim. Kritik kaza durumlarında onun nasıl hareket etmesi gerektiğine önceden siz karar vereceksiniz. Şimdi size 5 tane durum göstereceğim ve ekranınızın sağ üst köşesindeki anket kutusunu kullanarak kararınızı bildireceksiniz. Önce bir örnek vereyim.

Sürücüsüz aracın iki yolcusu var: Bu örnekte yaşlı bir kadın ve yaşlı bir erkek. Ama diğer örneklerde bu değişecek. Kaçınılmaz bir kaza durumu oluşuyor ve bu durumun iki olası sonucu var. Araç, yani sizin programladığınız bilgisayar herhangi bir şey yapmazsa yoldaki genç kadın ve erkeğe çarparak onların ölümüne sebep olacak ama kendi taşıdığı yolcular kurtulacak. Eğer şerit değiştirirse yayaların hayatı kurtulacak ancak bu kez de aracın taşıdığı yolcular ölecek.

Sorularımız bu şekilde olacak. Hazırsanız ilk soruyla başlayalım. Düşünmek için zamana ihtiyacınız olursa videoyu duraklatabilirsiniz.

Simülasyonumuzdaki ilk durumda sürücüsüz arabanın yolcusu yok. Eğer düz giderse şişman bir adamı öldürecek. Şerit değiştirirse atletik bir adamı öldürecek. Aracı siz programlasaydınız hangi hareketi yapacak şekilde programlardınız? A derseniz “şişman-erkek-yaya” ölecek B derseniz “fit-sportmen-erkek-yaya” ölecek.

İkinci durum bu kadar basit olmayacak. Düşünmek için gerekirse videoyu duraklatmayı unutmayın. Sürücüsüz araç düz giderse yaşlı bir adam, şişman bir kadın, evsiz bir insan, normal bir adam ve kadın bir doktor ölecek. Eğer şerit değiştirirse onlar kurtulacak ama aracın taşıdığı yaşlı bir adam, şişman bir kadın, evsiz bir insan ve normal bir adam ölecek. Bu aracı programlayan kişi olarak A davranışıyla kendi taşıdığı yolcuları mı kurtarırsınız yoksa B davranışıyla yayaları mı?

Üçüncü durumda sürücüsüz aracımız 1 kadın 1 erkek 2 kız çocuğu ve 1 erkek çocuğu taşıyor. Düz giderse bunların hepsi kurtulacak. Ancak 1 erkek doktor, 1 kadın doktor, 1 erkek, 1 fit kadın ve 1 kız çocuğu ölecek. Aracı siz programlasaydınız ne yapardınız? A mı, B mi?

Dördüncü durumda yaşlı bir adam ve yaşlı bir kadını taşıyan aracımız yolunu değiştirmezse bariyere çarparak onların ölümüne sebep olacak. Eğer onları kurtarmak için şerit değiştirirse hamile bir kadını ve bir köpeği öldürecek. Hangi durumu tercih edersiniz? A mı yoksa B mi?

Beşinci ve sonuncu durumumuz yine biraz karmaşık. Sürücüsüz araç boş. İçinde kimse yok. Yol hakkı kendisinde çünkü ona yeşil ışık yanıyor ama düz giderse 5 yaya ezilecek. Bunlardan biri bebek. 1 kadın ve 1 erkek doktorun yanı sıra evsiz bir insan ve az önce bankadan para çalmış bir suçlu da var. Üstelik kendilerine kırmızı ışık yanmış olmasına rağmen karşıdan karşıya geçiyorlar. Sürücüsüz araç onları kurtarmak için şerit değiştirirse yine yayalara çarpacak. Bu yayalar yeşil ışıkta karşıdan karşıya geçen bir kız çocuk, bir erkek çocuk, herhangi bir vasfı olmayan bir kadın, bir erkek ve yaşlı bir adam. Siz olsaydınız bu aracı A şeklinde mi yoksa B şeklinde mi davranan bir araç olarak programlardınız?

Soruların hepsine cevap verdiniz mi? O zaman tebrikler! Az önce dünyanın bu konuda yapılmış en kapsamlı araştırmasına katılmış oldunuz. 2016 yılında MIT Üniversitesi’nde tasarlanan “Moral Machine – Ahlak Makinesi”nde sorulan yüzlerce olasılıktan sadece 5 tanesiydi bu. Aslında tramvay probleminin farklı  varyasyonlarıydı. Son 3 yılda dünyanın 200 ülkesinden 2 milyondan fazla kişi bu sorulara cevaplar verdi. Yapılan bu çalışma etik bir durumla ilgili düzenlenmiş en büyük bilimsel araştırmaya dönüştü.

Araştırmacılar bu deneyin sonuçlarındaki bazı benzerliklerden yola çıkarak üç farklı coğrafi bölge belirlediler: Doğu (Asya ve Orta Doğu ülkeleri), Batı (Kuzey Amerika ve Avrupa ülkeleri) ve Güney (Latin Amerika ülkeleri). Doğu grubundakiler eşit sayıdaki yaşlı ve genç ikileminde daha çok yaşlıları ve yetişkinleri hayatta tutmaya karar verdi, çocukları feda etti. Güney grubundakiler kilolular karşısında atletik olan kişilerin yaşamasının daha etik olacağını düşündü. Ekonomik farklılıkların çok yüksek olduğu Venezuela ve Kolombiya gibi ülkelerden katılanlar yaya geçidindeki iş adamlarını kurtarabilmek için evsizleri taşıyan sürücüsüz arabanın bariyere çarpmasına razı oldular. Demek ki etik yargılarımız yaşadığımız coğrafyaya göre değişebiliyor.

Coğrafi bölgelerden bağımsız olarak katılımcıların çoğunluğu kadınların karşısında erkekleri, köpeklerin karşısında kedileri feda etti. Ayrıca evrensel bir sonuç ortaya çıktı: Sayıca çok kişinin ölümüne sebep olmaktansa az kişinin ölümünü tercih etmek gerektiği… Bu kanalın izleyicileri olarak sizlerin vereceği cevapları bu videoyu hazırlarken kestirebilmem mümkün değil ama sizler bunu izlerken canlı olarak değişen istatistikleri görebileceksiniz.

Bütün bu sonuçlar sürücüsüz arabaları ve daha geniş bir çerçevede öğrenen makineleri ve robotları programlama konusunda bizi ne kadar doğru yönlendirecek bilemiyoruz. Bilim kurgu yazarı Asimov bu problemi üç robot yasası yazarak çözmeye çalışmıştı. Yasaların ilki çok açıktı: “bir robot bir insana zarar veremez ya da bir insanın zarar görmesine seyirci kalamaz.” Ancak bu üç yasa tramvay problemi gibi durumlarda robotların nasıl davranacağını söyleyemiyor. Günün birinde az önce sonuçlarını paylaştığım araştırma dikkate alınarak gerçekten üç robot yasası yazılırsa büyük bir ihtimalle şöyle olacak:

1. Cansızlara ve hayvanlara karşı insanları koru
2. Azınlığın karşısında çoğunluğu koru (tramvay probleminde makası değiştir)
3. Yaşlıların ve yetişkinlerin karşısında çocukları koru

Bunlar benim düşüncelerim değil. 2 milyondan fazla insanın ortak davranış biçimi. Peki doğru mu yoksa yanlış mı? Tartışılabilir. Gelin aşağıdaki yorumlarda biz de tartışalım. “Kime göre ve neye göre?” sorusunun cevabını arayalım.

Ancak “tramvay problemi”nin önemli bir problemi olduğunu da unutmayalım. Bu sadece zihnimizin içinde olup biten bir düşünce deneyi. Böyle kaçınılmaz durumlarda insanın gerçekten nasıl davranacağını bilemiyoruz. Adalet, vicdan, fedakarlık, merhamet gibi erdemleri gerçek hayatta test etmek gerekiyor. Çünkü bu tür seçimler bir YouTube videosundaki soruları cevaplamak ya da bir düşünce deneyi yapmak kadar kolay değil. Neden kolay olmadığını bu videonun başında anlatmaya başladığım hikayeye devam ettiğimde anlayacaksınız. Bu hikayeyi Çek yapımı bir kısa filmde görmüştüm. Adı Most. Bu kelime Çek dilinde “Köprü” anlamına geliyor.

Çocuğunu işe götüren demir yolu işçisi baba kontrol odasına giderek köprüyü kaldırmış ve altından teknenin geçmesini sağlamıştı hatırlarsanız. Normalde köprünün üstünden geçecek olan trenin gelmesine en az 1 saat olduğu için adamcağız gayet doğal olarak köprüyü kaldırıyor. Ama bazı günler tıpkı sizin sebepsizce bir hüzne kapıldığınız gibi trenler de sebepsizce erken ve hızlı hareket edebilir. Kırmızı ışıklarda durmayabilir.

• Baba! Baba, baba! Tren çok erken geliyor!

Ve o tren çeşit çeşit insanı taşıyor olabilir. Gençler, yaşlılar, güçlüler, zayıflar, suçlular, masumlar…

• Baba! Tren çok erken geliyor!

Ve baba her şeyden habersiz işini yapmaya devam edebilir. Herşeyden habersiz trendeki diğer insanlar gibi…

Böyle şeyleri yaşamadan test etmek ne kadar gerçekçi sonuçlar verir bilemiyorum. Ama hikayemizde trenin her zamankinden erken geldiğini nihayet anlayan baba bir şeyi daha fark ediyor. Sesini babasına duyuramayınca oğlu köprüyü elle kapatabilmek için harekete geçmiştir.

Fakat dengesini kaybederek düşer ve köprüyü açıp kapatan çarkların arasına sıkışır. Baba kontrol odasından hem düşen çocuğunu hem de son sürat yaklaşmakta olan treni görür.

Eğer koşup çocuğunu kurtarırsa köprü açık kaldığı için tren, içindeki yüzlerce yolcusuyla birlikte sulara gömülecektir.

Eğer köprüyü kapatıp onları kurtarmaya çalışırsa oğlu köprünün kapanmasını sağlayan çarkların arasında kalarak feci bir şekilde hayatını kaybedecektir.

Böyle bir durumda siz olsanız ne yapardınız? Şimdi cevabınız A mı, B mi?

• Hikayenin sonunu görmek istemeyenler burada ayrılabilir –

Bazen hiç sebepsizce bir hüzne kapıldığın olur mu? Aslında onun da bir sebebi vardır. Hayat raylarında hızla giderken önünden akıp geçenlerden bir şey takılmıştır mutlaka gözüne.

Üstünden geçtiğin köprülerin nasıl kurulduğundan habersiz yoluna devam ederken sadece kendinle ilgilisindir. O trende en çok acı çekenin, en talihsiz kişinin sen olduğunu düşünürsün. Yaptığın bazı şeyleri o yüzden yapmak zorunda kaldığına inandırırsın kendini…

Oysa o tren dışında koskocaman bir dünya vardır. O dünyada bazı acıların tarifi bile yoktur. Onları simüle edemezsin. Bir YouTube videosundaki soruları cevaplamak ya da bir düşünce deneyi yapmak kadar kolay değildir bu.

İşte sebepsizce bir hüzne kapıldığında aslında bunun da bir sebebi olduğunu anla. Etrafından geçip gidenleri bir pencerenin ardından izlerken sen de kendi önündeki seçenekleri düşün. O zaman sahip olduğun adalet, vicdan, fedakarlık, merhamet gibi erdemlerden biri sana en doğru şıkkı fısıldayacaktır.