Küçük bir köyde, çocuklar neşeyle demiryolunda oynamaktalar. Raylar bir noktada kesişiyor ve sonra ayrılıyor. Soldaki demiryolu eski ve kullanım dışı, sağdaki ise aktif ve kullanımda. Yalnızca bir çocuk, kullanımda olmayan eski rayların üzerinde duruyor; diğerleri ise trenin geçtiği demiryolunda oynuyorlar. Treni siz kullanıyorsunuz ve oyun oynayan çocukları son anda gördünüz. Rayların kesişim noktasına çok az mesafe kalmış; treni durdurma şansınız yok! Ya makas değiştirip, kullanımda olmayan demiryoluna geçecek ve bir çocuğu ezeceksiniz ya da yolunuza devam edip aktif rayların üzerindeki 5 çocuğu öldüreceksiniz. Akılcı düşünmek gerekirse, 5 çocuğu öldürmektense, bir kişiyi yitirmek doğru gibi görünüyor değil mi?
Peki sizin kararınız ne olurdu? Bu soruya onbeş (1-5) yaşındaki bir çocuk farklı bir yanıt vermiş. Bu yanıtı yazının sonuna bırakalım ve Vagon ikilemi (Trolley dilemma) olarak literatüre girmiş bu popüler konunun gerçek hayattaki uygulamalarını irdeleyelim. Çok istisnai görünen ve gerçek hayatta pek rastlanmayacağını düşündüğünüz bu ve benzeri problemlerin pratik çözümü, Otonom (sürücüsüz) araç geliştirenlerin kabusu olmuş durumda. Sürücüsüz araçların karşılaşabileceği şöyle bir senaryoyu canlandırın gözünüzde:
Çarpma Kararı için ne gerekiyor?
Yapay zekâ kontrolündeki bir otonom araç, içinde yolcusuyla (sahibi de olabilir) yolda ilerlemektedir. Birden aracın önünde seyreden kamyondan birtakım nesneler yola dökülür. Araç yola düşen nesnelere çarpmamak için manevra yapmak zorundadır:
1. Araç fren yapsa da dökülen nesnelerden kurtulamayacağını hesaplar. Bu nedenle ya tam sağ veya tam sola manevra yapma seçeneklerinin olduğunu anlar. Ancak sağa kıracak olursa sağ şeritte bulunan diğer bir aracın önüne çıkıp bir kazaya neden olup kendi sürücüsünün ve diğer araçtakilerin de hayatını tehlikeye atacağını görür. 2. Diğer seçenek ise sola kırıp kenarda park halinde duran bir başka araca çarpmaktır. Bu durumda, park halindeki araca biraz çarparak kazayı hafif bir hasarla ve can kaybına yol açmadan atlatmak mümkün görünmektedir. 3. Ancak sola kırarsa, park halindeki aracın çevresinde bulunan ve olaydan habersiz dört kişilik bir ailenin tamamını ciddi şekilde yaralamak ve hatta öldürmek söz konusu olabilir. Tıpkı soldaki rayda tek başına oynayan çocuk gibi. İşte size karar anı! 4. Eğer kendisine yüklenmiş olan yazılım gereği otonom araç mantıksal olarak hareket edecek olursa hem kendi yapısını hem de taşıdığı insanı korumak için dört kişilik aileyi gözden çıkaracak. Bu durumda doğru karar nedir ve nasıl alınır?
Otonom Araçlar yollara çıktı mı?
ABD’de 50 firma otonom araçların testlerini gerçekleştiriyor. Birçok eyaletteki testlerde sürücünün de bulunması zorunluyken, California’da ise testi yapılan 300 otonom otomobil için böyle bir zorunluluk yok. Her geçen gün yeni bir firma bu alana girerken, Google ve Toyota gibi dünya devi şirketler de sürücüsüz otomobillere milyar dolarlık bütçeler ayırıyor. 2035 yılında otonom araçların 800 milyar dolarlık bir sektör haline geleceği öngörülürken, 2050’de ise bu rakamın 7 trilyon $’a çıkacağı tahmin ediliyor. Kısacası, çocuklarımızı otonom bir gelecek bekliyor.
Şişmanlık ölümcül bir günah mı? Şimdi yazının başındaki duruma dönelim ve olaya bir de şişman adam ekleyelim: Aynı tren, aynı makasa doğru hızla ilerliyor ve yine aynı beş çocuk tehlikede. Ancak bu sefer siz; rayların üzerinden uzanan köprüde bir izleyicisiniz ve yakınlarınızda da çok şişman bir adam var. Fark ediyorsunuz ki, eğer onu aşağı iterseniz; vücudu treni durdurup o beş çocuğu kurtarmaya yetecek irilikte. Peki onu iter misiniz? Masum bir insanı (sırf şişman olduğu için) öldürme fikri sizi rahatsız etti değil mi? Ama yazının girişinde masum bir çocuğu feda ettiniz bile! Yaptığınız şey yine 5 kişiyi kurtarmak için bir kişiyi harcamaktan çok mu farklı? İkisinin de aritmetiği aynı.
15 yaşındaki çocuğun cevabı neydi? "Aynen yoluma devam ederdim, çünkü trenin geleceğini bilerek orada oynayan çocuklar hatalı, diğer çocuk değil." Çocuğun bu yanıtını çok beğendim doğrusu. Çünkü azınlığın hakkını koruyordu. Şimdi aritmetiği bir kenara bırakalım ve ‘doğru karar’ nedir? Onu sorgulayalım. Tek başına oynayan çocuk ‘doğru karar’ vererek güvenli bir yerde oynamaktadır. Ama diğer 5 çocuk, trenin o raydan geçebileceğini bilerek, tehlikeli yerde oynamaya devam ediyorlar ve biz onların yerine, doğru biçimde davranan çocuğu cezalandırmayı düşünüyoruz. Bedelini yaşamıyla ödemesi beklenen çocuğun tek hatası (!) çoğunluğa katılıp yanlışı tekrarlamak yerine, tek başına doğru olanı uygulamış olması. Ne dersiniz, bu işte bir terslik yok mu?
5 Yanlış, 1 Doğru’yu götürür mü? Evet, test sınavlarında bunu öğrettik çocuklarımıza, kısa yoldan yanlış seçenekleri elemeyi ve anında doğru cevaba ulaşmayı seçtiler. Ama gerçek hayat bu kadar basit mi? Çünkü makas değiştirip, diğer çocukları kurtarmak uğruna tek çocuğu ezmeyi göze alarak kullanım dışı demiryoluna girdik diyelim; kaybımız yalnızca bir çocuk mu? Gözden kaçırdığımız önemli bir ayrıntı yok mu? Tek çocuğun üzerinde oynadığı rayların kullanımda olmamasının bir nedeni olmalı değil mi? Biz yalnızca bir çocuğu gözden çıkardığımızı ve böylece bir kaç çocuğun yaşamını kurtardığımızı sanırken trendeki tüm yolcuların yaşamını da tehlikeye atıyor olmayalım sakın. Doğru olan her zaman çoğunluğun söylediği değildir. Azınlığın hakkı, çoğunluğun haklı olmasından daha değersiz değildir. Her birey, her yaşam değerlidir. ‘’Kurunun yanında Yaş da yanar!’’ ama Kamunun yasaları kuruyu, yaşı ayırmak için değil midir?
Fransa mı, Aşk mı? 3 Silahşörler (Atos, Portos ve Aramis) filminin en sevdiğim sahnesinde, genç aşık Dartanyan (ki sonradan aralarına katılmıştır) çok zor bir seçim yapmak zorunda kalır: Sevdiği kadının hayatını kurtarmakla, Fransa’nın geleceğini kurtarmak arasında bocalar. İmdadına tecrübeli ustası Atos yetişir ve aralarında şu diyalog geçer: Dartanyan: Kazanmak ve kaybetmek konusunda senin kadar deneyimli sayılmam Atos. Ama sen benim yerimde olsan kimi, neyi seçerdin? Atos: Hayatta büyük fedakarlıklar yaptım, zor kararlara imza attım. Onurum için, kralım için, ülkem için savaştım. Ve ne öğrendim biliyor musun ufaklık: bu kararlar ve fedakarlıklar gece seni ısıtamıyor. Hayat çok kısa ve sevdiğin yanında olmazsa çok uzun. Benim hatamı tekrarlama! Sevdiğin kadını kurtar. Aşk için savaş Dartanyan! Fransa başının çaresine bakar...