Etik İkilemler, Yol Ayrımları ve Yönelim - Fatma Ülkü Selçuk (Sosyoloji, Dr.)

Bu yazıyı Medya Çuvalında serbest bir form altında mı yazsam akademik bir metin olarak mı kaleme alsam diye biraz düşündüm, serbest formun daha uygun olduğuna karar verdim. Yapay zekanın taşıtlardan savaş araçlarına, tıptan eğitime kadar etkinliğini arttırması ile beraber programlama konusunda etik yol ayrımlarında verilecek yanıtlar yaşamsal dönüm noktaları haline geliyor. Bu yazı, en nihayet akademik bir metin değil. Dolayısıyla, odaklanacağım probleme dair konumlanmamı, Wikipedia’da özetlenen mesele üzerinden netleştirmeye çalışacağım.

Esas probleme geçmeden evvel etiğe dair birkaç kabulümü paylaşayım: Birincisi Yunus Emre’nin hissindeyim: “Ölürse ten ölür, canlar ölesi değil.” İkincisi, sorumluluğumuz bu dünya ile sınırlı değildir, öte yandan yönelimimizin ve edimlerimizin sonuçlarının ne olacağını ancak Allah bilir. Üçüncüsü, çoğumuz insanlık potansiyelimizi yeterince geliştirebilmiş değiliz, insanlık aktivasyonumuz da halen yetersiz. Dördüncüsü, insan öldürmekten pek çok durumda olabildiğince kaçınmak lazım gelir; insanlık potansiyelini ve aktivasyonunu (öz savunma nedeniyle dahi olsa) öldürmekten daha geliştirici bir çözüm olması halinde o çözüme başvurmak tercih edilmelidir (örneğin bir seri katili durdurmak için illa ki etkisizleştiren bir silah kullanılması gerekiyorsa, bunun öldürücü olmaktan ziyade örneğin o anda uyuşturarak katili etkisiz hale getiren bir silah olmasında, sonra kişinin başkalarına zarar vermeyecek bir yere çekilmesinde ve mümkün olması halinde insanlık potansiyelini ve aktivasyonunu yükseltecek şekilde tedavi edilmesinde fayda vardır).

Şimdi Wikipedia’da özetlenen probleme, ortaya koyacağım biçimlerde bakalım:

Varsayın ki tramvaydasınız, tramvayın önünde iki yol var. Hiç müdahale etmezseniz tramvay raylara bağlanan beş kişiye çarpacak ve sonuçta bu beş kişi ölecek, müdahale edip makas değiştirirseniz beş değil bir kişi ölecek. Makas değiştirir misiniz değiştirmez misiniz? Bu problemin başka bir versiyonuna da bakalım: Bir tren birçok kişiyi öldürecek şekilde ilerliyor, onu durdurmanın tek yolu treni durdurabilecek hacim ve ağırlıkta bir adamı o anda treninin önüne itmek. Böylece adamın ölmesi pahasına tren duracak birçok kişi ölmeyecektir, ne yaparsınız?

Problemler geçmişte pek çok kişiye sorulmuş, deney formatında uygulanmış. Tramvay probleminde tek kişinin ölümüne yol açacak şekilde makas değiştirme kararı veren kişi sayısı, iri bir adamı treni durdurmak üzere trenin önüne atma kararı verenlerden daha çok. Bununla beraber, sonuç odaklı birçok kişi, daha az kişinin ölümü ile sonuçlanacak seçenekleri faydacılık üzerinden temellendirmeye çalışmış. Ödev ahlakını esas alan ve “Öldürmeyeceksin”, dolayısıyla bu problemlerde bahsedilen durumlarda “taşıta müdahale etmemelisin (makas değiştirmemelisin, adamı trenin önüne atmamalısın)” diyenler de var.

Şimdi gelelim birinci probleme: Öncelikle problemde, raya bağlanmış insanlardan bahsedildiğine göre, bu kişileri tramvayın geleceğini bilerek oraya bağlayanlar öldürmenin esas sorumluluğunu taşır. Dolayısıyla eğer her iki raya da bağlanmış kişi veya kişiler varsa, bunu kendi kendilerine yapmış dahi olsalar (geldiğinde tramvayın orada bağlı kim varsa öldüreceğini bilmesi halinde durum, kişinin kendi kendini öldürmeye teşebbüsüdür; diğer durum da başkasını/başkalarını raya bağlayan kişinin/kişilerin başka insan(lar)ı öldürmeye teşebbüsüdür), öldürmenin sorumluluğu, vagonun içinde olanda değil, esas olarak o kişilerin ölümüne sebep olacak şekilde oraya bağlayandadır (başkalarından emir almamış veya uyuşturulup vb. yönlendirilmemiş olmaları halinde). Dolayısıyla tramvaydaki kişi, ister bir kişinin ölümü ile sonuçlanacak olsun ister beş kişinin, o kişileri kendisi oraya bağlamadığı müddetçe öldürmekten sorumlu değildir; iki durumda da eşit sorumluluktadır. Dolayısıyla mevzu, kişi sayısı değildir. Yapay zekâ ile çalışan aygıtlarda da illa az zaiyat tanımlaması yapmak bu anlamda şart değildir. Yazılımın rastgele seçim yapmasının olanaklı olması mümkünse; sürücüsü yazılım olan taşıtlar bu şekilde de programlanabilir. Bu konuyu daha sonra daha ayrıntılı düşünmek üzere ve gelecekte burada yazdıklarımın revizyonu hakkını saklı tutmak üzere diğer probleme geçiyorum.

İkinci problemde, raya bağlanmış değil, serbest bir kişinin birçok kişiyi yaşatmak üzere trenin önüne atılıp atılamayacağı soruluyor. Eğer tren kazayla freni boşalmış şekilde ilerliyorsa ve o adam bu trenin frenini boşaltan kişi değilse yanıtım, atılmamalı, zira bu, konuya dair hatası bulunmayan bir kişiyi öldürmek olur. İnsanların, başka insanları kurban etmeye hakkı yoktur. Ancak belli koşullarda ve biçimlerde başkalarını yaşatmak için kendini feda etmeyi seçebilir ki bu, intihar sayılmaz. Tren problemine dönecek olursak; eğer o kişiye durumu izah edecek bir fırsat var ise ve ancak onun cüssesindeki bir kişinin treni durdurabileceği bu kişiye anlatılmışsa (ki problemde ancak bu kişinin bedeninin treni durdurabileceği varsayılıyor), trenin önüne atlayarak durdurmak veya durdurmamak bu kişinin seçimidir. Kimsenin o kişiyi trenin önüne atmaya hakkı yoktur. Burada tren tek bir yolda ilerlemektedir, konu, halihazırda var olan rotalardan birine treni yöneltmek değildir. Mevcut rotaya canlı insan koyarak diğerlerini yaşatmak üzere aktif olarak öldürmektir, dolayısıyla insan ölümü ile sonuçlanacak olası rotalardan biri ile aktif öldürme arasında ahlaki açıdan fark vardır.

Şimdi Wikipedia’daki problemin birkaç versiyonunu burada üretip beraberce bakalım:

Varsayalım ki bir uçak kullanıyorsunuz ve elinizde olmayan sebeplerle uçak düşmek üzere. Şehrin nispeten kalabalık ve tenha yerleri var. Aşağıdaki insanların niteliğine/niceliğine dair net bir bilginiz yok. Ne yaparsınız? Bunun bir kaza olduğunu varsayarak devam ediyorum. İstediğinizi yapın, ister tenha yerlere doğru gitmeye çalışın, isterseniz hiçbir şey yapmayın. En nihayet bu, bir kazadır. İnsan yaşamı da sayıdan ibaret değildir. Yapay zekâ ile giden bir cihazda da benzer bir programlama yapılabilir. Rastgele seçime bırakılabilir. Unutmayalım, araç kazalarındaki öldürücü bir tehdide karşı tehdidin yolunun önüne insan atarak o insanı/insanları kurban etmekle tehdidin yönelebileceği olası yollardan birinde seyretmek arasında fark vardır. Birincisi, mevcut yolu, başkalarını yaşatmak üzere rızası olmayabilecek kişilerle tıkamak üzere aktif öldürmeye işaret eder (tren örneğinde olduğu gibi); diğeri ise cismi, olası çarpma noktalarından herhangi birine yöneltmeye (uçak kazasında uçağın düşebileceği muhtelif nokta vardır). Yine de insanın nispeten sağlıklı yeniden üremesine kayda değer zarar verecek türden seçeneklerden kaçınmakta fayda görünmektedir. Örneğin yapay zekalı taşıtlarda, bir nükleer santrale veya biyolojik virüs araştırması yapan bir laboratuvara denk getirmeyecek bir programlama makul olabilir. Olanaklı olması halinde nispeten sağlıklı yeniden üreme, insanlık potansiyelinin ve aktivasyonunun yükseltilmesine bir yönüyle katkı sağlayabileceği için kıymetlidir. Nispeten sağlıklı/güçlü olanlarımızın hem birbiriyle hem de nispeten sağlıksız/güçsüz olanlarla insanlığı geliştirici şekilde yardımlaşma, dayanışma içinde olması lazım gelir. Dünyadaki varlığımızın temel bir gayesinin insanlaşmak olduğunu varsayıyorum. Hakka ve cana saygı ile insan, insanlaşmaktadır. İnsan kısa ya da uzun yaşayabilir; ancak insan gibi insan olabilmesi için esas alması gereken ve ihlal etmekten kaçınması lazım gelen ilkeler vardır. Bununla beraber insanlık potansiyeli tüm insanlara eşit dağılmamıştır (örneğin bkz. psikopatlar hakkındaki yazıma) ve muhtelif etken sonucunda ciddi zararlara uğramaktadır (örneğin bkz. travmaların zincirleme etkisi hakkında daha önce yazdıklarıma). Bu konuyu kısmetse başka yazılara erteliyor, yazdıklarımın gerekirse daha sonra revize edilebileceğini de not düşerek başka bir probleme geçiyorum.

Şimdi varsayalım ki savaşan taraflar var. X tarafı, rahat ve/veya uzun yaşamak/yaşatmak üzere Y tarafına saldırır (örneğin toprak, enerji, su gibi kaynakları almak üzere) orada yaşayan insanları öldürür ve/veya köleleştirmeye çalışır. X tarafı, bunu yaparken varsayalım ki bir füze de fırlatır. Y tarafının, bu hamleyi savuşturmak üzere bir hamle yapacağını kabul edelim. Varsayalım ki 1. X tarafının attığı füzeyi X tarafının yaşadığı topraklara gönderme olanağı var; 2. X tarafının attığı füzeyi herhangi bir yerde daha kalabalık veya daha az sayıda kişinin yaşadığı yere gönderme olanağı var. Ne yapmalı? Öncelikle, hangi birini yaparsa yapsın, bu füzenin savuşturulması sonucunda düşeceği yerdeki tüm insan öldürmelerin sorumluluğu X tarafına aittir. Birinci seçenek mi ikinci seçenekteki az veya çok sayılı herhangi yer mi tercih edilecektir, bu, X ordusunun haksız müdahalesine karşı koyan Y tarafına bağlıdır. Herhangi birini seçebilir.

Şimdi varsayalım ki (neden düştüğünü tam olarak bilemediğiniz) bir gök cismi yaşamasını istediklerinizin bulunduğu yere doğru düşmek üzere, düşerse (siz dahil veya hariç) yaşamasını istediğiniz kişilerin bu dünyada ölme olasılığı yüksek. Varsayalım ki iki seçeneğiniz var: 1. Hiçbir şey yapmamak 2. Gök cismini yaşamasını istediklerinizden uzaktaki bir hedefe yöneltmek (ki orada da o gök cismini size yönlendirmemiş olan insanlar yaşıyor). Burada, kanımca doğru olan, hiçbir şey yapmamaktır, zira ikinci seçenek, size veya sevdiklerinize haksız öldürücü bir saldırıda bulunmamış insanları salt yaşamasını istediğiniz başka insanları yaşatmak adına öldürmek anlamına gelmektedir, bundan kaçınmak lazım gelir. Birgün yapay zekâ ile çalışacak gök cismi savarlar programlanır ise kişisel yakınlıkları hesaba katmamak ve insanın sağlıklı bir şekilde yeniden üremesini engelleyecek büyüklükte zararlardan kaçınmak üzere (örneğin cismi, nükleer tesislerden veya biyolojik virüs laboratuvarlarından uzaktaki noktalara yönlendirecek şekilde) programlama yapmakta fayda vardır. Sağlıklı yeniden üreme olasılığını gözeterek (ki bu bile şart değildir) örneğin gök cismini parçalayarak dağıtmayı, bu parçacıkların ise rastgele saçılmasını sağlayan bir programlama yapılabilir. Tabii, başka bir seçeneğin, örneğin insansız alanlara yöneltmenin olanaklı olması halinde, insansız ve insanın yeniden üretimine ciddi zarar vermeyecek bölgelere yönlendirmek birinci seçenek olarak programlanabilir. Bağlama göre birinci seçenek değişecektir. Diğer bir seçenek, olanaklı olması halinde hedef gözetmeden bu cismin uzaya geri gönderilmesidir.

Diğer bir soru, bir savaş halinde ülke orduları, birbirine uzaktan toplu ölümlere yol açan cisimler yönlendirirken gözetilebilecek ölçütün ne olması gerektiğidir. Bağlamından koparmadan meseleyi ele almakta fayda vardır. Varsayalım ki X ve Y ülkesinin orduları istedikleri kişiler rahat ve/veya uzun yaşasın diye bir yağmalamaya girişti, Z ülkesinde yaşayanları öldürüyor, köleleştiriyor, yaralıyor. X ve Y ordularının mensuplarının bu haksız saldırıda emirlere itaat etmemesi lazım gelir. Haksız emirlere itaatsizlik sonucunda öldürülebilirler ancak mazlumları öldürmemeleri lazım gelir. X ve Y ülkesinin Z ülkesinde veya birbirlerinin ülkelerinde öldürdüklerinin sorumluluğu çok düzlemlidir (iktidarın çok düzlemli tutuluşu konusuna doktora tezimde değinmiştim, sorumluluğun çok düzlemli dağılımında da benzer bir mantık benimsenebilir). Emirlere itaat ederek mazlumları öldürmeye itilen askerlerin de sorumluluğu varsa da onları oraya yöneltenlerin, onları yöneltenleri de yöneltenlerin sorumluluğu, güç / karar alma merkezlerine doğru ilerledikçe çoğalır. Bu koşullarda, Z ülkesinden X ve Y ülkelerinin ordularına ve işbirlikçilerine karşı direniş varsa, bu bir öz savunmadır ve burada Z direnişçilerinin X ve Y ülkelerinin ordularından öldürdüklerinin veya o ülkelere uzaktan silahlarla misilleme olarak gönderdikleri füzelerle öldürdüklerinin sorumluluğu X ve Y ülkelerinin ordularını Z’ye saldırtanlarda ve emirlere itaat edenlerdedir (çok düzlemli bir çerçeve içinde). Ki bu koşullarda Z direnişçilerinin gerekirse zorla zalimlikle mücadele etmeye yönetilmeleri meşrudur: Z tarafını savunmak üzere insanların gerekirse zorla askere alınması, tren problemindeki serbest kişinin raylara koyulması ile eşdeğer sayılamaz. Zira dünyada kalmasını istediklerini beslemek niyetiyle mazlumların hakkını yemek üzere saldırıya geçirilen X ve Y ordularını Z’nin üzerine salanlarla, onların ordularıyla ve işbirlikçileriyle mücadele etmek; kişi, doğru bir yol izlediği müddetçe -örneğin işkenceden, tecavüzden, gereksiz öldürme ve yaralamalardan uzak durduğu, bunları olabildiğince engellediği ve insanların temel ihtiyaç kaynaklarına zarar vermekten olabildiğince kaçındığı müddetçe; yani insanlık onuruna yakışır şekilde mücadele ettiği müddetçe- insanlık potansiyeli ve aktivasyonunu geliştirir. Yani doğru yönelim ve araçlarla kişinin, zalimlikle mücadele etmesi, insanlaşmayı destekler.

Öte yandan, daha önceki bazı yazılarımda da işaret ettiğim gibi şayet yapıp ettiklerimiz mikrodan makroya birçok etkenin zincirleme/eş zamanlı reaksiyonuna bağlı olarak gelişiyorsa, yukarıda söz ettiğim türden bir sorumluluğun ve sorumluluk paylaşımının ne anlama geldiğini, sonuçlarının neler olabileceğini burada yazmak mümkün değildir. Ancak varsayımım şudur: silah sanayiinin, (eğri bir yol tutturmuş olsalar dahi) insanları öldürmekten ziyade geçici bir süre etkisiz hale getirerek; mümkünse tedavi ve diğer yollardan insanlık potansiyellerini ve aktivasyonlarını geliştirme olanağını açacak şekilde yeniden inşa edilmesinde fayda vardır. Bunun pek çok yolu olabilir. Bu da kısmetse başka bir yazının konusu olsun.

Fakat yazıyı bitirmeden yeri gelmişken etik konusunda sıkça yer verilen iki probleme de kısaca değineyim. Birincisi, can kurtaran sandalında yiyecekler karaya ulaşana kadar ancak bir veya birkaç kişiye yetecekse öncelik kime verilmeli sorusudur. Yanıtım, kendini feda etmek isteyen kimse yoksa kimse kimseyi aç/susuz bırakarak veya başka yollardan öldürmemelidir olacaktır; nihayetinde hepsi açlık/susuzluktan ölecek olsa dahi. Dolayısıyla hiçbiri diğerini öldürmemeli, öldürmek isteyeni de engellemelidir (öldürmeye teşebbüs eden kişi arbede sırasında ölürse, bunda da sorun yoktur). İkinci problem ise masum tehditlere dairdir. Şöyle bir problem ortaya koyulur: Varsayalım ki öldürücü, tedavisi olmayan bulaşıcı hastalığı olan bir kişi vereceği zararın farkında olmadan size veya yaşamasını istediğiniz biri(leri)ne yaklaşarak hastalığı bulaştırmak üzere ve onu durdurmanın tek yolu (varsayım bu) o kişiyi öldürmek. Bu durumda hasta kişiyi öldürmek meşru mudur? Kanımca, hayır, meşru değildir. En nihayet kimse kimseyi, farkında olmaksızın hastalık bulaştırabilir diye öldürme hakkına sahip değildir. Zira ölmek değil masum/savunmasız insanı öldürmek kaçınılması gereken durumdur. Ancak varsayalım ki bu hastalığı taşıyan kişi bilinçli olarak karşısındakileri öldüreceğini bilerek geliyor ve (varsayım bu ya) sizin, o kişiyi durdurmak üzere öldürmek dışında başka seçeneğiniz yok. Ben, bu durumdaki öldürmeyi meşru müdafaa kapsamında değerlendiririm. Yine de öldürmektense ölmeyi tercih edecekler yok değildir.

Kalın sağlıcakla.

Fatma Ülkü Selçuk 13.03.2023