in ,

Vagon (Trolley) Problemi & Yapay Zekâ Etiği

Photo credit: https://www.huffingtonpost.com/linch-zhang/behind-the-absurd-popular_b_10247650.html

Vagon Problemi Nedir?

Vagon problemi felsefede, özellikle etik alanında sıkça karşılaşabileceğiniz bir ikilemdir. Bu düşünce deneyini ele alındığınızda yaptığınız seçim, bir anlamda sizin etik duruşunuzu gösterir. Senaryo oldukça basit: Basit olduğu kadar da zorlayıcı. Tren raylarının kenarında rayların yönünü/rotasını değiştiren bir manivelanın önündesiniz. Bir vagon hızla ilerliyor ve kondüktör yaralanmış (ya da bayılmış, ayağı sıkışmış) ve vagonu durduramıyor. Eğer dümdüz bir şekilde rotasında devam ederse rayların üzerinde bulunan 5 kişiyi öldürecek. Eğer siz manivelayı döndürür ve vagonun rotasını değiştirirseniz, o raylar üzerinde bulunan 1 kişi ölecek. Seçim size kalmış!

Sonuççuluk ve yararcılık gibi etik görüşler, genel çerçeveden bakıldığında maksimum yararın ve minimum zararın tercih edilmesi gerektiğini savunur. Bu sebeple, bu ikilemde de vagonun yönünün çevrilmesini ahlaki olarak daha doğru bir eylem olarak görürler. Sonuca bakalım diyorlar: 5 yerine 1 kişi. Daha az zarar? Peki insan değeri tamamen niceliksel/sayısal olarak mı ölçülür? Eğer nitelikler de önemliyse, hangileri nitelikler kale alınmalı, önceliklendirilmeli?

İkinci seçenek, yani hiçbir şey yapmamaksa, genellikle olayın kaderine müdahale etmek istemeyen kişilerin tercihi. Her ne kadar daha fazla hayat kurtarmak söz konusu olsa da geleceğinde ya da kaderinde ezilmek olmayan, bambaşka bir rotada ilerleyen bir insanın ölümüne sizin müdahaleniz sebep oluyor. Bunun sorumluluğu da ağır olmalı…

Vagon Problemi & Yapay Zeka

Trolley/ Vagon probleminin onlarca hatta yüzlerce farklı versiyonu tasarlandı. Ama altında yatan mekanizma genellikle aynıdır: Bir felaket gelir, gelen felakete müdahale edebilirsiniz ve birini/birilerini birine/birilerine feda etmek ya da etmemek zorunda kalırsınız.

MIT Technology Review’da Trolley probleminin farklı türlerinin farklı kültürlerden bireylere sorulduğu ve değerlendirildiği bir araştırma yayınlanmış (“Should a self-driving car kill the baby or the grandma? Depends on where you’re from”) Araştırmanın sonuçları ilginç: Bireysel ve kolektif yaşam kültürüne sahip ülkelerin vatandaşları birbirine zıt seçimler yapıyorlar: Bu sefer hikayemizde sürücüsüz bir araç var. Ya bir bebeğe ya da yaşlı bir kadına çarpacak. Direksiyonu hangi yöne kırmalı? Bebeğe doğru mu yaşlı kadına doğru mu?

Nicelik aynı olduğunda problem niteliksel olarak neyi öncelememiz gerektiğine dayanıyor: Yeni doğmuş bir bebek mi yoksa yaşlı bir kadın mı? Yeni nitelikler kazanabilecek bir potansiyel bireyin mi, yoksa yaşadığı ömür boyunca o nitelikleri kazanmış ama yenilerini kazanmaya pek vakti yokmuş gibi görünen bir bireyin mi hayatta kalması daha öncelikli?

Bireysel kültürün daha hâkim olduğu ülkeler bebeği kurtarmaya meyilliyken, kolektif kültürün ağır bastığı ülkelerde seçimler tam tersi yönde olmuş. Araştırmacılar bu seçimin kolektif kültürlerde yaşlılara verilen önemden kaynaklandığını düşünüyor.

Yukarıda bahsettiğimiz örnek de aynı şekilde sürücüsüz araç problemimize adapte edilebilir: Arabanın önünde 5 kişi varsa ama sağında sadece 1 kişi varsa, direksiyonun yönünü değiştirip 1 kişiyi mi feda etmeli yoksa belirlenmiş rotasında devam mı etmeli? Bu soruya da cevaplar bireysel ve kolektif kültürlere sahip ülkelerde değişkenlik gösteriyor: Bireysel kültürün hâkim olduğu ülkelerde daha çok hayat kurtarmak (yani rotayı değiştirmek) daha çok tercih edilmiş. Araştırmacılara göre bunun sebebi de bireysel toplumlarda her bir bireyin (kolektif bir kültüre kıyasla) çok daha kıymetli görülmesi olabilir.

Peki bu teorik etik problemi neden kültürler arası bir araştırmaya konu olmuş? Teknoloji gün geçtikçe daha da ilerliyor ve makineler insanların yerini almaya devam ediyorlar. Bu kararlar insanların değil de makinelerin kontrolünde olduğunda, bu makinelerin algoritmalarının da buna göre şekillenmesi gerekiyor. Bu araçlar, pazarlanılacakları ülkeler baz alınarak (örneğin bireysel ya da kolektif bir kültüre sahip olması baz alınarak) kodlanacak ve hayata geçecek. Yapay zekâ etiği adı altında yapılan bu deneysel araştırmalar, geleceğin bizim etik anlayışlarımız doğrultusunda şekillenmesini sağlayacak.

What do you think?


Warning: explode() expects parameter 2 to be string, array given in /home/metakafa/public_html/wp-content/plugins/snax/includes/votes/template.php on line 43

Warning: array_merge(): Argument #2 is not an array in /home/metakafa/public_html/wp-content/plugins/snax/includes/votes/template.php on line 43
0 points
Upvote Downvote