Zeki Robotların Cezai Sorumluluğu Üzerine
Bilimsel Çalışmaya Katılan: Av. Serhat KAŞIKARA
Baş döndürücü teknolojide her gün bir yeniliğe uyanılıyor. Bu gelişim her alanı ayrı ayrı etkiliyor. Bunlardan birisi de hukuk. Yapay zeka her gün farklı bir konuyla gündeme geliyor. Benim çalışmamdaki konusu ise cezai sorumluluğu. Ortaya çıkan bu zeki robotların suç işlemesi halinde bu suçun faili kim olacaktır? Cezası kime ve neye göre verilecektir? (Bu çalışma için ön literatür taramasında kaynak eksikliği fark edilmiştir. Bu yüzden belirli sayıda hukukçuya yarı yapılandırılmış bir mülakat uygulamaya gidilmiştir. Çalışma TÜBİTAK–2209-A ÜNİVERSİTE ÖĞRENCİLERİ ARAŞTIRMAPROJELERİ DESTEĞİ PROGRAMI ile desteklenmektedir.)
Bu mülakatımızda Türkiye’nin İlk Uzay Hukukçusu Avukat Serhat Kaşıkara’ya sorduk. Kendisi “Devletlerin Uzay Faaliyetlerinden Doğan Sorumluluğu” kitabının yazarıdır. (Avukatın kişisel bilgileri proje kapsamında korunmaktadır. Sorulara verdiği cevapları paylaşmada ön izin alınmıştır.)
Sorular
1- Robotların Ceza Sorumluluğunun Türü sizce hangi sorumluluğa daha uygundur?
Robotların cezai sorumluluğuna gidebilmemiz için önce kişilik tanımlaması yapılması gerekir. Kişilik konusunda pek çok kavram var. Gerçek kişi, tüzel kişi dışında robotlarda şu anda tartışılan bir konu var: 3. Bir kişilik mi yapalım, yoksa eskisi gibi eşya gibi kabul edip pasif bir kişilik mi tanımlayalım? Bu cevaba ulaşamadı dünya. Çünkü istenilen yapay zekaya erişilemedi.
Şu an basit işlemli bir yapay zeka var ama biz bu soruların cevabını ararken kendi kendine karar veren yapay zekadan bahsediyoruz. Şayet kişilik tanınırsa şahsi görüşüm bu soruda insan gibi sorumluluk yani taksir, doğrudan sorumluluk ve neticesi sebebiyle ağırlaşmış sorumluluk olayın seyrine göre değişir) diyebiliriz. Kişilik tanınmazsa eşya gibi alınırsa araç olarak kullanma diyebiliriz. Benim görüşüm ileride kişilik verileceği yönünde. Nasıl tüzel kişilerin kişiliği varsa robotların da olmalı.
Ceza adaleti diye bir kavram var. Bu adalet bu konuda farklı bir bakış açısıyla çalışmalı. Çünkü canı acımayan bir varlıktan bahsediyoruz. Mekanik bir şekilde robotu kapatmak, yazılımını güncellememek gibi bir bakış açısı olabilir. Sistemin kendisini güncel tutması çok önemli bir meseledir.
2- Otomatik defibrilatör diye adlandırabileceğimiz makine, kalbin faaliyetini takip edip, gerektiğinde elektrik vererek kişiyi tedavi etmeye programlanmıştır. Bu makinelerin buna rağmen hatalı olması söz konusu olduğunda, kalbi duran kişinin ölümünden kim, nasıl sorumlu olacaktır?
Üretici/işleten sorumlu olmalıdır. Çünkü yazılım yanlış olduğu için ortaya çıkan bir olayda yazılımı üreten kişi sorumlu olmalıdır.
Otonom araba, bilinen diğer adlarıyla robot araba, sürücüsüz araba, çevresini algılayabilen ve çok az insan girdisi veya hiç girdi olmadan hareket edebilen bir otomobil türüdür. A şehrinde yerel idare tarafından otonom araçların kamusal alanda kullanımına izin verilmiştir. Buna dayanarak, K ulaşım şirketi tesis ettiği otonom araçlar ile müşterilerine hizmet sunmaya başlamıştır. Bir gün K şirketinden bir sürücü otonom araç ile müşterisine gitmektedir. Sürücü gece karanlık olduğu için yoldan sıkılır dizi izlemeye başlar. Ancak karşıdan karşıya herhangi bir yansıtıcı aparat olmadan geçen bisikletliye çarpmıştır, bisikletli olan L hayatını kaybetmiştir. Araç üzerindeki aparatlar olayı kaydetmiştir.
3- K şirketi, sürücü, bisikletli ve yazılım şirketinin cezai sorumluluğu ile ilgili görüşleriniz nelerdir?
Yansıtıcı aparat zorunlu bir şeyse bisikletlinin kusuru vardır. Yazılım şirketi de bunu bisikletli olarak aracın tanımlamasını sağlamadığı için kusurludur. Yazılım şirketi sorumluluğu büyük oranda taşır. K şirketi ise cezai sorumluluğu olamaz çünkü şirket aracı sağlam olduğunu düşünerek almıştır. Ama K şirketinin hukuki sorumluluğu olur. (Tazminat gibi)
4- Otonom araç üreticisi olan bir şirketten otonom araç satın almış bir kullanıcı içindeyken, karşısına bir çocuk çıkan araç, çocuğu kurtarmak adına kullanıcının ölümüne sebebiyet verseydi K şirketi ve yazılım şirketinin cezai sorumluluğu ile ilgili cevabınız ne olurdu?
Yarışan hak diye bir kavram vardır. Özellikle hayat hakkı buna bir örnektir. İleride otonom sistemin bu şekilde davranacağını ön görüyorum. Öncelikle Asimov‘un üç robot yasasına bakalım: 1.Bir Robot, bir insana zarar veremez, ya da zarar görmesine seyirci kalamaz. 2.Bir robot, birinci yasayla çelişmediği sürece bir insanın emirlerine uymak zorundadır. 3.Bir robot, birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumakla yükümlüdür. Bu yasalara 4. Bir yasa eklenmiştir. Eğer bir kavga olursa kendisini de koruyacak. Bu soruyu cevaplandırmak için ne yazılımı yükleneceği asıl meseledir. Burada da etik ortaya çıkıyor. Hangi etik kuralları seçeceksin? Bu yüzden bu soru biraz teorik. Aynı anda iki tarafı birden kurtaramayacağı için cezasızlık sebebi olabilir.
5- K şirketinde kaza sonrası yapılan denetimde kaza sebebinin algoritmik olduğu anlaşılmıştır. Şirket yöneticileri ve projenin algoritma geliştiricilerinden oluşan ekip için nasıl bir yaklaşım benimsenebilir?
Algoritmayı yazan yanlış yazmıştır. O yüzden yazan kişi/kişiler doğrudan sorumludur.
Tüzel kişilerin robotların ceza sorumluluğu bakımından örnek teşkil edebilir. Bunun en başta gelen sebebi, tüzel kişilerin insan olmadıkları halde kişi olarak kabul edilmesidir. Bunun dışındaki bir başka benzerlik, tüzel kişilerin ceza sorumluluğu ile ilgili devam eden tartışmalardır.
6- Tüm bunlar ışığında tüzel kişilik sorumluluğu ile robot sorumluluğu arasında nasıl bir ilişki görüyorsunuz?
Benzer ilişki görüyorum ama tamamen farklı bir kategoride kendi başına dizayn edilmesi gerektiğini düşünüyorum. Dijital kişilik olabilir. Avrupa şu anda bunu tartışıyor. Kölelik/mal teorisi ve tüzel kişilik teorisi üzerinden. Bu açıdan ikisi birbirine benzemekle birlikte farklı bir kategori öngörüyorum. Çünkü tüzel kişi hareketli olan bir şey değil. Ama robot sahada olacak bir şey. Tüzel kişilik bina ise robot asansördür diyebiliriz örnek olarak.
7- Robotların suça “sebebiyet verdikleri” değil, suçu “işledikleri” tezi ile ilgili sizin yorumunuz ne olur?
Bir bilinci olması gerektiği öngörülüyor bu soruda. I ROBOT filmi gibi. Ya da WestWord. İleride o noktaya ulaşılırsa suçu işlediklerini söyleyeceğiz. O noktada iş çığırından çıkabilir. Bu noktada da kendimizi güncellememiz gerektiği öneriliyor. Bu konuda olumsuz değilim. Çözümü mekanik, yazılımsal olamayan bir denetlemede görüyorum.
Cevaplardan anlaşılacağı üzere avukatımız kendi bilgi donanımıyla birlikte bizlere ufuk açıcı bir yorum yapmıştır. Bu çalışmaya katılıp bilimsel bir çalışmaya destek verdiği için kendisine teşekkür ederim. Bu proje kapsamında siz de katılmak isterseniz iletişime geçebilirsiniz.
Çalışma Sahibi Röportör: Feyza Karaduman
Zeki Robotların Cezai Sorumluluğu Üzerine bilimsel çalışmasının ilk iki çalışmayı okumak için bağlantıya tıklayınız.
Hukuk ve Bilişim Dergisi’nin yeni çıkan 10. Sayısını bağlantıdan okuyabilirsiniz.