Yapay Zekanın Hukuki ve Cezai Sorumluluğuna İlişkin Öneriler Ve Elektronik Kişilik
Genel Olarak Yapay Zeka Kavramı
Yapay zeka (AI), özellikle akıllı bilgisayar programları olmak üzere akıllı makineler üretme bilimi ve mühendisliğidir. İnsan zekasını anlamak için bilgisayarları kullanmaya benzer bir görevle ilgilidir, ancak AI, biyolojik olarak gözlemlenebilir yöntemlere sınırlı kalmak zorunda değildir.
Avrupa Birliği Yapay Zeka Düzenlemesinde Yapay zeka sistemi; açık veya örtük amaçlar için fiziksel veya sanal ortamları etkileyen tahminler, tavsiyeler veya kararlar gibi çıktılar üretebilen ve değişen özerklik düzeyleriy çalışmak için tasarlanmış makine tabanlı bir sistem olarak ifade edilmiştir.
Yapay Zekâ, İnsan Hakları, Demokrası̇ Ve Hukukun Üstünlüğü Üzerı̇ne Revı̇ze Edı̇lmı̇ş İlk Taslak [Çerçeve] Sözleşme’de Yapay Zeka Komitesi (CAI) tarafından yapay zeka sisteminin tanımı “işbu Sözleşme’de ve Tarafların iç mevzuatında tanımlandığı şekliyle, insan zekâsı ile yaygın şekilde ilişkilendirilen veya başka bir şekilde insan zekâsı gerektirecek olan ve bu işlevleri yerine getirirken insan karar vericilerin muhakemesine yardımcı olan veya onların yerini alan işlevlerin yerine getirilebilmesi için gerekli istatistik ve diğer matematiksel tekniklerden türetilen hesaplama yöntemlerini kullanan herhangi bir algoritmik sistem veya benzer sistemlerin kombinasyonu” olarak yapılmıştır.
AI, birçok farklı alanda kullanılmaktadır, örneğin:
- Otomasyon: AI, makinelerin insan müdahalesi olmadan görevleri yerine getirmesine izin verir. Örneğin, AI, otonom araçlarda ve robotlarda kullanılmaktadır.
- Teşhis: AI, hastalıkları teşhis etmek için kullanılmaktadır. Örneğin, AI, kanser taramaları ve diğer tıbbi görüntülemelerde kullanılmaktadır.
- Finans: AI, finansal piyasaları tahmin etmek için kullanılmaktadır. Örneğin, AI, yatırım tavsiyeleri ve risk yönetimi için kullanılmaktadır.
- Müşteri hizmetleri: AI, müşterilere hizmet vermek için kullanılmaktadır. Örneğin, AI, müşteri hizmetleri chatbotlarında ve konuşma yapay zekası uygulamalarında kullanılmaktadır.
AI, hızla gelişen bir teknolojidir ve gelecekte daha da yaygınlaşacaktır. AI, birçok farklı alanda insan hayatını iyileştirme potansiyeline sahiptir.
Hayatımıza yeni giren ve çokça kullanılan yapay zeka teknolojisi, hiç şüphesiz onun hukuk sistemlerine entegrasyonu sorusunu da gündemimize taşımıştır. Bu çerçevede en önemli noktalardan bir tanesi de yapay zekanın kişiliği ve yapay zekadan kaynaklı zararların tazmini kapsamında yapay zekanın hukuki sorumluluğudur. Bir yapay zeka sistemi, otonom işleyişiyle bir veya daha fazla kişiye zarar verme potansiyeli olan, rastgele ve makul olarak beklenenden öte zarara neden olma kapasitesine sahip olduğunda yüksek risk oluşturduğunu düşünmektedir.
Bazı yapay zeka sistemleri, mevcut sorumluluk çerçevesi için önemli hukuki zorluklar sunabilir ve bunların şeffaflığı, zararlı işlemden kimin sorumlu olduğunu belirlemek son derece maliyetli veya hatta imkansız hale getirebilir. Bu faktör, zarar veya hasar ile onu meydana getiren davranış arasındaki bağlantıyı belirlemeyi zorlaştırabilir ve sonuç olarak mağdurlar yeterli tazminat alamayabilir.
Bu çerçevede AI-systeminin neden olduğu zarar veya hasar durumlarında sorumluluk sorunu hukukçular tarafından tartışılmaya başlamıştır.
Zira yapay zeka sistemlerinin karmaşıklığı, bağlantılılık, belirsizlik, savunmasızlık, güncellemeler aracılığıyla değiştirilebilme yeteneği, öğrenme yeteneği ve potansiyel otonomisi ile birlikte, birçok aktörün dahil olması, hukuki soruumluluların belirlenmesini oldukça zorlaştırmaktadır.
Yapay zeka sistemleri tarafından yönlendirilen tüm fiziksel veya sanal faaliyetler, cihazlar veya süreçler, teknik olarak zarar veya hasarın doğrudan veya dolaylı nedeni olabilir, ancak zararlar neredeyse her zaman sistemleri kuran, dağıtan veya müdahale eden kişilerin sonucudur. Bu bağlamda, AI-systemlere yasal kişilik vermenin gerekli olmadığı Avrupa Parlamentosu’nun 20 Ekim 2020 tarihli yapay zeka (AI) için sivil sorumluluk rejimine ilişkin Komisyon tavsiyelerinde belirtilmiştir. İlgili rapora göre yapay zeka sistemleri ile ilişkili riski oluşturan, sürdüren veya kontrol eden tüm farklı kişileri sorumlu tutarak hukuken meydana gelebilecek zararların önüne geçilebilecektir.[1]
Bu kapsamda yapay zeka sistemleri için ‘üretici’ kavramının, üreticileri, geliştiricileri, programcıları, hizmet sağlayıcıları ve arka plandaki operatörleri içermesi gerektiği varsayılmıştır.
Avrupa Parlementosu tarafından önerilen düzenlemeye göre zarar veya hasara neden olan AI sistemleri tarafından yürütülen tüm faaliyetler, cihazlar veya süreçlerin kusura dayalı sorumluluğa tabi olmaya devam etmesi gerektiğini düşünülmektedir ve işletmecinin, özen yükümlülüğüne uyduğunu kanıtlayarak sorumluluktan kurtulabilmesi gerektiği savunulmuştur.
Hukukta Kişilik Kavramı ve Yapay Zeka
Hukukumuzda kişilik kavramı gerçek kişiler ve tüzel kişi olarak iki grupta incelenmektedir. Gerçek kişilerin hakları ve borçları, Türk Medeni Kanunu’nda düzenlenmiştir. Tüzel kişilerin hakları ve borçları ise, Türk Ticaret Kanunu ve diğer özel kanunlarda düzenlenmiştir.
TMK m. 8 uyarınca “Her insanın hak ehliyeti vardır. Buna göre bütün insanlar, hukuk düzeninin sınırları içinde, haklara ve borçlara ehil olmada eşittirler.” Görülebileceği üzere Türk Medeni Kanunumuzda gerçek kişi hak ehliyetine sahip olmak olarak çerçevelendirilmiştir. Hak ehliyetine sahip olmak, kişinin hukuken hak sahibi olabilmesi ve bunun yanında da borç altına girebilme ehliyetine sahip olmasıdır.
Kişilik ise, hak ve borçlara sahip olabilme yanında, kendi eylemleriyle hak ve borç sahibi olabilme ehliyetini ve kişisel değer ile durumları da kapsayan geniş bir kavramdır. Hukuken kişi olarak kabul edilen varlıkların statüsünü, yani ehliyetlerini, kişisel değerlerini ve durumlarını içine alan bütüncül bir kavramdır.[2]
TMK 47/1 uyarınca “Başlı başına bir varlığı olmak üzere örgütlenmiş kişi toplulukları ve belli bir amaca özgülenmiş olan bağımsız mal toplulukları, kendileri ile ilgili özel hükümler uyarınca tüzel kişilik kazanırlar.” O halde TMK 47 uyarınca tüzel kişiler, belirli ve sürekli bir amacı gerçekleştirmek üzere örgütlenmiş ve kendisini kuran kişilerden bağımsız olan kişi veya mal topluluklarıdır.
TMK 48 “Tüzel kişiler, cins, yaş, hısımlık gibi yaradılış gereği insana özgü niteliklere bağlı olanlar dışındaki bütün haklara ve borçlara ehildirler.” İbaresi ile tüzel kişilerin hak ehliyetini düzenlemiştir.
Türk Medeni Kanunumuzca yukarıda yapılan tanımlar uyarınca tüzel kişilerin 3 unsuru bulunmaktadır: 1) Örgütlenme 2) Belirli ve Sürekli bir amaca sahip olmak 3) Hukuk Düzenince Tanınma
Türk Medenî Kanunu’nun tanıdığı tüzel kişiler, dernek (TMK m. 56-100) ve vakıftır (TMK m. 101-117). Türk Ticaret Kanunu ise ticaret şirketlerinin (TTK m. 125/I) tüzel kişiliğe sahip olduğunu düzenlemiş; TTK m. 124/I düzenlemesinde ise ticaret şirketlerinin; kollektif, komandit, anonim, limited ve kooperatif şirketlerden oluştuğunu hükme bağlamıştır21. Şüphesiz TMK ve TTK dışında başka kanunlar eliyle sendika, siyasî parti gibi çeşitli özel hukuk tüzel kişilikleri de kabul edilmiştir.[3]
Gerçek kişi ve tüzel kişi haricindeki bir varlığa veya sisteme kişilik tanınması gibi bir durum hukukumuzda söz konusu değildir. Hatta böyle bir durumunda diğer hukuk sistemlerinde de bir örneği bulunmamaktadır. Dolayısıyla yapay zekaya bir hukuki kişilik verilip verilmeyeceği Avrupa birliği başta olmak üzere pek çok topluluk ve devlet tarafından tartışılmaktadır. Bu tartışmalar hukuk doktrininde de söz konusudur.
Doktrinde bir grup yazar yapay zekaya hukuki kişilik verilmesini reddetmektedir. Bu gruptaki yazarlara göre yapay zeka bir eşya olarak düşünülebilir ve ona bir hukuki kişilk verilmesi gibi bir ihtiyaç söz konusu değildir. Öyle ki yapay zeka kapsamında meydana gelebilecek sorunlar, yapay zekların kullanım alanları göz önünde bulundurularak onlara sınırlı hak ve sorumluluk verilmesi ve sigorta kollarına entegrasyonlarının zorunlu hale getirilmesiyle çözülebilecektir.
Başka bir görüş ise yapay zekaya kölelik modeli verilerek, ona ayrı bir kişilik vermeden, onun neden olduğu zaraların tazmini sağlanabilir. Bu görüşe uyarınca yapay zekalar insan aklı tarafından üretilmiş olan eşya statüsündedirler ancak yine de yapay zeka bir eşya olarak ele alınmamalıdır ancak yapay zekanın faydası maliyetini aşarsa, ondan köle olarak faydalanmak mümkün olmalıdır.
Doktrindeki bir grup yazar ise yapay zekaya hukuki bir kişilik verilmesini savunmaktadır. Bu görüşteki yazarlara göre yapay zekanın insana özgü özelliklere sahip olması, ona hukuki kişilik verilmesi için yeterlidir. Ancak yapay zeka asla gerçek kişi olarak ele alınamaz zira onun otonomik yapısı ve bilişsel özellikleri gerçek kişi olmasını engellemektedir. Ancak yapay zekaları bir makine veya eşya olarak tanımlamak da doğru olmayacaktır. O halde yapay zeka sistemlerine de tıpkı tüzel kişiler gibi bağımsız bir statü verilmesi mümkün olmalıdır.
Avrupa Parlementosu ise 2017 yılında yayınladığı bir raporda yapay zekalara gerçek ve tüzel kişilik dışında “Elektronik Kişilik” adı altında bir statü verilmesini önermiştir. Bu öneri aslında yapay zekanın sui generis yapısının kabul edildiğinin de bir göstergesidir. Zira yapay zeka sistemleri makine öğrenmesi yoluyla kendi kararlarını kendi verebilen yapılar olabilmektedir. Yapay zekanın bu öğrenme süreci ve buna uygun kararlara varabilmesi onu diğer makine ve sistemlerden ayırmaktadır. Ancak insan tarafından sağlanan verilerle bu öğrenme sürecinin desteklenmesi ve her ne kadar öğrenme kabiliyetine sahip olduğu kabul edilse dahi üreticilerin (ve dolayısıyla) insanların kontrolünde olması onun sui generis yapısını desteklemektedir.
Bu kapsamda makine öğrenmesine ayrıca bir parantez açılmasında yarar vardır. Makine öğrenmesi, makinelerin veri kümeleri üzerinde eğitilerek kendi kendilerine öğrenmesini sağlayan bir yapay zeka (AI) alt alanıdır. Makine öğrenmesi, makinelerin daha önce görmedikleri verileri kullanarak yeni bilgiler edinme ve yeni görevler yerine getirme yeteneğine sahiptir.
Aynı raporda her yapay zekanın resmi sicile kaydedilmesi ve tazminat sorumluluğunun oluşması halinde yapay zeka varlıklara özgü kurulan maddi fonlara başvurulması gerektiği önerisi de söz konusudur.[4]
Elektronik kişilik verilmesi ile yapay zekaların neden olduğu zararlar nedeniyle onların sorumluluğuna gidilmesi söz konusu olabilecektir. Böylece yapay zekaların neden olduğu zararlar sebebiyle kusursuz sorumluluklarına başvurulması söz konusu olabilecektir. Yapay zekanın hukuki sorumluluğuna başvurulması için yapay zekanın işlemi ile meydana gelen zarar arasındaki illiyet bağının varlığı gerekli ve yeterli olacaktır.
Öneriler:
Gerek makine öğrenmesi, gerekse derin öğrenme yetkinliği ile donatılmış yapay zeka sistemleri; gün geçtikçe daha çok otonom hale gelmekte ve böylece doğrudan insanları etkileyebilecek kararlar alarak eyleme geçebilmektedirler. Hal böyle olunca yapay zekayı diğer makinelerle bir tutmak suretiyle onların basit bir eşya gibi algılanması hukuki zaafiyetlere neden olacaktır. Bu nedenle yapay zekalar sui generis(kendine içkin) sistemler olarak ele alınmalı ve tıpkı tüzel kişiler gibi yapay zekanın da elektronik kişiliğe haiz olduğu hukuk sistemimizce kabul edilelerek, bunların neden olduğu zararlardan kaynaklanan hukuki ve cezai sorumluluk inovatif bir bakış açısıyla ele alınmalıdır.
Bu kapsamda elektronik kişiliğe haiz olduğu kabul edilen yapay zeka sisyemlerinin neden olduğu zararlardan kaynaklı olarak Elektronik kişilere özgü güvenlik tedbirlerinin uygulanması sağlanabilir. Tıpkı tüzel kişilerin faaliyeti çerçevesinde işlenen suçlar nedeniyle tüzel kişilere özgü güvenlik tedbirlerine (TCK 60) başvurulduğu gibi, yapay zeka sistemlerine özgü koruma tedbirleri geliştirilmelidir. Yapay zeka sistemlerine özgü güvenlik tedbirleri kapsamında yapay zeka sistemine ilgili ülkedeki erişimin geçici veya sürekli olarak engellenmesi, para cezası gibi tedbirlere başvurulabilir. Bunun yanında yapay zekanın zarara neden olan faaliyetinde yapay zeka sağlayıcısının, geliştiricisinin, ön yüz ve arka yüz operatörlerinin kusurunun bulunması durumunda bunların da hukuki ve cezai sorumluluklarına başvurulabilmesi gerekmektedir.
Bunların sorumluluğunun müşterek ve müteselsil bir sorumluluk olması gerektiği kanaatindeyiz. Böylece zarar görenin zarar sebebiyle hem üreticiye, hem operatöre hem de yapay zeka sağlayıcısına başvurmasının önü açılmış olacaktır. Ancak bu kişilerin, kusurlarının bulunmadığını veya zarar ile yapay zeka sisteminin faaliyeti arasında illiyet bağının bulunmadığını ispatlayarak sorumluluktan kurtulmalarının sağlanması da gerekmektedir.
Ayrıca Avrupa Birliği Ypay Zeka komisyonun raporunda da önerdiği üzere her yapay zeka sisteminin bunlara özgü bir sicile kaydedilmesi, yapay zekanın faaliyet ve eyleminden kaynaklı olarak tazminat sorumluluğuna başvurulması durumunda ise bunlara özgü kurulacak madi fonlara başvurabilme olanağının sağlanması gerekmektedir. Böylece yapay zekanın eylemleri ve faaliyetleri sebebiyle vermiş olduğu zararlardan kusursuz sorumluluğunun bulunduğu ilkesi kabul edilmiş olacaktır.
Hukuk ve Bilişim Dergisi’nin Yeni Sayı’sını okumak için bağlantıya tıklayınız.
Yapay Zeka alanındaki tüm Blog yazılarımızı bağlantıdan okuyabilirsiniz.
Yazar: Hüseyin KARA / Hukukçu Sosyolog
Dipnotlar:
[1] https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_EN.html#title3
[2] KILIÇARSLAN, S. K. (2019). YAPAY ZEKANIN HUKUKİ STATÜSÜ VE HUKUKİ KİŞİLİĞİ ÜZERİNE TARTIŞMALAR. Yıldırım Beyazıt Hukuk Dergisi, s. 372.
[3] Kaşak, F. E. (2020). Tüzel Kişilik Kavramı ve Tüzel Kişilik Perdesinin Kaldırılması. Marmara Üniversitesi Hukuk Fakültesi Hukuk Araştırmaları Dergisi, s. 1245
[4] KILIÇARSLAN, S. K. (2019). YAPAY ZEKANIN HUKUKİ STATÜSÜ VE HUKUKİ KİŞİLİĞİ ÜZERİNE TARTIŞMALAR. Yıldırım Beyazıt Hukuk Dergisi, s. 380.
Hukuk ve Bilişim Dergisi ve Blog kısmımızda,
Bilişim Suçları
Blockchain ve Dijital Paralar
Yapay Zekâ ve Robot Hukuku
Elektronik Ticaret Hukuku
İnternet Hukuku
Kişisel Verilerin Korunması Hukuku
Start-Up Hukuku
E-Spor Hukuku
Fikri Mülkiyet Hukuku ve benzer teknoloji hukuku alanlarında yazılar okuyucularımıza sunulmaktadır.