Algoritmik Ayrımcılık ve “İnsan Onayı” Savunması
Yazar: Mert Salih Kavun – Hammurabi
Yapay zekânın (YZ) günümüz açısından büyük bir önemi olduğu yadsınamaz. YZ gerek devletler gerekse şirketler için daha az kaynakla daha büyük işlerin ortaya çıkmasını sağlıyor olsa da bu teknolojilerin, sağladığı olumlu yönler kadar olumsuz yönleri de içinde barındırdığı göz ardı edilmemelidir. Örneğin cinsiyeti hiç sormadan cinsiyetlere göre ya da insanların maddi yetersizliklerinden yola çıkarak önyargı ve ayrımcılıkta bulunduğu eylemler, YZ’nin sunduğu çıktıların titizlik ve ciddiyetle incelenmesi gerektiğini bizlere gösteren, YZ’nin “karanlık tarafı”dır.
Metamate: İzin Alanlar Cezalandırılıyor mu?
Bu “karanlık tarafın” en güncel örneği, Meta şirketinde çalışan 26 çalışanın, ailevi ve sağlıksal sebeplerle şirketten izin alması sebebiyle şirket içi geliştirilen “Metamate” isimli YZ teknolojisi tarafından işten çıkarılacak çalışanlar olarak belirtildiğini iddia etmesiydi. Şirkete ayrımcılık sebebiyle dava açan çalışanlar, çıkarılması planlanan bu 26 ismin ortak özelliğinin sağlık ve ailevi sebeplerle izin alması gereken adaylar olduğunu ifade ediyor.[1]
Özellikle bir çalışan, şirketteki bir yöneticinin, sağlık izni alınması durumunda işten çıkarılanlar arasında olacağını ifade ettiğini iddia ediyor. Metamate’in, bahsi geçen 26 çalışanı, -her ne kadar şirket onaylı izin alan çalışanlar olsalar dahi- üretimde bulunamayacakları sebebiyle düşük performans olarak kaydetmesi ve verimsiz olarak gördüğü sebebiyle işten çıkardığı iddiası, YZ’lerin, insani bağlamı gözetmeyen işleyiş odaklı olmasının bir sonucu olarak gösterilebilir. Şirket ise bu iddiaların tamamen asılsız olduğunu ileri sürmekte. “Metamate” ile böyle bir işten çıkarma kararı almadıklarını, işten çıkarma prosedürünün tamamen yöneticilerin kararlarıyla olduğunu ifade ediyorlar.[2] Davacılar ise işten çıkarma listesinin, işi bilen yöneticilerin değerlendirilmiş kararıyla değil, doğrudan bir dizi YZ sistemiyle oluşturulduğunu ve izin alan çalışanların bireyselleştirilmiş bir insan incelemesine tabi tutulmadığını iddia ediyor.[3]
Hukuk Ne Diyor? GDPR ve KVKK Bakış Açısıyla
Peki bu durum Avrupa’da yaşansaydı Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR)’nün bu konuya bakış açısı ne olacaktı? GDPR m. 22’ye göre Avrupa’da münhasıran otomatik kararlara karşı -yani YZ’lerin verdiği kararların insan onayıyla kabulü- kişilerin kural olarak hakları mevcut.[4] GDPR uygulamasında bu kararlarda insan denetiminin anlamlı olması ve salt formaliteden uzak olması gerektiği belirtiliyor.[5] Aksi halde, yani onay yalnızca kaşe niteliğindeyse, karar hâlâ münhasıran otomatik kabul ediliyor ve tüzüğe aykırı sayılıyor -yasağın istisnaları mevcut olmakla birlikte-. Bu şekilde karar alan şirketlere yüksek miktarda idari para cezaları kesilebileceği, ayrıca bu şekilde işten çıkarılan kişilerin de tazminat talep edebileceği tüzükte belirtiliyor.[6] Sonuç olarak Tüzüğe göre münhasıran otomatik kararlar yasak olarak belirtilmiş.
Türk hukukunda ise durum biraz daha muğlak. Kişisel Verileri Koruma Kanunu (KVKK) m. 11’e göre “işlenen verilerin münhasıran otomatik sistemler vasıtasıyla analiz edilmesi suretiyle kişinin kendisi aleyhine bir sonucun ortaya çıkmasına itiraz etme” hakkı bulunuyor.[7] Kanunumuza göre bir yasak olarak değil kişiye bırakılan bir hak olarak vücut bulmuş durumda. Ayrıca GDPR’ın yorumundan bahisle, kaşe onayının yetersizliği açıkça kabul edilir hale gelmiş olması ve bunun geçerli olmayacağı ifade edilirken; KVKK’de GDPR yorumundaki gibi anlamlı insan denetimini arayan açık bir ölçüt bulunmaması, münhasıran otomatik sistemler kullanan kişilerin savunma yapmasını daha kolay gösterebilir.
Fransa’da Ayrımcılık: CNAF Örneği
Bir diğer örnek ise Fransa’dan. Fransız hükümetine bağlı ve 32 milyon kişiye yardım fonu sağlayan Fransa Ulusal Aile Yardımları Fonu (CNAF), yardım alan kişilerin verilerini YZ tarafından sağlanan bir risk puanlama sistemi kullanarak işliyordu. Ekim 2024’te 15 sivil toplum kuruluşu, CNAF’ın bu sosyal yardımlarında kullandığı risk puanlama algoritmalarına itirazda bulundu. Kişisel verilerin korunması ve ayrımcılık yapmama ilkesi gereğince Fransız Danıştayı’na taşınan davada 15 Ocak 2026 tarihinde CNAF, mevcut algoritmasının kaynak kodunu yüksek mahkeme ile paylaştı.[8]
Günümüz itibariyle 25 sivil toplum kuruluşu tarafından takip edilen davada kuruluşlar, sosyal yardım amacıyla faaliyette bulunan CNAF’ın, yardım alan insanların verilerini YZ ile işleyerek onları yüksek riskli olarak işaretlediğini ve bunun sonucu olarak da bu kişilerin damgalanarak, aldıkları yardımların haksız olup olmadığı konusunda sürekli denetime maruz kaldıklarını ifade ediyor. CNAF’ın özellikle yoksullar, işsizler, engelliler ve çoğunluğu kadın olan yalnız ebeveynleri yüksek riskli gösterdiği iddia ediliyor. Davacı kuruluşlar, Danıştay’ın görüşünü istediği Haklar Savunucusu’nun da dolaylı ayrımcılık bulunduğunu belirttiğini, ayrıca CNAF’ın iç araştırmasında da yine CNAF’ın algoritmanın ayrımcı etkilerini kabul ettiğini dile getiriyorlar.[9]
Danıştay henüz nihai kararını vermedi. Ancak bu durum yalnızca Fransa’ya özgü değil. Sosyal yardım algoritmalarının dünya genelinde dezavantajlı grupları -göçmenler, mülteciler- orantısız hedeflediği yönünde eleştiriler de mevcut. Uluslararası Af Örgütü Genel Sekreteri Agnès Callamard, sosyal güvenlik sistemlerinde kullanılan bu sistemlerin marjinalleştirilmiş grupları damgalayan ve bu kişilerin mahremiyetlerini ihlal eden kapsamlı veri madenciliği araçları gibi çalıştığını belirtiyor.[10]
Sonuç
Birbirinden farklı bu iki YZ ayrımcılığı örneğine bakıldığında, YZ’lerin artık günümüzde hayatın fazlasıyla içinde olduğu ve gerek özel bir şirkette gerek bir devletin işleyişinde kullanıldığı görülmektedir. Bu sebeple algoritmanın ayrımcılığına geniş kitleler maruz kalabilmektedir. Meta örneğinde sağlık ve ailevi sebeplerle daha fazla iş izni kullanan kadınlara karşı bir ayrımcılık söz konusu olabiliyorken; CNAF örneğinde ise doğrudan engellilik ve yoksulluk gibi özelliklerle önyargının ortaya çıkabildiğini görmekteyiz.
Algoritmik önyargı ve ayrımcılıkla ilgili olarak çıkarılacak sonuç, YZ teknolojilerinin “kötü niyeti” değil; insani bağlamı görememesi ve arkasına saklanılan “insan onayı”nın çoğu zaman gerçek bir denetim olmamasıdır. GDPR uygulamaları bu soruna, “kaşe” onayın yeterli olmadığını, insan denetiminin zorunlu olduğunu belirterek bir çözüm getirirken; KVKK açısından ise açıkça bir zorunluluk oluşmamış olması bu tarz uyuşmazlıkların Türkiye’de yaşanması halinde davalıların “kararı insan verdi” savunması çok daha kolay kabul görebilir. YZ çıktılarının arasındaki insan denetiminin gerçek mi yoksa göstermelik mi olduğu, her zaman titizlikle sorgulanması gereken bir konu olmalıdır. İşte bu sorgulama, YZ’nin “karanlık tarafı”nın görünür kılınmasının tek yoludur.
Yazar: Mert Salih Kavun – Hammurabi
KAYNAKÇA
Amnesty International. “France: Discriminatory Algorithm Used by the Social Security Agency Must Be Stopped.” 16 Ekim 2024. https://www.amnesty.org/en/latest/news/2024/10/france-discriminatory-algorithm-used-by-the-social-security-agency-must-be-stopped/.
Article 29 Data Protection Working Party. Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679. WP251rev.01. 2018.
CBS News. “26 Meta Workers Sue Over Alleged AI-Aided Layoffs Targeting Employees on Medical or Family Leave.” 15 Temmuz 2026. https://www.cbsnews.com/news/26-meta-workers-sue-ai-aided-layoffs-medical-family-leave/.
Doe v. Meta Platforms, Inc. Complaint. No. 3:26-cv-07122-WHO. N.D. Cal. Filed July 13, 2026.
European Parliament and Council of the European Union. Regulation (EU) 2016/679 (General Data Protection Regulation). Official Journal of the European Union L 119 (2016): 1–88.
Kişisel Verilerin Korunması Kanunu. Kanun No. 6698. Resmî Gazete, 7 Nisan 2016.
La Quadrature du Net. “CNAF’s Discriminatory Scoring Algorithm: 10 New Organisations Join the Case Before the Conseil d’État in France.” 20 Ocak 2026. https://www.laquadrature.net/en/2026/01/20/cnafs-discriminatory-scoring-algorithm-10-new-organisations-join-the-case-before-the-conseil-detat-in-france/.
Le Syndicat des Avocats de France. “Algorithme discriminatoire de notation de la CNAF : 10 nouvelles organisations se joignent à l’affaire devant le Conseil d’État.” 6 Şubat 2026. https://lesaf.org/algorithme-discriminatoire-de-notation-de-la-cnaf-10-nouvelles-organisations-se-joignent-a-laffaire-devant-le-conseil-detat/.
[1] CBS News, “26 Meta Workers Sue Over Alleged AI-Aided Layoffs Targeting Employees on Medical or Family Leave,” 15 Temmuz 2026, https://www.cbsnews.com/news/26-meta-workers-sue-ai-aided-layoffs-medical-family-leave/.
[2] CBS News, “26 Meta Workers Sue Over Alleged AI-Aided Layoffs.
[3] Complaint ¶¶ 1, 53, Doe v. Meta Platforms, Inc., No. 3:26-cv-07122-WHO (N.D. Cal. filed July 13, 2026).
[4] Regulation (EU) 2016/679 of the European Parliament and of the Council (General Data Protection Regulation), 2016 O.J. (L 119) 1, art. 22.
[5] Article 29 Data Protection Working Party, Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679, WP251rev.01 (2018), 21.
[6] GDPR, art. 82–83.
[7] Kişisel Verilerin Korunması Kanunu, Kanun No. 6698, Resmî Gazete, 7 Nisan 2016, m. 11/1-(g).)
[8] La Quadrature du Net, “CNAF’s Discriminatory Scoring Algorithm: 10 New Organisations Join the Case Before the Conseil d’État in France,” 20 Ocak 2026, https://www.laquadrature.net/en/2026/01/20/cnafs-discriminatory-scoring-algorithm-10-new-organisations-join-the-case-before-the-conseil-detat-in-france/.
[9] Le Syndicat des Avocats de France, “Algorithme discriminatoire de notation de la CNAF : 10 nouvelles organisations se joignent à l’affaire devant le Conseil d’État,” 6 Şubat 2026, https://lesaf.org/algorithme-discriminatoire-de-notation-de-la-cnaf-10-nouvelles-organisations-se-joignent-a-laffaire-devant-le-conseil-detat/.
[10] Amnesty International, “France: Discriminatory Algorithm Used by the Social Security Agency Must Be Stopped,” 16 Ekim 2024, https://www.amnesty.org/en/latest/news/2024/10/france-discriminatory-algorithm-used-by-the-social-security-agency-must-be-stopped/.
Hukuk ve Bilişim Dergisi ve Blog kısmımızda,
Bilişim Suçları
Blockchain ve Dijital Paralar
Yapay Zekâ ve Robot Hukuku
Elektronik Ticaret Hukuku
İnternet Hukuku
Kişisel Verilerin Korunması Hukuku
Start-Up Hukuku
E-Spor Hukuku
Fikri Mülkiyet Hukuku ve benzer teknoloji hukuku alanlarında yazılar okuyucularımıza sunulmaktadır.