AB’nin Yapay Zeka Yasası Hususundaki Son Uzatmalar:
8 Aralık 2023 Cuma günü, Avrupa Birliği milletvekilleri, Avrupa Yapay Zeka Yasası hakkında geçici bir anlaşma imzaladılar. Yapay zeka sistemlerinin geliştirilmesini, piyasaya sürülmesini ve kullanımını düzenleyen geniş kapsamlı yeni bir mevzuat olan Avrupa Yapay Zeka Yasası, AB sınırlarının ötesinde de geçerli olacak ve dünyada yapay zekaya ilişkin ilk kapsamlı yasa olacaktır. (eu ai act, ab yapay zeka av ai)
Yapay Zeka Yasasına ilişkin geçici anlaşmanın metni yakında hazır olacak. Bu arada, AB Parlamentosu, Avrupa Konseyi ve Avrupa Komisyonu’nun basın bültenleri, Avrupa Komisyonu’nun 2021 tarihli orijinal Yapay Zeka Yasası teklifinde yapılan bazı ilgili değişikliklerin yoğun müzakerelerin ardından önceki haftalarda dahil edildiğini doğrulamaktadır . Belirli yapay zeka sistemleri için etki değerlendirmesi, yapay zekanın revize edilmiş tanımı ve yüksek etkili temel model sağlayıcılarına ilişkin daha katı kurallar bulunmaktadır.
Avrupa Yapay Zeka Yasası’nın Esasları
Yapay Zeka Yasası, AB’nin yapay zekayı düzenlemeye yönelik risk temelli yaklaşımını pekiştiriyor. Bir yapay zeka sisteminin sağlık, güvenlik veya temel haklar açısından oluşturduğu risk ne kadar yüksek olursa kurallar da o kadar katı olur. Yapay Zeka Yasası üç yapay zeka sistemi kategorisi oluşturmuştur.
- Kabul Edilemez Risk: İnsanların temel haklarına açık bir tehdit oluşturduğu düşünülen yapay zeka sistemleri yasaklanacaktır. Yasak aşağıdaki yapay zeka sistemlerini kapsayacaktır :
Hassas özellikleri (ör. siyasi, dini ve felsefi inançlar, cinsel yönelim ve ırk) kullanan biyometrik sınıflandırma sistemlerini
Yüz tanıma veritabanları oluşturmak için internetten veya kapalı devre televizyon görüntülerinden yüz görüntülerinin hedefsiz bir şekilde kazınmasını.
İşyerinde ve eğitim kurumlarında duygu tanıma.
Sosyal davranışa veya kişisel özelliklere dayalı sosyal puanlama.
Özgür iradelerini atlatmak için insan davranışlarını manipüle eden yapay zeka sistemleri gibi durumlarda yapay zeka sistemleri yasaklanacaktır.
- Yüksek risk: Yapay zeka sistemleri, sağlığa, güvenliğe, temel haklara, çevreye, demokrasiye ve hukukun üstünlüğüne ciddi zarar verme potansiyeli nedeniyle yüksek riskli olarak sınıflandırılacaktır. Yüksek riskli yapay zeka sistemlerine örnek olarak su, gaz ve elektrik alanları, tıbbi cihazlar ve insanları işe almaya yönelik sistemler gibi belirli kritik altyapılar verilebilir. Kolluk kuvvetleri, sınır kontrolü, adalet ve demokratik süreçlerin idaresi alanlarında kullanılan bazı sistemler de yüksek riskli olarak sınıflandırılacaktır. Yüksek riskli yapay zeka sistemleri zorunlu temel haklar etki değerlendirmelerinden geçmelidir ve risk azaltma sistemleri, yüksek kaliteli veri kümeleri, faaliyet günlüğü tutma, ayrıntılı belgeler, net kullanıcı bilgileri ve insan gözetimi dahil olmak üzere katı gereksinimlere uymaları gerekecektir. Yapay zeka sistemleri, piyasaya sürülmeden önce, dağıtım öncesi uygunluk değerlendirmeleri, kayıt tutma yükümlülükleri ve/veya Yapay Zeka Yasasına uygunluğu değerlendirmek üzere ulusal makamlar tarafından incelenebilecek zorunlu etki değerlendirmeleri gibi katı yükümlülüklere tabi olacaktır.
- Minimum risk: Çoğu yapay zeka sisteminin minimum risk kategorisine girmesi beklenir. Yapay zeka destekli öneri sistemleri veya spam filtreleri gibi minimum riskli uygulamalar, ücretsiz geçişten ve çeşitli yükümlülüklerin bulunmamasından yararlanacak çünkü bu sistemler vatandaşların hakları veya güvenliği açısından yalnızca minimum düzeyde risk taşıyor veya hiç risk oluşturmamaktadır.
Dahası, Avrupa Yapay Zeka Yasası, yapay zeka sistemlerini kullanırken şeffaflık gereklilikleri getiriyor; örneğin, kullanıcıların bir sohbet robotuyla etkileşime girdiklerinin farkında olması gerektiği durumlarda ve ya derin sahtekarlıkların ve yapay zeka tarafından oluşturulan diğer içeriklerin bu şekilde etiketlenmesi gerekecek ve biyometrik sınıflandırma veya duygu tanıma sistemleri kullanıldığında kullanıcıların bilgilendirilmesi gibi.
Bu kurallara göre genel amaçlı yapay zeka modelleri, değer zinciri boyunca şeffaflık gerektirecektir. Sistemik risk oluşturabilecek modeller için, risklerin yönetilmesi ve ciddi olayların izlenmesinin yanı sıra model değerlendirmesi ve çekişmeli testlerin yapılmasıyla ilgili ek bağlayıcı yükümlülükler olacaktır.
AB Yapay Zeka kurallarının uygulanması söz konusu olduğunda, Yapay Zeka Yasasına uyulmaması, ihlale bağlı olarak 7,5 milyon Euro veya küresel cironun %1,5’inden 35 milyon Euro veya küresel cironun %7’sine kadar değişen para cezalarına yol açabilir. Ayrıca geçici anlaşma, küçük ve orta ölçekli işletmeler ve yeni kurulan şirketler için idari para cezalarına daha orantılı üst sınırlar getiriyor.
Avrupa Yapay Zeka Ofisi
Ulusal yetkili makamlar Yapay Zeka Yasasının ulusal düzeyde uygulanmasını denetleyecektir. Uyumlaştırılmış bir uygulamayı sağlamak için Avrupa Komisyonu, Avrupa düzeyinde koordinasyonu sağlayacak bir Avrupa Yapay Zeka Ofisi kuracaktır. Ayrıca yeni Yapay Zeka Ofisi, genel amaçlı yapay zeka modellerine ilişkin yeni kuralların uygulanmasını ve yürütülmesini de denetleyecektir. Yapay Zeka Ofisi, ulusal pazar gözetim otoritelerinin yanı sıra, yapay zeka konusunda bağlayıcı kuralları küresel çapta uygulayan ilk organ olacaktır.
Yapay zeka hukuku alanındaki diğer yazılarımıza bağlantıdan ulaşabilirsiniz.
Av. Şeyma KARAKOÇ’un diğer blog yazılarını okumak için bağlantıya tıklayınız.