Yapay Zeka Yönetim Standardı
Geçtiğimiz yılın son günlerinde Uluslararası Standardizasyon Örgütü (ISO), yapay zeka yönetim sistemlerine ilişkin ISO/IEC 42001:2023 Bilgi Teknolojisi Yapay Zeka Yönetim Sistemi standardını yayınladı.
Yapay Zeka (AI) kullanılarak elde edilebileceklerin çeşitliliği arttıkça bunun neticesinde meydana gelebilecek tehlikelerin ihtimalleri son dönemde medyada daha fazla yer bulmakta. ISO tarafından yayınlanan standart, otomatik karar sistemlerinin şeffaflığından, veri yönetimine ve özerk AI sistemlerinin yönetilimine kadar bir dizi kritik konuyu ele alarak bu tehlikenin denetim kapsamını sunmakta.
AI mahkeme salonlarından, okullara kadar hızla kendisine yer buluyor. Doğal olarak beraberinde çeşitli etik, teknik ve güvenlik sorularını getiriyor. Sorulara yanıt bularak kamu ve özel kurumlarının geleceğinin güvenilir ve uygulanabilir AI kullanımına hazırlama aşamasında bu standart önem arzetmekte.
ISO/IEC 42001, temel olarak otomatik karar sistemlerinin göreceli şeffaflığı ve açıklanabilirliği üzerinde dururken AI sistemlerin iç işleyişini anlama ve dış dünyaya açıklama yapma konusunda rehberlik etmekte. Bununla birlikte sistemlerden elde edilen verilerin kullanımını, belgelenmesini ve yönetilmesini ele alarak güvenilir platformlarda bir kullanım sağlamayı hedeflemekte.
ISO/IEC 42001, özellikle otonom sistemlerin yönetiminin altını çizerek AI sistemlerinin özerklik derecesini değerlendirmek ve bu özerklikle ilişkili güvenlik ve sorumlulukları belirlemek için bir çerçeve sunduğu görülmekte. Bu hususun sosyal hayatın kritik noktalarında yer aldığı söylenebilir.
ISO tarafından yayınlanan standartın ekleri özel kılavuzları beraberinde getirmekte. Özellikle şeffaflık, açıklanabilirlik ve adalet gibi önemli konuların vurgulanması dikkat çektiği gibi AI hakkında en çok merak edilen noktalara temas edilmesinin kurum ve kuruluşların işleyişinde elde edilen verilen korunması açısından da kıymetli bilgiler sunduğu açıktır.
Standart geçmiş-günümüz-gelecek için AI teknolojilerinin kullanımında rehberlik ve gereken yeterliliklerin süreçlerini bize sunmuştur. Yapay zekanın başta hukuki, kültürel ve sosyolojik olarak hayatlara girişinin bu denli hızlı olduğu günümüzde ISO standardının, küresel uyum ve kazanımlar için hızla çalışmaların başlatıldığı bir dönemi işaret ettiği ifade edilebilir.
Hukuk ve Bilişim Dergisi’nin Yeni Sayı’sını okumak için bağlantıya tıklayınız.
Yapay Zeka alanındaki tüm Blog yazılarımızı bağlantıdan okuyabilirsiniz.
Kaynak: https://www.iso.org/obp/ui/en/#iso:std:iso-iec:42001:ed-1:v1:en