Metaverse Kapsamında Olası Tehlikeler ve Deepfake – 2

nft ve metaverse evreninde sanal mülkiyet (1)
Okuma Süresi: 5 Dakika

Konu Başlıkları

Metaverse Kapsamında Olası Tehlikeler Ve Deepfake Özelinde Oluşabilecek Tehditler

2. Seri

iii.Deepfake

Deepfake; özellikle yapay zekanın “derin öğrenme” tekniği ile oluşturulan “sahte” içeriklerin bir araya gelmesi ile ortaya çıkmış bir görüntü-ses manipülasyon sistemidir. Deep fake taklit içeriği üretilecek kişinin video, ses  ya da görüntüler kümesinin alınması ve yapay zeka tarafından analiz edilmesiyle başlar. Yapay zekanın derin öğrenmesi yöntemiyle yapay sinir ağlarının ve yüzlerce farklı verinin analiz edilmesiyle içerik oluşturulur.(metaverse)

Deep fake çoğunlukla videolarda, seslerde ve görüntülerde kullanılan bir teknik haline gelmiştir. Deepfake içerikler eğlence, sanat ve teknoloji alanlarında kullanıldığı kadar etik, hukuki ve ahlaki sorunlara sebep olacak şekilde de kullanılmaktadır.

iiii. Metaverse Evreninde Deep fake ve Benzeri Suçlarla Mücadele Etme Yöntemleri

A. Deepfake teknolojisinin beraberinde getirdiği suçlardan bazıları şunlardır: (metaverse)

1. Kişisel Verilerin İhlaline İlişkin Oluşabilecek Suçlar

Deepfake gibi teknolojiler kullanılarak kişiler yanıltılmak suretiyle kişisel verilerine ulaşılabilir ve hukuka aykırı yollarla ele geçirilebilir.

2. Kişilik Haklarının İhlali Sebebiyle Oluşabilecek Suçlar (Kişinin imajının zedelememesinden doğan manevi haklar)

İnsanların kendi avatarlarını metaverse evrenine entegre edebildiği bir ekosistemde bu avatarların  yapay zekanın derin öğrenmesinden faydalanmış deep fakeleri yapılabilir hale gelecektir. Güçlendirilmiş kopyaların oluşturulması ile kişinin avatarı istemediği bir görüntü, konuşma, ortam içerisinde olabilecektir. İzinsiz olarak kullanılan bu avatarlar kişilik haklarını zedeleyebilecek ve özellikle kişinin unutulma hakkına büyük bir zarar verecektir.  Kamuya mal olmuş kişiler ve sıradan vatandaşlar için bu hususun düzenlemesinde ne gibi kriterlerin ele alınacağı, kamuya mal olmuş kişiler için bu durumun daha esnek mi tutulacağı ise akıllara gelen sorulardan bazılarıdır.

3. Kamuoyunu Yanıltmaya Yönelik Suçlar (Halkı Kin ve Düşmanlığa Tahrik gibi suçlar oluşabilir)

Deepfakeler ile oluşturulan sahte görüntüler sonucu buna inanan bir kamuoyu oluştuğu takdirde siyasi gerilimi alevlendirme, kamuoyunu çarpıtma, halkı kin ve düşmanlığa sürükleme, tarihi yanıltma ve çarpıtma gibi hallere sebebiyet verebilecektir.

Oluşturulan bir deepfakein kötü niyetli troller ve internet kullanıcıları tarafından paylaşılması ile bu hususun gerek kişiler, gerek ülkeler açısından ulusal ve uluslararası sorunlara yol açabilme ihtimali çok yüksektir.

Yapılan bir araştırmaya göre sahte haberler gerçek haberlere kıyasla yüzde 70 daha çok yeniden paylaşılmaktadır. Bu durum açıkça kamuoyunda infial yaratacak olaylar özelinde sorunlar çıkabileceğini ve deepfakeler yalanlanana kadar geri dönülmez hatalara sebep olunabileceğini gösteriyor.

4. Deepfakeler İle Oluşturulmuş İntikam Videoları, Tehditler ve Sabotajlar

Deepfakeler ile oluşturulmuş içerikleri kullanarak, bu içeriklere konu olan kişinin psikolojisinde derin hasarlara sebep olabilecek videolar, görüntüler özellikle unutulması ve tamamen yok edilmesi zor olan siber uzayda yayımlanabilecektir. Bu videolar kişisel intikam amacıyla ya da belli bir çıkar elde etme için tehdit unsuruyla kullanılabilecektir.

Birçok kamuya mal olmuş kadın aktrisin deepfake ile yanıltılmış gerçekliği özellikle pornografik içeriklere dahil edilerek kullanılmıştır. Bu durum sadece kamuya mal olmuş kişileri değil, özellikle flört şiddetine maruz kalan genç bireyleri, toplumsal baskı altında psikolojik olarak etkilenebilecek bireyleri de tehdit etmektedir.

Yine deepfake içerikler sadece bireylere yönelik değil ürünleri ve marka değerlerini tehdit edici şekilde de kullanılarak sabotaja sebep olabilmektedir.

5. Çocuk Pornografisi

Deep fake ile işlenen suçlar kapsamında kurgu ve gerçek dışı çocuk pornografisine yönelik içerikler var olabilmektedir. Hukuka aykırı bir içerik olan çocuk pornografisinin artışı da çocuk haklarına ihlal niteliğinde değerlendirilebilir.

6. Unutulma Hakkının İhlali

Kişinin, herhangi bir kurum yöneticisinin ya da kamuya mal olmuş bir kişinin deepfake ile yapılmış içeriği sosyal medyada kolayca yayılabileceğinden, sonrasında bu içerik kaldırılsa dahi uçsuz bucaksız siber evrenin tamamından silinmesi mümkün olamayabilmektedir. Bu da doğal olarak unutulma hakkının ihlalinin oluşturmaktadır.

7. Dolandırıcılık Suçu

Kişinin ses veya görüntüsünün deepfake versiyonunun kullanılması ile kişinin işbirliği içinde olduğu ya da iş tanışıklığı olduğu kişilerin yanıltılması, ticari işlerin yanıltılması; kişilerin tanışıklığından faydalanılarak banka hesaplarının ya da şifrelerinin alınması gibi dolandırıcılık halleri mevcut olabilecektir. Bu suç hallerinin oluşması halinde de bilişim sistemlerinin kullanılması dolayısıyla suçun nitelikli hali değerlendirilecektir.

8. Seslerin Taklit Edilerek Mali Suçlara Sebebiyet Verilmesi

Kişilerin seslerini taklit eden deepfakeler ile mali suçlar işlenebilmektedir. Buna örnek olarak İngiltere merkezli bir enerji firmasının CEO’sunun, şirketin Alman ana şirketinin CEO’suna ait deepfake bir ses ile telefonda görüşmesi sonucu, gelen emirler doğrultusunda Macar bir tedarikçinin hesabına yüklü miktarda para transferi gerçekleştirmesini verebiliriz. (FORBES, 2019)

9. Borsaların ve Piyasaların Yanıltılması

Özellikle borsa ve hisse senetleri günlük olaylardan, gelişmelerden etkilenen esnek bir yapıdadır. Kişinin yanıltılmış bir kopyasının yani deepfake içeriğinin borsalar ve hisseler üzerinde etkili olacağı çok açıktır. Örneğin Elon Musk’ın canlı bir şovda esrar içtiği görüntüleri yayınlanınca sahip olduğu şirket TESLA’nın hisseleri düşmüştür. Buna benzer bir deepfake içeriği hisseler ve borsalar üzerinde anlık etkilere ve dolayısıyla kayıplara da sebebiyet verebilecektir.

B. Peki bu suçların çözümü için neler yapılabilir?

1. Yapay Zekaya Dayalı Çözümler:

Her tezin bir antitezi olduğu için yine yapay zeka yardımıyla geliştirilen deepfake’lerin yine yapay zekanın derin öğrenmesinden faydalanılarak tespiti sağlanabilmektedir. Ancak deepfake’ler gelişmeye devam etmektedir bundan dolayı içeriklerin sahteliğini anlayabilmek de gittikçe daha zor olmaktadır. Bunda dolayı deepfakeleri çözümleyecek yapay zekaların da gelişmesi gerekmektedir.

2. Güvenilir Ekosistemler:

Metaverse evreninin içerisinde bulunan kullanıcılar bu ekosistemin kurallarına uygun hareket etmelidir. Bu evrenlerin deepfakeleri yasaklayan topluluk kuralları bulunmalı, bu ekosistemdeki kullanıcılar bunun bilincinde olarak bu ekosistemlere dahil olmalıdırlar.

Yine ekosistemin yaratıcıları metagüvence adı altında kullanıcıların maddi ve manevi zararlarına karşı sigorta ya da teminat öngörebilmektedir. Zira bilinmeyen veya henüz yeterince düzenlenmeyen bir alanda riskleri en aza indirmek ve kullanıcı çıkarlarını gözetmek önemlidir.

3. Kimlik Doğrulama Sistemleri:

Metaverse gibi ekosistemlerin blokzincire dayalı kimlik doğrulaması ve AI tabanlı güvenlikli algılamalarla güçlendirilmesi ve denetlenmesi mümkündür.

4. Denetim:

Metaverse evrenleri içerisindeki mevcut topluluk kurallarına uymayan, sahte içeriklerle yanıltıcılık oluşturan, deepfake kullanan kullanıcılar tespit edilmeli ve hesaplarına yaptırımlar uygulanmalıdır.

5. Metaverse, Metaverse İçerisinde İşlenen Suçlar ve Deepfake Suçlarına İlişkin Olarak Mevzuat Düzenlemeleri Yapılması:

Teknoloji geliştikçe bunun hayatımıza da yansıması olmaktadır. Kültürel bir gecikmeye sebebiyet vermemek adına kullanılan bu tür teknolojilerin doğurduğu somut problemlerin mevzuatlarla düzenlenmesi gerekmektir.

6. Metaverseler İçerisinde Oluşturulabilecek Hukuk Sistemlerinin Kapsamlı Olarak Düzenlenmesi:

Bu evrenler içerisinde deepfake ve benzeri suçlara yönelik yaptırımlar öngörülebilir. Somut dünya düzeninden farklı ve sanal bir evren içerisinde yine somut dünyada uygulanan yasalara, temel hak ve hürriyetlere, insan haklarına eş düşen yasaların olması ve insan haklarına aykırı “idam” gibi uygulamaların bu tip ekosistemlerde meşruiyet kazanmaması gerekmektedir.

7. PPG Sinyallerinden faydalanılarak deepfake tespiti yapılabilir.

Üretici çekişmeli ağlar ilerledikçe bunlarla savaşan networkler de ilerleme kaydetmektedir. Bu sistemler farlı farklı sinyallere bakarak gerçek ve yalanı ayırt etmeye çalışmaktadır. Örneğin PPG Sinyallerini (kılcal damarlardaki değişimleri gözlemlemeye yarayan bir teknoloji) kullanarak bu değişimlerin tespiti mümkündür. Videodaki görüntü ve PPG sinyalleri yani fizyolojik sinyaller uyumlaştırıldığında ya da karşılaştırıldığında deepfakelerde bu sinyaller normal bir insandan daha  farklı olacağı için bir görüntünün gerçek mi deepfake mi olduğu tespit edilebilmektedir.

8. Deepfake içeriklerin tespiti için mevcut bilimsel metotlardan ve gelişmelerden faydalanmak gerekmektedir.

Şu an var olan deepfakeler gerçek bir insan yüzünü taklit etmekte her ne kadar sorun yaşasa da gün geçtikçe gelişmeye de devam etmektedir. Cilt tonunda, saçlarda, ses tonunda ya da ortam bulanıklığında, aydınlatmada deepfakeler gerçeğe kıyasla daha zayıf kalabilmektedir. Bunların tespiti için geliştirilen farklı yüz tanıma teknolojileri, yapay zeka sistemleri ve metotlar kullanılmakta ve geliştirilemktedir.

Bkz: Reality Defender (Gerçeklik Savunucusu) ve Deeptrace (Derin ipucu) adında iki program günümüz gelişmelerine örnektir.

Deeptrace, antivirüs-spam filtreleme özelliğine benzer uygulama programlama arayüzü (API) ile çalışan bir sistemdir. Kendisine ulaşan her içeriği incelemekte ve gerçek olmama ihtimali olan içerikleri tıpkı mail kutusunda spam kutusuna düşen mailler gibi filtrelemektedir.

9. Her metaverse ekosistemin bir Baş Teknoloji Sorumlusunun (CTO) olması ve etik konularına yatırım yapılması gerekmektedir.

10. Deepfakeleri tespit edici projelere finansal destek sağlanması gerekmektedir.

Yazının 1. Serisi’ni okumak için bağlantıya tıklayınız.

NFT Temalı Hukuk ve Bilişim Dergisi’nin 10. Sayı’sını bağlantıdan okuyabilirsiniz.

Kaynakça

FORBES. (2019, 09 03). https://www.forbes.com/. https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/?sh=a35116f22416 adresinden alındı

FORBES. (tarih yok). https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/?sh=a35116f22416.

https://m.bianet.org/. (2021, 02 23). https://m.bianet.org/bianet/toplumsal-cinsiyet/239739-toplumsal-cinsiyet-algisi-dijital-siddeti-de-besliyor adresinden alındı

https://www.milliyet.com.tr/. (2022, 03 02). https://www.milliyet.com.tr/gundem/her-7-dakikada-bir-yasaniyor-sanal-dunya-karisti-metaversede-taciz-skandali-6676545 adresinden alındı

ID2020 Alliance Partners. (2022, 08 09). https://id2020.org/manifesto adresinden alındı

investopedia. (2022, 08 12). https://www.investopedia.com/terms/h/howey-test.asp adresinden alındı

wikipedia. (2021, 12 7). https://tr.wikipedia.org/. https://tr.wikipedia.org/wiki/Facebook-Cambridge_Analytica_veri_skandal%C4%B1 adresinden alındı