Avrupa Birliği'nin yapay zekâ yasası neleri değiştirecek?

Yapay zekâ araçlarının hayatımıza girmesinden bu yana yaklaşık iki yıl geçti ve aradan geçen bu süreçte yapay zekâ teknolojileri inanılması güç bir hızla gelişti.  Gelinen noktada bir komut girerek videolar üretmek, fotoğrafların görünmeyen kısımlarını tamamlatmak, insanları hiç bulunmadıkları görsellere dahil etmek ve daha pek çok uygulama, yapay zekâ teknolojileri sayesinde mümkün hale geliyor. Üstelik tüm bunlar son derece gerçekçi bir biçimde oluşturuluyor. Yapay zekânın getirileri ne kadar hayranlık verici olsa da bu teknolojinin kişisel ve kurumsal verilere etkisi de bir o kadar tartışılıyor. Kullanıcılar yapay zekâdan faydalanarak kolayca gerçeği çarpıtacak bilgiler ve içerikler oluşturabiliyor. Ayrıca yapay zekânın eğitildiği verilerinin kalitesi ve doğruluğu da bu teknolojiye yönelik en önemli endişeler arasında yer alıyor. 

Dünyanın yapay zekâya yönelik ilk yasal çerçevesi olarak değerlendirilen Yapay Zekâ Yasası 13 Mart’ta Avrupa Parlamentosu’nda kabul edildi. Yapay Zekâ Yasası; veri kalitesi, şeffaflık, insan gözetimi ve hesap verebilirliğe ilişkin AB çapında kuralları içeriyor. Gerekliliklere uymayanlara 35 milyon avroya veya küresel yıllık gelirin %7'sine (hangisi daha yüksekse ceza o yönde verilecek) varan para cezaları verilmesini içeren Yapay Zekâ Yasasının AB'de faaliyet gösteren birçok işletmeyi etkilemesi bekleniyor. 

Yapay Zekâ Yasasının Mayıs veya Haziran 2024'te yürürlüğe girmesi planlanıyor. Yükümlülüklerin çoğu Yapay Zekâ Yasasının yürürlüğe girmesinden iki yıl sonra geçerli olacak ancak yasaklı yapay zekâ sistemlerine ilişkin yükümlülükler altı ay sonra üretken yapay zekâya ilişkin yükümlülükler ise 12 ay sonra yürürlüğe girecek. 

Yapay zekâ yasası kimleri kapsıyor?

Yapay zekâ sistemlerini geliştiren ve pazarlayan veya bu tür sistemleri kendi adları veya ticari markaları altında ücretli ya da ücretsiz olarak sağlayan kurumları kapsıyor. Ek olarak Yapay Zekâ Yasası, AB içindeki yapay zekâ sistemlerinin ithalatçılarını ve distribütörlerini de kapsıyor. Yasa, nerede kurulduklarına veya konumlarına bakılmaksızın, AB pazarında yapay zekâ sistemlerini tanıtan veya işleten tüm sağlayıcıları ilgilendiriyor. Örneğin ABD merkezli bir yapay zekâ şirketi, AB ülkelerinde bu teknolojiyi sunuyorsa, yasanın yükümlülüklerini yerine getirmek ya da belirtilen cezayı ödemek zorunda kalıyor.

Yapay zekâya AB düzenlemesi

AB Yapay Zekâ Yasası, risk düzeyine göre farklı gereklilikler sunuyor. Minimum risk, sınırlı risk, yüksek risk ve kabul edilemez risk olmak üzere risk kategorileri dört başlık altında toplanıyor. 

Minimum risk

Yapay zekâ destekli video oyunları veya spam filtreleri gibi minimum riskli yapay zekâ sistemlerinde herhangi bir kısıtlama bulunmuyor. Yine de işletmeler gönüllü olarak yükümlülüklere bağlı kalabiliyor. 

Sınırlı risk

Sohbet robotları gibi insanlarla doğrudan etkileşime giren yapay zekâ sistemlerinin, bireylerin bir yapay zekâ sistemiyle etkileşimde oldukları konusunda bilgilendirilecek şekilde tasarlanması ve geliştirilmesi gerekiyor. Tipik olarak deepfake üreten veya manipüle eden yapay zekâ sistemlerini geliştiren ya da yayınlayanların, içeriğin yapay olarak oluşturulduğunu veya manipüle edildiğini belirtmesi şart koşuluyor.

Yüksek risk

Yüksek riskli olarak tanımlanan yapay zekâ sistemlerinin son derece katı gerekliliklere uyması bekleniyor. Bunlar arasında risk azaltma sistemleri, yüksek kaliteli veri kümeleri, etkinlik günlüğü, ayrıntılı belgeler, kullanıcı bilgilerini temizlemek, insan gözetimi ve yüksek düzeyde sağlamlık, doğruluk ve siber güvenlik bulunuyor. Yüksek riskli yapay zekâ sistemlerine örnek olarak enerji ve ulaşım gibi kritik altyapılar, tıbbi cihazlar ve eğitim kurumlarına veya iş yerlerine erişimi belirleyen sistemler dahil ediliyor.

Kabul edilemez risk

Yapay Zekâ Yasası gereği belirli yapay zekâ uygulamaları temel haklara yönelik açık bir tehdit olarak değerlendirilerek yasaklanıyor. Bu kategoride yönetmelik, insan davranışını manipüle eden veya bireylerin zayıf noktalarından (örneğin yaş veya engellilik gibi) yararlanan yapay zekâ sistemlerini listeliyor. Yasaklanmış yapay zekânın diğer örnekleri arasında şirketlerdeki duygu tanıma sistemleri veya bireylerin gerçek zamanlı sınıflandırılması gibi biyometrik sistemler yer alıyor.

Yapay zekâ yasası ve GDPR

Kişisel verilerin korunmasına, mahremiyete ve iletişimin gizliliğine ilişkin AB’de uygulanan GDPR düzenlemesi yeni Yapay Zekâ Yasası ile bağlantılı olarak kişisel verilerin işlenmesinde de geçerli olacak. Gelişmekte olan pazarlarda olduğu gibi yapay zekânın olgunlaşması beraberinde pazarı olumlu yönde yönlendirmek için kılavuz görevi gören düzenlemelerin ve standartların geliştirilmesine yol açıyor. Yapay Zekâ Yasası diğer ülkelerin muhtemelen kendi versiyonlarıyla takip edecekleri ilk yapay zekâ yasası olma özelliğini taşıyor.

Yapay zekâ iş dünyasında ve kişisel yaşamda daha yaygın hale geldikçe şirketlerin kendi iç düzenlemelerini hayata geçirmesi ve kullanıcıların hangi araçları güvenilir bulup hangilerini bulmadıkları da en az yasal düzenlemeler kadar etkili olacak gibi görünüyor.