Son yıllarda yapay zeka teknolojileri hızla gelişerek, pek çok alanda kullanılmaya başlandı. Üretim, sağlık, finans, eğitim, ulaşım ve güvenlik gibi pek çok farklı alanda yapay zeka sistemleri artık yaygın olarak kullanılıyor. Ancak, bu teknolojinin yaygın kullanımı beraberinde bazı riskler de taşıyor. Bu nedenle, yapay zeka sistemlerine yönelik kuralların açık biçimde belirlenmesi son derece önemli hale geliyor.
Avrupa Birliği (AB) henüz ChatGPT veya benzeri yapay zeka sistemleriyle ilgili bir düzenlemesi bulunmuyor. Ancak, AB Komisyonu 2 yıl önce yapay zeka konusunda yeni kurallar çerçevesini içeren ilk yasal düzenleme teklifini hazırlayarak üye ülkeler ve Avrupa Parlamentosu’na (AP) sunmuştu.
Bu teklif, yapay zeka sistemlerinin kullanımında birtakım sınırlama ve şeffaflık kuralları getiriyordu. Bu önerinin yasalaşması halinde, ChatGPT gibi yapay zeka sistemlerinin de bu kurallara uygun olarak kullanılması gerekecek.
Yapay zeka sistemlerinin kullanımıyla ilgili riskleri minimize etmek amacıyla, AB tarafından yapılan düzenlemeler risk temelli bir yaklaşım benimsiyor. Komisyonun yasa teklifinde, yapay zeka sistemleri kabul edilemez risk, yüksek risk, sınırlı risk ve minimum risk olmak üzere 4 ana gruba ayrılıyor.
İnsanların can güvenliğine, geçim kaynaklarına ve haklarına ilişkin açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk grubunda yer alıyor. Bu alanlardaki sistemlerin kullanımının yasaklanması bekleniyor. Ayrıca, bireylerin özgür iradesine karşı olan, insan davranışını manipüle eden veya sosyal puanlama gerçekleştiren yapay zeka sistemleri veya uygulamaları da yasak kapsamında.
Kritik altyapı, eğitim, ameliyat, işe alım sürecinde CV değerlendirme, kredi derecelendirme, deliller, göç, iltica ve sınır yönetimi, seyahat belgelerinin doğrulanması, biyometrik kimlik belirleme sistemleri, yargı ve demokratik süreçler ise yüksek risk grubuna giriyor. Bu gruptaki yapay zeka sistemlerinin piyasaya sunulmadan önce uyması gereken sıkı yükümlülükler getiriliyor. Bu sistemlerin ayrımcılık yapmaması, sonuçların gözlemlenebilir olması ve yeterli ölçüde insan gözetimine tabi tutulması gereki
