21 Nisan 2021 tarihinde Avrupa Komisyonu, kısaca Yapay Zekâ Tüzük Teklifi metnini (Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts) yayımlamıştır (Link). Bu metin yapay zekâ alanında hukuki düzenleme yapılması konusunda atılan ilk somut adım olarak değerlendirilebilir.
Yapay Zekâ Tüzük Teklifi’nin 3(1) maddesinde yapay zekâ sisteminin tanımı şu şekilde yapılmıştır: “Yapay zekâ sistemi (YZ sistemi) EK I’de belirtilen teknik ve yaklaşımlardan bir veya birden fazlasıyla geliştirilmiş ve insan tarafından tanımlanan belirli amaçlar için, içerik, tahmin, öneri şeklinde çıktılar veya insanların etkileşimde bulundukları ortamları etkileyen kararları üretebilen yazılım anlamına gelmektedir.” Bu tanım, teknolojik açıdan tarafsız ve mümkün olduğu kadar geleceğe dönük olacak şekilde yapılmış geniş kapsamlı bir tanımdır.
Tüzük Teklifi, yapay zekâ sistemlerine ilişkin yatay eksende bir düzenlemedir. Bu itibarla yapay zekâ sistemlerini piyasaya arz edenlere, sistem operatörlerine, piyasayı/pazarı izleyenlere ve gözetenlere yöneliktir.
Yapay Zekâ Tüzük Teklifi’nin risk temelli bir yaklaşımı bulunmaktadır. Buna göre kullanılması kabul edilemez risk oluşturan (Başlık II), yüksek risk oluşturan (Başlık III), sınırlı risk oluşturan (Başlık IV) ve minimal risk (Başlık IX) oluşturan yapay zekâ şeklinde ayırım yapılmıştır.
Düzenleme ile kabul edilemez riskli yapay zekâ sistemlerinin kullanımı yasaklanmıştır. Avrupa Birliği değerleriyle ters düşen yapay zekâ sistemlerinin örneğin temel hakları ihlal eden yapay zekâ sistemlerinin kullanılmasının yasaklanması amaçlanmıştır. 5. maddedeki yapay zekâ sistemleri gruplandırılacak olursa (a) ve (b) bendi ile manipülatif yapay zekâ sistemleri, (c) bendi ile sosyal puanlandırmaya ilişkin yapay zekâ sistemleri, (d) bendi ile gerçek zamanlı ve uzaktan biyometrik tanımaya ilişin yapay zekâ sistemleri yasaklanmıştır.
Avrupa Birliği Yapay Zekâ Tüzük Teklifi’nin esasen odaklandığı husus, yüksek riskli yapay zekâ sistemleridir. Yüksek riskli yapay zekâ sistemleri Başlık III altında düzenlenmiştir. Bu başlık altında, belirli uygulama, ürün ve sektörlerde; sağlık, güvenlik ve temel haklara yönelik yüksek risk teşkil eden yapay zekâ sistemlerine ilişkin kurallar düzenlenmiştir (Gerekçe m.43, Tüzük Teklifi m.6-7).
Düşük riskli yapay zekâ sistemleri için Tüzük Teklifi’nde şeffaflık yükümlülükleri getirilmektedir. Bu şeffaflık yükümlülükleri; insanlarla etkileşime geçen yapay zekâ sistemleri, duygu tanıma veya biyometrik kategorizasyon sistemleri ve deep fake uygulamaları için söz konusudur. Bu şeffaflık yükümlülüklerine dâhil olmayan zayıf yapay zekâ sistemleri esasen Tüzük Teklifi’nde düzenlenmemiştir.
Avrupa Birliği Yapay Zekâ Tüzük Teklifi, yapay zekâ sistemlerine ilişkin hukuki düzenleme yapılması konusundaki ilk girişim olması nedeniyle önemli bir adımdır. Bununla birlikte düzenleme, Avrupa Birliği’nin ürün güvenliğine, temel hakların korunmasına, gözetim ve tüketicinin korunmasına ilişkin mevzuatın birleştirilmesiyle oluşturulmuştur. Bu kadar çok mevzuatın birleştirilmesi düzenlemenin etkisini zayıflatmaktadır.
Yapay Zekâ Tüzük Teklifi’nde risk temelli bir yaklaşımın benimsenmiş olması isabetlidir. Zira yapay zekâ teknolojisi, getirdiği pek çok kolaylık yanında taşıdığı risk nedeniyle endişe uyandırmaktadır. Bu itibarla yapay zekâ sisteminin kullanılmasının getireceği riskin türüne göre uyulması gereken kuralların ve cezaların düzenlenmiş olması uygun bir yaklaşımdır. Bununla birlikte Tüzük Teklifi’nde yüksek riskli yapay zekâ sistemlerinin detaylı bir şekilde düzenlenmiş olması ve bunlarla ilgili, ağır olarak nitelendirilebilecek cezaların getirilmiş olması birtakım sorunlara da neden olabilir. Özellikle gelişmiş yapay zekâ sistemlerinin çalışması göz önüne alındığında Tüzük Teklifi’nde düzenlenen yükümlülüklerin yerine getirilmesi, örneğin gözetim yükümlülüğünün yerine getirilmesi, sağlayıcıların/tedarikçilerin yapay zekâ sisteminin nasıl tasarlandığı ve geliştirildiği hususunu yeniden gözden geçirmelerine neden olacaktır. Elbette bu durum mevzuata uyum konusunda kayda değer masraflara neden olacaktır.
Avrupa Birliği’nde Yapay Zekâ Tüzük Teklifi’nin kabul edilmesi halinde tüm Avrupa Birliği üyesi devletlerde Tüzük uygulanacaktır. Ancak Tüzük’ün etkisi Avrupa Birliği’nin sınırları dışında da hissedilecektir. Türkiye’de yapay zekâ alanında çalışan girişimciler ürettikleri yazılımları Avrupa Birliği’ne ihraç etmek istiyorlarsa Tüzük’te belirtilen hususlara uymak durumunda olacaklardır. Tıpkı Genel Veri Koruma Tüzüğü’nde olduğu gibi bu Tüzük de yürürlüğe girdiğinde, Türkiye de dâhil bu alanda kanunlaştırma çalışmaları yapacak ülkelerde yapay zekâ alanında standartların belirlenmesinde veya gözden geçirilmesinde model niteliğinde bir düzenleme olacaktır.
Geniş açıklama için bkz. BOZKURT-YÜKSEL Armağan Ebru, Avrupa Komisyonu’nun Yapay Zekâ Tüzük Teklifi’ne Genel Bir Bakış, Aristo Yayınevi, İstanbul 2022. (Link)
