Yapay zekaya AB kriterleri

Avrupa Birliği (AB) bir unsur imza atarak, süratle yaygınlaşan yapay zeka teknolojilerine kurallar getirmeye hazırlanıyor.

“AB Yapay Zeka Yasası” ismini taşıyan ve global çapta ilk defa bu alanda en kapsamlı tüzel düzenlemeler öngören yasa tasarısı, bu hafta Avrupa Parlamentosu’nun gündeminde yer alıyor.

Metin üreticisi, sohbet robotu ChatGPT‘yi piyasaya süren OpenAI şirketinin CEO’su Sam Altman, Almanya ziyareti sırasında bu düzenlemelere işaret ederek “aşırı regülasyon” uyarısı yaptı.

Hatta yeni düzenlemelerin kendilerine uymaması durumunda Avrupa’daki faaliyetlerine son verme tehdidinde bulunan Altman, daha sonra “elbette ayrılmak bir planımız yok” diyerek telaffuzunu yumuşattı, geri adım attı.

Sam Altman çok aranan, yapay zeka dünyasında ağırlığı olan bir isim. Hatta Berlin’de, Alman Şansölyesi Olaf Scholz tarafından bile kabul edildi.

OpenAI CEO’su Altman, ilkesel olarak yapay zeka için kurallar öngörülmesini olumlu bulduklarını söylemekle birlikte, “Ama bizim netliğe gereksinimimiz var” dedi.

Avrupa standartlarına ahenk beklentisi

Avrupa Parlamentosu’nun Sosyal Demokrat milletvekili René Repasi, OpenAI yahut ana şirketi Microsoft tarafından yürütülen üst seviye bu lobi faaliyetleri ve ikazlara hayli sakin yaklaşıyor.

Avrupa pazarının, yapay zeka sağlayıcıları için “görmezden gelinemeyecek kadar cazip” olduğuna vurgu yapan Repasi, “Yapay zekasını burada satmak isteyen herkes standartlarımıza uymak zorunda” görüşünü aktardı.

ABD Kongresi’nin de bu bu mevzu ile ilgili düzenlemelere gitmeye hazırlandığını, Amerikalı kongre üyeleriyle de irtibatta olduklarını anlatan Repasi, “Nihayetinde manalı standartlar oluşturmak istiyoruz, amacımız karşılıklı olarak rekabete girmek değil” diye konuştu.

Avrupalı parlamenter, Amerikan teknoloji şirketlerinin çok fazla sermayeye, muazzam ölçüde dataya ve sonuna kadar savunmak istedikleri üstünlüğe sahip olduklarına dikkat çekerken, “Bu kadar çok teknoloji devinin ABD’de yerleşik olması, daha büyük inovasyonun nerede olduğuyla ilgili bir husus değil. Bu daha çok tekelcilerin faaliyet gösterdiği, bozuk pazar şartlarıyla ilgili bur durum” sözlerini kaydetti.

René Repasi, ayrıyeten AB’nin kabul etmeye hazırlandığı yeni kuralların, Avrupa’daki nitelikli start-up’ların yapay zekayı daha da geliştirmesine mahzur olmayacağının da altını çizdi.

Yapay zeka öncülerinden uyarılar

Google’ın eski çalışanı ve yapay zekanın öncülerinden Geoffrey Hinton, son vakitlerde verdiği röportajlarda, geliştirilmesinde çok önemli rol oynadığı bu teknolojilerin oluşturabileceği tehlikeler konusunda ihtarlarda bulundu.

Yakın bir gelecekte üretken yapay zekanın, bu teknolojileri üreten insanlardan daha gelişmiş bir zekaya sahip olabileceğine işaret eden Hinton, ayrıyeten bu teknolojilerin işgücü piyasasında yol açması olası değişimin de öngörülemez olduğunu kaydetti.

Bu sistemlerin yaratıcıları ile Microsoft ve Google yöneticileri, yapay zeka uygulamalarının artık nasıl işlediğini tam olarak bilmediklerini de itiraf ettiler.

Twitter’ın sahibi Elon Musk’ın da aralarında bulunduğu araştırmacılar ve teşebbüsçüler yazdıkları açık bir mektupta, yapay zekanın gelişimine sonlar koymak için yıl sonuna kadar beklenmesi davetinde bulundular.

AB ise, iki yıldır hazırlıkları süren yasa ile mümkün risk ve tehlikeleri önlemek istiyor.

AB düzenlemesi ne öngörüyor?

Prensipte düzenlemeler yapay zeka uygulamalarının riskler bakımından sınıflandırılmasını öngörüyor.

İnsanların sosyal davranışlarını kabul edilemez şekilde tahlil eden ve bu tahliller sonucunda gelecekteki davranışlarıyla ilgili öngörülerde bulunan sistemler “yüksek riskli” olarak sınıflandırılacak ve yasaklanacak. Risk oluşturan sistemler kurallara, sınırlamalara tabi olacak. Daha kolay uygulamalar, ki muhtemelen ChatGPT de bu kapsamda olacak, çok da önemli sınırlamalara tabi olmayacak.

Bununla birlikte yapay zeka ile verilen tüm hizmetler etiketlenecek. Bu hizmeti alan bireyler, muhatabının, hizmeti verenin, yapay zeka olduğunu bilecek.

Parlamenter René Reparsi, tüketici kredileri için yapılan müracaat süreçlerini örnek olarak gösterdi. Müracaatların günümüzde artık büyük ölçüde yapay zeka tarafından denetim edildiğine dikkat çeken Reparsi, “Sonuç aksiyse, bunun bir insan tarafından denetim edilmesi talep edilebilmeli. Aslında öncesinde de bir yapay zeka ile görüştüğünüzü bilmeniz gerekiyor” dedi.

AB yasası ne zaman yürürlüğe girer?

AB yasasının yürürlüğe girmesi zaman alacak, hatta 2025 yılının başını bulabilir. Yürürlüğe girebilmesi için Avrupa Parlamentosu’nun onayının akabinde, 27 üye ülkenin onayı gerekecek.

Avrupa Parlamentosu’nun Hristiyan Demokrat milletvekillerinden Axel Voss, bu yasa iki yıl önce ilk gündeme geldiğinde şimdi ChatGPT uygulamaların olmadığını, yasa yürürlüğe girdiğinde ise bu alanda çok daha büyük ilerleme kaydedilmiş olacağına işaret etti. Voss, yasa yürürlüğe girdiğinde yaşanan süratli değişim nedeniyle kimi hususların o günün şartlarına uymayabileceğini de sözlerine ekledi.

Yıllardır yapay zeka konusunda çalışmalar yürüten ve AB’nin yasasını kaleme alanlar arasında yer alan Voss, çok katı yasaklardan kaçınılması gerektiği görüşünde.

Voss, “Aslında rekabet ve bu alanda zati geriden geldiğimiz için yapay zeka konusunda daha güçlü ve optimist bir ruh haline muhtaçlığımız var. Lakin Avrupa Parlamentosu’ndaki çoğunluk açısından ortaya çıkan şey, insanların kendilerini kaygı ve telaşların yönlendirmesine izin vermeleri ve her şeyi dışlamaya çalışmalarıdır” dedi.

AB üyesi ülkelerin data muhafaza sorumluları yapay zeka uygulamalarının bağımsız olarak denetlenmesi ve bilgi muhafaza yasasında daha fazla düzenleme yapılması davetinde bulundu.

Sosyal Demokrat milletvekili René Reparsi ise yasanın esnek olması, hangi uygulamaların yüksek riskli olduğuna ilişkin tespitlerin yasa metninde değil, eklerinde yer alması gerektiğini savundu. Reparsi, bu sayede daha süratli değişiklik yapılabileceğini, değişime daha kolay kolay adapte olunabileceğini kaydetti.

TÜV güven tesis edebilir mi?

Yeni yasa, Avrupa’da riskli yapay zeka uygulamaları satmak isteyenlere karşılanması gereken zorlu yükümlülükler getirecek. Ayrıyeten bu şirketler ürünleri için risk yönetimi oluşturmak zorunda olacak.

Verileri kullanılan bireylere, bu bilgilerinin hangi hedeflerle kullanıldığını bildirme mecburiliği getirilecek.

İtalyan bilgi muhafaza otoritesi, data muhafazadaki eksiklikler nedeniyle Nisan ayında ChatGPT’yi kısa bir süre yasaklamış, üretici OpenAI şirketi birtakım değişiklikleri hayata geçirdikten sonra bu yasağı kaldırmıştı.

Almanya’da da ilgili kurumlar, Alman Federal Bilgi Güvenliği Ofisi ve Fraunhofer Enstitüsü, yapay zeka uygulamaları için özel bir sertifikayı yürürlüğe koymayı değerlendiriyor.

Tıpkı bir arabanın TÜV’e gitmesi gerektiği gibi, yapay zekanın da, denetçiler tarafından teknik olarak sertifikalandırılması düşünülüyor. Böylece, sürücüsüz araçlara yahut tıp alanında, örneğin ameliyatlar yapacak robotlara da güven tesis edilebilecek.