Beyaz Saray’daki yapay zeka gelişmeleri
AVBA Policy Articles No.1
Beyaz Saray Bilim ve Teknoloji Politikası Ofisi, yapay zekâ çağında otomatik sistemlerin tasarımı, kullanımı ve dağıtımına rehberlik etmesi amaçlanan Yapay Zekâ Hakları Bildirgesi’ni (Blueprint for an AI Bill of Rights) yayımladı. Bu bağlamda medeni hakları koruyan ve demokratik değerleri destekleyen politikaların ve uygulamaların geliştirilmesi hedefleniyor.
Bir adım geriden
Daha önce Trump yönetiminde de Beyaz Saray’ın yapay zekaya ilgisi oldukça yüksekti.
2019'da 13859 sayılı Yürütme Kararı ile yapay zekâ teknik standartları için bir plan yayımlandı. (Yapay zekaya yönelik politikaların belirlenmesi için öncelikli olarak “güvenlik” kaygısından hareketle teknik standartların belirlenmesi gerekiyordu.)
2020 Ulusal Yapay Zeka Girişimi Yasası yayımlandı.
Yapay zeka düzenleyici kılavuzu yayımlandı.
Federal çerçevede yapay zeka kullanımı için rehber yayımlandı.
Yapay zekâ AR-GE çalışmalarına yönelik 2016-2019 ilerleme raporunu yayımlandı.
ABD’nin yapay zekaya olan ilgisinin büyük çoğunluğu yapay zekanın Çin’in liderliğinde olması. Geçen sene ABD’nin en önemli ulusal güvenlik düşünce kuruluşlarından Harvard Belfer Center’ın “Çin, yapay zeka’da ABD’yi yeniyor mu?” başlıklı araştırma yazısında yapay zeka alanında ABD ve Çin karşılaştırmasını görebilir ve raporun çıktılarının aslında “plan”daki hedeflerle uyum sağladığını gözlemleyebilirsiniz. Yapay zekada ABD Çin yarışına dair diğer önemli bir kaynak da “ABD-Çin teknoloji yarışını kimin kazandığını gösteren dokuz çizelge” başlıklı Washington Post yazısı olabilir.
Biden hükümetine bakacak olursak, iki sene içerisinde Biden hükümeti de yapay zeka politikalarına yönelik adımlar attı. Ancak, elbetteki bir sağ hükümetin ulusal güvenlik politikaları yarışı gibi olmadı.
Yapay zeka inovasyonunu teşvik etmek amacıyla Yapay Zeka Araştırma Kaynak Görev Gücü'nü başlattı.
AI.gov websitesini açtı. Bu “kamu” için meşru olan inovasyonu görmek açısından hayli önemliydi. Zira Blueprint de aslında AI.gov’un da katkılarıyla yapıldı.
Görev Gücü, kuruluşundan bu yana, 39 uzmanın katılım sağladığı halka açık toplantı düzenlemiş ve halktan bilgi talebine (RFI) ilişkin verilen 90+ soruya yanıt vermiş. Tüm halka açık toplantılardan elde edilen materyaller ve RFI'ye verilen yanıtlar www.AI.gov/nairrtf adresinde bulunarak vatandaşın kaygıları giderilmeye çalışılmıştı. Ancak Trump hükümeti dönemindeki gibi kapsamlı ve yazılı çalışmalar yapılmamıştı. Bu bağlamda Biden hükümetinin Beyaz Saray resmî web sitesinde yeni yasama yılında “eylem çağrısı” oluşturacak şekilde bir bildirge yayımlaması geç kalınmış ancak önemli bir adım olarak değerlendirilebilir.
Bildirge neyi değiştirir?
Öncelikle bilinmesi gerekiyor ki Beyaz Saray’ın bu hamlesi yasama/yargı için herhangi bir bağlayıcılık oluşturmuyor. Mevcut herhangi bir tüzük, yönetmelik, politika veya uluslararası belgenin yorumunu geçersiz kılmıyor veya değiştirmiyor. Kamu veya Federal kurumlar için bağlayıcı bir kılavuz teşkil etmemesi sebebiyle burada açıklanan ilkelere uyulması gerekmiyor. Ayrıca, ABD hükümetinin uluslararası müzakeredeki pozisyonunun ne olacağı konusunda belirleyici değildir ancak yatırım/regülasyon/uluslararası konum tarafındaki meyilini göstermektedir. Türkiye’de hükümet tarafından oluşturulan bildirgelere çok alışkın olmasak da ABD’de de yasama ve yargıyı harekete geçirmek için bir eylem çağrısı olarak değerlendirilir.
Bildirge neden söz ediyor?
"Otomatik sistemlerin vatandaşların haklarını, fırsatlarını veya kritik ihtiyaçlara erişimini anlamlı bir şekilde etkilemesi için rehberlik edecek" 5 ana ilkeyi belirler. Her bir ilkede topluluklar, endüstri ve hükümetleri göz önünde bulundurarak politika, uygulama veya teknolojik tasarım sürecinde atılması gereken örnekler ve somut adımlar sağlamaya çalışıyor.
1. Güvenli ve Etkili Sistemler (Safe and Effective Systems)
· Otomatik sistemlerin tasarımında, geliştirilmesinde ve devreye alınmasında uygunsuz veya alakasız veri kullanımından ve bunların yeniden kullanımının bileşik zararlarından korunmak,
· Potansiyel zararları azaltmak için atılan adımların raporlanması da dahil olmak üzere, sistemin güvenli ve etkili olduğunu teyit eden bağımsız değerlendirme ve raporlamalar yapmak ve bunları halka açmak.
2. Algoritmik Ayrımcılık Korumaları (Algorithmic Discrimination Protections)
· Sistem tasarımının bir parçası olarak proaktif hakkaniyet değerlendirmelerini, temsili verilerin kullanımını gözetlemek,
· Tasarım ve geliştirmede engelli kişilerin erişilebilirliğini sağlamak dağıtım öncesi ve devam eden eşitsizlik testi oluşturmak,
· Eşitsizlik testi sonuçları ve etki azaltma bilgileri de dahil olmak üzere algoritmik etki değerlendirme raporu oluşturmak ve bunları halka açmak.
3. Veri Mahremiyeti (Data Privacy)
· Sürekli gözetim ve izlemenin oluştuğu eğitim, iş, barınma veya bu tür gözetim teknolojileri hakları, fırsatları veya erişimi sınırlandırması muhtemel diğer bağlamlarda kullanmamak,
· Mümkün olduğunda, veri kararlarına saygı gösterildiğini teyit eden ve gözetim teknolojilerinin hakların, fırsatlar veya erişimin üzerindeki potansiyel etkisinin bir değerlendirmesini sağlayan raporlandırılmalar yapmak ve kamuya açmak.
4. Farkındalık ve Açıklama (Notice and Explanation)
· Tüm operatörler veya sistemi anlaması gereken diğer kişiler için teknik olarak geçerli, anlamlı ve yararlı olan ve bağlama göre risk düzeyine göre kalibre edilmiş açıklamalar sağlamak,
· Bu otomatik sistemlerle ilgili özet bilgileri sade bir dille açıklamaların netliği ve kalitesine ilişkin değerlendirmeleri içeren raporlama yapmak ve kamuya açmak.
5. İnsan Alternatifleri, Değerlendirme ve Alternatif (Human Alternatives, Consideration, and Fallback)
· Ceza adaleti, istihdam, eğitim ve sağlık dahil ancak bunlarla sınırlı olmamak üzere hassas alanlarda kullanımı amaçlanan otomatik sistemler ayrıca amaca uygun hale getirmek ve erişim sağlamak,
· Olumsuz veya yüksek riskli kararlar için insan değerlendirmesinin dahil etmek. Bu insan yönetişim süreçlerinin tanımı ve bunların güncelliği, erişilebilirliği, sonuçları ve etkililiğinin değerlendirilmesini içeren raporlama yapmak.
Bir adım ileri
Bildirgenin yayımlandığı tarihte IBM de Yapay Zekâ Yönetişimi’ne ilişkin bir ürün yayımlamıştı. Teknik konulara ilişkin “uygulanabilir” politika çıktıları açısından IBM gibi bu alanda önde gelen paydaşların teknik raporları önemli. IBM AI Governance, IBM Cloud Pak for Data üzerinde oluşturulmuş yeni bir tek durak çözümdür. İşletmelerin düzenleyici gereksinimlerini karşılamalarına ve yazılım otomasyonu yoluyla etik kaygıları gidermelerine yardımcı olmak için tasarlanmış. Mevcut veri bilimi platformunuzdan geçiş yapmanın aşırı maliyetleri olmadan eksiksiz bir yönetim çözümü sağlayacağını vaat ediyor.
Merak edenler için: https://www.ibm.com/blogs/journey-to-ai/2022/10/ai-governance-break-open-the-black-box/
AB Yapay Zeka Taslağı’na bakıldığında da birçok kaygının benzer olduğunu görüyoruz. Ancak AB bu konuda çok daha tedbirli.
Taslağa dair bilgi notuna bakmak isterseniz: https://nesibekiris.medium.com/avrupa-birliği-yapay-zekâ-yasa-taslağı-bilgi-notu-da76357c10bd
Bu bildirgeyi yapay zekaya ilişkin Biden Hükümetinin ilk resmi çıktısı olarak kabul edebiliriz. Daha önce Lex Crypto bülteninde ve CoinDesk yazılarımda da bahsettiğim kripto regülasyonuna ilişkin yayımlanan 21 raporun da amacı yeni yasama döneminde regülasyonlar için bir kıvılcım oluşturmaktı. Ancak burada bahsettiğimiz bildirgeye ilişkin Senato’da nasıl bir hareketlenme olacak gözlemleyeceğiz.