AB’nin yapay zekâ yasasında neler var?

n okuyoruz| Bültenden Herkese Merhaba!

Haftanın odağında dünyadaki ilk ciddi YZ yasası olan AB’nin AI Act’ini inceledim ve bunun YZ teknolojileri için nasıl bir kontrol mekanizması kuracağını anlattım. Muhtemelen önümüzdeki yıllarda bu yasadan ilham alan başka yasalar da göreceğiz.

“Ne Okuduk” bölümünde ise ABD’nin TikTok takıntısı, The Telegraph’ın devam eden satış süreci ve daha fazlası var.

Görüş, yorum ve önerilerinizi her zaman bekliyorum.

Haftaya görüşmek üzere!

—Ahmet Alphan Sabancı

Bu hafta ne okuduk?

ABD TikTok’a Takmış Durumda

Son birkaç yıldır ABD’de sosyal medya üzerine tartışmaların büyük bir kısmında başrol TikTok’a ayrılmış durumda. 2010’larda diğer sosyal medya platformlarının riskleri ve potansiyel zararları üzerine yaptığımız ama ABD’de yeterince önemsenmeyen konuların hepsi şu anda TikTok üzerinden tartışılıyor. Aradaki büyük farkın sebebi ise bu platformun sahibinin Çin merkezli bir şirket olması. 

Bu yüzden Facebook ve Instagram gibi ABD merkezli platformlar söz konusuyken ciddiye alınmayan konular TikTok ile birlikte hayati bir mesele gibi lanse ediliyor. Öyle ki, şu anda amacı TikTok’u komple yasaklamak —ya da en azından ByteDance’in elden çıkarmasını sağlamak— olan bir yasa ABD’nin Temsilciler Meclisi’nden geçti. 

Bu yasanın sorunlarını ve ABD’de ifade özgürlüğü başta olmak üzere birçok anayasal sıkıntıya sebep olacağını görmemek imkânsız. Ancak böyle bir yasanın geçmesi durumunda diğer ülkelerden de benzer hamlelerin gelmesi kaçınılmaz. Çünkü ABD’nin TikTok’u Çin’in casusu gibi göstermek için kullandığı argümanların hepsini diğer bütün sosyal medya platformları için de kullanmak mümkün. Umarım ABD böyle saçma bir splinternet akımının fitilini ateşlemek yerine düzgün bir veri güvenliği yasası çıkarmayı tercih eder.

Eski Devlet Ajansı Yola Bağımsız Devam Ediyor

Meksika’da basın özgürlüğünün ne kadar kötü durumda olduğunu ve ülkede gazetecilerin yaşadığı zorlukları zaman zaman bültende ele alıyorum. Bu sefer başlığımız yine Meksika’dan ama konumuz daha pozitif.

Meksika Cumhurbaşkanı Obrador Nisan 2023’te bizim bir devlet haber ajansına ihtiyacımız yok dedikten bir süre sonra Notimex kapatılmış ve zaten zor koşullarda çalışan gazeteciler işsiz kalmıştı. Geçtiğimiz hafta eski Notimex çalışanları AMEXI isimli yeni bir haber ajansı kurduklarını duyurdu. Bağımsız bir şekilde ülkenin derin sorunlarıyla ilgileneceğini söyleyen ajansın bir diğer dikkat çekici özelliği ise kooperatif modelini tercih etmiş olmaları. 

Bir Gazetenin Satışından Çıkan Küresel Drama

Geçtiğimiz ekim ayının sonlarında yazdığım bültende İngiliz The Telegraph gazetesinin satışa çıktığını ve gazeteyi kimin satın alacağının ülke politikasında da etkisi olabileceğinden bahsetmiştim. Fakat konunun bu kadar büyük bir dramaya dönüşmesini beklemiyordum.

Şu anda gazeteyi satın alması muhtemel görünen iki grup var. Bunlardan birincisi İngiliz popülist sağcı GB News kanalının da sahibi Paul Marshall. Diğeri ise CNN’in eski liderlerinden Jeff Zucker. Fakat Zucker’ın ana finansörlerinden birisi Birleşik Arap Emirlikleri’nin çoğunluk hissesine sahip olduğu bir yatırım fonu. Her ikisinin de satın alma ihtimaline dair negatif senaryolar konuşuluyor olsa da gazetenin yabancı devletlerden biri tarafından satın alınma ihtimali İngiliz hükümetini daha çok korkutmuş durumda ve bunu engelleyecek bir yasa çıkarmayı planlıyorlar.

Sürecin nasıl sonuçlanacağını kestirmek zor ama görünen o ki yakın zamanda sonuçlanması ve The Telegraph’ın satışının tamamlanması pek mümkün görünmüyor.

Krallık Seviyesinde Fotoşop Skandalı

İngiliz medyasından bahsedip de İngiliz kraliyet ailesinin medyada sebep olduğu son krizden bahsetmemek olmazdı. Wales Prensesi Kate Middleton’ın aralık ayından bu yana görülmemiş olması ve o sıralarda bir ameliyat geçirmesi geçtiğimiz haftalarda birçok komplo teorisinin ilham kaynağı olmuştu. Wales prensi ve prensesi de bu konuyu bir fotoğraf paylaşarak çözmeye karar verdi.

Ama bu fotoğraf, işlerin iyice kontrolden çıkmasına neden oldu. Instagram’a da yükledikleri fotoğrafta çok garip ve amatör manipülasyon hataları olduğu ortaya çıkınca, üstüne de haber ajansları bu müdahaleler yüzünden fotoğrafı yayından kaldırınca tartışmalar tamamen kontrolden çıktı. Kate Middleton’ın, aile adına açılmış X hesabından yaptığı “kendimce amatör düzeltme denemeleri yaptığım için oldu” açıklaması da bana kalırsa durumu iyice garipleştirdi. 

Çok basit bir durum, şu anda çılgın komplo teorilerinin havada uçuştuğu ve medyanın gereksiz yere zor durumda bırakıldığı bir krize dönüşmüş durumda. Bu da bize gösteriyor ki kötü bir fotoğraf düzeltme çabası deepfake görsellerinden çok daha etkili bir yanlış bilgi kaynağı olabiliyormuş.

Kısa Kısa

😁 Pegasus casus yazılımıyla tanıdığımız NSO Group, ABD’de mahkemenin aldığı kararla bu yazılımın kodlarını WhatsApp’a teslim etmek zorunda kaldı.

📈 Uzun süredir en çok indirilen uygulama listesinin zirvesinde yer alan TikTok’u deviren isim Instagram oldu. 

🤦 Eski CNN spikeri Don Lemon’un X için hazırladığı talk show programı, ilk bölüm için Elon Musk ile yaptığı söyleşinin ardından yayınlanmadan iptal edildi.

📊 NYT, abonelik performanslarını değerlendirmek için nasıl bir sistem kullandığını anlatmış.

🚫 İnternetten izinsiz topladığı görsellerle YZ modelini eğiten Midjourney, kendilerinden izinsiz veri çektiği iddiasıyla bütün Stable Diffusion çalışanlarını engellemiş.

🇮🇱 BM tarafından yayınlanan rapor İsrail tankları tarafından vurularak öldürülen Reuters muhabiri Issam Abdallah’ın açıkça bir gazeteci olduğunun görülebildiğini ve IDF’in uluslararası yasaları ihlal ettiğini söylüyor.

🤖 Microsoft, ücretli Copilot Pro sistemini tüm dünyaya açtı. Türkiye’de istedikleri aylık abonelik ücreti 720 Lira.

Haftanın odağı: AB’nin yapay zekâ yasasında neler var?

Yapay zekâ teknolojileri geliştirilmeye ve yaygınlaşmaya devam ettikçe bu teknolojilerin nasıl kontrol edileceği ve denetleneceği de önemli bir sorun hâline geldi. Dünyanın farklı yerlerinde kimi çabalar olsa da konuyla ilgili en ciddi adımları atan yine Avrupa Birliği oldu. Geçtiğimiz hafta içerisinde, uzun zamandır beklenen YZ Yasası AB Parlamentosu’ndan geçti.

Eğer yasayı kendiniz okumak isterseniz tam metnini burada bulabilirsiniz. Ayrıca bu sitede de kapsamlı bir özetine ulaşmak mümkün. Benim özellikle ele almak istediğim kısımlar ise yasanın nelere öncelik verdiği, nerelerde eksik kalabileceği ve gelecekteki YZ düzenlemelerine nasıl bir yol göstereceği.

YZ Yasasıyla ilgili birçok kesimin dikkat çektiği ve önemli bulduğu alanlardan birisi kesinlikle yasaklı kullanım türlerini belirlemiş olması. Bu kapsamda insanları manipüle edebilecek, onları herhangi bir ayrımcılık ve sınıflandırmaya maruz tutacak, sosyal puanlama gibi sistemlerde kullanılacak ve insanların biyometrik verilerini kullanacak YZ sistemlerinin hemen hepsi yasaklı teknolojiler kategorisine alınmış. Bu kısımdaki düzenlemeler genellikle olumlu karşılandı ancak biyometrik verilerle ilgili güvenlik güçlerine özel durumlar için verilen istisna tepki alıyor. Sonuçta bu tür özel durum istisnalarının keyfi bir şekilde kötüye kullanıldığına dünyanın birçok yerinde şahit oluyoruz. 

Bunların dışına çıktığımızda ise yasa YZ teknolojilerini iki gruba ayırıyor: Yüksek risk ve düşük risk taşıyanlar. Şu anda hemen herkesin kullandığı ve üzerine konuştuğu sistemler genellikle düşük risk kategorisine giriyor ve onlara dair denetim ve kurallar oldukça hafif. “Genel Amaçlı YZ” olarak adlandırdıkları bu kategorideki teknolojilerin bir teknik dokümantasyon hazırlaması, onun üzerine teknoloji geliştirecekler için bir rehber sunması, AB’nin Telif Yönetmeliği’ne uygun bir yapı kurması ve eğitim verilerinin bir özetini hazırlaması yeterli oluyor. Hatta bu genel amaçlı YZ modeli açık kaynak veya özgür yazılımsa yukarıdakilerin sadece yarısını yapması yeterli oluyor. 

Bu kısımla ilgili gelen eleştirilerden birisi, bu tür teknolojilerin sistemik risk oluşturma ihtimalinin eğitim verisi kullanımına dair bir sayıyla belirlenmiş olması. Uzmanlar, teknolojinin mevcut gelişimini göz önünde bulundurduğumuzda bu seviyenin kısa sürede anlamsız kalabileceğini ve başka alternatifler gerektiğini söylüyor.

Son olarak bu iki kategorinin arasında kalan yüksek riskli YZ sistemleri var. Yasa bunları özellikle kullanım alanları ve bu alanların getirdiği risk üzerinden belirliyor. Sağlık, eğitim, altyapı, hukuk gibi alanlarda YZ kullanımı yüksek risk alanı olarak kabul ediliyor ve bu alanda kullanım için geliştirilen teknolojilerin daha sıkı bir şekilde denetlenmesi gerekiyor. Yasa ilk bakışta burada iyi bir başlangıç olarak görülse de uygulamaya geçmeden nasıl bir etkisi olacağını kestirmek zor.

Bütün bunlara genel bir çerçeve olarak bakınca, AB’nin YZ teknolojilerine yaklaşımını ve onu kategorize etme şeklini oldukça kullanışlı buluyorum. Belirli alanlara girişini net bir şekilde yasaklamaları ama diğer yandan genel kullanım için yeterince özgür alan bırakmaları teknolojinin daha sağlıklı bir şekilde gelişmesine alan açabilir. Aynı şekilde bu kategorizasyonun netliği ve kolay anlaşılırlığı, bu yaklaşımın dünyanın geri kalanında da benimsenme ihtimalini artırıyor.

Ama kimi alanlarda da devletler AB’nin getirdiği kısıtlamaları istemeyecektir. Mesela herkes AB gibi açık kaynak ve özgür teknolojilere bu tür bir avantaj vermek istemeyebilir. Aynı şekilde gözetim ve güvenlik amaçlı kullanımı daha serbest bırakmak isteyen ve bu teknolojinin potansiyelini —ne kadar özgürlük kısıtlayıcı olursa olsun— orada da kullanmak isteyen devletler olacaktır.

Genel olarak bu yasayı YZ teknolojilerinin denetimi ve sağlıklı bir şekilde geliştirilmesi açısından atılmış iyi bir adım olarak okumak mümkün. Elbette eksik kaldığı yerler var. Ne kadar etkili olacağını görmek için de yaklaşık üç yıl kadar beklememiz gerekecek. Ama yasanın, hiç adım atılmamasından ve bu şirketlerin kontrolsüzce ilerlemesinden daha iyi olduğu kesin.