Zelal Özdemir
Yapay zekâ (YZ) üzerine yürütülen tartışmalar çoğunlukla benzer sorular etrafında yapılıyor: Yapay zekâ insanların işlerini elinden alacak mı? Yanlış bilgi üretir mi? Devletler veya şirketler tarafından gözetim amacıyla kullanılabilir mi? Algoritmalar ayrımcı olabilir mi? Bunlar elbette önemli sorular. Ancak Langdon Winner’ın kırk yılı aşkın süre önce teknoloji hakkında sorduğu bir soru, yapay zekâyı anlamak için bugün de epey faydalı olabilir. Teknolojik nesnelerin siyaseti var mıdır?
Winner’ın 1980’de yayımlanan Do Artifacts Have Politics? (Teknolojik nesnelerin siyaseti var mıdır?) makalesindeki çıkış noktası, teknolojiyi nötr bir araç olarak görme eğilimimize bir müdahaledir. Genellikle teknolojinin kendisini nötr, sonuçlarını ise onu kullanan insanların tercihlerine bağlı kabul ederiz. Bir teknoloji iyi amaçlarla da kötü amaçlarla da kullanılabilir. Dolayısıyla sorun teknolojide değil onu kullanan insandadır.
Winner bu görüşün kısmen doğru olduğunu belirtir. Onun temel iddiası, makinelerin, altyapıların ve diğer teknik sistemlerin belirli iktidar ve otorite biçimlerini kendi içinde taşıyabilmesidir. Bunu iki farklı biçimde ele alır. İlkinde bir teknolojinin tasarımı veya düzenlenişi belirli toplumsal ilişkileri kurar. İkincisinde ise bazı teknolojiler belirli siyasal ve örgütsel biçimleri gerekli kılabilir veya bunlarla diğerlerinden çok daha uyumlu olabilir (Winner, 1980, s. 123).
Winner’ın ilk kategori için kullandığı en bilinen örnek New York’ta Robert Moses’ın yönetiminde inşa edilen bazı köprülerdir. Söz konusu köprüler otobüslerin geçemeyeceği kadar alçak inşa edilmiştir. Bunun sonucu otomobil sahibi orta ve üst sınıfların belirli kamusal alanlara ulaşabilmesi, toplu taşımaya bağımlı yoksulların ve siyahların ise erişiminin sınırlanmasıdır (Winner, 1980, s. 123–124).
Bu örneği önemli kılan şey ayrımcı bir kararın ötesinde bu ayrımın toplumsal düzenlemenin maddi yapısına yerleşmiş olmasıdır. Köprünün yüksekliği, kimlerin hareket edebileceğini ve kimlerin hareket edemeyeceğini belirleyen bir mekanizma haline gelmiştir. Winner açısından bu nedenle teknolojiyi yalnızca nasıl kullanıldığı üzerinden değerlendirmek yetersiz kalmaktadır. Bir teknolojik nesnenin tasarımı, daha kullanılmaya başlanmadan önce belirli toplumsal sonuçları mümkün veya imkânsız hale getirebilir (Winner, 1980, s. 125).
YZ’ye de Winner’ın bu sorusuyla bakabiliriz. Bir YZ’nin sisteminin politik olup olmadığını sorduğumuzda yalnızca “onu kim kullanıyor?” sorusuna bakmak yeterli değildir. Sistemin hangi veriler üzerinde eğitildiğini, neyi ölçülebilir kabul ettiğini, hangi kategorileri kullandığını, hangi davranışları risk olarak sınıflandırdığını ve hangi kararları otomatikleştirdiğini de sormamız gerekir. Bir işe alım algoritmasını düşünelim. Algoritmanın amacı adayları daha hızlı ve objektif biçimde değerlendirmek olabilir. Ancak adayların hangi özellikleri başarı göstergesi kabul ediliyor? Geçmişte işe alınmış çalışanların özellikleri gelecekteki ideal çalışan profili olarak kullanılıyorsa kurumdaki mevcut eşitsizlikler algoritmik sistemin başlangıç noktası haline gelebilir. Böyle bir durumda sorun yalnızca algoritmanın hatalı olması değildir. Belirli bir toplumsal norm teknik karar verme sürecinin içine yerleşmiş olur.
Winner açısından burada önemli bir nokta daha var. Politik sonuçların ortaya çıkması için mutlaka bilinçli bir ayrımcılık niyeti gerekmez. Winner, engelli insanların hareketini engelleyen binaları, kaldırımları ve ulaşım sistemlerini tartışırken bu ayrımı özellikle yapar. Bu düzenlemeler çoğu zaman engelli insanları kamusal hayattan dışlamak amacıyla tasarlanmamıştır. Fakat sonuç yine de sistematik dışlanmadır (Winner, 1980, p. 125).
Yapay zekâ sistemleri açısından da aynı soru sorulabilir. Bir modelin geliştiricilerinin ayrımcılık yapmak istememesi sistemin ayrımcı sonuçlar üretmeyeceği anlamına gelmez. Veri setleri, sınıflandırma kategorileri, optimizasyon hedefleri ve kurumsal kullanım biçimleri belirli grupları sistematik olarak avantajlı veya dezavantajlı konumlara yerleştirebilir. Fakat Winner’ın argümanı bundan daha ileri gider. Onun ikinci sorusu, bazı teknolojilerin belirli politik örgütlenme biçimleriyle diğerlerinden daha fazla uyumlu olup olmadığıdır. Bazı teknik sistemler işleyebilmeleri için merkezi koordinasyon, uzmanlaşmış bilgi ve hiyerarşik karar alma gerektirebilir. Bazı teknolojiler belirli otorite biçimlerini pratik olarak gerektirirken bazıları ise belirli siyasal ve toplumsal düzenlerle güçlü biçimde uyumlu olabilir (Winner, 1980, p. 130).
Büyük dil modellerinin geliştirilmesi yüksek hesaplama kapasitesi, devasa veri kümeleri, özel teknik uzmanlık ve büyük miktarda sermaye gerektiriyor. Bu özellikler elbette YZ teknolojisinin zorunlu olarak merkeziyetçi olduğunu kanıtlamaz. Ancak belirli bir YZ modelinin üretimi ve kontrolünün birkaç büyük şirketin ya da devlet kurumunun elinde yoğunlaşmasını kolaylaştırabilir. Nitekim Luitse ve Denkena (2021), büyük dil modellerinin gelişiminin büyük teknoloji şirketlerinin iş modelleri ve hesaplama altyapılarıyla yakından ilişkili olduğunu ve büyük ölçekli hesaplama gücüne erişimin AI alanındaki güç ilişkilerini yeniden yapılandırdığını göstermektedir.
Peki YZ’nin mevcut teknik mimarisi hangi güç ilişkileriyle daha kolay birleşiyor? Bu soru teknolojinin üretildiği kurumlar kadar karar alma süreçlerini de ilgilendiriyor. Bir kurum kredi başvurularını, sosyal yardım taleplerini, işe alımları veya göçmenlerin risk değerlendirmelerini algoritmik sistemlere devrettiğinde, karar verme sürecinin niteliği değişebilir. Daha önce bir memurun veya uzmanın gerekçelendirmek zorunda olduğu karar giderek teknik sistemin çıktısı olarak sunulabilir. Sistem başvuruyu riskli bulabilir, algoritma adayı uygun görmeyebilir veya model kişinin ek incelemeye alınmasını önerebilir.
Tam burada Winner’ın “teknik zorunluluk” eleştirisi önem kazanmakta. Winner, modern teknolojik sistemlerde teknik zorunluluğun siyasal tartışmayı bastırabileceği konusunda uyarıda bulunur. Özgürlük, eşitlik veya demokratik katılım talepleri, sistemin etkin çalışması gerektiği gerekçesiyle geri plana itilebilir (Winner, 1980, p. 133). Mesela, “algoritma böyle hesapladı” cümlesi, aslında son derece politik olabilecek bir kararı teknik bir sonuç gibi gösterebilir. Oysa modelin neyi risk olarak gördüğü, hangi değişkenlere ağırlık verdiği veya hangi sonuçları optimize ettiği kendiliğinden ortaya çıkmış değildir. Bu nedenle YZ’nin siyaseti algoritmik önyargı meselesinin ötesinde karar verme yetkisini nasıl yeniden dağıttığı ile ilişkilidir. Kim görünür hale geliyor? Kim sınıflandırılıyor? Kim hakkında veri toplanıyor? Kim sistemin kararına itiraz edebiliyor? Kim sistemin nasıl çalıştığını biliyor? Ve belki de en önemlisi şu: Hangi toplumsal tercihler bir kez teknik sisteme yerleştiğinde artık politik tercih değil de sistemin çalışma biçimi gibi görünmeye başlıyor? Winner’ın yaklaşık yarım yüzyıl önceki sorusunun bugün hâlâ güçlü olmasının bir nedeni burada yatıyor.
Referanslar
Luitse, D., & Denkena, W. (2021). The great Transformer: Examining the role of large language models in the political economy of AI. Big Data & Society, 8(2). https://doi.org/10.1177/20539517211047734
Winner, L. (1980). Do artifacts have politics? Daedalus, 109(1), 121–136.
Oku