Otonomi ve Otomatiklik
David W. Bates
O halde, paradoksal şekilde bir karara bağlanması gereken bir karar kriziyle karşı karşıyayız; ancak kararın dayanağı ortadan kaldırılmıştır; her karar, ister bir beyin sistemi, ister bir bilgisayar ağı, ister Foucaultçu bir disiplin matrisi olsun, onu üreten sistemin ifadesinden ibarettir.
10/26 | Teori
Yapay zekanın tarihsel evrimi ve gelişimi, bilişsel bilim ve sinirbilimlerinin birleşmesiyle bağlantılı olmuştur. Dijital çağın başlangıcından bu yana, beyin, zihin ve bilgisayar arasında karmaşık ve karşılıklı olarak birbirini biçimlendiren bir yansıtma ilişkisi söz konusudur. Günümüzde düşünen bir kişi olmak bir “beyin” olmak anlamına geliyorsa, hâkim nörobilimsel pratiğin egemen paradigmaları bakımından beynin esasen bir bilgisayar, bir enformasyon işleyici olduğu da doğrudur. Ya da nöromorfik çip tasarımlarının geliştirilmesi ve bilişsel hesaplamanın ortaya çıkışı, yapay zekânın sinir ağlarının devasa miktardaki veriye dayanarak dünyayı yorumlayıp öngörülerde bulunduğu derin öğrenme çağıyla örtüşürken, bizzat bilgisayar da aynı derecede kolaylıkla bir beyne dönüşebilir. Bu disiplinler ve teknolojiler, insan zekasının ortaya çıkışını çeşitli nöral işlevlerin ve mekanizmaların ürünü olarak açıklayan evrimsel teori akımıyla da el ele gider.
Bir bakıma bu, insana dair iki güçlü felsefenin, aralarındaki köklü ayrılığa rağmen bir arada var olduğu tuhaf bir uğraktır. Zira sosyal bilim kuramı, bilim ve teknoloji çalışmaları ve eleştirel beşeri bilimler dünyasında, baskın analiz çerçevesi insanın tarihselliğini ve kültürel çoğulluğunu vurgulamış ve son yirmi otuz yılda giderek artan biçimde, insanların, bireyleri çeşitli kontrol ve gelişim biçimlerine tabi tutan, tarihsel olarak yapılandırılmış ağlar ile sistemlerin yalnızca bir parçası olduğu yönünde bir mutabakata varılmıştır. Yani bizler, çok tanıdık ve neredeyse doğal gelen, ancak acımasızca eleştirilebilen ve tarihsel bağlamda incelenebilen, siyasi, ekonomik, sosyal, ahlaki, çevresel vb. sistemlerdeki işlevleriz.
Öte yandan, insanları, esasen, çeşitli türlerdeki bilgi işleme süreçleri açısından modellenebilen bilinçdışı ve otomatik sinirsel süreçler tarafından yönlendirilen varlıklar olarak giderek daha iyi konumlayan kavramsal ve disiplinlerarası bir yaklaşımımız var; beyin ise bu çeşitli süreçleri aracılık eden en karmaşık ağdır. Sonuç, bir bilişsel bilim makalesinin başlığını ödünç alacak olursak, “var olmanın dayanılmaz otomatikliği” diye adlandırılabilecek yeni bir durumdur. Bilişsel bilimciye göre, insan iradesi kanıtlanabilir bir şekilde bir yanılsamadır ve kontrollü deney koşullarında, beyin kararını zaten verdikten milisaniyeler sonra ortaya çıkar. Bilinç ise, hâlâ felsefi bir sorun olmakla birlikte, artık bilinçdışı işleyiş alanından tepkiler uyandırabilen dikkat mekanizmalarıyla bağlantılı, sadece bir başka evrimsel işlev olarak anlaşılmaktadır. Daniel Kahneman’ın terimleriyle ifade etmek gerekirse, ister hızlı ister yavaş düşünelim, biliş sistemi bir bütün olarak, otomatik ve otonom bir düşünme teknolojisi halindeki beyin tarafından kapsanmaktadır. Günümüz bilimsel bağlamında düşünce başka ne olabilir ki? Bir psikoloğun bir süre önce belirttiği gibi, “Zihinle ilgili herhangi bir bilimsel teori, zihni bir otomat olarak ele almak zorundadır.” Zihin gerçekten çalışıyorsa, bilinen ilkeler temelinde çalışmak zorundadır; bunlar da esasen, maddi olarak somutlaşmış bir sinirsel işleme sürecinin ilkeleridir. Hümanistlerin, çoğunlukla haklı nedenlerle nefret ettiği Steven Pinker, bu durumu açıkça şöyle ifade etmiştir. “İnançlar bir tür enformasyondur, düşünme bir tür hesaplamadır; duygular, güdüler ve arzular ise bir tür geri bildirim mekanizmasıdır.” İfade ne kadar çiğ olursa olsun, önemli olan burada iş başında olan genel ilkedir. Bilişsel bilim ve sinirbilim, bu disiplinlerle ilgili sayısız yapay zeka ve robotik modelle birlikte, kavramsallaştırmalarına ruhani ya da “transandantal” olarak adlandırılabilecek bir unsur katamazlar. Bilinç bile, ne kadar rahatsız edici olursa olsun, önünde sonunda fizyolojik düzenin bir sonucu şeklinde anlaşılacak ama bu arada zihnin diğer herhangi bir yönü gibi incelenmesi mümkün bir şey halinde nitelendirilerek etkili bir şekilde bir kenara itilebilir. Felsefeci Andy Clark’ın da belirttiği gibi, günümüz felsefesinin temel meselelerinden biri otomatikliktir: “Zombi testi, son dönemlerde bilişsel bilim alanında elde edilen ve günlük davranışlarımızın, bilincin hiç dahli olmadan gerçekleşen otomatik süreçler tarafından kontrol edildiğini gösteren şaşırtıcı bulgulara dayanmaktadır.”
Bunu kabul etmek istemesek de, Sapiens kitabıyla tanınan Yuval Harari, bugünkü durum hakkında en azından önemli bir açıdan muhtemelen haklıdır. Onun da dediği gibi, “biz” (yani bilişsel bilimciler) artık insanları “çözmüş” durumdayız, neden bu şekilde davrandıklarını ortaya çıkardık ve bu bilişsel davranışları çeşitli yapay teknolojilerde yeniden ürettik ve bu süreçte büyük ölçüde geliştirdik:
“Geçtiğimiz yıllarda yapılan sinirbilim ve davranışsal ekonomi gibi alanlardaki araştırmalar, biliminsanlarının insanların işletim sistemine erişim sağlamasına ve özellikle de nasıl tercih yaptıklarını daha iyi kavramalarına imkan tanıdı. Ne yiyeceğimizden tutun da kiminle cinsel birleşme yaşayacağımıza kadar verdiğimiz türlü kararın, gizemli bir özgür iradeye değil olasılıkları bir salisede hesaplayan milyarlarca nörona bağlı olduğu ortaya çıktı. Yere göğe sığdırılamayan insani sezgiler esasen örüntü tanıma yetisidir.”
Biz yargı, finans veya diğer bağlamlarda karar verme sürecinin algoritmalarla ikame edilmesine haklı olarak şiddetle karşı çıkarken, kararla ilgili yeni bilimlere göre, insan beyninde de bundan başka bir şey olmuyor ve adil olmak gerekirse, yapay zeka çağından önce de insanların önyargı sergilemediği söylenemez. Bildiğimiz gibi, örneğin algoritmik ceza belirleme sisteminin geliştirilmesi, insan yargılarının öznelliğinden ve değişkenliğinden kaçınma arzusundan kaynaklanmıştır.
Her halükarda, Harari’nin insan meselesinde bilim ve teknolojinin ana akımını yansıttığını kabul etmeliyiz: tabiri caizse, “sadece biyokimyasal algoritmalardan ibaret’ olduğumuz için, bilgisayarların bu algoritmaları deşifre edememesi için hiçbir sebep yoktur, üstelik bunu herhangi bir Homo sapiens’ten çok daha iyi yapabilirler.” Bu nedenle, son zamanlarda okurlara günlük yaşamlarını iyileştirebilecek, bilgisayar biliminden kavramları faydalı şekilde tanıtan “Algorithms to Live By: The Computer Science of Human Decisions” ve net, algoritmik bir nesnellik sürecini taklit etmemizi tavsiye eden “Noise: A Flaw in Human Judgment” gibi korkutucu başlıklara sahip kitaplar yayımlanmıştır. Ancak asıl vurgulamak istediğim nokta, Harari’nin günümüz krizini çok net şekilde ortaya koymasıdır: Bu, bir karar krizidir. “Oysa bilgisayar algoritmaları doğal seçilim tarafından şekillendirilmediği gibi duygu ya da içgüdü sahibi de değil. Dolayısıyla etik kurallarını doğru şekilde sayılar ve istatistikler olarak kodlamanın bir yolunu bulabilirsek, kriz anlarında etik ilkelere insanlardan daha iyi uyabilirler.” Bilgisayarlar daha iyi ve daha tutarlı kararlar verecektir; zira bunlar kriz anında alınan kararlar değil, nesnel bir bakış açısıyla değerlendirilen duruma kuralın uygulanmasıdır.
Bu yapay zeka vizyonuna yönelik tepkiler, niyetleri ne kadar iyi olursa olsun, çoğu zaman tam da hümanistler ve sosyal bilimcilerin on yıllardır hatta yüzyıllardır çürütmeye çalıştıkları insan hakkındaki basmakalıp söylemlerden beslenmiştir. Ahlak, etik ya da insanla uyumlu yapay zeka ve robotik alanındaki yeni merkezler, teknolojinin hizmet etmesi gereken doğal bir “insan” anlamı ya da kapasitesini öne sürmektedir, bu genellikle kapsayıcılık, eşitlik ve adalet gibi yeni bir dilde ifade edilmektedir; sanki bu kavramlar tarihsel olarak belirli şekillerde ortaya çıkmamış ya da ölümcül çatışmalarda (örneğin iç savaşlarda) tartışma konusu olmamış gibi. Stanford Üniversitesi İnsan Odaklı Bilgi İşlem Merkezi’nin ana sayfasında da belirtildiği gibi, “Yapay Zeka, tüm insanlık için daha iyi bir gelecek kurma konusundaki ortak hayalimizi gerçekleştirmemize yardımcı olma potansiyeline sahiptir.” Buna şöyle cevap verebiliriz: Komünizm ve Batı’nın neoliberal demokratik kapitalizmi de öyleydi.
Peki, eleştirel akademisyenler ne gibi katkılar sunabiliyor? Şu anda, uzun vadede pek sürdürülebilir görünmeyen gevşek bir işbirliği var gibi. Teknik sistemleri ve bunların ardındaki siyasi ve ideolojik akımları oldukça etkili bir şekilde eleştirmek mümkündür; son yıllarda medya ve teknoloji üzerine yapılan pek çok parlak çalışma, dijital çağımızın emek dinamikleri, maddi altyapıları, çevresel etkileri ve siyasi alt akımlarına dair araştırmalarla teknoloji imajını ve onun kolaycı çözümcül yaklaşımını alışıldık kalıpların dışına çıkararak yeni bir gözle ele almıştır.
Yine de: Otomatikleşen çağımızın “yeni insanı”na karşı çıkabilecek şey hakkında, ne tür anlamlı ya da olumlu bir söz söyleyebiliriz? Yeni bir örgütlenmenin temelini ne oluşturacak ya da geleceğe dair yeni bir kararın itici gücü ne olacak? Örneğin, kapsayıcılık siyasi bir terim değildir, ya da belki daha doğru bir ifadeyle, bu sadece siyasi, polemik amaçlı bir terimdir. Buradaki zorluk, belli ki, akademideki eleştirel düşünürler arasında, hakiki insanı ya da toplumu, siyasi yapıyı ya da küresel konfigürasyonu düzenlemenin tek bir yolu olmadığı konusunda fikir birliği olmasıdır. Bununla birlikte, günümüz eleştirisi büyük oranda, eleştiri sona erdiğinde ortaya çıkacak otomatik uyuma bir tür gizli güven beslemektedir, bu, Fransız Devrimi’nde Saint-Just’un teröre meşruiyet kazandırma yaklaşımının bir versiyonudur.
O halde, paradoksal şekilde bir karara bağlanması gereken bir karar kriziyle karşı karşıyayız; ancak kararın dayanağı ortadan kaldırılmıştır; her karar, ister bir beyin sistemi, ister bir bilgisayar ağı, ister Foucaultçu bir disiplin matrisi olsun, onu üreten sistemin ifadesinden ibarettir. Bir aktör-ağ sisteminin herhangi bir şey hakkında “karar verdiğini” hayal etmek mümkün mü? İnsanın ayrıcalığını ortadan kaldırdığımızda, teklik’e karşı “çokluk” ya da çeşitliliğin sadece boş bir onaylaması olmayan yeni bir teknoloji anlayışının başlangıç noktası nerede? Ya da teknik belirlenime karşı insani değerlerin savunulması nerede?
Şu anki krizin, bu bağlamda “insan” kavramının yeniden düşünülmesini ve kararın kendisinin önceliğini ortadan kaldırmayı amaçlayan iki felsefenin gelişmesini gerektirdiğini öne sürmek istiyorum. Bu, insan özgürlüğünü ya da bu özgürlüğü besleyen kurumları geri kazanmak için atılan gerici bir adım olamaz. Bence, günümüzde her iki felsefe bağlamında da ortaya çıkan otomatikliğin kendine özgü doğasına dikkat etmeliyiz. Bu projenin amacı, otomatikliği yeniden düşünmek ve otomatik çağın tarihsel, felsefi ve bilimsel kuralları çerçevesinde, “otonomi” olarak adlandırabileceğimiz kavramı yeniden kazanmaktır.
Çeviren: Hilal Kazan
*David W. Bates, An Artificial History of Natural Intelligence - Thinking with Machines From Descartes to the Digital Age (The University of Chicago Press, 2024, s. 2-6.
