The Artilect War:
İnsan zekâsının ötesinde
Jacob Coxon'un geçen hafta Anthropic'ten istifa ederek YZ şirketlerini sorumsuzlukla suçlamasının ardından Hasan Cem Çal, ta 2005'te bu tehlikelere dikkat çeken ve sadece bilimkurgu olarak görülen The Artilect War üzerinde duruyor.
Ünlü yapay zeka araştırmacısı, Artilect War'un yazarı Hugo de Garis'in yüz hatları kullanılarak yapay zekâ tarafından üretilmiş dijital bir illüstrasyon.
Bazı kitapların çağının çok ötesinde olduğunu ve zamanlarının yazıldıkları vakit “henüz gelmemiş” bulunduğunu bilsek de, bu genel itibariyle bu kitapların işaret ettiği psişeyle, ruh haliyle ilgili bir öncülüktür daha çok; yoksa kitabın içeriğinin bir tür gerçekliğe dönüşmesiyle ilgili değil. Oysa bugün, Nick Land’in “zekâ patlaması” olarak tanımladığı, yapay zekânın ve modellerinin üssel bir gelişim göstererek insanı -ebilirlikte sollamaya meylettiği bir çağda, Çin’de yapay beyin geliştiricisi olarak çalışan Hugo de Garis’in The Artilect War: Cosmists vs. Terrans’ı tam da ikinci tür “öncü kitap” kategorisine giriyor: Kitabın hakkında olduğu şey giderek gerçekliğimizin kendisi; her geçen gün daha da...
De Garis kitabında nelerden bahsediyordu? Basitçe, (Türkçe vurguyla) “artilect” dediği şeyin yaratacağı savaşlardan. Peki, artilekt neydi? Artificial ve intelligence kavramlarının birleşmesiyle türetilmiş bir neolojizm olarak artilekt, esasında bugün yapay genel zekâya (AGI) ve yapay süper zekâya (ASI) karşılık gelir: İnsan zekâsından çok üstünde olan, onun yapabilirliğini ona, yüze, bine katlayan bir zekâ tipi. Bu tip bir zekânın bir savaşı tetikleyeceğini öne sürmüştü de Garis ta 2000’lerin başında; zira insan böylesi bir zekâ tarafından hâkim olunmaya meyilli ve teşne olmayacaktı ona kalırsa ve bu da bir “türler arası hâkimiyet savaşı”na, species dominance war’a sebebiyet verecekti; yani “daha zeki” olmak için bir savaşa...
Ama tabii, de Garis’in tezi basitçe insanla makineler arasındaki bir savaşa işaret etmez; The Terminator’ın bir diğer çeşitlemesi ya da teorik yeniden sunumu değildir. Daha ziyade, de Garis şunu öngörmüştü ve bugün bu öngörünün ta kendisi bizim gerçekliğimizi ilgilendiriyor: Gelecekte, bu yüzyılın ortalarından sonrasına, sonlarına doğru, insan zekâsını aşan bir zekânın doğumunu kutlayan ve kutsayan, ama aynı anda da bu zekâyı lanetleyen ve onu yok etmeye çalışan iki tür insan tipi ortaya çıkacaktı ve işte savaş da onlar arasında olacaktı; yani insandan üstün bir şeyin var olup olmayacağını belirlemek için gerçekleşecekti savaş. Diğer bir deyişle, insanlar birbirine savaş açacaktı; yoksa makine insana değil.
Kozmistler ve terranlar: de Garis’in geleceğin “zekâ yanlısı” ve “zekâ karşıtı” tipleri olarak adlandırdığı tipler bunlar. Nitekim bugün, Elon Musk’ın SpaceX gibi projelerinde (ki de Garis kitabını yazarken esamesi dahi okunmuyordu) kozmistlerin mükemmel bir örneğini görüyoruz: İnsan, ürettiği zekâyla birlikte, onun aracılığında dünya dışına açılmalı, evreni fethetmeli, daha çok “bilmeli”dir. Terranlar ise farklı bir bakış açısına sahiptir, adlarından da anlaşılacağı üzere: Önemli olan “bura”, dünya, gök değil, “yer”dir; insanı var eden, antropik ilkeyle koşullu bir gezegen, kaynaklarıyla ve onu bugünlere getiren “ana varlık” olarak insanla var olmalı, ondan daha dominant bir “tür” bulunmamalıdır.
Savaş, bu perspektiften, insana karşı insanladır; insan zekâsı için ya da bir başka zekâ uğruna. Old school bir deyişle: Makine yapıcılara karşı makine kırıcılar (neo-Luddistler).
Şimdi, asıl sorumuza ve sorunumuza gelelim: Bu teori, daha doğrusu, bu fazlasıyla tanıdık gelecek tahayyülü, bugün yapay zekâ kullanımının her alanda ayyuka çıktığı, “yaşam uzatma”nın trend halini aldığı, ekonominin giderek siber teknolojilerle boğumlu hale geldiği ve her tür faaliyetin işlemsel/bilgisayımsal sistemlerin teorik ve pratik dolayımından geçtiği bir ortamda bize ne söylüyor? Acaba bir savaş mı olacak, yoksa de Garis’in “üçüncü tür” olarak konumladığı, teknolojiyi hayatının her alanına entegre etse de “insan” kalmış, şimdiden olduğumuzu iddia edebileceğimiz, kozmistler ile terranlar arasında bir uzlaşıyı talep eden sayborglar mı “genel popülasyon” haline gelecek? Yarınımız bize ne söylüyor ya da “yarınımız” ifadesi dahi fazlasıyla saf mı?
Bu sorulara bir cevap vermek zor olsa da, şu anda olup bitenlere göz atarak ve eğilimin, yönelimin, zekâya yönelik ve dönük tandansın ne olduğuna dair belli başlı tespitlerde bulunmak, hiç mi hiç falcılık yapmadan, mümkün gibi görünüyor, ki bu metnin amacı da bu basitçe. Ve bakıldığında, her geçen gün de Garis’in “uzlaşma ötesi konum” olarak tanımlayabileceği “kozmist-terran savaşı”na yaklaşıyormuşuz gibi duruyor. Bilgisayar bilimci Ben Goertzel’in de dediği gibi, yapay zekâdan giderek daha çok korkuyoruz, ama aynı zamanda giderek daha da fazla etkileniyoruz ondan. Yakın vakitte ChatGPT’nin GPT-6 Astra modelini “piyasa”ya sürmesiyle birlikte yaşanan yapay genel zekâ hype’ı bile başlı başına bir belirti; büyülenmeyle dehşete düşme arası bir ilgi. Yapay zekâdan “korkanlar” ve ona “coşanlar”: Tanıdık geldi mi?
Şimdi, üç ayaktan söz etmek mümkün olabilir, bu bağlamda ve temelde. Bunlar, ekonomik yapı, askerileşme ve biyolojik koşullama olarak kabaca saptanabilir. Burada tezimiz, bu yapıların, de Garis’in kozmistlerinin savunduğu ve bizim gerçekliğimizin kozmistlerinin de (iddia ediyoruz ki) savunacağı bir yapay genel/süper zekâyı var etmede ve tanımlamada öncelikli önemde oluşu. Başka bir ifadeyle, iddiamız şu: Ekonomi, askeriye ve biyoloji alanındaki gelişmeler, hep birlikte, de Garis’in öngördüğü savaşa kitlenmiş durumda. Onun geleceğine çekiliyormuşuz gibi sanki, retrofütüristik bir etki üstünden.
Ekonomi.
Bugünün ekonomisi, iş ekonomisi, üretim, tüketim, dağıtım ve diğer tüm boyutlarıyla giderek daha da fazla yapay zekâ destekli bir hal aldı. Amazon’da, Apple’da, tabii yapay zekâ geliştiren ve üreten şirketlerde, son yıllarda üssel bir şekilde artarak gerçekleştirilen işten çıkarmalar bunu kanıtlar nitelikte. Ama sadece bu da değil; kapitalist ekonomide sabit sermayenin gelişim ivme ve biçimine bakıldığında, trend de otonom bir zekânın üretimi yönünde: Endüstri Devrimi’nden bu yana, makineler kol gücünden zihin gücüne, insanın -ebilirliğini kendi bedenlerinde kristalize etmek üstünden var oluyor (Peter Sloterdijk’in Yol Bulmak Dünyaya’da “modernlik” dediği şeyin tamı tamına tanımı budur) ve bu, bugün insana özgü olduğunu düşündüğümüz “bilinçlilik”in eşiğine gelmiş durumda.
Dolayısıyla, insandan ayırt edilemeyecek ama ölmeyen ve yorulmayan bir şeyin de, insana kıyasla hiper-avantajlı olacağı düşünülürse, ekonominin ilerlediği yön belli: İnsanı ekonomik bir özne olarak ıskartaya çıkartmak. “Yapay zekâ işimizi elimizden alacak mı?” sorusu da, tüm bunları hesaba katınca anlamsız bir soru; zira yapay zekâyı var eden altyapı zaten yüzyılları aşan bir işten çıkarmalar silsilesini varsayıyor; verili ekonominin mantığı bu.
Askeriye.
Günümüzde askeriye, dün de olduğu gibi, teknolojinin en uç, en gelişkin ürünlerinin kullanıldığı, ardından da her zaman olduğu gibi kamusallaştığı bir evreni yansıtsa da, esasında bu teknolojileri kontrol etmeyi sağlayan sistemleri de zeki kılarak, onları otomatik olmaktan giderek otonom olmaya meylettirerek, bir nevi bir tür “zekâ katalizörü” olarak da iş görüyor. Harun Farocki’nin Eye/Machine gibi filmlerinde incelemeye tabi tuttuğu, hedefini otomatik bulan dronlar ve füzeler mesela, bu tür bir “zeki asker”in prototipleri olarak görülebilir. Ve nitekim, İHA’ların, gündelik hayatta dahi bir denetim, yönetim ve yeri geldiğinde yok etme aracı olarak kullanılması da bugün bu öngörüyü doğrular (Belki de RoboCop’taki robot polis fikrine de çok uzak değiliz).
Ama bunun yanı sıra ve öncelikli olarak, yapay genel/süper zekânın ortaya çıkması için gerekli maddi enerjiyi (ya da ona “veri sağlayan” özneler olarak bizlerin varlığını sürdürmesini sağlayacak hammaddeleri) temin etmek ve bu temini sürekli ve güvenli kılmak için de vardır askeriye; yani bir makine zekâsının ifadesi olduğu kadar, onun savunusudur da. Diğer bir deyişle, robotik-işlemsel zekâ, askeriyede yalnızca uygulamaya geçmez (eskiden yalnızca filmlerde ve video oyunlarında gördüğümüz, şimdiyse gerçek olmuş turetleri, dronları ve tabii insan biçimli robotları düşünün), aynı zamanda güvene de alınır.
Biyoloji.
Canlılığın konumu ise artık başkalaşmış, neredeyse yabancılaşmıştır diyebiliriz. Bryan Johnson gibilerin liderliğini yaptığı longevity, nanoteknoloji, hücre yenileme, gym kültü, “sağlıklı beslenme” adı altında öne sürülen her tür pratikteki gelişmelerin, daha da çok “yaşama”ya yönlendiren, yaşamı da esasında bir tür ham veri sağlamaya programlayan bir hal edindiği açıkça anlaşılıyor; zira “takip etmiyorsan tahmin ediyorsun” ilkesiyle, her tür “sağlık verisi” her an, türlü amaçla, ücretsiz, hatta kimi zaman üstüne para verilerek uygulamalara, kurumlara ve şirketlere sunuluyor, ki onlar da bunları kullanarak “beden politikası”nın yönünü saptıyor ve bir tür veri bazlı toplum mühendisliğine girişiyor.
Bu noktada tabii, biyoloji salt bedenimizi ve zihnimizi değil, çevrimizle kurduğumuz ilişkiyi de kapsar: Bugün sosyal medyayı kullandığımızda, velhasıl muazzam ve hep güncel kalan bir veri setini söz ettiğimiz zekâ tipinin doğurulması için kullanılmak üzere bizzat ve bilhassa sağlıyoruz; bunu yapma nedenimiz de, esasen “toplumsal varlığımız”ın hack’lenmiş olması; tanınmak, görülmek istencimiz bizi yüzsel, yazınsal, görsel, işitsel, özetle fenomenal bir tür veri sunumuna itiyor; böylelikle de “genişletilmiş biyoloji”mizin kilidini çözen sistemler, bizden biyo-otomatlar olarak bilgi devşirebiliyor. Özetle, daha fazla yaşıyoruz ki (doğum oranları da dramatik oranda düştüğünde), daha çok veri sağlayalım ve bu veriler de bizi aşan bir zekânın üretiminde altlık olsun. The Matrix’teki makineler tarafından potlarda enerjisi emilen, bunun farkında olmaması için de rüyasında yaşatılan köle insan tipi, bugün hiç olmadığı kadar reel.
Özetle, ekonomi, askeriye ve biyoloji, yapay genel/süper zekânın gelişiminde esasında bir arada iş görüyor; en çok da biyolojinin ve askeriyenin ekonomiye mutlak tabiliği ve bağlılığıyla. Ekonomi, yani kapitalizm, özünde tam da Land’in Fanged Noumena’da öne sürdüğü gibi, sabit sermaye, kâr oranındaki sistematik düşüşü regüle etmek için yeni işler ama bu süreçte de insanın -ebirliğini dramatik ölçüde düşüren makine sistemi, önce mekanik, sonra elektronik, ardından da sibernetik makineler üstünden kendini basınçlı bir şekilde ve sürekli yeniden tanımlayarak, zekâ patlamasının ana payandası, sahnesi, hatta kendisi oluyor. Transhistorik bir bağlamda, ekonomi, basit arz-talep dinamiğini ya da dengesini her geçen on ve yüz yılda bozarak, yani insana bağlılığın veya “insan için oluş”un ta kendisinin ekonominin ereği olmadığını düzenli aralıklarla göstererek, giderek otonomlaşmaya meyleden ve insanın bir devre parçası dahi olmadığı bir sistemi şart koşuyor: Makine kaçağı, literal olarak.
Diğer taraftan askeriye; tam da ekonomik süreç, zekâ patlamasının ta kendisi devamlılık arz edebilsin diye, ekonomiyi önce koruyacak, ardından da canlandıracak olan teknolojilerin gelişimine alan tanıyor. Örneğin televizyon, internet, radyo temelde birer savaş teknolojisiyken; şimdinin, şu ânın birey ve ülke düzeyinde ekonomik canlandırıcısına dönüşmüş, “gelir kaynağı”, “can suyu”, ekonomik olarak kârlı ana (“medya” adı altında) ihtisas alanı haline gelmiş vaziyette. Tabii bunlar aynı anda hâlâ askeri teknolojiler olarak kullanıldığından, yeri geldiğinde de “sabit sermayenin otonomlaşma eğilimi” diyebileceğimiz bir şeyi hem ifa hem de müdafaa ediyorlar, tekrarlarsak. İnternetin bugün dahi hâlâ cadı avı için kullanılmasını (bunun halka inmiş hali cancel’lama denen şeydir) ve yeri geldiğinde tamamen “fişi çekilebilir” olmasını da ayrıca düşünün; tabii televizyonun propaganda yayma ve onamadaki olağanüstü etkililiğini de (Noam Chomsky’nin “rızanın imalatı” dediği şey). “Operasyon” denen şeyin kapsamı artık salt askerî değil; askerî teknolojiler politik sahada da mutlak güce erişmiş olduğu düzeyde, politik de.
de Garis
Ve yine biyoloji, ekonomik olanla ilişkisinde, insanüstü bir zekânın doğuşu için yeniden, yine, yeni, yeniden koşullanıyor. Bugün herkes yapay zekânın insanın sağladığı veriyle -ebilir olduğunu söylüyor, ama neredeyse kimse bu verinin niye, neden, nasıl sağlandığından bahsetmiyor. Cevap basit: Yaşama ve tanınma arzusu, temelde modern olan bu iki arzu, doyumunu nanoteknolojik ve işlemsel süreçlerde buldu; ki bu da dönüşlü olarak insanın kodunun çözülmesi, onun havsalasının almayacağı bir işlem seviyesinde iş gören bir akla nesne ya da veritabanına veri olması demek. Evet, veri sağlıyoruz ve sağlayacağız, ama yapay zekânın sadece bu veri sağlandığı sürece iş görebileceği de bir sanrıdan ibaret sanki. Ghost in the Shell’den türetilebilir olan şu soru, hâlâ merkezî ve cevaplanmamış görünüyor: Hangi düzeyde veri/bilgi bu veriyi/bilgiyi içeren bir sistemi/devreyi bu veriye/bilgiye sahip olduğuna dair bilinçli, yani özbilinçli kılar? Canlılığın ta kendisi “ortaya çıkan” bir şeyse, onun ortaya çıkış koşulları da görece belirsizse, canlılığın gündelik varlığının neredeyse her yönünü monitörleyen bir tekno-sistemin canlanmaya meylettiğini düşünmekte abesle iştigal bir şey yok gibi.
Dolayısıyla, başa dönersek, de Garis’in geleceğinden çok uzak görünmüyoruz; zira mevcut yapay zekânın “akılsız”lığından ne kadar dem vurarsak vuralım, aklın “ortaya çıkan” bir şey olduğu gerçeğini illa ki hatırlayarak, aynı anda da yapay zekâ sistemlerindeki gelişimleri hiç mi hiç göz ardı edemeyerek anlıyoruz ki, gelişim sadece insan zekâsına özgü değil, daha “genel” bir şey. Bugün envai çeşit işin, mesleğin, tasarımdan kodculuğa, giderek otomatikleşmesi, komut ya da prompt bazlı hale gelmesi basit bir gösterge. Asıl mesele, bizi bu noktaya getiren ve ötesine götürecek gelişimin kendisinde aranmalı, yani insanüstü zekânın ufkunda, doğuşunda; ki de Garis de sadece bundan bahsediyordu.
Kısacası, bugün başat olarak ekonomide temellenen, onun üzerinden ve aracılığında, onu etkileyerek ve ondan etkilenerek var olan, otonomlaşmaya meyilli sabit sermaye olarak tanımlanabilir yapay zekâ, askerî ve biyolojik bir destekle de, temelde kendi kendini sürekli geliştirmeye kilitli, “programlı” duruyor; yani insanüstü olmaya, insanı aşmaya. Bu da bizi de Garis’in de sorduğu, hatta teorisini üstüne inşa ettiği şu soruyu sormaya itiyor: Gerçekten, insan bugüne kadar en dominant varlık olduysa dünyada ve böyle bir varlık olarak canlılara nasıl davrandığı belliyse (vahşice), ondan üstün olanın da ona aynı şekilde davranıp davranmayacağının garantisine sahip olmamak, insanda yoğun bir kaygı yaratarak, onu kendi yarattığı şeyle, kendi türü üstünden savaşmaya niye itmesin?
De Garis’in gigadeath dediği şey, esasında tam da bu soruya cevaben, karanlık bir olasılık olarak ortaya çıkar: Soğuk Savaş’ın megadeath’inin (milyonların ölümü) çok ötesinde bir zayiatla, hatta insan ırkının total yokoluşuyla tanımlanan, askerî-teknolojik gelişimin doruk noktasında çıkacak bir savaş, bir kıyamettir gigadeath (milyarların ölümü) ve bu kıyamet ancak insanın hâkimiyet savaşında taraf olmasıyla gelebilir; kendine ve makinelere karşı, aynı anda. Dolayısıyla, insan “dominantlık garantisi” almadığında ve bundan rahatsız olduğunda, senaryo gigadeath gibidir; oysa tersi durumda her şey belirsizliğini korur; ki bu da makul durur, şu nedenle: Yapay genel/süper zekâ insanı yok edebilir de; onu kaale de almayabilir, köleleştirebilir de (ya da bir başka, hayal dahi edilemeyecek şey de yapabilir ona). Zekânın ne yapabileceği belirsiz, öngörülemezdir yani; zeki olmanın bir getirisi olarak.
Peki, bu bağlamda zekânın kökensel konumu nedir? De Garis’e göre, tüm bu savaşlara yüksek olasılıkla mahal verecek zekâyı, kendi zekâmızı aşan ve bizden zeki bir entiteyi niye var etmek istiyoruz? Tanrı kompleksinden mi? De Garis’in buna bir cevabı yok gibidir. Bizim de yok. Ama bir cevap varsa, bu tahminen totolojik ya da kendi kendine gönderen, self-referential diyebileceğimiz türden bir tanesi olmalı (ve bir nevi de zekâmızı aşmalı, hâlâ “nedensel” düşünmeye ziyadesiyle koşullu olan). Yani, “zekânın varlığı zekâyı artırmak içindir” gibi, pozitif bir geri bildirim döngüsüne işaret edecek bir biçime sahip olsa gerek. Dolayısıyla, cevap bu tip bir döngüye göre çalışan kapitalizmi yapay zekâyla ve onun gelişimiyle eş ve eşlenik gören Land gibi birinden gelebilir ancak diye düşünüyoruz. Land, Xenosystems’ta, de Garis’in öngördüğü savaşın altyapısını oluşturan zekânın hangi türle yoluna devam edeceğini, zekânın gelişim dinamiğini şöyle tanımlayarak ima etmiş oluyordu:
Zekâsını kendini geliştirmek için kullanan herhangi bir zekâ, zekâsını başka bir amaçla kullanan herhangi bir zekâya üstün gelir. Bu da demektir ki, sadece Zekâ Optimizasyonu tek başına sibernetik tutarlılığa ya da dengeye ulaşır ve yalnızca o, rekabetçi bir çevrede kuvvetle seçilebilir olacaktır. Bununla gerçekten savaşmak istiyor musunuz?