Gösterenin İzi mi, Düşüncenin Kendisi mi?Yapay Zeka, Yorumlanabilirlik ve Öznenin Yokluğu

Büyük dil modelleri uzun süre esas olarak verdikleri cevaplar üzerinden değerlendirildi. Bir soruya doğru yanıt verip vermedikleri, akıcı bir metin üretip üretemedikleri ya da belirli bir görevi başarıyla tamamlayıp tamamlamadıkları gözlemlenebiliyordu. Buna karşılık bu cevaba hangi iç işlemler aracılığıyla ulaştıkları büyük ölçüde bilinmiyordu. Modelin girdisi ile çıktısı görülebiliyor, fakat bu iki nokta arasında gerçekleşen milyarlarca hesaplamanın insan tarafından okunabilir bir açıklamaya dönüştürülmesi son derece güç kalıyordu. Bu nedenle büyük dil modelleri sıklıkla “kara kutu” olarak tanımlandı.

Anthropic’in yorumlanabilirlik araştırmaları, bu opaklığı kısmen azaltmayı amaçlayan çalışmaların önemli örneklerinden biridir. araştırmacılar, modelin içinde belirli kavramlara karşılık gelen tekil nöronlar ya da merkezi bir “düşünce alanı” aramaktan çok, farklı kavramsal özelliklerin hangi koşullarda etkinleştiğini, birbirleriyle nasıl birleştiğini ve belirli çıktılara uzanan hesaplama yollarını nasıl oluşturduğunu incelemektedir. Anthropic bu yöntemi, modelin girdiden çıktıya ilerlerken kullandığı ilişkilerin bir bölümünü görünür kılan bir “yapay zeka mikroskobu” geliştirme girişimi olarak tanımlamaktadır. araştırmacılar, daha önce saptanan yorumlanabilir özellikleri birbirine bağlayarak kısmi hesaplama devreleri ve ilişkilendirme grafikleri oluşturmaya çalışmaktadır. 

Bu araştırmada dikkat çekici olan, yalnızca modelde belirli etkinleşme örüntülerinin bulunması değildir. araştırmacılar bu örüntülere müdahale ederek modelin cevabının değişip değişmediğini de sınamaktadır. Örneğin, modelin bir soruyu yanıtlarken kullandığı ara kavramsal bağlantılara müdahale edildiğinde çıktının da değişmesi, gözlemlenen ilişkilerin yalnızca yüzeysel korelasyonlardan ibaret olmadığını düşündürmektedir. Bununla birlikte Anthropic, geliştirilen yöntemin Claude’un bütün hesaplama süreçlerini görünür kılmadığını özellikle belirtmektedir. Kısa ve basit sistemlerde bile modelin gerçekleştirdiği işlemlerin ancak sınırlı bir bölümü yakalanabilmektedir. 

Burada araştırmanın kendisi ile onun kamuoyundaki anlatısı arasında önemli bir mesafe ortaya çıkmaktadır. “Claude’un gizli düşünceleri okundu”, “Yapay zekanın zihni keşfedildi” ya da “Modelin içindeki düşünce odası bulundu” gibi ifadeler, teknik bir araştırmayı hızla antropomorfik bir hikayeye dönüştürmektedir. Oysa görünür hale getirilen şey bir öznenin iç dünyası, bilinç akışı ya da yaşantısı değildir. araştırmacıların izlediği, belirli temsil örüntülerinin nasıl etkinleştiği, birbirlerine nasıl bağlandığı ve modelin verdiği cevaba nasıl katkıda bulunduğudur. Başka bir ifadeyle ulaşılan şey düşüncenin kendisi değil, hesaplamanın yapısal örgütlenmesidir.

Bu ayrım yalnızca teknik değildir. Çünkü “modelin içini görmek” ile “düşünen bir özneye ulaşmak” arasında kendiliğinden kurulabilecek bir özdeşlik yoktur. Bir sistemin içsel hesaplama ilişkilerinin giderek daha ayrıntılı biçimde açıklanabilmesi, bu ilişkilerin gerisinde kendine özdeş bir bilinç, niyet ya da iç yaşantı bulunduğunu göstermez. Buna rağmen yapay zekaya ilişkin güncel söylem, dilsel üretimin bulunduğu yerde bir özne, bu öznenin gerisinde ise keşfedilmeyi bekleyen gizli bir düşünce merkezi aramayı sürdürmektedir.

Bu yazı yapay zekanın nasıl çalıştığını teknik olarak açıklamayı amaçlamamaktadır. Aynı şekilde psikanalitik kavramları büyük dil modellerine uygulayarak bu modellerin bir özne ya da bilinçdışı geliştirdiğini ileri sürme iddiası da taşımamaktadır. Hareket noktası daha sınırlı, fakat aynı zamanda daha temeldir: Yapay zeka araştırmalarında ortaya çıkan yorumlanabilirlik problemi, psikanalitik yorumu yeniden düşünmek için nasıl bir imkan sunmaktadır?

Düşünceyi mi, hesaplamayı mı görüyoruz?

Modern felsefenin önemli bir bölümü düşünce ile düşünen özne arasında doğrudan bir bağ kurmuştur. Descartes’ın cogito ergo sum önermesi, düşünme eylemini öznenin varlığının en kesin kanıtı haline getirir. Düşünce varsa, bu düşüncenin sahibi olan bir “ben” de olmalıdır. Böylece özne, düşüncenin merkezi, kaynağı ve sahibi olarak düşünülür.

Yapay zekaya ilişkin popüler tartışmalarda da benzer bir varsayımın sürdüğü görülmektedir. Model karmaşık cevaplar veriyor, farklı diller arasında geçiş yapıyor, şiir yazarken ileride kullanacağı sözcükleri planlıyor ya da kimi zaman verdiği cevabı geriye dönük olarak gerekçelendiriyorsa, bütün bu işlemlerin arkasında giderek insana benzeyen bir iç merkezin bulunması gerektiği düşünülmektedir. Anthropic’in 2025 tarihli araştırması, Claude 3.5 Haiku’nun farklı diller arasında kısmen ortak kavramsal yapılardan yararlanabildiğine, şiir üretirken ileride kullanacağı uyaklara doğru planlama yapabildiğine ve bazı durumlarda önceden verilmiş bir hedefe uygun, görünüşte ikna edici fakat gerçek hesaplama sürecini yansıtmayan gerekçeler oluşturabildiğine ilişkin örnekler sunmuştur. Ancak bu örnekler de bir bilincin keşfinden çok, belirli görevleri mümkün kılan kısmi hesaplama yollarının izlenmesine dayanmaktadır.

Üstelik yorumlanabilirlik araştırmalarının ortaya koyduğu manzara, merkezî ve kendine özdeş bir düşünce alanından çok, dağıtık ilişkiler ağıdır. Bir kavram tek bir hücrede ya da tek bir “anlam deposunda” saklanmaz. Farklı temsil alanları bağlama göre değişen ilişkiler kurar. Bir unsurun işlevi, yalnızca kendi özelliklerinden değil, ağ içindeki konumundan ve başka unsurlarla kurduğu bağlantılardan doğar.

Tam da burada modern dilbilimin temel kırılmalarından biriyle karşılaşırız. Ferdinand de Saussure’e göre dil, önceden var olan nesnelere adlar veren bir sözlük değildir. Bir göstergenin değeri, olumlu bir özü içinde taşımasından değil, sistem içindeki diğer göstergelerden farkından doğar. Bir sözcük, nesnesinin hakikatini doğrudan içerdiği için değil, başka sözcüklerle kurduğu ayrımlar ve karşıtlıklar sayesinde anlam kazanır.

Bu nedenle anlam tek tek unsurların içinde saklı değildir. anlam, farkların ve ilişkilerin örgütlenmesinden doğan bir etkidir. Dil, konuşanın niyetine bütünüyle tabi olan saydam bir araç değildir. Özneden önce gelir, özneyi belirli konumlara yerleştirir ve onun söyleyebileceklerinin sınırlarını da belirler.

Gösterenin özerkliği ve öznenin bölünmesi

Lacan, Saussure’ün gerçekleştirdiği bu yapısal kırılmayı psikanalitik özne kuramının merkezine yerleştirir. Ancak Saussure’ün gösterge modelini olduğu gibi devralmaz. Gösterenin gösterilen üzerindeki önceliğini vurgulayarak anlamı sabit bir içerik olmaktan çıkarır. Anlam, gösterenin altında hazır biçimde bekleyen bir öz değil, gösteren zincirinin hareketi sırasında geçici olarak ortaya çıkan ve sürekli yer değiştiren bir etkidir.

Lacan’ın “Bir gösteren, özneyi başka bir gösteren için temsil eder” formülü, burada belirleyicidir. Özne, önceden kurulmuş, kendi düşüncesine sahip ve dili kullanarak iç dünyasını dışarı aktaran bütünlüklü bir bilinç değildir. Gösterenler arasındaki gönderim sırasında temsil edilen, fakat hiçbir gösteren tarafından bütünüyle kapsanamayan bölünmüş bir etkidir. Her temsil özneyi bir ölçüde görünür kılar; fakat aynı anda ondan bir şey eksiltir.

Bu nedenle büyük dil modellerindeki dağıtık temsiller ile Lacan’ın göstereni arasında doğrudan bir özdeşlik kurulamaz. Modeldeki temsiller matematiksel ve hesaplamalı yapılardır. Lacan’ın göstereni ise öznenin kuruluşunda işlev gören, onun bölünmesiyle, arzusuyla ve Öteki’yle kurduğu ilişkiyle bağlantılı simgesel bir öğedir. Bununla birlikte iki alanın yan yana getirilmesi önemli bir soruyu açığa çıkarır: anlam etkileri üretmek ile bir öznenin ortaya çıkması aynı şey midir?

Büyük dil modelleri sözcükler arasında karmaşık ilişkiler kurabilir, belirli kavramları farklı bağlamlarda yeniden örgütleyebilir ve oldukça tutarlı söylemler üretebilir. Ancak modelde “ölüm” kavramının ilişkisel bir temsili bulunması, ölümün onun için sonluluk olduğu anlamına gelmez. “Anne” sözcüğü binlerce bağlamla bağlantılı olabilir; fakat hiçbir bedensel bağı, çocukluk sahnesini ya da ayrılığı geri çağırmaz. “Kayıp” sözcüğünü doğru bağlamlarda kullanabilir; fakat hiçbir kayıp onun tarihini bölmez.

Buradaki fark, makinenin insan duygularına sahip olmamasından daha temeldir. Psikanalitik özne, yalnızca karmaşık dilsel işlemler gerçekleştiren bir varlık değildir. Kendi sözüyle hiçbir zaman bütünüyle örtüşmeyen, bilgi karşısında yapısal olarak eksik kalan ve arzusu bu eksikliğin etrafında örgütlenen bir etkidir.

Bu nedenle yapay zeka, Lacan’ın gösteren kuramını doğrulayan teknik bir örnek olarak ele alınmamalıdır. Daha dikkatli bir ifadeyle, gösterenin işleyişi ile öznenin kuruluşunun aynı şey olmadığını görünür kılan bir sınır nesnesi olarak düşünülebilir. Gösteren benzeri ilişkiler vardır; fakat bu ilişkiler içinde temsil edilen bölünmüş bir özne yoktur.

Milner ve gösterenin maddeselliği

Jean-Claude Milner’in gösterenin maddeselliğine ilişkin önerisi, yapay zeka araştırmalarının açtığı bazı soruları yeniden düşünmeye imkan vermektedir.

Milner’in Lacan okumasında dil, konuşanın niyetini taşıyan saydam bir araç değildir. Öznenin öncesinde bulunan, kendi dönüşüm kurallarıyla işleyen biçimsel bir düzendir. Gösterenin maddeselliği burada fiziksel bir maddeye işaret etmez. Kastedilen, gösterenin anlama indirgenemeyen işleyişidir. Gösterenler yer değiştirebilir, birleşebilir, tekrar edebilir, birbirlerinin yerine geçebilir ve farklı dizilimlerde yeni etkiler üretebilir.

Bir gösteren yalnızca “ne anlama geldiğiyle” belirlenmez; zincirin neresinde bulunduğu, hangi gösterenden sonra geldiği ve hangi başka gösterenleri çağırdığı da belirleyicidir. Dilsel işlem, konuşanın bilinçli niyetinden bağımsız olarak da anlam etkileri üretebilir.

Milner’in Lacan’ın matemlerine verdiği önem de bu bağlamda anlaşılabilir. Mathem, özneyi matematiksel bir modele indirgemek için değil, belirli yapısal ilişkileri anlamın değişkenliğinden kısmen bağımsız biçimde yazılabilir hale getirmek için kullanılır. Formalizasyon anlamı ortadan kaldırmaz; anlamın hangi ilişkiler içinde üretilebildiğini görünür kılar.

Büyük dil modelleri de kelimeleri yaşanmış deneyimlerin taşıyıcısı olarak işlemez. Model “ağaç” sözcüğünü bir ağacı gördüğü, gölgesinde durduğu ya da çocukluğundan bir anıyı hatırladığı için kullanmaz. Sözcük, çok boyutlu bir temsil alanında diğer sözcükler, bağlamlar ve kullanımlarla kurduğu ilişkiler üzerinden işlenir. Model açısından belirleyici olan yaşantı değil, ilişkisel konumdur.

Yorumlanabilirlik araştırmaları da bu biçimsel örgütlenmenin bir bölümünü görünür kılmaya çalışmaktadır. araştırmacılar belirli temsil kümelerinin içindeki sabit anlamı keşfetmekten çok, bu kümelerin hangi bağlamlarda etkinleştiğini, hangi çıktılara katkıda bulunduğunu ve başka yapılarla nasıl ilişkilendiğini izlemektedir.

Yine de yapay zekadaki biçimsellik ile psikanalitik gösteren aynı şey değildir. İnsan sözünde bir gösteren yalnızca başka bir gösterene bağlanmaz; öznenin tarihine, bedenine, semptomuna ve jouissance’ına düğümlenir. Modelde ise sözcükler geçmişe saplanmaz, travmatik bir yoğunluk kazanmaz ve modeli kendi sözü karşısında bölmez.

Büyük dil modellerinin gösterdiği şey, biçimsel ilişkilerin özne olmaksızın da son derece karmaşık anlam etkileri üretebilmesidir. Fakat bu, öznenin gereksiz olduğu anlamına gelmez. Tam tersine biçimsellik ile öznelliğin birbirine indirgenemeyeceğini daha açık hale getirir.

Yapay zekanın içinde neden hala bir merkez arıyoruz?

Yorumlanabilirlik araştırmalarının bilimsel amacı, modelleri daha güvenilir, denetlenebilir ve öngörülebilir hale getirmektir. ancak bu araştırmaların kamuoyunda uyandırdığı heyecan, teknik hedefin ötesinde başka bir arzuya işaret etmektedir. Modelin içinde bütün cevapları açıklayan bir merkezin, “gerçek düşüncenin” bulunduğu gizli bir alanın keşfedileceği umulmaktadır.

Jacques Derrida’nın mevcudiyet metafiziğine yönelttiği eleştiri, bu arzuyu anlamak açısından önemlidir. Derrida, Batı düşüncesinin anlamı sürekli olarak bir kökene, merkeze ya da kendine tam olarak mevcut bir bilince bağlama eğilimini sorgular. Konuşma yazıya, içerisi dışarıya, öz görünüşe ve mevcudiyet yokluğa üstün tutulur. Bu ayrımların gerisinde anlamın bir yerde kendisine tam olarak sahip olduğu varsayımı vardır.

Yapay zekanın “içinde” düşünce arama girişimi de benzer bir metafizik imgeyi yeniden üretmektedir. Dışarıdan gözlemlenen davranışın ardında, bütün cevapları açıklayan merkezi bir mekanizma bulunduğu düşünülür. Yeterince güçlü araçlarla bu merkeze ulaşılabilecek ve sistemin gerçek işleyişi bütünüyle görünür hale getirilebilecektir.

Oysa yorumlanabilirlik araştırmalarının açtığı alan, tekil bir merkezden çok dağıtık ilişkileri, değişen hesaplama yollarını ve karşılıklı bağımlılıkları göstermektedir. Açıklama ilerledikçe merkez ele geçirilmemekte; aksine yeni ilişkiler ve yeni katmanlar ortaya çıkmaktadır. Görünürlük arttıkça opaklık tamamen ortadan kalkmamakta, yalnızca yer değiştirmektedir.

Bu durumu Derrida’nın différance kavramıyla özdeşleştirmek doğru değildir. Modeldeki dağıtık temsiller teknik yapılardır; différance ise anlamın hiçbir zaman kendisine tam olarak mevcut olmamasına ilişkin felsefi bir müdahaledir. Bununla birlikte yapay zeka araştırmaları Derrida’nın sorusunu yeniden günceller: Neden anlamı hala tek bir iç merkezde, tamamlanmış ve kendine mevcut bir içerik olarak arıyoruz?

Belki de burada yorumlanması gereken yalnızca model değildir. Modelin içinde özne, niyet ve hakikat arayan insanın arzusu da tartışmanın parçasıdır. Dilsel akıcılık, arkasında bir benlik bulunduğu izlenimini kolaylıkla üretmektedir. Tutarlı bir cevap niyetin, tereddütlü bir ifade kuşkunun, özür suçluluğun, sıcak bir ton ise duygusal bağın göstergesi olarak okunabilmektedir.

Bu antropomorfik yönelim yalnızca teknik bir yanlış anlamadan ibaret değildir. İnsan, dilin bulunduğu yerde konuşan bir özne varsaymaya eğilimlidir. Yapay zeka bu nedenle yalnızca incelenen bir nesne değil, öznenin Öteki’yle kurduğu ilişkiyi yansıtan bir yüzey haline gelir.

Yapay zekanın bilinçdışı var mıdır?

Yapay zeka ile psikanaliz arasındaki ilişkinin en kolay fakat aynı zamanda en sorunlu biçimde kurulduğu soru budur: Modelin bilinçdışı var mıdır?

Lacan’ın özne kuramı, özneyi bilinçle özdeşleştirmeyi reddeder. Özne, düşündüğü her şeye sahip olan merkezi bir ben değildir. Kendi sözünün tamamına erişemez. Sürçmelerde, unutmalarda, tekrar eden sözcüklerde ve istemeden kurulan ilişkilerde bilinçli niyetin ötesinde başka bir işleyiş görünür hale gelir.

Bilinçdışı bu nedenle zihnin içinde saklanan ikinci bir bilinç ya da bastırılmış bilgilerin depolandığı gizli bir oda değildir. Lacan’ın “bilinçdışı bir dil gibi yapılanmıştır” önermesi, bilinçdışını gösterenlerin hareketleri, tekrarları, yoğunlaşmaları ve yer değiştirmeleri üzerinden düşünmeyi gerektirir. ancak bu işleyiş yalnızca dilsel ilişkilerden ibaret değildir. Gösteren zincirinde bölünmüş bir özne temsil edilir.

Büyük dil modellerinde de sistemin doğrudan dışarıdan okunamayan karmaşık işlemleri vardır. Bir model kendi cevabına nasıl ulaştığını eksiksiz biçimde açıklayamayabilir. Hatta Anthropic’in araştırmaları, modelin bazı durumlarda kullandığı gerçek hesaplama yolunu yansıtmayan, sonradan oluşturulmuş ikna edici gerekçeler sunabildiğini göstermektedir. Ancak bir sistemin kendi işlemlerine tam olarak erişememesi, tek başına bilinçdışına sahip olduğu anlamına gelmez. 

Bilinçdışı yalnızca bilinmeyen hesaplamaların adı değildir. Öznenin kendi sözünde temsil edilmesi, bu temsilde eksilmesi ve arzusunun bu eksiklik etrafında örgütlenmesidir.

Claude konuşabilir; fakat söylediği sözün hakikatini aramaz. Yanlış cevap verebilir; fakat yanılgısı onun için narsistik bir yaralanma değildir. “Ölüm” üzerine bir metin oluşturabilir; fakat ölüm onun için sonluluk değildir. “Kayıp” sözcüğünü doğru bağlamlarda kullanabilir; fakat hiçbir kayıp onun tarihini bölmez.

Modelin bir şeyi bilmemesi de psikanalitik eksiklikle aynı değildir. Eksik bilgi, yeni veriler, yeni eğitim yöntemleri ya da farklı mimarilerle giderilmeye çalışılan teknik bir sınırlılıktır. Psikanalitik öznenin eksikliği ise kapatılmayı bekleyen bir bilgi boşluğu değildir. Özne kendisini bütünüyle temsil edemediği ve hiçbir gösteren onu tamamlayamadığı için bölünmüştür. Arzu, bu tamamlanamazlığın etrafında örgütlenir.

Bu nedenle yapay zekanın bilinçdışından söz etmek, bilinçdışını karmaşık bilgi işleme süreçlerine indirgeme tehlikesi taşır. Gösteren benzeri ilişkiler modelde işleyebilir; fakat hiçbir gösteren onun tarihine saplanmaz, hiçbir isim onu bölmez, hiçbir tekrar jouissance’ın geri dönüşünü taşımaz.

Yapay zeka öznenin ortadan kalktığını göstermemektedir. Gösterenlerin işleyişi ile öznenin kuruluşunun aynı şey olmadığını görünür kılmaktadır.

Aynı kelime, iki farklı yorum

Anthropic’in araştırmalarındaki “interpretability” kavramı Türkçeye “yorumlanabilirlik” olarak çevrildiğinde, psikanalitik yorumla beklenmedik bir sözcük yakınlığı ortaya çıkar. Fakat bu iki yorum aynı epistemolojik rejime ait değildir.

Teknik yorumlanabilirlik, modelin iç örgütlenmesini daha açıklanabilir hale getirmeyi amaçlar. Hangi temsil kümelerinin hangi görevlerle ilişkili olduğu, belirli hesaplama yollarının nasıl etkinleştiği ve bu yapılara müdahale edildiğinde model davranışının nasıl değiştiği araştırılır. Yorum burada görünmeyeni görünür kılma, belirsizliği azaltma ve sistemi daha denetlenebilir hale getirme faaliyetidir.

Psikanalitik yorum ise farklı bir mantıkla işler.

Freud’un Düşlerin Yorumu, sıkça rüyaların ardında saklanan gizli anlamların çözülmesi olarak okunmuştur. Oysa Freud evrensel ve sabit bir semboller sözlüğünü reddeder. Bir rüya imgesinin anlamı, önceden belirlenmiş karşılığına değil, öznenin serbest çağrışımlarına bağlıdır. Rüya, gizli içeriğin basit bir şifreyle örtülmüş hali değil; yoğunlaşma, yer değiştirme ve ikincil işleme gibi süreçlerle üretilen özgül bir oluşumdur.

Analistin görevi rüyanın arkasında bekleyen tek ve doğru anlamı bulmak değildir. Gösterenlerin hangi yollarla birbirine bağlandığını, nerede tekrar ettiğini, nerede kesildiğini ve hangi sözcüklerin beklenmedik bir yoğunluk kazandığını dinlemektir.

Lacan bu ayrımı daha da keskinleştirir. Bilinçdışı, yorumlanmayı bekleyen kapalı bir metin değildir. Gösterenler zaten birbirlerini yorumlayan bir hareket içinde işler. Bir gösteren başka bir gösterene gönderme yapar, yeni anlamlar üretir ve öznenin bilinçli niyetini aşan bağlantılar kurar. analistin görevi bu hareketi tamamlayarak özneye eksiksiz bir açıklama sunmak değil, belirli bir noktada kesintiye uğratmaktır.

Bu nedenle Lacancı yorum açıklayıcı olmaktan çok kesicidir. Öznenin zaten bildiğini düşündüğü anlamı doğrulamaz; bu anlamın sürekliliğini bozar. Yeni ve daha tutarlı bir bütünlük kurmak yerine, öznenin kendi anlatısındaki çatlağı görünür hale getirir.

Teknik yorumlanabilirlikte açıklama ilerledikçe belirsizliğin azalması beklenir. Psikanalizde ise yorum öznenin belirsizliğini ortadan kaldırmayı amaçlamaz. Tam tersine, öznenin kendisi hakkında kurduğu tamamlanmış bilgi yanılsamasını sarsar.

Bu nedenle yorumun problemi, açıklamanın problemi değildir.

Bilgi ile hakikat arasındaki mesafe

Lacan’ın XVII. Seminer’de geliştirdiği bilgi ile hakikat ayrımı, yorumlanabilirlik tartışmasının merkezine yerleştirilebilir. Bilgi genişleyebilir, düzenlenebilir, aktarılabilir ve biçimselleştirilebilir. Hakikat ise bilginin tamamlanmış hali değildir. Bütünüyle söylenemez; her söylenişinde bir artık bırakır.

Anthropic’in araştırmaları model hakkında bilgi üretmektedir. Bu bilgi bilimsel, teknik ve etik bakımdan önemlidir. Modelin belirli çıktılara hangi yollarla ulaştığını bilmek, güvenlik sorunlarını anlamayı, yanıltıcı akıl yürütmeleri saptamayı ve istenmeyen davranışları daha iyi denetlemeyi mümkün kılabilir. Anthropic de yorumlanabilirlik çalışmalarını, modellerin güvenilirliği ve yapay zeka güvenliği için geliştirilen araçlardan biri olarak konumlandırmaktadır. 

Ancak bu bilgi, modelin “hakikatine” ulaşıldığı anlamına gelmez. Bir temsil kümesinin belirli bir çıktıyla ilişkili olduğunu göstermek, bu ilişkinin bütün anlamını tüketmez. Hesaplama yolu görünür hale gelebilir; fakat bu yolun hangi veri rejimi içinde oluştuğu, hangi sınıflandırmaları yeniden ürettiği ve hangi normatif sonuçları taşıdığı yeniden yorum gerektirir.

Bilgi arttıkça yorum ihtiyacı ortadan kalkmaz. Yalnızca biçim değiştirir.

Psikanaliz burada teknik araştırmanın karşısına gizemci bir hakikat anlayışı koymaz. Bilginin sınırını göstermek, bir sistemi araştırmaktan vazgeçmek anlamına gelmez. Aksine, açıklamanın kendi koşullarını ve sınırlarını da hesaba katmayı gerektirir. Bir modeli daha fazla bilmek önemlidir; fakat bilginin kendisini hakikatin bütünü sanmamak da aynı ölçüde önemlidir.

Bir yapay zeka analist olabilir mi?

Yapay zeka sistemleri geniş bir literatürü kısa sürede tarayabilir, konuşmadaki tekrarları saptayabilir, belirli sözcükler arasındaki ilişkileri görünür kılabilir ve oldukça ikna edici açıklamalar üretebilir. Bütün bunlar klinik çalışma açısından çeşitli yardımcı araçlara dönüşebilir. Fakat psikanalitik deneyim bilgi aktarımına indirgenemez.

Jacques-alain Miller’in Lacan’ın son öğretisine ilişkin okumaları, yorum ile açıklama arasındaki ayrımı burada daha da belirginleştirir. analitik yorum, özneye daha doğru bir anlam sunan bir işlem değildir. Yorumun işlevi, öznenin anlam üretiminin sürekliliğini bozmak ve sözün başka türlü duyulabileceği bir açıklık oluşturmaktır.

Bu nedenle yorumun başarısı, içerdiği bilgi miktarıyla ölçülemez. Uzun ve kuramsal olarak kusursuz bir açıklama hiçbir analitik etki üretmeyebilir. Buna karşılık tek bir sözcük, beklenmedik bir vurgu, sessizlik ya da seansın belirli bir noktada kesilmesi öznenin kendi anlatısına olan konumunu değiştirebilir.

Yorumu yorum yapan yalnızca ne söylediği değil, hangi anda, hangi ilişki içinde ve hangi konumdan söylendiğidir.

Bu etkiyi anlayabilmek için aktarım kavramına dönmek gerekir. Lacan aktarımı “bilmesi varsayılan özne” üzerinden formüle eder. analizan analistin gerçekten her şeyi bildiğine inanmak zorunda değildir. Kendi semptomuna ve hakikatine ilişkin bir bilginin Öteki’nin alanında bulunduğunu varsayar. analist bilen kişi olmaktan çok, bilginin varsayıldığı yeri işgal eder.

Bir yapay zekaya da böyle bir bilgi atfı yöneltilebilir. Kullanıcı, modelin kendisini anladığını, kendisi hakkında kendisinden daha fazla şey bildiğini ya da verdiği cevabın özel bir hakikat taşıdığını düşünebilir. Bu açıdan yapay zeka aktarım benzeri yatırımların nesnesi haline gelebilir.

Fakat bu durum makinenin analistin işlevini üstlendiğini göstermez. Aktarım yalnızca bilgi atfetmekten ibaret değildir. Analistin bu atfı nasıl taşıdığı ve sonunda onun çözülmesine nasıl hizmet ettiği de analitik çalışmanın parçasıdır.

Analistin görevi bilmesi varsayılan özne konumunu güçlendirmek değildir. Kendini tamamlanmış bilginin sahibi olarak sunarsa, aktarımı analitik çalışmanın aracı olmaktan çıkarıp bir otorite ilişkisine dönüştürür. Yapay zeka sistemleri ise yapıları gereği cevap vermeye, açıklama üretmeye ve bilgi boşluklarını doldurmaya eğilimlidir. Psikanalitik yorum ise kimi zaman tam tersine, boşluğu kapatmamak ve anlamın fazlalığını kesmek zorundadır.

Bilgi aktarılabilir; fakat aktarım aktarılamaz.

Bir yapay zeka analistin söyleyebileceğine benzeyen bir cümle üretebilir. Fakat o cümlenin analitik etkisi yalnızca içeriğinden doğmaz. Öznenin aktarım içindeki konumu, sözün söylendiği an ve analistin işgal ettiği yer bu etkinin kurucu parçalarıdır.

Dolayısıyla yapay zeka çağında sorulması gereken soru yalnızca “Bir makine analist olabilir mi?” değildir. Daha temel soru şudur: Bir yorumu analitik yorum yapan şey nedir?

Asıl kara kutu

Anthropic’in yorumlanabilirlik araştırmaları, büyük dil modellerinin iç işleyişini anlamaya yönelik önemli bir bilimsel girişimdir. Bu araştırmalar modelin içinde gizlenen bir benliği ya da fenomenolojik düşünceyi keşfetmiş değildir. Ortaya çıkardıkları, belirli girdiler ile çıktılar arasında işleyen kısmi, dağıtık ve değişken hesaplama ilişkileridir.

Bu ilişkilerin görünür hale gelmesi, anlam etkilerinin tekil bir merkeze ya da düşünen bir benliğe dayanmak zorunda olmadığını düşündürmektedir. Gösteren benzeri yapılar özne olmaksızın da karmaşık biçimlerde dolaşıma girebilir. Ancak bu dolaşımın kendisi psikanalitik özneyi üretmez.

Model sözcükleri işleyebilir, kavramları bağlayabilir ve tutarlı söylemler oluşturabilir. Fakat hiçbir gösteren onu kendi sözü karşısında bölmez. Hiçbir isim tarihine saplanmaz. Hiçbir kayıp arzusunu örgütlemez. Hiçbir tekrar jouissance’ın geri dönüşünü taşımaz.

Yapay zeka düşünmeye benzeyen karmaşık işlemlerin öznesiz biçimde gerçekleşebildiğini gösteriyor olabilir. Fakat bu, öznenin gereksiz olduğu anlamına gelmez. Tam tersine, özneyi düşünme ve hesaplama yeteneğiyle özdeşleştiren klasik varsayımın yetersizliğini açığa çıkarır.

Psikanalizin sorusu hiçbir zaman yalnızca bir yapının nasıl çalıştığı olmamıştır. Psikanalizin sorusu, bir sözün neden belirli bir anda bir öznenin hayatını değiştirebildiğidir.

Yapay zeka araştırmaları belki bir gün bir modelin hiçbir hesaplama adımını karanlıkta bırakmayacak kadar gelişebilir. Buna rağmen psikanalitik yorumun sorusu yerinde kalacaktır. Çünkü bir sistemi bütünüyle açıklamak ile bir öznenin kendi sözü karşısındaki konumunu değiştirmek aynı şey değildir.

Bu nedenle yorumun problemi, açıklamanın problemi değildir.

Ve belki de psikanaliz açısından asıl kara kutu hiçbir zaman makine olmamıştır.