Dikkat Her Şey Değil: Yapay Zeka ve Yapay Bilgelik Üzerine

Bilge birini düşündüğümüzde aklımızda genellikle yaşlı bir dede figürü canlanıyor. Zeki birini düşündüğümüzde ise başka birini hayal ediyoruz. Bu iki kelimeyi birbirine yakın kullansak da aynı şeyden bahsetmediğimizi bir şekilde biliyoruz.

Bilgelik zekanın çokluğu değil. Belki bir olaya farklı yerden bakabilmekten ve bunu yapmayı sağlayan tecrübelerden geliyor. Hatta bazen zekanın yetmediği yerde devreye giriyor. Soru bir zeka sorusu olmadığında.

Yapay zeka üzerine düşünürken bu ayrım aklıma takılıyor. Bir modelin ne kadar zor bir problemi çözebildiğine bakıyoruz. Peki problemi ele alış biçiminde bir sorun varsa? Sorunun tarifinde, çözüm aradığı alanda ya da baştan kabul ettiği bir varsayımda?

Bugünkü modellerin bilge olduğunu düşünmüyorum. Ama hiçbir zaman olamayacaklarını da söylemiyorum. Üç yıl önce sorsanız, bugün geldiğimiz yerin mümkün olduğunu da düşünmezdim. Önce bilgelik derken neyi kastettiğimizi biraz açmak gerekiyor.

Problemi kutuya koymak

Bir kağıda üç sıra halinde dokuz nokta çizdiğinizi düşünün:

İstenen şey, kalemi kağıttan kaldırmadan, birbirini takip eden dört düz çizgiyle bütün noktalardan geçmek.

Noktalara baktığımızda farkında olmadan onları birleştirip bir kareye çeviriyoruz. Sonra da çizeceğimiz çizgilerin bu karenin içinde kalması gerektiğini varsayıyoruz. Oysa soruda böyle bir kural yok. Dört çizgili çözüm, noktaların oluşturduğu karenin dışına uzanmayı gerektiriyor. Birkaç çalışmanın toplamında bu soruyu ipucusuz çözebilenlerin oranı sadece %5 civarında.

Dört çizgili çözüm. Numaraları ve okları takip ettiğimizde, kalemi kaldırmadan dokuz noktanın da merkezinden geçiyoruz.

Bence burada ilginç olan, çözümü aramaya başlamadan önce yaptığımız şey. Bir problemi çözmek istediğimiz an, onu bir kutuya koyuyoruz. Buna framing de deniyor. Nelerin önemli olduğunu, hangi hareketleri yapabileceğimizi ve neyi çözüm sayacağımızı az çok belirliyoruz. Sonra o kutunun içinde hesap yapmaya, seçenekleri karşılaştırmaya ve akıl yürütmeye başlıyoruz.

Kutuyu çizmek kendi başına bir hata değil. Her şeyi aynı anda düşünemeyiz. Bir problemin üzerinde çalışabilmek için bazı şeyleri dışarıda bırakmak şart. Ama dışarıda bıraktığımız şey çözüm için gerekliyse, kutunun içinde ne kadar iyi çalıştığımızın bir anlamı kalmıyor.

İçgörü denilen “o” an burada ortaya çıkıyor. Birden, çizdiğimiz sınırın sorunun bir parçası olmadığını fark ediyoruz. Bence en azından dokuz nokta probleminde, kutunun yanlış olduğunu fark etmekle doğru kutuyu çizmek aynı anda oluyor. O kısa “a-ha moment”, dikkatin yön değiştirdiği an. Çözümün başlangıcı.

Sonrasında iş bitmiyor belki ama aslında bitiyor. Artık yeni çerçevenin içinde tekrar akıl yürütüyoruz. Hangi çizgiyi nereye çizeceğimizi hala bulmamız gerekiyor. O kutuyu doğru çizdiğimiz an, aslında geriye sadece işin, çözümün mental amelelik kısmı kalıyor.

Bir de bunun üç çizgili çözümü var. Dairelerin içinden geçmek yeterliyse, üç hafif eğimli çizgiyle de bütün noktalara ulaşabiliyoruz. Çizgileri yeterince uzağa uzatıp yön değiştiriyoruz; her biri bir sıradaki üç dairenin içinden geçiyor. Noktaların tam merkezlerinden geçme şartını korursak bu çözüm çalışmıyor. Tanya Khovanova da bu alternatif çözümü noktaların kalınlığından yararlanarak anlatıyor.

Üç çizgili çözüm. Burada noktaların bir alanı var; çizginin o alanın içinden geçmesi yeterli. Dönüşler noktaların çok dışında yapılıyor.

Bu ikinci çözüm hoşuma gidiyor. İlkinde karenin dışına çıkıyoruz. İkincisinde, “noktanın içinden geçmek” derken neyi anladığımızı da sorguluyoruz. Bir kutudan çıkmış olmak, bütün varsayımlarımızı fark ettiğimiz anlamına gelmiyor.

İlginç olan, birine “karenin dışına çıkabilirsin” demenin de yetmemesi. Weisberg ve Alba’nın 1981 tarihli çalışmasında bu ipucu tek başına hızlı ve doğrudan çözüm getirmedi. Araştırmacılar, güçlüğü yalnızca bir varsayıma takılı kalmakla açıklamayı sorguluyor ve probleme özgü bilginin rolünü vurguluyordu. Bence burada bir ipucunu duymakla problemi başka türlü görmeye başlamak arasındaki fark var. İpucunu duymak, o “a-ha” anını yaşamakla aynı şey değil. Çalışmanın özeti.

Bir el feneri gibi

Dikkati bir el feneri gibi düşünebiliriz. Işığı dar bir alana topladığımızda oradaki ayrıntıları daha iyi seçebiliyoruz. Problemin içine giriyoruz. Fakat ışığın dışında kalanları görmek zorlaşıyor.

Feneri genişlettiğimizde çevreyi görmeye başlıyoruz. İlk bakışta alakasız sandığımız bir şey, problemin başka türlü kurulabileceğini düşündürebiliyor. Ardından yeniden daraltıp bu kez başka bir yerde çalışabiliyoruz.

Bu hareketin bir ritmi var: odaklanmak, takılmak, geri çekilmek, başka bir açı görmek ve yeniden odaklanmak. Elbette her problem böyle çözülmüyor. Bazen bir hesap hatası yapmış oluyoruz, bazen bilgi eksik. Her zorlandığımızda kutuyu değiştirmek de bizi bir yere götürmez. Üstelik oturup kutuyu doğru çizdim mi diye sormak da pek bir işe yaramıyor.

Merak ettiğim şey, hangisinin gerektiğini nasıl anladığımız. Biraz daha uğraşmamız mı gerekiyor, yoksa yanlış yerde mi uğraşıyoruz?

John Vervaeke’nin Timothy Lillicrap ve Blake Richards ile geliştirdiği relevance realization, yani neyin ilgili olduğunu fark etme yaklaşımı, bu soruyu düşünmek için yararlı. Mesele, önümüzdeki bütün bilgileri sırayla işlemekten önce hangilerinin mevcut durumda dikkate değer olduğunu seçebilmek. Problemi nasıl kurduğumuz, çözüm arayabileceğimiz alanı da belirliyor. İlgili makale.

Bu yüzden zeka, rasyonellik ve bilgeliği tek bir ölçeğin farklı seviyeleri gibi düşünmek bana yeterli gelmiyor. Bir problemde çok becerikli olabiliriz. Kendimizi düzeltmeye açık olmak, yanılıyor olmayı önemsemek ve kendi bakışımızın sınırlarını fark etmek ise ayrıca konuşulması gereken şeyler.

“Attention” derken

2017’de yayımlanan Attention Is All You Need makalesi, transformer mimarisini tanıttı. Buradaki “attention”, gündelik dilde kullandığımız dikkatin teknik bir karşılığı değil; belirli bir hesaplama mekanizmasının adı. Kabaca, self-attention metindeki parçaların birbiriyle ilişkisini hesaplayıp bu ilişkiler üzerinden bilgiyi ağırlıklandırıyor. Makale.

Bu ağırlıklar her metne aynı şekilde uygulanan sabit bir önem listesi de değil. Öğrenilmiş parametrelerle, o sırada işlenen girdiye göre hesaplanıyorlar. Bir kelimenin hangi bağlamda geçtiği bu hesapta fark yaratıyor.

Bu kelime yine de ilginç bir soruya açılıyor: Bir şeyin diğer şeylerle ilişkisini hesaplamak ile hangi ilişkiyi araştırmaya değer bulacağını belirlemek arasında nasıl bir bağ var?

El feneri benzetmesinde yalnızca ışığın gücüyle ilgilenmiyoruz. Nereye tutulduğuyla, ne kadar genişletildiğiyle ve ne zaman başka bir yöne çevrildiğiyle de ilgileniyoruz. İnsan dikkatini böyle düşündüğümüzde, ilgilerimiz ve tecrübelerimiz de resme giriyor.

Bilmekten ne anlıyoruz?

“Biliyorum” derken de hep aynı şeyden bahsetmiyoruz. Bisikletin nasıl çalıştığını anlatabilmek ile bisiklete binebilmek aynı şey değil. Birinin bakış açısını tarif edebilmekle olaylara onun bulunduğu yerden bakabilmek de öyle. İngilizcedeki “don’t judge a person until you’ve walked a mile in their shoes” lafı bu ayrımı bence güzel gösteriyor. Vervaeke’nin bilme türleri üzerine anlattıklarında benim burada önemsediğim taraf bu.

Bir dil modeli bunların hepsini çok iyi açıklayabilir. Peki anlattığı bakış açısını gerektiğinde kendisi kullanabiliyor mu?

Model kutuyu değiştirebilir mi?

Dokuz nokta problemini bir dil modeline sorduğumuzda doğru çözümü alabiliriz. Ama bu çok bilinen, modelin eğitim datasında karşılaşmış olabileceği bir problem. Doğru cevabı vermesi, kendi kutusunu değiştirip değiştiremediği hakkında bize pek bir şey söylemiyor.

Asıl merak ettiğim durum, çözümü bu kadar tanıdık olmayan bir problemde ortaya çıkıyor. Model, kendisine verilen çerçevede ilerleyemediğinde ne yapıyor? Aynı yerde daha çok hesap mı yapıyor, başka bir çerçeve mi deniyor? Çerçevenin değişmesi gerektiğini söyleyen kullanıcı olmadığında ne oluyor?

Belki de LLM’lerin yapmakta en zorlandığı şeylerden biri bu kısa geçiştir.

Bir bulmacayı çözmekle bilge olmuyoruz tabii. Ama kendi hayatında seni yanıltan bir düşünme biçimini fark etmekte de benzer bir şey yok mu? Bilgelikte, kendi bakışını gerektiğinde değiştirebilmenin bir payı olduğunu düşünüyorum.

Feneri kim tutuyor?

Kendi kullanımımda bunu biraz tersinden deniyorum. Emin olmadığım ama “acaba elimde iyi bir fikir mi var?” dediğim anlarda, modelden özellikle inandığım veya inanmak istediğim şeyin karşısında bir savunma yapmasını istiyorum.

Çünkü bana kendiliğinden yeterince itiraz edeceğine güvenmiyorum. Sorduğum soruyla birlikte kendi kutumu da vermiş olabilirim. İstediğim şey, o kutunun içinde gözümden kaçanları biraz daha görünür hale getirmek.

Gelen itirazın iyi olup olmadığına yine ben karar veriyorum. Ama en azından kendi fikrimi başka bir taraftan görmeye çalışıyorum. Modelin bilge olup olmadığından bağımsız olarak, benim işime yarayan tarafı bu.

Zeka, bilgelik ve bilinci var ya da yok diye düşünmüyorum. Emergent consciousness fikri bana yakın geliyor. Bir sistem belli bir karmaşıklığa ulaştığında daha önce sahip olmadığı beceriler ortaya çıkabilir. Belki bilgelik de böyle bir şey. Nasıl bir sistemde, hangi noktada ortaya çıkacağını bilmiyorum.

Bilge olmak için bilinçli olmak, gerçekten bir şeyi önemsemek gerekiyor mu? Yoksa bakışını değiştirebilen, yanıldığını fark eden ve bunu tutarlı biçimde yapabilen bir sisteme de bilge diyebilir miyiz? Şimdilik bir cevabım yok.

Elimizde ışığı giderek güçlenen bir fener var. Peki onu başka bir yere tutmamız gerektiğini nasıl fark edeceğiz; bir gün fenerin kendisi de bunu fark edebilecek mi?