Üretken yapay zekâ ile ilgili tartışmalarda çoğunlukla üretimin kendisine bakıyoruz. Model bir metin yazabiliyor mu, kod üretebiliyor mu, bir problemi çözebiliyor mu, karmaşık bir argüman kurabiliyor mu? Her yeni modelle birlikte bu soruların daha fazlasına “evet” cevabı vermeye başladık ve doğal olarak insan ile makine arasındaki sınırı da bu yetenekler üzerinden tartışıyoruz.

Fakat belki de yanlış yere bakıyoruz.

Bir şey üretebilmek ile bir şeye inanmak, bir seçeneği savunmak, başka bir seçeneği reddetmek ve gerektiğinde bu tercihin sonuçlarını üstlenmek aynı şey değil. “Generated” ile “opinionated” arasındaki farkı ilginç bulmamın nedeni tam da burada.

Çünkü insan düşüncesinin özü belki de üretmekten çok taraf olmaktır.

Buradaki taraf olmayı politik veya ideolojik anlamda kullanmıyorum. Daha temel bir şeyden söz ediyorum. Gerçek dünyada düşünmek, çoğu zaman sınırsız sayıdaki olası açıklama veya çözüm arasından birini seçmek ve diğerlerinden vazgeçmek anlamına geliyor. Üstelik bunu eksik bilgiyle, belirsizlik altında ve yanlış yapabileceğimizi bilerek yapıyoruz.

Bir doktor tedavi seçiyor, bir mühendis iki mimariden birini tercih ediyor, bir girişimci hangi ürünü geliştirmeyeceğine karar veriyor, bir ebeveyn çocuğuna neyin önemli olduğunu anlatıyor. Bu kararların hiçbirinde elimizde bütün olasılıkları tüketebileceğimiz bir hesaplama yok. Bir noktada hesap sona eriyor ve yargı başlıyor.

Belki de “opinion” dediğimiz şey tam olarak burada doğuyor.

Her Cevabı Üretebilmek, Bir Cevaba Sahip Olmak Değildir

Büyük dil modellerinin şaşırtıcı özelliklerinden biri, birbirinin tam karşıtı olan görüşleri aynı ikna gücüyle ifade edebilmeleri. Aynı modele mikroservis mimarisinin neden doğru olduğunu sorduktan birkaç dakika sonra monolitik mimarinin neden daha doğru olduğunu sorabiliriz ve her iki durumda da son derece makul argümanlarla karşılaşabiliriz.

Bunda yanlış bir şey yok. Hatta bu yetenek oldukça değerlidir. Bir meseleyi farklı açılardan görebilmek, karşı argüman üretebilmek ve düşünce alanını genişletmek için son derece güçlü bir araç elde etmiş durumdayız.

Fakat burada gözden kaçırılmaması gereken küçük bir ayrım var.

Modelin iki görüşü de üretebilmesi, ikisine birden inandığı anlamına gelmediği gibi içlerinden birine inandığı anlamına da gelmiyor. Buradaki “inanmak” kelimesini antropomorfik bir tartışmaya dönüştürmeye gerek yok. Daha basit bir ayrımdan söz ediyorum: model bir pozisyonu temsil edebiliyor, fakat o pozisyonun sonucunda yaşamak zorunda değil.

Biz ise yaşıyoruz.

Bir mimari karar verdikten sonra beş yıl boyunca onun teknik borcuyla biz uğraşıyoruz. Yanlış kişiyi işe aldığımızda organizasyon bunun sonuçlarını yaşıyor. Yanlış bir strateji seçtiğimizde kaybedilen zamanı geri alamıyoruz. Bir çocuğa verdiğimiz tavsiyenin onun hayatında nasıl yankılandığını yıllar sonra görebiliyoruz.

İnsan görüşünün ağırlığını yalnızca argümanın mantıksal kalitesi oluşturmuyor. Ona ağırlık veren şeylerden biri de geri döndürülemezliğin varlığı.

Bir seçim yaptığımızda diğer olasılıkların bir bölümünden vazgeçiyoruz.

Ve hayat tam da bu vazgeçişlerden oluşuyor.

İnsan Düşüncesinin İlginç Tarafı Belki de Kısıtlı Olmasıdır

Uzun zamandır zekâyı daha fazla seçenek üretebilmekle ilişkilendiriyoruz. Daha zeki insanın daha fazla çözüm görebildiğini, daha fazla ihtimali değerlendirebildiğini ve daha geniş bir problem uzayını kavrayabildiğini düşünüyoruz.

Bunda doğruluk payı var.

Fakat insan düşüncesinin gücü yalnızca olasılıkları genişletebilmesinden gelmiyor olabilir. Tam tersine, bir noktada onları daraltabilmesinden de geliyor olabilir.

Bir romancı yazabileceği bütün romanları yazmaz. Bir mimar mümkün olan bütün binaları tasarlamaz. Bir bilim insanı sonsuz sayıdaki hipotezin peşinden gitmez. Bir mühendis her teknolojiyi aynı anda kullanmaz.

Düşünce, önce ihtimalleri açar; sonra onları acımasızca kapatır.

Yaratıcılığın sadece yeni olasılıklar üretme yeteneği olduğunu düşünmek bu nedenle eksik olabilir. Yaratıcılığın daha zor bölümü, hangi olasılıkların takip edilmeye değer olduğuna karar vermektir.

Üretken AI ilk bölümde olağanüstü güçlü hale geliyor.

İkinci bölüm ise daha karmaşık.

Çünkü “hangisi değer?” sorusu çoğu zaman yalnızca bilgiyle cevaplanamaz.

Değerler Hesaplamanın Sonunda Ortaya Çıkmaz

Bir teknoloji kararını düşünelim. İki çözümün performansını, maliyetini, bakım yükünü, geliştirme hızını ve güvenlik özelliklerini karşılaştırabiliriz. İstersek onlarca kriterden oluşan bir karar matrisi de oluşturabiliriz.

Fakat matrisin üzerinde görünmeyen başka bir soru vardır: bu kriterlerden hangisi bizim için daha önemli?

Performansı neden bakım kolaylığından daha önemli kabul ettik? Neden kısa vadeli teslim hızını uzun vadeli sadeliğin önüne koyduk? Neden vendor lock-in riskini kabul ettik veya etmedik?

Bir noktadan sonra karar verme mekanizmasının içine değerler girer.

Ve değerler veriden türetilmez.

Veri bize seçeneklerin sonuçlarını anlatabilir. Fakat hangi sonucun tercih edilmeye değer olduğunu tek başına söyleyemez.

Bu ayrım AI çağında daha görünür hale gelecek olabilir. Çünkü giderek daha güçlü sistemler bize yalnızca cevap değil, alternatif cevap kümeleri sunacak. Bir probleme on mimari, bir stratejiye yirmi varyasyon, bir metne yüz farklı ifade üretmek kolaylaşacak.

Bu durumda kıt kaynak artık seçenek olmayacak.

Kıt kaynak seçim olacak.

Opinionated Olmak Bir Kusur Değil miydi?

Teknoloji dünyasında uzun süre “opinionated” kelimesini bazen hafif olumsuz bir anlamla kullandık. Opinionated framework geliştiriciye kendi tercihlerini dayatıyordu. Unopinionated araç ise daha özgür, daha esnek ve daha genel görünüyordu.

Fakat sınırsız esnekliğin her zaman avantaj olmadığını zaman içerisinde öğrendik.

Her şeyi yapabilen bir sistem aynı zamanda hiçbir şeyin nasıl yapılması gerektiğini söylemeyen bir sistemdir. Her seçeneği açık tutmak, karar verme yükünü kullanıcıya bırakır.

AI dünyasında bu durum çok daha ilginç bir boyuta taşınıyor.

Çünkü üretim maliyeti düştükçe “neden böyle?” sorusunun değeri yükseliyor.

Bir AI sistemi bize yüzlerce logo üretebilir. Fakat hangisinin şirketin kimliğini doğru temsil ettiğine karar vermemiz gerekir. Bir coding agent aynı problemi beş farklı mimariyle çözebilir. Fakat hangi mimarinin bizim sistemimizin geleceği olduğuna karar vermemiz gerekir. Bir model bir konuda onlarca ikna edici argüman oluşturabilir. Fakat hangisinin bizim dünya görüşümüzle bağdaşacağını seçmek hâlâ bize kalır.

Bu nedenle gelecekte insanın avantajının yalnızca “daha yaratıcı olmak” olduğunu söylemek bana giderek daha zayıf geliyor. Makineler de yaratıcı olarak adlandırabileceğimiz çıktılar üretmekte oldukça başarılı hale geliyorlar.

Daha ilginç fark başka yerde olabilir.

İnsan önemser.

Önemsemek Hesaplamaya Garip Bir Şey Ekliyor

“Care” kelimesinin Türkçedeki karşılığı burada tam oturmuyor. Önemsemek, umursamak, dert edinmek; hepsi aynı yere yaklaşıyor.

Bir şey bizim için önemli olduğunda düşünme biçimimiz değişiyor.

Bir araştırmacı yıllarını belirli bir probleme verebiliyor. Bir mühendis başkasının hiç fark etmeyeceği küçük bir tutarsızlığı günlerce dert edebiliyor. Bir sanatçı kimsenin ayırt edemeyeceği bir detay üzerinde tekrar tekrar çalışabiliyor.

Saf verimlilik açısından bakıldığında bunların bir bölümü irrasyonel bile görünebilir.

Fakat insanlık tarihindeki pek çok önemli şey tam da böyle ortaya çıktı.

İnsan düşüncesi yalnızca hesaplama yapan bir mekanizma değilse bunun nedenlerinden biri, düşüncenin arkasında çoğu zaman bir arzu, kaygı, merak, korku, estetik tercih veya anlam arayışı bulunması olabilir.

Biz yalnızca “hangi cevap daha olası?” diye sormuyoruz.

“Nasıl bir dünya istiyorum?” diye de soruyoruz.

Bu ikinci soru oldukça farklı.

Bir Görüş Sahibi Olmanın Bedeli Vardır

Gerçek bir görüşün önemli özelliklerinden biri de yanlış çıkabilmesidir.

Bunu önemsiyorum çünkü günümüzün AI destekli iletişim dünyasında giderek daha fazla “iyi formüle edilmiş düşünce” göreceğiz. Her argümanın güçlü karşı argümanı, her eleştirinin dengeli cevabı, her fikrin iyi yazılmış bir açıklaması olacak.

Fakat iyi ifade edilmiş olmak ile gerçekten düşünülmüş olmak arasındaki mesafe büyüyebilir.

Gerçek düşünce bazen pürüzlüdür. İnsan bir fikre yıllarca inanır, sonra bir deneyim yaşar ve fikrini değiştirir. Bazen savunduğu bir şeyin sonuçlarını görünce utanır. Bazen yıllardır doğru bildiği bir konunun aslında yanlış olduğunu kabul etmek zorunda kalır.

Bu süreçte yalnızca bilgi güncellenmez.

İnsan da değişir.

Belki de önemli ayrımlardan biri budur: Biz düşüncelerimizi değiştirdiğimizde yalnızca çıktımız değişmez, kendimiz de değişiriz.

Bir görüş sahibi olmanın bedeli bu dönüşüm ihtimalidir.

AI Çağında Fikir Enflasyonu

Üretken AI’nın yaratacağı en ilginç sonuçlardan birinin fikir kıtlığını ortadan kaldırması olduğunu düşünüyorum.

Bugüne kadar pek çok alanda fikir üretmek değerliydi. Bir ürün fikri, bir reklam sloganı, bir mimari alternatif, bir araştırma başlığı veya bir makale taslağı bulabilmek belirli bir zihinsel emek gerektiriyordu.

Artık aynı problem için yüz fikir üretmek birkaç dakika sürebiliyor.

Bunun doğal sonucu bir çeşit fikir enflasyonu olabilir.

Fikirlerin miktarı arttığında tek başına fikir sahibi olmanın değeri azalır. Değer başka bir yere taşınır: hangi fikrin peşinden gidileceğine, hangisinin terk edileceğine ve hangisi için yılların harcanabileceğine karar verme yeteneğine.

Bu nedenle AI çağında “ideation” kelimesine gereğinden fazla önem veriyor olabiliriz.

Geleceğin problemi fikir bulamamak olmayabilir.

Geleceğin problemi, hangi fikrin hayatımızdan pay almaya değer olduğunu seçmek olabilir.

Generated Dünya İçinde Opinionated İnsan

Buradan karamsar bir “AI insan gibi düşünemez” sonucuna varmak istemiyorum. Böyle bir iddia hem gereksiz derecede büyük hem de teknolojinin nereye gideceğini düşününce savunulması zor bir kesinlik olur.

Daha mütevazı bir noktadayım.

AI sistemleri üretim alanını olağanüstü ölçüde genişletiyor. Daha fazla fikir, daha fazla kod, daha fazla metin, daha fazla görüntü ve daha fazla olası gelecek üretebiliyoruz.

Ama insan hayatı genişlemiyor.

Hâlâ sınırlı zamanımız var. Bir kariyer seçebiliyoruz. Aynı anda ancak birkaç probleme gerçekten yoğunlaşabiliyoruz. Yaptığımız her tercih başka bir şeyden vazgeçmek anlamına geliyor.

Bu nedenle AI’nın seçenekleri sonsuza doğru çoğalttığı bir dünyada, insanın temel problemi belki de eskisinden daha fazla sınır çizmek olacak.

Ne okuyacağım?

Neye inanacağım?

Hangi problemi çözmeye değer bulacağım?

Hangi işi iyi yapmaya çalışacağım?

Hangi fikri savunacağım?

Ve daha önemlisi, hangileri için “hayır” diyeceğim?

Bunlar generation problemi değil.

Bunlar judgement problemi.

Belki de Düşünmek Budur

Uzun süre düşünmeyi zihnin çıktı üretme yeteneği üzerinden değerlendirdik. Problem çözmek, hatırlamak, açıklamak, hesaplamak, yazmak ve yeni fikirler oluşturmak zekânın göstergeleriydi.

AI bu alanların neredeyse tamamına girdi.

Bu durum bizi insan düşüncesi hakkında daha zor bir soru sormaya zorluyor olabilir.

Eğer iyi bir cümle kurmak artık düşünmenin kanıtı değilse, düşünmek nedir?

Belki düşünmek yalnızca ihtimalleri üretmek değildir.

Onların arasından seçim yapmaktır.

Bir seçimin arkasında durmaktır.

Yanlış çıkma riskini almaktır.

Yeni bir şey öğrendiğinde kendi fikrini değiştirebilmektir.

Bazı şeyleri diğerlerinden daha önemli bulmaktır.

Ve sınırlı bir ömrün içerisinde, sonsuz olasılıklar arasından çok küçük bir bölümüne “buna değer” diyebilmektir.

Generated ile opinionated arasındaki gerçek ayrım belki de burada.

Makineler bize giderek daha fazla olasılık üretecek.

Bizim işimiz ise giderek daha fazla, hangi olasılığın hayatımıza girmesine izin vereceğimize karar vermek olacak.

Bu yazıyı beğendiyseniz Twitter’da takipçilerinizle paylaşabilir veya beni Twitter’da takip edebilirsiniz.