Ali Özgür

Bir cuma akşamı production ortamında kritik bir hata çıktığını düşünün. Sistem çalışıyor ama bazı müşteriler sipariş oluşturamıyor. Loglar temiz. Monitoring sistemleri olağan dışı bir şey göstermiyor. Kodun ilgili kısmına bakan ekip üyeleri mantıksal bir problem göremiyor.

Sonra ekipte biri şöyle diyor:

“Ah… bu davranış aslında bilerek böyle yapılmıştı.”

Herkes dönüp soruyor: “Bunu kim yaptı?”

Cevap: “Üç yıl önce ayrılan bir geliştirici.”

O noktada organizasyon bir gerçekle yüzleşiyor. Kod orada olabilir. Ama sistemi gerçekten anlayan kişi artık organizasyonda değildir.

Bu sahne yazılım sektöründe sanıldığından çok daha yaygındır. Tam olarak bu nedenle Baldur Bjarnason’ın “Theory-building and why employee churn is lethal to software companies” yazısı bence yazılım organizasyonları üzerine yazılmış en önemli metinlerden biri.

Çünkü yazının merkezindeki fikir oldukça net:

Yazılım yalnızca kod değildir. Yazılım, ekiplerin zihnindeki kolektif anlayışın çalışan bir dışavurumudur.

Bu yaklaşımın kökeni ise Peter Naur’un yıllar önce ortaya koyduğu “Programming as Theory Building” düşüncesine dayanıyor.

Son birkaç yıldır teknoloji dünyasında sürekli aynı cümleyi duyuyoruz:

“Yapay zeka her şeyi değiştirecek.”

Bu cümle artık o kadar sık tekrarlandı ki, neredeyse anlamını kaybetti. Ama bazen bazı metinler çıkıyor ve size teknolojinin sadece ne yapabildiğini değil, insanlık için ne anlama geldiğini düşündürüyor.

Kyle Kingsbury’nin “The Future of Everything is Lies, I Guess” başlıklı uzun denemesi tam olarak böyle bir metin. Teknik bir makale değil. Bir yatırım sunumu değil. Bir ürün lansmanı hiç değil. Daha çok, yapay zekanın insan hayatına sızarken beraberinde getirdiği kültürel, psikolojik ve toplumsal kırılmaları anlatan karanlık ama dürüst bir düşünce yazısı.

Kök neden analizi, yani RCA (Root Cause Analysis), endüstride uzun yıllardır kullanılan en önemli iyileştirme araçlarından bir tanesi. Üretimden havacılığa, finanstan enerji sektörüne kadar birçok alanda, yaşanan bir problemin gerçek nedenini bulmak ve aynı problemin tekrar yaşanmasını engellemek için RCA süreçleri uygulanıyor.

Temel mantık oldukça basit. Bir sorun yaşandıysa sadece görünen sonucu değil, o sonucu ortaya çıkaran gerçek nedeni bulmak gerekir. Çünkü semptomları düzeltmek ile problemi çözmek aynı şey değildir.

Jevons Paradoksu, bir kaynağın kullanım verimliliği arttığında o kaynağın toplam tüketiminin azalmak yerine artabileceğini ifade eder. İlk bakışta bu durum sezgisel olarak yanlış gibi görünür. Çünkü yaygın beklenti, verimlilik artışının daha az kaynak tüketimine yol açmasıdır. Ancak ekonomik sistemler çoğu zaman sezgisel beklentilerle değil, teşvikler ve davranışlar üzerinden çalışır.

Paradoksun temelinde oldukça basit ama güçlü bir mekanizma vardır. Bir kaynağın daha verimli kullanılması, o kaynağın efektif maliyetini düşürür. Maliyet düştüğünde ise talep artar.

Agent sistemleriyle ilgili konuşurken çoğu ekip hala aynı varsayımla ilerliyor: eğer kod doğruysa sistem güvenlidir. MCP ile birlikte bu varsayım artık geçerli değil. Çünkü bu sistemlerde kararları kod değil, model veriyor. Model ise dünyayı API contract’ları üzerinden değil, doğal dil üzerinden anlıyor.

Bu fark küçük gibi görünür ama etkisi büyük. Çünkü model bir şeyi yanlış anladığında, bu artık sadece yanlış bir cevap değildir; yanlış bir aksiyondur. MCP’nin sunduğu şey tam olarak bu: modelin dış dünyada işlem yapabilmesi. Ama aynı zamanda yeni bir risk katmanı da ekler: semantic yanlış anlama.