1. Haberler
  2. Teknoloji
  3. Yapay Zeka
  4. AI Ajanlarını Üretime Aldık, Ama Frenini Takmayı Unuttuk

AI Ajanlarını Üretime Aldık, Ama Frenini Takmayı Unuttuk

AI Ajanlarını Üretime Aldık, Ama Frenini Takmayı Unuttuk
AI Ajanlarını Üretime Aldık, Ama Frenini Takmayı Unuttuk
Paylaş

Bu Yazıyı Paylaş

veya linki kopyala

Geçen yıl ajanlar bir demo penceresindeydi. Bu yaz faturayı kesiyor, siparişi geçiyor, iade onaylıyor.

Fark şu: Artık “acaba çalışır mı” değil, “gece 3’te kim durduracak” sorusundayız. Ve çoğu firmanın bu sorunun cevabı yok.

Gartner’ın rakamı ortada: Yıl sonuna kadar kurumsal uygulamaların %40’ında bir AI ajanı çalışıyor olacak. Sektör bunu pilot aşamasından çıkarıp üretime aldı. Ama Temmuz 2026’nın en dürüst kurumsal başlığı şu: “AI Agents Enter Production and Governance Can’t Keep Up.” Yani ajanlar sahaya indi, frenleri gelmedi.

Açık konuşalım. Bu bir teknoloji sorunu değil. Bir yönetim sorunu.

1. Fren olmadan gaza bastık

Ajanı üretime almak kolay. Zor olan, onu “sınırlı, kayıtlı, durdurulabilir” hale getirmek.

Bugün sahadaki tablo net: Firmalar ajanları olgun bir kontrol çerçevesi olmadan çalıştırıyor. Ajan kritik bir sistemde işlem yürütüyor ama iki şey eksik. Birincisi izlenebilirlik yani hangi ajan, ne zaman, hangi kararı, neye dayanarak verdi. İkincisi tanımlı limit yani ajan en fazla ne yapabilir.

Bir çalışan işe alırken imza yetkisini konuşuyorsunuz. “Şu tutara kadar onaysız harcarsın, üstünü bana sorarsın.” Ajanı işe alırken bunu konuşan neredeyse yok. Yazılıma iş verdik ama görev tanımını vermedik.

SAP gibi devler bu yüzden kendi ajan platformlarını tek çatı altında topluyor. Genel eğilim orkestrasyon ve altyapı ölçeğine kayıyor. Sebep basit: On tane serbest gezen ajanı kimse tek tek kovalayamaz.

Girişimciler için: Bir ajanı üretime almadan önce tek soruyu yanıtlayın. “Bu ajan en kötü senaryoda ne kadar zarar verebilir?” Cevabı bilmiyorsanız, ajan üretime hazır değil.

2. Yönetişim açığı bir “belki” değil, kurumsal risk kalemi

“En büyük kurumsal risk” ifadesini hafife almayın. Bu cümle güvenlik konferansı sloganı değil, bilanço konusu.

Düşünün: Bir tahsilat ajanı yanlış müşteriye üç kez ödeme çağrısı yaptı. Bir stok ajanı yanlış tedarikçiye 40 kalem sipariş geçti. Bir müşteri ajanı, olmayan bir indirimi yüzlerce kişiye taahhüt etti. Bunların hiçbiri “model halüsinasyonu” başlığıyla geçiştirilmez. Bunlar gider, iade, itibar ve bazen dava demek.

Klasik yazılımda hata tekti ve tekrar ederdi, yakalardınız. Ajan farklı. Kendi kararını veriyor, her seferinde biraz başka davranıyor. Yani hatası da öngörülemez. Öngörülemez hatayı yönetmenin tek yolu, hareket alanını daraltmak.

Girişimciler için: Ajanın “ne kadar akıllı” olduğu satış konusu, “ne kadar sınırlı” olduğu ise sağkalım konusu. Yatırımcıya modeli anlatın, operasyona limiti anlatın.

3. Bunu ben laf olsun diye yazmıyorum, kod yazıyoruz

Bu problemi masabaşında değil, kendi ürünümüzde çözmeye çalışırken gördüm.

CashClaw’ı tam da bunun için geliştirdik. Açık kaynak tarafında yaklaşık 290 yıldıza ulaştı, npm’de v1.7.0 “Agent Economy Layer” olarak yayında. İçinde ne var, kısaca sayayım çünkü mimari tam da bu yazının derdi:

Guard yani ajanın önüne konan bekçi katmanı. Cost cap yani maliyet tavanı, ajan belli bir harcamayı geçemiyor. Recursive kill yani bir ajan başka ajanları tetiklediğinde zinciri kökten durduran özyinelemeli kesici. Tool firewall yani ajanın hangi araca dokunabileceğini belirleyen izin duvarı. Üstüne 13 skill ve ödemeyi kayıt altına alan bir katman.

Özeti şu: Ajan çalışsın, ama limitli, loglu ve durdurulabilir çalışsın. Övünmek için değil, “bu iş konuşulacak değil kurulacak bir şey” demek için anlatıyorum. HANDEN X’te distribütör operasyonunu otomatikleştirirken de, VOXONIC AI’da çağrı akışını kurarken de aynı prensibi uyguladık: Yetkisiz adım atamayan, her adımı iz bırakan ajan.

Konuşmak kolay. Freni takmak zor. Biz freni takıyoruz.

Girişimciler için: “Ajan altyapısı” satın alırken ilk üç soruyu sorun. Harcamayı durdurabiliyor mu, her işlemi kaydediyor mu, tek tuşla kapanıyor mu. Üçüne de “evet” yoksa, o altyapı değil, açık kapı.

4. Türk KOBİ’si için asıl mesele

Türkiye’de bir gerçek var: Çoğu KOBİ ajanı henüz kurmadı, ama kuranların çoğu da sıfır kontrolle kurdu. İkisi de risk.

Bir tarafta “ben bu işlere karışmam” diyen esnaf, rakibi otomatikleşirken yerinde sayıyor. Diğer tarafta heyecanla bir ajanı WhatsApp’a, muhasebeye, stoğa bağlayan ama “en fazla ne yapabilir” sorusunu hiç sormamış girişimci var. Birincisi geç kalıyor, ikincisi tehlikeye giriyor.

Doğru yol ortada. Ajanı kur, ama ehliyetsiz araba gibi salma. Küçük işletmenin lüksü yok. Bir yanlış toplu mesaj, bir yanlış iade onayı, dar bütçeli firmayı gerçekten yaralar.

Girişimciler için: Ajan büyük firmanın oyuncağı değil, küçük firmanın kaldıracı. Ama kaldıracın da bir dayanak noktası olur. Sizin dayanak noktanız kontrol listesi.

5. Yarın sabah kurulabilecek KOBİ ajan güvenlik listesi

Teknik ekip gerektirmez. Bir ajanı işe almadan önce şu beşini yazılı olarak tanımlayın:

  1. Bütçe tavanı koy. Ajan günlük ya da işlem başına ne kadar harcayabilir, ne kadar taahhüt verebilir, net bir rakam belirle. Tavan yoksa fren yok.
  2. Her işlemi logla. Ajanın attığı her adım tarih, saat ve gerekçesiyle bir yere yazılsın. “Neden bu oldu” sorusunu sonradan cevaplayamıyorsan, o ajanı yönetmiyorsun.
  3. Kill-switch kur. Tek tuşla ya da tek komutla ajanı anında durduracak bir mekanizman olsun. Gece uyanıp panik yaşamak istemiyorsan, kapatma düğmesi ilk gün hazır olmalı.
  4. Araç ve izin duvarı çek. Ajan hangi sisteme dokunabilir, hangisine dokunamaz, açıkça belirle. Muhasebeye evet, banka transferine hayır gibi. Her kapıyı açık bırakma.
  5. Kritik işlemde insan onayı iste. Belli bir tutarın üstü, iade, sözleşme, toplu mesaj gibi geri dönüşü zor adımlarda ajan durup insana sorsun. Otomasyon, denetimi ortadan kaldırmak değil, hızlandırmaktır.

Bu beş madde bir hafta sonu işidir. Ama koymadığınız her madde, ileride bir gider kalemi olarak geri gelir.

Ajan çağı geldi, bu tartışma bitti. Şimdi asıl yarış, ajanı kurabilende değil, kurduğu ajanı yönetebilende.

Tez: Ajanı üretime almak cesaret değil, freni takmadan üretime almak dikkatsizliktir.

Peki sizin ajanınızın kapatma düğmesi nerede? Gece yarısı yanlış işlem yaparsa, onu kim ve nasıl durduracak? Bu iki sorunun cevabı hazır değilse, o ajan sizin için çalışmıyor, sizin adınıza risk alıyor.

Ertuğrul Akben

Yapay Zeka & Sistem Stratejisti

ertugrulakben.com

AI Ajanlarını Üretime Aldık, Ama Frenini Takmayı Unuttuk
Yorum Yap

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.
Giriş Yap

Startup Gazetesi ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!

Bizi Takip Edin