Canlıya Alındıktan Sonra: Yapay Zeka Sistemleri Neden Sessizce Değer Kaybeder?

Bir yapay zeka projesinin en rahat günü, canlıya alındığı gündür. Entegrasyonlar çalışır, test örnekleri doğru yanıtlanır, sponsor memnundur ve proje kapanır. Asıl sorun çoğu zaman bu günden sonra başlar: Sistem çökmez, hata vermez, alarm üretmez. Sadece her ay biraz daha az doğru, biraz daha az güncel ve biraz daha az kullanılır hale gelir. Bu sessiz değer kaybı, teknik olarak başarılı projelerin neden iş değeri üretemediğini açıklayan en az konuşulan nedenlerden biridir.

Pilot dönemini Yapay Zeka Pilot Projesi Nasıl Değer Üretir?, benimsemeyi Yapay Zeka Araçları Neden Kullanılmıyor? ve güvenliği AI Güvenliği: Üretimde Kontrol ve Güven yazılarımızda ele aldık. Burada bunların hiçbirinin tam olarak cevaplamadığı tek bir soruya bakıyoruz: Canlıya alındıktan sonra kim, neye bakarak, sistemin hâlâ işe yaradığını biliyor?

Bozulma Neden Sessizdir?

Klasik bir yazılım bozulduğunda hata mesajı verir. Yapay zeka sistemi bozulduğunda ise akıcı, düzgün biçimlendirilmiş ve yanlış bir yanıt üretir. Bilgi tabanında eski bir politika metni bulan bir asistan, onu güncel metinle aynı özgüvenle aktarır. Arama katmanı bunu fark edemez: Benzerlik hesabında belgenin ne kadar eski olduğu yer almaz, bayat bir paragraf taze bir paragraf kadar yüksek puan alabilir.

Sonuç, kimsenin şikâyet etmediği ama kimsenin de güvenmediği bir sistemdir. Kullanıcı yanlış bir yanıtla bir kez karşılaşır, ikinci kez denemez ve sessizce eski yönteme döner. Kullanım grafiği düşer; ekip bunu “ilgi azaldı” diye yorumlar, oysa sebep kalitedir.

Değer Kaybının Dört Kaynağı

1. Bilgi Tabanı Bayatlar

Fiyat listeleri, iade koşulları, ürün özellikleri ve iç prosedürler her ay değişir. Bilgi tabanı bir kez yüklenip bırakıldığında, birkaç ay içinde güncel olmayan yanıtlar vermeye başlar. Uygulayıcıların paylaştığı vaka analizlerinde bu, canlıya alınmış asistanlarda ilk aylarda görülen kalite düşüşünün en sık nedeni olarak geçer. Bilgi tabanı bir kez kurulan bir varlık değil, raf ömrü olan bir üründür.

Hangi kaynağın referans alınacağını Chatbot Hangi Verileri Kullanmalı? yazımızda anlattık. Buna eklenmesi gereken ikinci soru şudur: O kaynağı kim, ne sıklıkla güncelleyecek? Cevap baştan yazılı değilse, güncelleme kimsenin işi olmaz.

2. Gelen Veri Değişir

Sistem belirli bir veri dağılımı üzerinde test edilmiştir. Sonra yeni bir tedarikçi farklı biçimde fatura göndermeye başlar, kampanya döneminde müşteriler başka sorular sorar, yeni bir ürün satışa çıkar. Literatürde buna veri kayması denir: Model aynı kalır, ama girdiler onun öğrendiği dünyadan uzaklaşır. Doğruluk yavaş düşer ve ortalama metrikte görünmesi aylar sürebilir.

3. Çevre Değişir

Dışarıdan bakıldığında sistem aynıdır, ama altındaki zemin kaymıştır: Model sağlayıcısı bir sürüm günceller ve aynı komut farklı yanıt verir, CRM'deki bir alan yeniden adlandırılır, bir API sürümü kullanımdan kalkar, yetkiler yeniden düzenlenir. Entegrasyonlar çoğu zaman hata vermek yerine boş veya eksik veriyle çalışmayı sürdürür.

4. Kullanıcılar Değişir

İlk haftalarda geri bildirim veren kullanıcılar zamanla vermeyi bırakır. Düzeltmeler sisteme geri dönmez, insanlar kendi dolambaçlı yollarını geliştirir. Bu, benimseme sorununun bir yüzüdür; ama burada ayrıca şu sonuç doğar: Sistemi iyileştirebilecek tek sinyal de ortadan kaybolur.

Teslimden Sonra Sistemin Sahibi Kim?

Proje ekibi dağılır, sponsor yeni önceliklere geçer, dış ekibin sözleşmesi biter. Sistem çalışmaya devam eder, ama sahibi yoktur. Bir şeyin yanlış gittiği gün arayacak kişi belli değildir. Yazılım dünyasında bu duruma “yetim uygulama” denir; yapay zekada ise sessiz bozulma yüzünden çok daha geç fark edilir.

Çözüm karmaşık değil, ama baştan yazılı olmalıdır: İş çıktısından sorumlu tek bir isim, teknik sürekliliğinden sorumlu tek bir isim. Sorumluluk da ölçülebilir olmalıdır. “Sistem iyi çalışsın” bir hedef değildir; “Destek taleplerinin özetlerinde doğruluk belirlenen eşiğin altına düşmesin ve yanıt süresi şu sınırı aşmasın” ise bir hedeftir.

Bakım Bütçesi: Proje Ücretinden Ayrı Bir Kalem

Çoğu şirket yapay zeka projesini tek seferlik yatırım olarak bütçelendirir. Oysa canlı sistem; izleme, bilgi tabanı güncelleme, yeniden test, model sürümü uyumu ve güvenlik yamaları gerektirir. Sektörde sık dile getirilen bir pratik kural, yıllık işletme maliyetinin ilk geliştirme maliyetinin kabaca yüzde 15 ila 30'u arasında olduğunu söyler. Bu bir standart değil, kaba bir referanstır; asıl önemli olan bu kalemin hiç bulunmamasının en pahalı seçenek olduğunu görmektir.

S&P Global gibi analiz kuruluşlarının 2025 anketleri, terk edilen yapay zeka girişimlerinde belirgin bir artışa işaret etti. Kaynaklar arasında “terk etme” tanımının ve yöntemin değiştiğini de not etmek gerekir; yine de eğilim tutarlıdır: Bir sistemi kurmak, onu sürdürmekten daha kolaydır.

Minimum İşletme Çerçevesi

Büyük bir MLOps platformuna gerek yoktur. KOBİ ölçeğinde de uygulanabilecek beş alışkanlık, sessiz bozulmayı büyük ölçüde görünür kılar.

Haftalık örnekleme. Her hafta sistemin ürettiği çıktılardan rastgele yirmi tanesini sorumlu kişi okur ve doğru ya da yanlış olarak işaretler. Yirmi kayıt istatistik değil, erken uyarıdır; ama yanlışların oranı yükselmeye başladığında bunu ilk siz görürsünüz.

Belge sahipliği ve tazelik tarihi. Bilgi tabanındaki her kaynağın bir sahibi ve “en son doğrulandı” tarihi olmalıdır. Bir politika değiştiğinde belgeyi güncellemek, politikayı değiştiren sürecin parçası olmalıdır.

Sabit bir test seti. Doğru yanıtları bilinen elli ila yüz gerçek örneklik bir liste. Model sürümü, komut metni ya da bilgi tabanı değiştiğinde aynı liste yeniden çalıştırılır; sonuç düştüyse değişiklik geri alınır.

Değişiklik tetikleyicileri. Yeni ürün, yeni fiyat, yeni tedarikçi formatı veya CRM alan değişikliği gibi olaylar, sisteme etkisi açısından bir kontrol listesinde yer alır. Böylece değişiklik sürpriz olmaktan çıkar.

Kullanım ve düzeltme verisi. Kullanıcıların hangi yanıtı reddettiği veya elle düzelttiği kaydedilir. Bu kayıt hem bir iyileştirme listesi hem de bir kalite göstergesidir.

Ne Zaman Emekliye Ayırmalı?

Her sistem sonsuza kadar sürdürülmez. Çıktısı kullanılmıyorsa, çözdüğü süreç değiştiyse veya bakım maliyeti sağladığı değeri aştıysa, sistemi bilinçli olarak kapatmak sağlıklı bir karardır. Zararlı olan, kapatılmayan ama kimsenin bakmadığı sistemdir: Eski yanıtlar vermeye, veriye erişmeye ve maliyet üretmeye devam eder. Bu karar için ölçütü baştan koyun; örneğin hedef metrik art arda iki çeyrek eşiğin altında kalırsa bir gözden geçirme toplantısı yapılır.

Bir yapay zeka projesinin başarısı, canlıya alındığı günle değil, bir yıl sonraki haliyle ölçülür. Bu yüzden iyi bir proje planı demo tarihinden değil, ilk üç aylık işletme planından başlar.

Canlıdaki bir sisteminizin kalitesini birlikte gözden geçirmek veya yeni bir proje için işletme planını baştan kurmak isterseniz, projenizi bize anlatın.