Bir süredir herkes agent konuşuyor. Production'da asıl mesele model değil; modelin etrafındaki sistem. Buna harness deniyor. Prompt şablonları, tool tanımları, hata yakalama, log, rate limit, gerektiğinde insan onayı.
Harness olmadan ne oluyor?
API'ye bağladınız, ilk cevaplar güzel. Üçüncü kullanıcıda format bozuluyor. Beşincide yanlış sorgu üretiyor. Onuncuda fatura geliyor.
Derslik'te öğrenciye soru soran asistan kurarken en çok vakit model seçimine değil, ne zaman durup insan öğretmene yönlendireceğimize harcadık.
Tool calling tarafı
Tool sayısını şişirmeyin. On beş tool verince model karışıyor. Üç dört net tool, iyi açıklama, birkaç örnek yeter.
Agent her projede şart mı?
Hayır. Form doldurma, özet, sınıflandırma için tek LLM çağrısı çoğu zaman yeter. Gereksiz agent hem karmaşıklık hem maliyet demek.