Ürüne yapay zeka eklerken en riskli cümle: bazen güzel cevap veriyor. Production'da bazen yetmez. Tool calling işleri hızlandırır ama hata yüzeyini de büyütür.
Schema sıkı olsun
JSON Schema veya Zod ile parametreleri tanımlayın. Geçersizse tekrar deneyin veya kullanıcıya anlayamadım deyin.
Güvenli tool tasarımı
Silme, ödeme, e-posta gönderme. İki kez çalışınca felaket olmasın. Model önerir, harness onaylatır.
Log tutun
Her tool çağrısını kaydedin. PII'yi loga yazmayın. Max step sayısı koyun.