Jetlink Agentic AI Yanıt Kredisi Tüketimi Azaltma Rehberi


Jetlink Agentic AI, dinamik karar verme yetenekleri ve akış yönetimi sayesinde güçlü bir otomasyon sağlar. Ancak kullanılan yanıt kredisi miktarı; API tasarımı, JSON veri yoğunluğu, akış adımlarının yapısı ve veri kaynaklarının seçimi gibi mimari tercihlere bağlı olarak değişiklik gösterir. Bu doküman, müşterilerimizin yanıt kredisi tüketimlerini azaltmak için uygulayabileceği pratik ve teknik önerileri içermektedir.



1. API Yanıtlarını Optimize Etme

Agentic AI, servislerden dönen JSON verilerinin tamamını işler. JSON boyutu büyüdükçe, işlem maliyeti ve kredi tüketimi artar. Bu nedenle API response’larının olabildiğince sadeleştirilmesi kritik öneme sahiptir.

1.1 Kötü Örnek – Gereksiz Büyük JSON

Aşağıdaki örnek, fazlaca detay içerdiği için gereksiz kredi tüketimine neden olan bir API yanıtını göstermektedir:

{

  "product": {

    "id": 987,

    "name": "Pro Max 17",

    "description": "This is a long 700-character product description...",

    "category": "electronics",

    "created_at": "2024-03-15T10:55:12.000Z",

    "updated_at": "2024-03-15T10:55:12.000Z",

    "internal_meta": {

      "version": "v1.2.9",

      "build_hash": "7as9123bd9812bd9182398123",

      "flags": [

        "debug_enabled",

        "image_optimizations",

        "edge_cache",

        "extended_logging"

      ]

    },

    "logs": {

      "last_10_requests": [

        "request info block (300 chars)",

        "request info block (300 chars)"

      ]

    },

    "pricing": {

      "currency": "TRY",

      "raw_price": 34567.123987,

      "discounts": {

        "weekend": 0.05,

        "vip": 0.15

      }

    }

  },

  "status": "available"

}


Bu JSON’un büyük bölümü agent açısından gereksizdir. Hem veri boyutu hem de nested yapı maliyeti artırır.

1.2 İyi Örnek – Optimize Edilmiş JSON

Aşağıdaki versiyon aynı işlevi minimum veriyle sağlar:

{

  "product_id": 987,

  "name": "Pro Max 17",

  "price": 34567,

  "status": "available"

}


Bu sadeleştirme:

  • JSON boyutunu ciddi oranda küçültür.

  • Agent’in daha az veri işlemesini sağlar.

  • Yanıt kredisi tüketimini düşürür.




2. Servis Birleştirme ile İşlem Adımlarını Azaltma

Agentic AI her API çağrısını bir işlem adımı olarak değerlendirir. Dolayısıyla bir sürecin birçok küçük servise ayrılması kredi tüketimini artırır.

2.1 Kötü Örnek – Çoklu API Çağrısı

Aşağıdaki yapı 3 farklı işlem adımı gerektirir:

  • GET /customer

  • GET /customer/orders

  • GET /customer/last_order_status

Bu, hem maliyet hem de akış karmaşıklığı açısından verimsizdir.

2.2 İyi Örnek – Tekleştirilmiş API

Aynı bilgiyi tek bir optimizasyonlu endpoint üzerinden döndürmek mümkündür:

{

  "customer": {

    "id": 123,

    "name": "Kaan Yıldız",

    "last_order": {

      "order_id": 9912,

      "status": "Shipped",

      "total": 890

    }

  }

}


Bu yaklaşım:

  • Gereksiz işlem adımlarını ortadan kaldırır.

  • Agent’in takip etmesi gereken akışı basitleştirir.

  • Yanıt kredisi tüketimini azaltır.




3. Agent Akış Adımlarının Sadeleştirilmesi

Her işlem adımı kredi tüketimine doğrudan etki eder. Gereksiz yönlendirmeler ve sabit karar blokları akış maliyetini artırır.

3.1 Kötü Örnek – Uzun ve Sabit Adımlı Akış

1. Kullanıcı niyetini tespit et

2. Konu sınıflandırma

3. Sabit karar adımına yönlendir

4. Formata göre kontrol yap

5. API çağır

6. Ek kontrol adımı

7. Yanıt düzenleme

8. Final yanıt üretimi


Toplam 8 işlem adımı yüksek kredi tüketimine yol açacaktır.

3.2 İyi Örnek – Kısa ve Esnek Akış

1. Kullanıcı niyetini belirle

2. Gerekirse tek API çağır

3. Yanıtı üret


Bu yapı hem daha hızlıdır hem de daha düşük maliyetlidir. Agent’e kendi kararını verebileceği alan bırakmak çoğu durumda işlem adımlarını azaltır.




4. Sabit Verilerin API Yerine Bilgi Bankasında Saklanması

Statik içeriklerin API’dan çağrılması gereksiz maliyet yaratır. Bu bilgiler Bilgi Bankası içinde tutulduğunda hem hız hem de maliyet avantajı sağlanır.

4.1 Kötü Örnek – Sabit Verilerin Servisten Getirilmesi

GET /shipping-policies


Bu endpoint uzun açıklamalar döndürüyorsa agent gereksiz veri işler.

4.2 İyi Örnek – Sabit Verilerin Bilgi Bankasında Tutulması

Bilgi Bankası içeriği örneği:

Shipping Policy:

- Tüm siparişler 2 iş günü içerisinde gönderilir.

- İade süreçleri ve kargo prosedürleri bu dokümanda yer alır.


Bu yöntemde:

  • API çağrısı yapılmaz

  • Ek işlem adımı oluşmaz

  • Yanıt kredisi tüketimi ciddi biçimde azalır



Sonuç

Yanıt kredisi tüketimini azaltmanın temel yöntemleri şunlardır:

  • JSON response’larını küçültmek

  • API servislerini konsolide etmek

  • Agent akışlarını sadeleştirmek

  • Sabit verileri Bilgi Bankası'nda saklamak

Bu optimizasyonlar hem maliyeti düşürür hem de Agentic AI performansını artırır. Müşterilerimiz bu yöntemleri uyguladıklarında genellikle %40–60 arasında kredi tasarrufu sağlamaktadır.