Langsung ke konten utama

Concurrency

Untuk batch atau pekerjaan yang memerlukan beberapa permintaan, gunakan kembali satu sesi HTTP dan batasi jumlah permintaan yang berjalan bersamaan. Nilai concurrency yang tepat bergantung pada aplikasi, ukuran payload, respons model, dan batas layanan akun Anda.

Instalasi

Contoh dengan asyncio dan aiohttp

Prinsip penting

  • Gunakan satu ClientSession untuk memanfaatkan connection pooling.
  • Gunakan Semaphore agar jumlah request in-flight tetap terkendali.
  • Mulai dengan nilai kecil, lalu naikkan bertahap setelah mengamati latency, error, dan penggunaan resource.
  • Tangani 429 dan error sementara dengan retry exponential backoff. Jangan melakukan retry tanpa batas.
  • return_exceptions=True memungkinkan batch melaporkan error per item tanpa menghentikan semua hasil.
KiosAPI tidak didokumentasikan di halaman ini dengan angka concurrency atau rate limit tetap. Periksa dashboard atau ketentuan akun Anda untuk limit yang berlaku.

Contoh retry sederhana

Gunakan retry hanya untuk error yang layak dicoba ulang dan pastikan operasi Anda aman terhadap duplikasi.