Kalkulator Biaya Agen AI

Alur kerja agen

Satu langkah adalah satu panggilan model. Tugas bulanan menghitung tugas asli, sebelum percobaan ulang langkah.

Sertakan tugas-tugas yang pada akhirnya gagal. Jangan tambahkan percobaan ulang langkah di sini.

Panggilan model terencana dalam satu alur kerja lengkap, dari 1 hingga 200.

Perintah sistem, skema alat, tugas pengguna, dan konten awal yang diambil.

Riwayat bersih disimpan untuk panggilan berikutnya, termasuk keluaran sebelumnya dan hasil alat. Nol berarti konteks berukuran tetap.

Output rata-rata yang ditagih untuk setiap upaya, termasuk token penalaran yang dapat ditagih.

Percobaan ulang dan sukses

Percobaan ulang mengulangi satu langkah, termasuk alat berbayarnya. Keberhasilan tugas akhir merupakan hasil bisnis tersendiri.

Kemungkinan suatu percobaan memerlukan percobaan lagi, hingga batas percobaan ulang tercapai.

Upaya tambahan setelah yang pertama. Nol menonaktifkan percobaan ulang; maksimal 20.

Persentase tugas awal yang memenuhi kriteria keberhasilan setelah percobaan ulang.

Harga dan biaya alat

Semua harga adalah USD. Tarif token adalah per 1 juta token; ganti harga contoh dengan tarif Anda sendiri.

Harga untuk masukan tidak disajikan dari cache. Gunakan tarif campuran jika diperlukan.

Harga untuk token masukan yang di-cache, bukan persentase diskon.

Harga untuk token yang dihasilkan, termasuk keluaran penalaran yang dikenakan biaya.

Porsi efektif seluruh token masukan yang ditagih sebagai pembacaan cache, termasuk saat cache belum terisi atau sudah kedaluwarsa.

Rata-rata panggilan berbayar dalam setiap upaya langkah. Pecahan diperbolehkan; nol berarti tidak ada alat berbayar.

Biaya rata-rata tertimbang untuk pencarian, pengikisan, eksekusi, atau alat berbayar lainnya.

Hosting, langganan, biaya penulisan/penyimpanan cache, atau biaya overhead bulanan lainnya. Tidak dikalikan dengan percobaan ulang.

Perkiraan total bulanan (USD)
US$1.194,36
Biaya variabel per tugas yang dimulai
US$0,119436
Biaya per tugas yang berhasil
US$0,132707
Keberhasilan yang diharapkan per bulan
9.000

Rincian biaya bulanan

Masukan yang tidak di-cache · percobaan pertama
US$440,00
Masukan dalam cache · percobaan pertama
US$44,00
Hasil · percobaan pertama
US$192,00
Biaya alat · percobaan pertama
US$400,00
Semua biaya percobaan ulang tambahan
US$118,36
Biaya bulanan lainnya
US$0,00

Biaya percobaan ulang mencakup biaya input, output, dan alat tambahan. Hal ini terpisah dari upaya pertama untuk menghindari penghitungan ganda. Jumlah yang ditampilkan dibulatkan.

Panggilan model yang diharapkan per bulan
88.800
Token masukan per bulan
488.400.000
Token keluaran per bulan
26.640.000
Penghematan bulanan dari pembacaan cache
US$439,56
Upaya yang diharapkan per langkah
1,11
Konteks dan biaya langkah demi langkah

Masukan adalah untuk upaya pertama setiap langkah. Biaya sudah termasuk percobaan ulang dan alat yang diharapkan, namun tidak termasuk overhead bulanan.

Konteks dan biaya langkah demi langkah
LangkahToken masukanBiaya langkah (USD)Total berjalan (USD)
12.000US$0,010656US$0,010656
23.000US$0,011877US$0,022533
34.000US$0,013098US$0,035631
45.000US$0,014319US$0,04995
56.000US$0,01554US$0,06549
67.000US$0,016761US$0,082251
78.000US$0,017982US$0,100233
89.000US$0,019203US$0,119436

Contoh harga hanya bersifat ilustratif, bukan kartu tarif model langsung. Hasil adalah perkiraan perencanaan dalam USD.

Setiap tugas dianggarkan untuk semua langkah, sekalipun gagal. Percobaan ulang memakai konteks yang sama dan mengulang biaya alat. Masukan yang tidak tersedia dalam cache dikenai tarif biasa. Tambahkan biaya penulisan dan penyimpanan cache ke biaya lain. Harga bertingkat, pajak, dan penghentian dini tidak dihitung otomatis.

Bagaimana cara kerjanya

Masukkan volume tugas bulanan dan jumlah panggilan model dalam alur kerja. Perkirakan permintaan pertama dan riwayat yang disimpan setelah setiap langkah, lalu tetapkan batas percobaan ulang dan keberhasilan tugas akhir. Tambahkan tingkat input, pembacaan cache dan output, biaya alat berbayar, dan overhead bulanan. Perkiraan diperbarui saat Anda mengetik; perluas tabel langkah untuk melihat bagaimana konteks terakumulasi.

Contoh

Dengan contoh masukan, 8 langkah menggunakan 44.000 token masukan sebelum percobaan ulang. Probabilitas percobaan ulang 10% dan paling banyak 2 percobaan ulang memberikan 1,11 upaya yang diharapkan per langkah. Dengan 10.000 tugas per bulan, totalnya adalah $1.194,36. Dengan 90% keberhasilan akhir, 9.000 tugas yang berhasil masing-masing berharga sekitar $0,132707, termasuk pekerjaan yang gagal.

Pertanyaan yang sering diajukan

Mengapa semakin banyak langkah meningkatkan biaya input dengan begitu cepat?

Riwayat yang disimpan dikirim lagi pada panggilan berikutnya. Setiap langkah menambah konteks, sehingga total masukan bertambah secara kuadrat dengan jumlah langkah ketika riwayat bertambah dengan jumlah yang konstan. Pertumbuhan konteks sudah mencakup keluaran dan hasil alat yang dipertahankan; kalkulator tidak menambahkannya dua kali. Tetapkan pertumbuhan ke nol untuk konteks ukuran tetap, dan anggarkan setiap panggilan ringkasan secara terpisah.

Bagaimana percobaan ulang, caching, dan tugas yang berhasil dimodelkan?

Percobaan ulang dibatasi pada upaya ekstra di setiap langkah, dengan biaya token dan alat yang sama. Keberhasilan bisnis akhir dimasukkan secara terpisah. Biaya per keberhasilan membagi seluruh tagihan bulanan, termasuk tugas yang gagal dan overhead, dengan keberhasilan yang diharapkan. Pembagian cache adalah pembagian efektif dari masukan yang ditagih, bukan jaminan otomatis bahwa perintah memenuhi syarat untuk penyimpanan cache. Gunakan penggunaan terukur dan tarif penyedia Anda untuk perkiraan yang lebih dekat.

Metode perhitungan

I=NB+GN(N−1)2,A=∑k=0RpkI=NB+\frac{GN(N-1)}{2},\qquad A=\sum_{k=0}^{R}p^k

I adalah token masukan per tugas sebelum percobaan ulang; N adalah jumlah langkah; B adalah masukan langkah pertama; G adalah tambahan konteks yang disimpan per langkah. A adalah perkiraan jumlah percobaan per langkah, p adalah probabilitas percobaan ulang dalam pecahan, dan R adalah batas percobaan ulang. Biaya variabel menjumlahkan biaya masukan, keluaran, dan alat, lalu mengalikannya dengan A. Total bulanan mencakup biaya tetap; biaya per keberhasilan membagi total tersebut dengan perkiraan tugas yang berhasil.

Alat terkait

Kalkulator Protein per Dolar

Bandingkan harga pangan dan kalori untuk 25 g protein.

proteincostdollar

Kalkulator Ubin dan Lantai

Masukkan luas lantai dan dimensi ubin individu dalam meter.

tileflooringarea

Kalkulator Biaya Listrik

Masukkan daya alat rata-rata, jam harian, hari, dan harga per kWh.

electricityenergycost

Kalkulator Biaya Bahan Bakar

Pemakaian kilometer, liter per 100 km dan harga per liter.

fuelcosttrip

Kalkulator Impas

Masukkan biaya tetap, harga jual, dan biaya variabel dalam satu mata uang.

break evenprofitcost

Kalkulator Harga Satuan

Bandingkan dua paket menggunakan satuan kuantitas dan mata uang yang sama.

unit priceshoppingcomparison