@Lagrange Official #lagrange Baik input maupun output mengonsumsi token.
Model memiliki batas maksimum token—misalnya, GPT‑3.5 Turbo menangani hingga 4.096 token, GPT‑4 hingga 8.192 atau 32.768, dan GPT‑4 Turbo dapat menangani hingga 128k token
Komunitas OpenAI
+5
Wikipedia
+5
+5
tokencalculator.online
.
Mengapa token itu penting
Biaya: Penagihan dilakukan per token. (misalnya, GPT‑4 Turbo biaya $0.01/1k token input dan $0.03/1k token output)
+4
tokencalculator.online
+4
+4
.
Memori: Setelah percakapan melebihi batas token, pesan yang lebih awal akan “lupa.”
Memeriksa penggunaan token
Gunakan alat Tokenizer OpenAI untuk melihat bagaimana teks Anda dibagi menjadi token: masukkan teks Anda di platform.openai.com/tokenizer
+3
+3
+3
+6
Pusat Bantuan OpenAI
+6
Blog ChatGPT Plus
+6
.
Secara programatik, gunakan pustaka Tiktoken untuk menghitung token dalam kode
+3
Pusat Bantuan OpenAI
+3
Blog ChatGPT Plus
+3
.
TL;DR Tabel
Konsep Perkiraan
1 token ≈ 4 karakter dalam teks bahasa Inggris
1 token ≈ ¾ kata
100 token ≈ 75 kata