@Lagrange Official #lagrange Cả đầu vào và đầu ra đều tiêu tốn token.
Các mô hình có giới hạn tối đa về token—ví dụ, GPT‑3.5 Turbo xử lý tối đa 4,096 token, GPT‑4 tối đa 8,192 hoặc 32,768, và GPT‑4 Turbo có thể xử lý tối đa 128k token
Cộng đồng OpenAI
+5
Wikipedia
+5
+5
tokencalculator.online
.
Tại sao token lại quan trọng
Chi phí: Thanh toán theo token. (ví dụ, GPT‑4 Turbo có giá $0.01/1k token đầu vào và $0.03/1k token đầu ra)
+4
tokencalculator.online
+4
+4
.
Bộ nhớ: Khi cuộc trò chuyện vượt quá giới hạn token, các tin nhắn trước đó sẽ bị “quên.”
Kiểm tra việc sử dụng token
Sử dụng công cụ Tokenizer của OpenAI để xem cách mà văn bản của bạn chia thành token: nhập văn bản của bạn tại platform.openai.com/tokenizer
+3
+3
+3
+6
Trung tâm trợ giúp OpenAI
+6
Blog ChatGPT Plus
+6
.
Một cách lập trình, sử dụng thư viện Tiktoken để đếm token trong mã
+3
Trung tâm trợ giúp OpenAI
+3
Blog ChatGPT Plus
+3
.
Bảng TL;DR
Khái niệm Gần đúng
1 token ≈ 4 ký tự trong văn bản tiếng Anh
1 token ≈ ¾ từ
100 token ≈ 75 từ