Sự tự chủ mà không có quyền lực thì không thể sử dụng.
Khi các tác nhân AI trở nên tự động hơn, thị trường có xu hướng giả định rằng sự tự chủ chính là bước đột phá. Các tác nhân quyết định nhanh hơn, hành động liên tục và hoạt động mà không cần sự can thiệp của con người. Tuy nhiên, chỉ riêng sự tự chủ không tạo ra các hệ thống kinh tế có thể sử dụng. Điều quan trọng là quyền lực. Ai được phép hành động. Dưới những giới hạn nào. Với vốn của ai. Và theo những quy tắc nào.
Hầu hết các kiến trúc tác nhân hiện tại đều tránh câu hỏi này. Quyền lực bị đẩy ra ngoài chuỗi, ẩn trong logic ứng dụng, quyền truy cập máy chủ hoặc sự phê duyệt của con người. Điều này chỉ hoạt động khi các tác nhân vẫn là trợ lý. Nó thất bại khi các tác nhân trở thành diễn viên.
KITE được xây dựng xung quanh vấn đề chưa được giải quyết này. Nó coi quyền lực kinh tế như một nguyên tắc hạng nhất thay vì một giả định bên ngoài.
Sự khác biệt giữa khả năng và quyền hạn.
Trong các hệ thống con người, khả năng và quyền hạn là khác nhau. Một người có thể có khả năng chi tiêu tiền nhưng không được phép truy cập vào kho bạc. Trong nhiều hệ thống AI ngày nay, sự phân biệt này bị sụp đổ. Khi một tác nhân có khả năng, quyền hạn thường được ngụ ý.
Điều này tạo ra rủi ro. Một tác nhân có thể thực hiện hành động nhưng thiếu ranh giới quyền lực được xác định rõ ràng trở thành một trách nhiệm. Các lỗi gia tăng nhanh hơn so với sự giám sát.
KITE tách biệt khả năng khỏi quyền hạn ở cấp độ giao thức. Các tác nhân có thể về mặt kỹ thuật thực hiện các hành động, nhưng chỉ được phép làm như vậy trong các ranh giới kinh tế đã xác định. Điều này biến tự chủ thành tự chủ có hạn.
Quyền lực như cơ sở hạ tầng lập trình được.
Các hệ thống truyền thống mã hóa quyền lực một cách xã hội hoặc thể chế. Vai trò, phê duyệt và kiểm toán được thực thi bởi các tổ chức. Các hệ thống tự trị không thể dựa vào các cơ chế này với tốc độ máy móc.
KITE mã hóa quyền lực một cách lập trình. Các giới hạn chi tiêu, đối tác, phạm vi hành động và các ràng buộc tạm thời được thực thi trên chuỗi. Quyền lực trở nên xác định hơn là mang tính diễn giải.
Sự chuyển dịch này quan trọng vì quyền lực xác định có thể mở rộng. Nó không dựa vào sự tin tưởng vào các nhà phát triển hoặc điều hành. Nó dựa vào các quy tắc có thể xác minh.
Từ góc độ thị trường, đây là sự khác biệt giữa tự động hóa thử nghiệm và tự động hóa có thể triển khai.
Tại sao quyền lực kinh tế trở thành nút thắt cổ chai.
Khi các tác nhân di chuyển từ phân tích sang thực thi, họ chạm vào vốn thực. Thanh toán, đăng ký, ký quỹ, mua dữ liệu và sử dụng tính toán đều yêu cầu quyền lực. Nếu không có ranh giới rõ ràng, các tổ chức sẽ trở về chế độ kiểm soát thủ công.
Điều này tạo ra một nghịch lý. Càng có khả năng, các tác nhân càng ít được phép hành động.
KITE giải quyết điều này bằng cách làm cho quyền lực trở nên chi tiết. Thay vì quyền truy cập hoặc từ chối nhị phân, các tác nhân nhận được quyền lực có phạm vi. Họ có thể hành động tự do trong giới hạn và tự động bị chặn bên ngoài chúng.
Đây là cách mà các tổ chức con người mở rộng trách nhiệm. KITE áp dụng cùng một nguyên tắc cho các hệ thống tự trị.
Quyền lực thay thế sự giám sát.
Hầu hết các khung rủi ro AI dựa vào sự giám sát. Con người theo dõi đầu ra và can thiệp khi có điều gì đó sai. Mô hình này không mở rộng được với hoạt động tự trị liên tục.
KITE thay thế sự giám sát bằng các ràng buộc quyền lực. Thay vì kiểm tra các hành động sau khi thực thi, nó ngăn chặn các hành động không hợp lệ trước khi thực thi.
Từ quan điểm hệ thống, phòng ngừa có thể mở rộng tốt hơn là sửa chữa. Các thị trường ưu tiên các hệ thống thất bại an toàn hơn là các hệ thống dựa vào giám sát liên tục.
Tại sao điều này quan trọng đối với việc áp dụng.
Các doanh nghiệp không ngần ngại triển khai AI vì các mô hình yếu. Họ ngần ngại vì quyền lực không rõ ràng. Ai là người chịu trách nhiệm khi một tác nhân đưa ra quyết định tài chính. Làm thế nào để các khoản lỗ được giới hạn. Làm thế nào để tuân thủ được thực thi.
KITE cung cấp một câu trả lời cấu trúc. Quyền lực là rõ ràng. Các giới hạn được thực thi. Trách nhiệm có thể theo dõi.
Điều này giảm rào cản tâm lý và hoạt động đối với việc áp dụng. Tự động hóa trở thành điều có thể được tin cậy không phải vì nó hoàn hảo, mà vì nó bị hạn chế.
Ý nghĩa thị trường.
Giai đoạn tiếp theo của nền kinh tế tác nhân sẽ không chỉ được định nghĩa bởi các lợi ích trí tuệ. Nó sẽ được định nghĩa bởi cách mà các tác nhân có thể tương tác với vốn một cách an toàn.
Các dự án bỏ qua quyền lực sẽ vẫn là thử nghiệm. Các dự án chính thức hóa quyền lực sẽ chuyển sang môi trường sản xuất.
KITE đại diện cho một luận đề rằng quyền lực kinh tế, không phải tự chủ, là lớp cần thiết để biến các tác nhân thành những người hoạt động kinh tế đáng tin cậy.
Trong các thị trường mà niềm tin được mã hóa vào các hệ thống thay vì được hứa hẹn bởi các nhóm, quyền lực trở thành cơ sở hạ tầng.