Người đồng sáng lập Ethereum Vitalik Buterin đã đưa ra cảnh báo về mối nguy hiểm tiềm tàng của trí tuệ nhân tạo (AI) siêu tiên tiến vượt qua trí thông minh của con người và trở thành loài thống trị trên Trái đất.
Trong một bài đăng gần đây trên X (trước đây là Twitter), kẻ chủ mưu Ethereum (ETH) nhấn mạnh rằng sự kiểm soát và can thiệp của con người vào quá trình phát triển AI sẽ quyết định kết quả của kịch bản này.
Buterin lập luận rằng AI về cơ bản khác với những phát minh trước đây như mạng xã hội, máy bay và báo in, vì nó có khả năng tạo ra một loại “tâm trí” mới có thể gây bất lợi cho lợi ích của con người.
Ông bày tỏ lo ngại rằng AI siêu thông minh, nếu không được kiểm soát, có thể coi con người là mối đe dọa cho sự sống còn của chính nó và có khả năng dẫn đến sự tuyệt chủng của loài người.
“AI là […] một loại trí tuệ mới đang nhanh chóng đạt được trí thông minh và nó có cơ hội vượt qua khả năng trí tuệ của con người và trở thành loài đỉnh cao mới trên hành tinh.”
Mặc dù thừa nhận rằng khả năng xảy ra những kết quả cực đoan như vậy là thấp, Buterin nhấn mạnh con người cần phải đề phòng.
Ông đề xuất việc tích hợp các giao diện não-máy tính (BCI) như một phương tiện giúp con người kiểm soát tốt hơn khả năng tính toán và nhận thức dựa trên AI.
BCI thiết lập một con đường giao tiếp trực tiếp giữa não và các thiết bị bên ngoài, cho phép con người tham gia tích cực vào quá trình ra quyết định.
Bằng cách giảm vòng lặp giao tiếp giữa con người và máy móc xuống còn mili giây, BCI sẽ đảm bảo rằng con người duy trì được mức độ tác động có ý nghĩa trên toàn thế giới.
Buterin nhấn mạnh tầm quan trọng của việc con người duy trì trách nhiệm lập kế hoạch cấp cao, từ đó giảm thiểu rủi ro AI hành động sai lệch với các giá trị của con người.
“Chúng tôi [có thể] giảm động lực chuyển giao trách nhiệm lập kế hoạch cấp cao cho chính AI và do đó giảm khả năng AI tự mình làm điều gì đó hoàn toàn không phù hợp với các giá trị của nhân loại.”
Buterin nêu bật tầm quan trọng của quy định AI
Buterin cũng nhấn mạnh tầm quan trọng của ý định con người trong việc hướng dẫn AI hướng tới những kết quả có lợi cho nhân loại.
Ông cảnh báo không nên ưu tiên tối đa hóa lợi nhuận, nhấn mạnh sự cần thiết phải đưa ra quyết định có ý thức phù hợp với các giá trị và nguyện vọng của con người.
Trong phần kết luận của mình, Buterin ca ngợi sự khéo léo và tiềm năng sáng tạo của loài người.
Ông nhấn mạnh rằng con người đã liên tục phát triển công nghệ để nâng cao khả năng của mình trong suốt lịch sử và bày tỏ hy vọng rằng những thành tựu của con người, như du hành vũ trụ và địa kỹ thuật, sẽ góp phần bảo tồn và làm đẹp sự sống trên Trái đất và hơn thế nữa.
“Hai tỷ năm nữa, nếu Trái đất hoặc bất kỳ phần nào của vũ trụ vẫn mang vẻ đẹp của sự sống trên Trái đất, thì chính những nỗ lực nhân tạo của con người như du hành không gian và địa kỹ thuật sẽ khiến điều đó xảy ra.”
