Theo đồng sáng lập Ethereum Vitalik Buterin, trí tuệ nhân tạo siêu tiên tiến, nếu không được kiểm soát, có “cơ hội thực sự” vượt qua con người để trở thành “loài đỉnh cao” tiếp theo của hành tinh.

Nhưng điều đó sẽ tập trung vào cách con người có khả năng can thiệp vào sự phát triển của AI , ông nói.

Trong một bài đăng trên blog ngày 27 tháng 11, Buterin, được một số người coi là nhà lãnh đạo tư tưởng trong không gian tiền điện tử, đã lập luận rằng AI “về cơ bản khác biệt” với các phát minh gần đây khác – chẳng hạn như phương tiện truyền thông xã hội, biện pháp tránh thai, máy bay, súng, bánh xe và báo in – vì AI có thể tạo ra một loại “tâm trí” mới có thể đi ngược lại lợi ích của con người, đồng thời bổ sung thêm:

“AI là […] một loại trí tuệ mới đang nhanh chóng đạt được trí thông minh và nó có cơ hội vượt qua khả năng trí tuệ của con người và trở thành loài đỉnh cao mới trên hành tinh.”

Buterin lập luận rằng không giống như biến đổi khí hậu, đại dịch do con người tạo ra hay chiến tranh hạt nhân, AI siêu thông minh có khả năng hủy diệt loài người và không để lại người sống sót , đặc biệt nếu nó coi con người là mối đe dọa cho sự sống còn của chính nó.

“Một cách mà AI mắc sai lầm có thể khiến thế giới trở nên tồi tệ hơn (gần như) là cách tồi tệ nhất có thể: nó có thể gây ra sự tuyệt chủng của loài người theo đúng nghĩa đen.”

Buterin nói thêm: “Ngay cả sao Hỏa cũng có thể không an toàn”.

Buterin trích dẫn một cuộc khảo sát vào tháng 8 năm 2022 từ hơn 4.270 nhà nghiên cứu về máy học. Họ ước tính có 5-10% khả năng AI sẽ giết chết loài người.

Tuy nhiên, trong khi Buterin nhấn mạnh rằng những tuyên bố kiểu này là “cực đoan”, thì cũng có nhiều cách để con người chiếm ưu thế.

Giao diện não và sự lạc quan về công nghệ

Buterin đề xuất tích hợp giao diện não-máy tính (BCI) để cung cấp cho con người nhiều quyền kiểm soát hơn đối với các hình thức tính toán và nhận thức dựa trên AI mạnh mẽ.

BCI là con đường giao tiếp giữa hoạt động điện của não và một thiết bị bên ngoài, chẳng hạn như máy tính hoặc cánh tay robot.

Buterin cho biết, điều này sẽ giảm vòng lặp giao tiếp hai chiều giữa con người và máy móc từ vài giây xuống còn mili giây và quan trọng hơn là đảm bảo con người duy trì được một mức độ “quyền lực có ý nghĩa” trên toàn thế giới.

Buterin cho rằng tuyến đường này sẽ “an toàn hơn” vì con người có thể tham gia vào mọi quyết định do máy AI đưa ra.

“Chúng tôi [có thể] giảm động lực chuyển giao trách nhiệm lập kế hoạch cấp cao cho chính AI và do đó giảm khả năng AI tự mình làm điều gì đó hoàn toàn không phù hợp với các giá trị của nhân loại.”

Người đồng sáng lập Ethereum cũng đề xuất “ý định tích cực của con người” là đưa AI theo hướng có lợi cho nhân loại, vì việc tối đa hóa lợi nhuận không phải lúc nào cũng đưa con người đi theo con đường mong muốn nhất.

Buterin kết luận rằng “chúng ta, con người, là ngôi sao sáng nhất” trong vũ trụ, vì chúng ta đã phát triển công nghệ để mở rộng tiềm năng của con người trong hàng nghìn năm và hy vọng sẽ còn nhiều điều nữa:

“Hai tỷ năm nữa, nếu Trái đất hoặc bất kỳ phần nào của vũ trụ vẫn mang vẻ đẹp của sự sống trên Trái đất, thì chính những sáng tạo của con người như du hành vũ trụ và địa kỹ thuật sẽ khiến điều đó xảy ra.”