Một nhóm nhà quản lý cảnh báo rằng việc áp dụng nhanh chóng trí tuệ nhân tạo (AI) có thể gây ra rủi ro mới cho hệ thống tài chính Hoa Kỳ nếu công nghệ này không được giám sát đầy đủ.

Hội đồng Giám sát Ổn định Tài chính (FSOC), bao gồm các cơ quan quản lý tài chính hàng đầu và do Bộ trưởng Tài chính Hoa Kỳ Janet Yellen làm chủ tịch, lần đầu tiên đã đánh dấu những rủi ro do AI gây ra trong báo cáo ổn định tài chính hàng năm được công bố vào ngày 14 tháng 12.

FSOC thừa nhận tiềm năng của AI trong việc thúc đẩy sự đổi mới và hiệu quả trong các tổ chức tài chính, nhưng nó nhấn mạnh các công ty và cơ quan quản lý cần phải luôn cảnh giác trước những tiến bộ công nghệ nhanh chóng.

Trong báo cáo thường niên của mình, tổ chức này nhấn mạnh rằng AI tiềm ẩn những rủi ro cụ thể, chẳng hạn như rủi ro về an ninh mạng và mô hình. Nó đề nghị các công ty và cơ quan quản lý nâng cao kiến thức và khả năng của họ để giám sát sự đổi mới và sử dụng AI cũng như xác định các rủi ro mới nổi.

Theo báo cáo, các công cụ AI cụ thể có tính kỹ thuật cao và phức tạp, đặt ra thách thức cho các tổ chức trong việc giải thích hoặc giám sát chúng một cách hiệu quả. Báo cáo cảnh báo rằng các công ty và cơ quan quản lý có thể bỏ qua các kết quả sai lệch hoặc không chính xác nếu không có sự hiểu biết toàn diện.

Báo cáo cũng nhấn mạnh rằng các công cụ AI ngày càng phụ thuộc vào các tập dữ liệu bên ngoài rộng rãi và các nhà cung cấp bên thứ ba, gây ra những lo ngại về quyền riêng tư và an ninh mạng.

Một số cơ quan quản lý, bao gồm Ủy ban Chứng khoán và Giao dịch Hoa Kỳ – có chủ tịch là FSOC – đã kiểm tra việc sử dụng AI của các công ty . Nhà Trắng cũng đã ban hành lệnh hành pháp nhằm giải quyết và giảm thiểu rủi ro về AI.

Đức Thánh Cha Phanxicô, trong một bức thư vào ngày 8 tháng 12, bày tỏ mối quan ngại về những mối đe dọa tiềm tàng của AI đối với nhân loại. Ông ủng hộ một hiệp ước quốc tế nhằm quản lý việc phát triển AI một cách có đạo đức, cảnh báo trước nguy cơ xảy ra “chế độ độc tài công nghệ” nếu không có sự kiểm soát thích hợp.

Những nhân vật công nghệ như Elon Musk và Steve Wozniak cũng bày tỏ lo ngại về sự tiến bộ nhanh chóng của AI. Hơn 2.600 nhà lãnh đạo và nhà nghiên cứu công nghệ, bao gồm cả Musk và Wozniak, đã ký một bản kiến nghị vào tháng 3 năm 2023 , kêu gọi “tạm dừng” phát triển AI. Họ nhấn mạnh những “rủi ro sâu sắc tiềm ẩn đối với xã hội và nhân loại” do những tiến bộ AI vượt qua GPT-4 gây ra.