Nhà phát triển trí tuệ nhân tạo (AI) OpenAI đã thông báo rằng họ sẽ triển khai “Khuôn khổ chuẩn bị”, bao gồm việc thành lập một nhóm đặc biệt để đánh giá và dự đoán rủi ro.

Vào ngày 18 tháng 12, công ty đã phát hành một bài đăng trên blog nói rằng “Nhóm Chuẩn bị” mới của họ sẽ là cầu nối kết nối các nhóm chính sách và an toàn làm việc trên OpenAI.

Nó cho biết các nhóm cung cấp gần như một hệ thống kiểu kiểm tra và cân bằng này sẽ giúp bảo vệ khỏi “những rủi ro thảm khốc” có thể do các mô hình ngày càng mạnh mẽ gây ra. OpenAI cho biết họ sẽ chỉ triển khai công nghệ của mình nếu nó được coi là an toàn.

Đề cương kế hoạch mới yêu cầu nhóm cố vấn mới xem xét các báo cáo an toàn, sau đó sẽ được gửi đến các giám đốc điều hành công ty và hội đồng quản trị OpenAI.

Trong khi các giám đốc điều hành chịu trách nhiệm về mặt kỹ thuật trong việc đưa ra các quyết định cuối cùng, kế hoạch mới cho phép hội đồng quản trị có quyền đảo ngược các quyết định về an toàn.

Điều này xảy ra sau khi OpenAI trải qua một loạt thay đổi vào tháng 11 với việc đột ngột sa thải và phục hồi chức vụ Giám đốc điều hành Sam Altman . Sau khi Altman gia nhập lại công ty, công ty đã đưa ra một tuyên bố nêu tên hội đồng quản trị mới, hiện bao gồm Bret Taylor làm chủ tịch, cũng như Larry Summers và Adam D’Angelo.

OpenAI ra mắt ChatGPT ra công chúng vào tháng 11 năm 2022 và kể từ đó, sự quan tâm đến AI ngày càng tăng cao, nhưng cũng có những lo ngại về những nguy hiểm mà nó có thể gây ra cho xã hội.

Vào tháng 7, các nhà phát triển AI hàng đầu, bao gồm OpenAI, Microsoft, Google và Anthropic, đã thành lập Diễn đàn Mô hình Biên giới, nhằm giám sát quá trình tự điều chỉnh trong việc tạo ra AI có trách nhiệm.

Tổng thống Hoa Kỳ Joe Biden đã ban hành một mệnh lệnh hành pháp vào tháng 10, đặt ra các tiêu chuẩn an toàn AI mới cho các công ty đang phát triển các mô hình cấp cao và việc triển khai chúng.

Trước lệnh điều hành của Biden, các nhà phát triển AI nổi tiếng, bao gồm cả OpenAI, đã được mời đến Nhà Trắng để cam kết phát triển các mô hình AI an toàn và minh bạch.