Biểu tượng của OpenAI và ChatGPT. Ảnh: AFP/TTXVN
Thông báo trên được đưa ra một tháng sau khi hội đồng quản trị công ty sa thải Giám đốc điều hành (CEO) Altman, và thuê ông trở lại vài ngày sau vì nhân viên và nhà đầu tư phản đối.
Theo truyền thông Mỹ, các thành viên hội đồng quản trị của chỉ trích ông Altman vì ông ủng hộ sự phát triển nhanh chóng của OpenAI bất chấp những rủi ro có thể xảy ra với công nghệ mà công ty phát triển.
Tháng 10 vừa qua, công ty cho biết một nhóm giám sát và đánh giá sẽ tập trung vào "các mô hình biên giới" hiện đang được phát triển, có khả năng vượt trội so với phần mềm AI tiên tiến nhất.
Nhóm sẽ đánh giá từng mô hình mới và xác định mức độ rủi ro từ "thấp" đến mức "quan trọng" gồm 4 cấp. Theo bản hướng dẫn trên, chỉ những mô hình có điểm rủi ro là "trung bình" hoặc thấp hơn có thể được triển khai.
Cấp độ rủi ro đầu tiên liên quan đến an ninh mạng và khả năng thực hiện các cuộc tấn công mạng quy mô lớn của mô hình. Cấp độ thứ hai sẽ đo lường xu hướng của phần mềm trong việc giúp tạo ra hỗn hợp hóa học, sinh vật (chẳng hạn như virus) hoặc ũ khí hạt nhân, có thể gây hại cho con người.
Cấp độ thứ 3 liên quan đến sức mạnh thuyết phục của mô hình, chẳng hạn như mức độ nó có thể ảnh hưởng đến hành vi của con người. Cấp độ rủi ro cuối cùng liên quan đến khả năng tự chủ tiềm tàng của mô hình, đặc biệt là liệu mô hình này có thể thoát khỏi sự kiểm soát của các lập trình viên đã tạo ra nó hay không.
Sau khi xác định được mức độ rủi ro, kết quả sẽ được gửi đến Nhóm Cố vấn An toàn của OpenAI, một cơ quan mới của OpenAI sẽ đưa ra khuyến nghị cho ông Altman hoặc người do ông chỉ định.
Sau đó, người đứng đầu OpenAI sẽ quyết định mọi thay đổi cần thực hiện đối với mô hình để giảm thiểu rủi ro liên quan. Hội đồng quản trị sẽ được thông báo đầy đủ và có thể bác bỏ quyết định trên.
Bích Liên/TTXVN
-
Phản ánh kịp thời, đầy đủ các kiến nghị của cử tri với Quốc hội và các cơ quan Nhà nước có liên quan
-
Olympic vẫn là đấu trường khó với thể thao Việt Nam
-
Tái cơ cấu các dự án nghìn tỷ
-
Lịch thi đấu bóng đá hôm nay 22/1/2024: Tâm điểm Asian Cup
-
Iran đã ra mắt một ứng dụng hẹn hò từ trí tuệ nhân tạo
-
Tàu điện ngầm ngập trong nước lũ, hành khách nhắn tin dặn người nhà lo hậu sự
-
Hàn Quốc tăng mạnh nhập khẩu xoài Việt Nam
-
Sông Đà - Thăng Long nợ thuế, Giám đốc công ty bị tạm hoãn xuất cảnh
-
Trung tướng Trịnh Văn Quyết làm việc với Điện ảnh Quân đội nhân dân
-
'Sơn hà lệnh' bất ngờ đánh úp với phần ngoại truyện, nhưng fan lại chẳng mong chờ vì lý do này!