VNReport»Kinh tế»Doanh nghiệp»HĐQT OpenAI được cảnh báo về đột phá công nghệ trước khi sa thải CEO

HĐQT OpenAI được cảnh báo về đột phá công nghệ trước khi sa thải CEO

11:51 - 23/11/2023

Theo các nguồn tin của Reuters, một trong những lý do thúc đẩy hội đồng quản trị sa thải Sam Altman vào tuần trước là bức thư từ một số nhân viên nghiên cứu gửi đến hội đồng, cảnh báo về bước đột phá AI có thể đe dọa loài người.

Trước khi quyết định sa thải CEO Sam Altman, hội đồng quản trị của OpenAI nhận một bức thư từ các nhân viên nghiên cứu, cảnh báo về một bước đột phá về trí tuệ nhân tạo mà họ cho rằng có thể đe dọa loài người, theo 2 nguồn tin của Reuters.

Những nguồn tin cho biết bức thư này là một diễn biến quan trọng dẫn đến quyết định sa thải ông Altman – gương mặt đại diện cho công nghệ AI tạo sinh. Trước khi ông trở lại công ty vào ngày 21/11, hơn 700 nhân viên của OpenAI đe dọa nghỉ việc và theo chân ông đến Microsoft.

Những nguồn tin nói rằng bức thư là một yếu tố trong danh sách những vấn đề thúc đẩy hội đồng quản trị sa thải ông Altman, trong đó bao gồm lo ngại về việc thương mại hóa những tiến bộ trước khi hiểu hậu quả.

Một số người ở OpenAI tin rằng họ sắp đạt được tiến bộ AI có thể đe dọa loài người.

Một số người ở OpenAI tin rằng họ sắp đạt được tiến bộ AI có thể đe dọa loài người.

Sau khi từ chối yêu cầu bình luận của Reuters, trong một tin nhắn nội bộ gửi nhân viên, OpenAI thừa nhận có một dự án tên là Q* và bức thư gửi đến hội đồng quản trị trước những sự kiện cuối tuần trước, theo một nguồn tin.

Một số người ở OpenAI tin rằng Q* có thể là bước đột phá trong cuộc tìm kiếm cái gọi là trí tuệ tổng hợp nhân tạo (AGI). OpenAI định nghĩa AGI là các hệ thống tự trị vượt qua con người trong hầu hết những nhiệm vụ có giá trị kinh tế.

Theo một nguồn tin, với nguồn tài nguyên máy tính khổng lồ, mô hình mới có thể giải quyết một số vấn đề toán học nhất định. Mặc dù chỉ làm toán ở cấp độ học sinh tiểu học, nhưng điều này khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.

Các nhà nghiên cứu coi toán là bước tiến mới trong quá trình phát triển AI tạo sinh. Hiện tại, AI tạo sinh giỏi viết văn bản bằng cách dự đoán từ tiếp theo, và những câu trả lời cho cùng một câu hỏi có thể rất khác nhau. Nhưng khả năng làm toán – nơi chỉ có một câu trả lời đúng – cho thấy AI sẽ có khả năng suy luận tốt hơn, giống như trí thông minh của con người. Các nhà nghiên cứu tin rằng điều này có thể được áp dụng cho những nghiên cứu khoa học mới.

Không giống như một chiếc máy tính chỉ có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và lĩnh hội.

Trong thư gửi hội đồng quản trị, các nhà nghiên cứu chỉ ra sức mạnh và mối nguy hiểm tiềm tàng của AI, theo các nguồn tin. Từ lâu, trong ngành khoa học máy tính, đã có những cuộc thảo luận về mối nguy do máy móc cực kỳ thông minh gây ra. Ví dụ, chúng có thể quyết định rằng sự hủy diệt loài người có lợi cho chúng.

Các nhà nghiên cứu cũng lưu ý về công trình của một nhóm “nhà khoa học AI”. Nhóm này đang khám phá cách tối ưu hóa những mô hình AI hiện có để cải thiện khả năng suy luận và cuối cùng là thực hiện công việc khoa học.

Ông Altman là người dẫn đầu các dự án phát triển ChatGPT và thu hút đầu tư – cũng như tài nguyên máy tính – cần thiết từ Microsoft để tiến gần hơn đến AGI.

Tuần trước, tại hội nghị thượng đỉnh APEC ở San Francisco, ông Altman cho biết ông tin rằng những tiến bộ lớn đang ở trước mắt. “Bốn lần trong lịch sử của OpenAI, gần đây nhất chỉ trong vài tuần qua, tôi đã có mặt trong phòng, khi chúng tôi gần như đẩy bức màn vô minh và biên giới khám phá tiến lên phía trước, và được làm điều đó là vinh dự nghề nghiệp của cuộc đời tôi”.

Một ngày sau, hội đồng quản trị sa thải ông Altman.