VNReport»Sự kiện & Bình luận»Quốc tế»Nhà khoa học AI giành giải Nobel Vật lý lo ngại AI “kiểm soát” loài người

Nhà khoa học AI giành giải Nobel Vật lý lo ngại AI “kiểm soát” loài người

09:29 - 11/10/2024

Giải Nobel Vật lý được trao cho hai nhà khoa học đặt nền móng cho các mô hình AI hiện nay với nghiên cứu về mạng thần kinh nhân tạo: John Hopfield và Geoffrey Hinton.

Giải Nobel Vật lý được trao cho John J. Hopfield của Đại học Princeton và Geoffrey E. Hinton của Đại học Toronto vì những khám phá và phát minh hình thành nên nền tảng của học máy, nền móng cho nhiều mô hình trí tuệ nhân tạo mạnh mẽ nhất hiện nay.

Hai nhà khoa học đã giúp đào tạo các mạng thần kinh nhân tạo có thể nhận dạng mẫu hình trong các tập dữ liệu lớn bằng những công cụ từ vật lý, giúp thực hiện được các tác vụ học máy như nhận dạng khuôn mặt và dịch ngôn ngữ.

Ông Hinton – một nhà khoa học máy tính người Anh-Canada được biết đến là một trong những “cha đỡ đầu của AI” – từng làm việc cho Google trong hơn một thập kỷ nhưng đã nghỉ việc vào năm ngoái để phát biểu tự do hơn về những rủi ro trong phát triển AI. Ông cùng những người khác đã bày tỏ lo ngại về khả năng AI có thể gây hại cho nhân loại.

Trong cuộc gọi vào sáng ngày 8/10 với Ủy ban Nobel, ông Hinton bày tỏ “lo ngại rằng hậu quả chung của điều này có thể là các hệ thống thông minh hơn chúng ta cuối cùng sẽ nắm quyền kiểm soát”, nhưng ông không hối tiếc về thành quả nghiên cứu của mình.

Geoffrey Hinton đã bày tỏ lo ngại về khả năng AI nắm quyền kiểm soát con người.

Geoffrey Hinton đã bày tỏ lo ngại về khả năng AI nắm quyền kiểm soát con người.

Ông Hopfield cũng chia sẻ mối quan ngại của người đồng đoạt giải trong cuộc gọi video vào chiều ngày 8/10 tới khán phòng của Đại học Princeton.

“Tôi không lo lắng trực tiếp về AI, mà là AI kết hợp với luồng thông tin trên toàn cầu”, ông nói. Ông cũng “sợ hãi” vì một thuật toán đơn giản trong mạng thần kinh có thể kiểm soát một hệ thống thông tin rất lớn.

Từ thập niên 1980, ông Hopfield, 91 tuổi, và ông Hinton, 76 tuổi, đã thực hiện những công trình quan trọng sử dụng các khái niệm cơ bản từ vật lý để thiết kế mạng thần kinh nhân tạo.

“Họ đã chỉ ra một cách hoàn toàn mới mà chúng ta sử dụng máy tính để hỗ trợ và hướng dẫn chúng ta giải quyết nhiều thách thức mà xã hội chúng ta phải đối mặt”, Ủy ban Nobel cho biết vào ngày 8/10 trên X khi công bố giải thưởng từ Stockholm, Thụy Điển. Mạng thần kinh nhân tạo, đúng như tên gọi, là các chương trình giúp máy móc học hỏi – lấy cảm hứng từ mạng lưới thần kinh của não con người.

“Chúng ta có thể nhận dạng hình ảnh và giọng nói và liên kết chúng với ký ức và kinh nghiệm trong quá khứ. Hàng triệu tế bào thần kinh được kết nối với nhau mang lại cho chúng ta những khả năng nhận thức đặc biệt”, Ellen Moons, chủ tịch ủy ban Nobel Vật lý, cho biết.

Học máy mô phỏng những khả năng đó bằng cách cung cấp cho máy tính một lượng dữ liệu khổng lồ để chúng có thể thành thạo các tác vụ, chẳng hạn như dự đoán văn bản hoặc đề xuất chương trình Netflix tiếp theo.

Lễ công bố giải Nobel Vật lý ở Stockholm, Thụy Điển ngày 8/10.

Lễ công bố giải Nobel Vật lý ở Stockholm, Thụy Điển ngày 8/10.

Ông Hopfield là người tiên phong trong lĩnh vực này khi vào năm 1982, ông tạo ra “mạng Hopfield”, một mạng thần kinh có thể lưu và gọi lại các mẫu hình chỉ với một phần thông tin, lấy cảm hứng từ thứ mà ông gọi là “trí nhớ liên kết”.

AI cung cấp “khả năng liên kết mọi thứ với nhau, liên kết các trải nghiệm với nhau”, ông Hopfield cho biết vào năm 2020, chỉ ra rằng một người có thể nhớ đến một người khác khi nhắc đến vài đặc điểm của người đó – chẳng hạn như ngoại hình hay giọng nói – mà không cần nhắc đến tên.

Ông Hinton mở rộng công trình của ông Hopfield để tạo ra một mạng lưới có thể nhận dạng các mẫu hình quen thuộc trong thông tin mới. Ông cũng đã phát triển một kỹ thuật giúp tối ưu hóa mạng thần kinh bằng cách sửa lỗi lặp đi lặp lại cho đến khi chúng biến mất.

Cách đào tạo mạng thần kinh của họ giúp mở đường cho những hệ thống như ChatGPT.

Khi được hỏi về công cụ AI yêu thích của mình, ông Hinton trả lời rằng ông sử dụng GPT-4, mô hình mới nhất của OpenAI, bất cứ khi nào ông muốn biết câu trả lời cho bất kỳ điều gì. “Tôi không hoàn toàn tin nó, vì nó có thể rơi vào ảo giác”, ông nói, “nhưng trong hầu hết mọi thứ, nó là một chuyên gia không giỏi lắm, và điều đó rất hữu ích”.

Việc trao giải Nobel Vật lý cho những khám phá liên quan đến AI và học máy có vẻ kỳ lạ, nhưng đây là công trình liên ngành, cũng liên quan đến sinh học và khoa học thần kinh.

Công trình này đã góp phần vào những khám phá trong vật lý hạt và vật lý thiên văn, hỗ trợ lập mô hình khí hậu, phân tích hình ảnh y tế và phát triển các vật liệu mới.

“Học máy được sử dụng trong tất cả các loại thí nghiệm tạo ra lượng dữ liệu khổng lồ,” theo nhà vật lý và tổng giám đốc của Hiệp hội Vật lý Mỹ Jonathan Bagger. Ông nói thêm rằng việc phát hiện ra hạt boson Higgs bằng Máy gia tốc hạt lớn là bất khả thi nếu không có học máy.

“Những người thắng giải đã sử dụng các ý tưởng từ vật lý vật chất ngưng tụ và vật lý thống kê để viết một chương trình mô phỏng cách não bộ hoạt động”, giáo sư hóa học tại Đại học Buffalo và là chủ tịch bộ phận vật lý tính toán của Hiệp hội Vật lý Mỹ, Eva Zurek, cho biết.

Theo: https://www.wsj.com/science/nobel-prize-in-physics-awarded-to-duo-for-machine-learning-c9e4b0d7?mod=Searchresults_pos1&page=1