VNReport»Công nghệ»Thế giới số»Google: Phần mềm AI Gemini bị lạm dụng để tạo nội dung khủng bố giả mạo

Google: Phần mềm AI Gemini bị lạm dụng để tạo nội dung khủng bố giả mạo

09:49 - 06/03/2025

Theo nguồn tin Báo điện tử VietnamPlus, Google thông báo đã nhận được 258 đơn khiếu nại trên toàn cầu liên quan đến việc phần mềm trí tuệ nhân tạo (AI) Gemini của họ được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo.

Cụ thể, trong thông báo gửi đến giới chức Australia, Google cho biết trong gần một năm qua họ đã nhận 258 đơn khiếu nại về việc Gemini bị lạm dụng để sản xuất nội dung khủng bố hoặc bạo lực. Không chỉ thế, có đến 86 báo cáo từ người dùng cảnh báo về việc Gemini đang bị sử dụng để tạo ra nội dung lạm dụng trẻ em.

Google đã xác định rằng nhiều cuộc tấn công đến từ các nhóm tin tặc có tổ chức. Các nhóm APT (Advanced Persistent Threat), thường được nhà nước hậu thuẫn đang tìm cách khai thác AI để thu thập dữ liệu quân sự, tình báo và công nghệ. Bên cạnh đó, một số nhóm khác lại sử dụng AI để thao túng dư luận, phát tán thông tin sai lệch trên mạng xã hội.

Thủ đoạn của nhóm tin tặc này tinh vi ở chỗ, Thay vì yêu cầu Gemini thực hiện hành vi xấu một cách trực tiếp, các nhóm tin tặc chia nhỏ kế hoạch thành từng bước nhỏ, sau đó kết hợp lại để đạt được mục đích cuối cùng. Chúng sử dụng AI để tóm tắt tài liệu về các mục tiêu quân sự, tìm hiểu cách khai thác lỗ hổng bảo mật hoặc hỗ trợ viết mã độc.

Hiện tại, chưa có bằng chứng cho thấy bất kỳ nhóm tin tặc nào có thể hoàn toàn kiểm soát Gemini để thực hiện hành vi nguy hiểm.

Gần một năm qua, Google đã nhận 258 đơn khiếu nại về việc Gemini bị lạm dụng để sản xuất nội dung khủng bố hoặc bạo lực

Ủy ban An toàn Điện tử Australia nhận định báo cáo của Google cung cấp cái nhìn đầu tiên về cách mà người dùng có thể lợi dụng công nghệ để tạo ra nội dung độc hại và bất hợp pháp.

Theo đó, Ủy viên Julie Inman Grant của Ủy ban An toàn Điện tử Australia nhấn mạnh rằng các công ty phát triển sản phẩm AI cần xây dựng và kiểm tra hiệu quả các biện pháp bảo vệ để ngăn chặn việc sản xuất nội dung nguy hại.

Trên thực tế, Google đã sử dụng tính năng so khớp, một hệ thống tự động khớp các hình ảnh mới tải lên với những hình ảnh đã biết, để xác định và xóa nội dung lạm dụng trẻ em do Gemini tạo ra. Tuy nhiên, Ủy ban An toàn Điện tử Australia cho biết Google không sử dụng hệ thống tương tự để loại bỏ nội dung khủng bố hoặc bạo lực cực đoan.

Theo luật hiện hành của Australia, các công ty công nghệ phải định kỳ cung cấp thông tin về các nỗ lực giảm thiểu tác hại cho Ủy ban An toàn Điện tử, nếu không sẽ bị xử phạt.

Trước đó, từ tháng 4/2023 đến tháng 2/2024, Ủy ban An toàn Điện tử Australia đã phạt Telegram và Twitter (nay đổi tên thành X) vì những thiếu sót trong báo cáo của họ.

X kháng cáo không thành công khoản tiền phạt 610.500 AUD (382.000 USD) và dự kiến sẽ tiếp tục kháng cáo, Telegram cũng có kế hoạch kháng cáo mức phạt của mình.

Kể từ khi chatbot ChatGPT của OpenAI trở nên nổi tiếng vào cuối năm 2022, các cơ quan quản lý trên toàn thế giới đã kêu gọi áp dụng các biện pháp hiệu quả hơn để ngăn chặn việc lạm dụng AI cho các mục đích như kích động khủng bố, lừa đảo, sản xuất nội dung khiêu dâm giả mạo và các hành vi lạm dụng khác.

Sự phát triển vượt bậc của trí tuệ nhân tạo (AI) đã mang lại nhiều lợi ích cho cuộc sống con người, nhưng đồng thời cũng tiềm ẩn những nguy cơ khôn lường. Đặt ra thách thức lớn đối với các nhà phát triển AI và các cơ quan quản lý, trong việc đảm bảo rằng công nghệ này không bị lạm dụng cho mục đích xấu.

https://www.vietnamplus.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post1016955.vnp?utm_source=coccoc&utm_medium=ccnews