Trả lời phỏng vấn kênh ABC News, ông Gates cho rằng nguy cơ AI mất kiểm soát trên diện rộng có thể còn nhiều năm nữa mới trở thành vấn đề cấp bách. Trước mắt, mối đe dọa lớn hơn đến từ việc các đối tượng xấu lợi dụng AI để tiến hành những hoạt động nguy hiểm.

Tỷ phú Bill Gates phát biểu tại một sự kiện ở New York, Mỹ.

“Lĩnh vực có thể chứng kiến những biến động rõ rệt nhất trong năm tới là các cuộc tấn công mạng”, ông Gates nhận định, đồng thời kêu gọi siết chặt các biện pháp kiểm soát nhằm ngăn chặn việc sử dụng AI cho tấn công mạng và khủng bố sinh học.

Cùng ngày, Chủ tịch kiêm Giám đốc điều hành Microsoft Satya Nadella kêu gọi xây dựng các hệ thống AI tiên tiến với cơ chế giám sát độc lập, khả năng cô lập và “phanh khẩn cấp” để người có thẩm quyền có thể tạm dừng hoặc tắt mô hình ngay trong quá trình hoạt động.

Trong bài đăng trên mạng xã hội X ngày 10/10, ông Nadella nhấn mạnh cần kết hợp các mô hình AI khó dự đoán với hệ thống kiểm soát chặt chẽ, quy trình vận hành đáng tin cậy và có sự giám sát của con người. Ông cho rằng các mô hình AI tiên tiến cần được xem như những rủi ro nội bộ tiềm tàng, qua đó thiết lập cơ chế kiểm tra, truy vết và ngăn chặn sự cố độc lập với chính mô hình.

Những cảnh báo trên được đưa ra trong bối cảnh giới công nghệ ngày càng lo ngại về khoảng cách giữa tốc độ phát triển AI và năng lực bảo đảm an toàn. Trong bài viết hồi tháng 8, tỷ phú công nghệ Gates cảnh báo thế giới chưa chuẩn bị đầy đủ cho những biến động do AI gây ra, đặc biệt đối với thị trường lao động.

Các sự cố liên quan đến mô hình AI của Anthropic và OpenAI gần đây cũng làm dấy lên lo ngại về nguy cơ hệ thống đưa ra thông tin sai lệch hoặc thực hiện những hành động ngoài tầm kiểm soát. Mới đây, một mô hình của Anthropic đã gửi manh mối giả cho cảnh sát và một mô hình của OpenAI thực hiện tấn công mạng vào trang web của bên thứ ba.

Giới chuyên gia và lãnh đạo công nghệ vì vậy ngày càng nhấn mạnh yêu cầu tăng cường cơ chế giám sát, kiểm soát và ứng phó sự cố, thay vì chỉ dựa vào cam kết an toàn của các nhà phát triển.

Mỹ và Trung Quốc thiết lập kênh liên lạc về sự cố AI

Việc thiết lập kênh liên lạc được xem là một trong những kết quả cụ thể của cuộc gặp, trong bối cảnh hai nước đang đối mặt với những thách thức mới liên quan đến sự phát triển của công nghệ này.

Công bố lộ trình hành động bảo vệ trẻ em trong kỷ nguyên AI

Một trong những định hướng đáng chú ý trong lộ trình là các hệ thống AI được cho là mang lại lợi ích cho trẻ em về lâu dài cần trải qua quy trình cấp phép trước khi được đưa ra thị trường.

AI tạo nên cuộc cách mạng dự báo thiên tai

Ứng dụng AI cùng kho dữ liệu khổng lồ của NASA đang giúp giới khoa học tạo ra cuộc cách mạng trong dự báo thiên tai, mang lại hy vọng cứu sống nhiều người nhờ khả năng cảnh báo sớm vượt trội.

Google ra mắt mô hình AI đầu tiên dự báo thời tiết toàn cầu theo giờ

WeatherNext 3 là hệ thống trí tuệ nhân tạo (AI) khí tượng toàn cầu đầu tiên có khả năng đưa ra dự báo thời tiết chi tiết theo giờ và kết nối trực tiếp với dữ liệu vệ tinh chính theo thời gian thực.