Danh sách đề cập nhiều mối lo ngại và tranh cãi hiện hữu nổi lên kể từ khi AI có trí thông minh như con người xuất hiện trong những năm gần đây, trở thành điểm tham chiếu nhằm định hướng các mục tiêu nghiên cứu và quyết định chính sách trên toàn cầu trong tương lai.
42 chuyên gia từ khắp nơi trên thế giới, bao gồm nhà phát triển, nhà nghiên cứu và nhà hoạch định chính sách, đã tập trung tại Hội nghị Singapore về AI (ScAI), được tổ chức từ ngày 4/12 đến ngày 6/12.
Straits Times ghi nhận 10 vấn đề được số đông đại biểu nêu bật, xuất hiện tại báo cáo có tiêu đề “Thảo luận sơ bộ hướng tới AI vì lợi ích toàn cầu”, xuất bản ngay trong khuôn khổ ScAI vào ngày 6/12.
Hội nghị Singapore về AI.
AI có đang tin cậy không?
AI ngày càng được sử dụng nhiều để đưa ra quyết định quan trọng, nhưng hệ thống hiện tại đôi khi “gây ảo giác” và trả về kết quả không chính xác. Câu trả lời sai đôi khi thú vị, hài hước, nhưng đa số để lại hậu quả tai hại, chẳng hạn như khi áp dụng cho ô tô tự lái hoặc quyết định y khoa trên bàn mổ.
Các đại biểu đề cập trong bản tóm tắt, hệ thống AI cần được thử nghiệm ở tình huống sát nhất có thể so với nhiệm vụ ngoài đời thực và nhà phát triển nên xây dựng công cụ AI không chỉ tập trung vào hiệu suất thống kê. Bộ tiêu chuẩn chuẩn hóa nhằm đánh giá độ tin cậy của mô hình AI cũng cần được chú trọng.
Dữ liệu tốt, AI tốt
Mô hình AI mạnh mẽ được hỗ trợ bởi bộ dữ liệu khổng lồ giúp đưa ra phân tích và quyết định đúng đắn. Tuy nhiên, việc xây dựng bộ dữ liệu tốt hỗ trợ AI hiệu quả luôn là thách thức lớn, đặc biệt khi dữ liệu nhạy cảm xuất hiện tràn lan và mối lo ngại về quyền riêng tư luôn hiện hữu.
Để đạt được sự cân bằng, các quy định cần khuyến khích việc tạo và truyền dữ liệu, đảm bảo rằng cơ sở thông tin nguồn có chất lượng cao và quá trình trao đổi diễn ra an toàn.
AI có thể đe dọa cho con người không?
Trong số các kịch bản thảm khốc nhất được liệt kê, AI có khả năng gây ra mối đe dọa quy mô toàn cầu như vấn đề nóng lên toàn cầu hoặc nạn diệt chủng bằng vũ khí hạt nhân do AI hỗ trợ. Nhóm chuyên gia lưu ý rằng tệ nạn xã hội và tội phạm mạng do AI thúc đẩy đã xuất hiện và viễn cảnh sụp đổ kinh tế có thể xảy ra trong tương lai gần.
Mỗi quốc gia phải thiết lập dấu hiệu cảnh báo rõ ràng trên nhiều lĩnh vực, nhà phát triển phải tuân thủ giám sát nghiêm ngặt và các hệ thống quan trọng phải được kiểm tra khả năng chịu đựng trước khi liên kết với AI.
Quy định về AI nghiêm ngặt đến mức nào?
Luật pháp cần phải theo kịp sự phát triển công nghệ để đảm bảo rủi ro do AI mang lại không “lọt” qua khoảng trống mà chính sách hiện hành còn tồn đọng. Chính quyền cũng cần thiết lập nhiều phương thức khác nhau để báo cáo vi phạm và nêu rõ đối tượng chịu trách nhiệm cho các loại rủi ro AI.
Chính quyền địa phương cũng phải cân nhắc sự cân bằng để quy định không cản trở sáng tạo đổi mới và xác định rõ thời điểm luật pháp nên can thiệp trấn áp AI.
Ứng dụng AI trong nghiên cứu khoa học
AI nắm giữ chìa khóa giải quyết một số vấn đề khó giải quyết nhất của nhân loại và có khả năng phát triển nhiều phương pháp chữa bệnh cũng như tạo ra công cụ chống biến đổi khí hậu – điều mà đa số đại biểu cho rằng phải là ưu tiên hàng đầu của đội ngũ xây dựng AI vì lợi ích cộng đồng. Để hoàn thành mục tiêu cao cả, các nhà phát triển AI có thể tăng cường hợp tác xuyên biên giới để chia sẻ kinh phí và kiến thức.
AI học tập như con người
AI ngày càng thông minh nhưng khả năng học hỏi tự nhiên của con người vẫn chưa có máy móc nào sánh kịp. Bộ não con người có khả năng thích ứng, phản ứng nhanh và tiết kiệm năng lượng hơn bất kỳ AI nào - cỗ máy vẫn gặp nhiều khó khăn trong quá trình nắm bắt tâm lý học, ngôn ngữ học, triết học và một số lĩnh vực khác.
Cạnh tranh công bằng
Công nghệ AI thường nằm trong tay các tập đoàn hoạt động vì lợi nhuận, viễn cảnh lý tưởng nhất là AI nên được sử dụng vì lợi ích chung. Sự tập trung vào tay những người chơi hướng đến lợi ích kinh doanh có thể ảnh hưởng đến giá cả và chất lượng AI, đồng thời hạn chế quyền truy cập AI đối với một số cộng đồng.
Để cạnh tranh công bằng hơn, nhóm chuyên gia kêu gọi giảm thiểu tối đa rào cản gia nhập phát triển thị trường AI. Nhóm đề nghị nhà cung cấp AI nên được quản lý tương tự như cơ sở cung cấp dịch vụ viễn thông và tiện ích công cộng.
AI áp dụng trong học tập
Học sinh, sinh viên hưởng nhiều lợi ích từ AI, “vị trợ lý" có thể đưa ra phản hồi ngay lập tức với nhiều nội dung cá nhân hóa. Nhờ AI, phụ huynh nhận được kết quả học tập của con mình nhanh chóng, trong khi giáo viên dành ít thời gian chấm điểm hơn để tập trung vào công tác giảng dạy.
Tuy nhiên, trước khi tương lai này có thể xảy ra, AI cần phải vượt qua vấn đề “ảo giác” và tích hợp với công nghệ hiện có được sử dụng trong lớp học.
Trấn áp tin giả
Công cụ viết và trình tạo hình ảnh đã khiến thông tin sai lệch do AI tạo ra trở nên khó phát hiện hơn. Nội dung sai có thể được lan truyền với tốc độ chóng mặt thông qua kênh truyền thông xã hội cộng đồng.
Các đại biểu kêu gọi tìm cách xác định nguồn thông tin trực tuyến và buộc nền tảng nội dung phải giám sát bài đăng trên các kênh thật cẩn thận. Thuật toán cần được đào tạo bằng nhiều ngôn ngữ khác ngoài tiếng Anh để phát hiện chính xác thông tin sai lệch trên tất cả nền tảng toàn cầu.
Tiêu chuẩn an toàn
Thế giới vẫn chưa thống nhất về tiêu chuẩn an toàn của AI trong quá trình phát triển. Bộ tiêu chuẩn bao gồm đánh giá khả năng gây nguy ngại về an ninh, thiệt hại về kinh tế hoặc tổn thương tâm lý.
