Thư viện Nguồn Tin KH&CN Tài nguyên là trí thức
Từ thời sơ khai, công nghệ đã mang lại nhiều lợi ích to lớn nhưng cũng đi kèm với nguy cơ bị lạm dụng. Với tốc độ phát triển vượt bậc của trí tuệ nhân tạo (AI), những nguy cơ tiềm ẩn càng trở nên rõ ràng hơn. Dù AI đã thúc đẩy những bước tiến lớn trong khoa học, như khả năng dự đoán và tạo ra cấu trúc protein – một thành tựu giành giải Nobel Hóa học – thì mức độ lạm dụng cũng ngày càng mở rộng, đòi hỏi các chính sách và hướng dẫn kịp thời để ngăn chặn.
Nguy cơ từ các ứng dụng AI
Một số ví dụ về nguy cơ lạm dụng AI đã được các nhà nghiên cứu cảnh báo:
1. Công nghệ chỉnh sửa gen: AI có thể đẩy nhanh quá trình nghiên cứu gen, nhưng cũng tiềm ẩn khả năng tạo ra các sinh vật nguy hiểm hoặc hồi sinh loài đã tuyệt chủng mà không cân nhắc đến hậu quả đạo đức.
2. Phát triển thuốc: AI được thiết kế để phát triển thuốc điều trị bệnh có thể bị lợi dụng để tạo ra các hợp chất độc hại.
3. Thiết kế vật liệu: Các phương pháp thiết kế vật liệu dựa trên AI có thể dẫn đến sản xuất các chất gây hại cho môi trường.
Nhiều nhà khoa học cảm thấy bất ngờ trước quy mô lạm dụng tiềm tàng khi họ lần đầu phân tích những kịch bản này. Sự chậm trễ trong việc xây dựng các quy định khiến các nhà nghiên cứu đứng trước nhiều thách thức và sự không chắc chắn về đạo đức khi phát triển AI.
Khung chiến lược đối phó
Trong bài viết trên tạp chí Nature Machine Intelligence, Trotsyuk và cộng sự đã đề xuất một khung chiến lược giúp các nhà nghiên cứu xác định và giảm thiểu nguy cơ lạm dụng AI. Các bước chính bao gồm:
Đánh giá rủi ro và lợi ích: Tiến hành đánh giá các nguy cơ và lợi ích ngay từ giai đoạn đầu của dự án. Hợp tác với các nhà đạo đức học và những nhóm bị ảnh hưởng để hiểu rõ tác động tiềm tàng.
Sử dụng các công cụ giảm thiểu rủi ro: Áp dụng khung đạo đức và quy định hiện có; Tuân thủ các tiêu chuẩn và hướng dẫn đạo đức sẵn có; Sử dụng công cụ kiểm tra và giải pháp hiện hành: Ví dụ, thử nghiệm đối kháng (adversarial testing) để phát hiện các lỗ hổng; Thiết kế giải pháp đặc thù tập trung vào thu thập và quản lý dữ liệu an toàn.
Xem xét lại dự án nếu rủi ro vượt quá lợi ích: Nếu các biện pháp giảm thiểu không đủ để giảm thiểu nguy cơ lạm dụng, nên cân nhắc dừng hoặc điều chỉnh dự án.
Các nghiên cứu điển hình
Nhóm tác giả đã áp dụng khung này vào ba trường hợp ứng dụng AI trong y sinh:
Phát triển thuốc: Dù AI có thể đẩy nhanh quá trình phát triển thuốc, việc thiếu kiểm soát có thể dẫn đến lạm dụng để tạo ra các hợp chất nguy hiểm.
Mô hình dữ liệu tổng hợp: Các mô hình AI tạo ra dữ liệu tổng hợp có thể làm rò rỉ thông tin nhạy cảm hoặc tạo ra dữ liệu giả mạo.
Thiết bị IoT hỗ trợ chăm sóc sức khỏe: Thiết bị IoT dựa trên AI có thể giúp giám sát bệnh nhân, nhưng cũng tiềm tàng nguy cơ xâm phạm quyền riêng tư và giám sát quá mức.
Để giảm thiểu rủi ro, các biện pháp như tăng cường quyền lựa chọn của người dùng, cải thiện bảo mật dữ liệu, và thực hiện các thử nghiệm đối kháng đã được đề xuất. Nếu rủi ro vẫn lớn hơn lợi ích, nên cân nhắc lại tính khả thi của dự án.
Cần khuyến khích các nhà nghiên cứu áp dụng tư duy “an toàn từ thiết kế” thay vì “phát triển nhanh và sửa sai sau”. Các sáng kiến và hướng dẫn cụ thể sẽ giúp giảm thiểu các rủi ro đạo đức và đảm bảo rằng AI được sử dụng đúng mục đích. Sự phát triển của AI là không ngừng, vì vậy việc xây dựng các chiến lược ứng phó cần được tiến hành liên tục, phù hợp với tốc độ tiến bộ của công nghệ.
Theo: vista.gov.vn
