9 nguyên tắc nghiên cứu phát triển hệ thống AI có trách nhiệm

Theo đó, cơ quan, tổ chức khoa học và công nghệ, tổ chức, doanh nghiệp, cá nhân có hoạt động nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống AI được khuyến khích áp dụng các nội dung trong tài liệu hướng dẫn.

9 nguyên tắc nghiên cứu, phát triển hệ thống AI có trách nhiệm được đề ra gồm: Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo; tính minh bạch; khả năng kiểm soát; an toàn; bảo mật; quyền riêng tư; tôn trọng quyền và phẩm giá con người; hỗ trợ ng??ời dùng; trách nhiệm giải trình.

Với mỗi nguyên tắc đều có hướng dẫn thực hiện. Đơn cử như đối với tính minh bạch, nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan. Theo đó, các hệ thống AI tuân theo nguyên tắc này thường là các hệ thống có thể ảnh hưởng đến tính mạng, thân thể, quyền riêng tư hoặc tài sản của ng??ời dùng hoặc bên thứ ba liên quan.

Khi đó, các nhà phát triển cần chú ý đến khả năng xác định rõ các đầu vào và đầu ra của hệ thống AI cũng như khả năng giải thích liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng để đảm bảo có sự tin tưởng của xã hội, bao gồm cả ng??ời dùng.

Hay đối với nguyên tắc tôn trọng quyền và phẩm giá con người, khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con ng??ời của các cá nhân liên quan.

Trong phạm vi có thể, tùy theo đặc điểm của công nghệ được áp dụng, các nhà phát triển cần thực hiện các biện pháp để đảm bảo không gây ra sự phân biệt đối xử, không công bằng do thiên vị (định kiến) trong dữ liệu khi huấn luyện hệ thống AI.

Các nhà phát triển cần thực hiện các biện pháp phòng ngừa để đảm bảo rằng hệ thống AI không vi phạm các giá trị của con người, đạo đức xã hội theo các nguyên tắc cơ bản của Việt Nam (ví dụ, các giá trị bao gồm yêu nước, đoàn kết, tự cường, nghĩa tình, trung thực, trách nhiệm, kỷ cương, sáng tạo…).

Được biết, kết quả đánh giá và công bố trong báo cáo "Chỉ số sẵn sàng AI của Chính phủ" do Oxford Insight thực hiện, năm 2023, Việt Nam vươn lên đứng thứ 5 trong ASEAN, vượt qua Philippines (sau Singapore, Malaysia, Thái Lan, Indonesia). Năm 2023, Việt Nam c?? đi???m trung bình đạt 54,48 điểm (năm 2022 là 53,96 và 2021 là 51,82 điểm) vượt ngưỡng trung bình thế giới, đứng thứ 59 trong số hơn 193 quốc gia và vùng lãnh thổ (năm 2022 đứng thứ 55 trong tổng số 181 quốc gia và vùng lãnh thổ).

Theo Bộ KH&CN, trong bối cảnh hiện nay, việc nghiên cứu, có biện pháp giảm thiểu các rủi ro trong quá trình phát triển, sử dụng AI và cân đối các yếu tố kinh tế, đạo đức và pháp lý liên quan là rất cần thiết. Vì vậy, các cơ quan chuyên môn cần nghiên cứu, xây dựng các tiêu chuẩn, hướng dẫn để định hướng kể cả đó là các quy định mềm và không có tính ràng buộc.

Bên cạnh đó, việc chia sẻ, trao đổi thông tin về các quy trình, các biện pháp thực hành tốt giữa các bên liên quan (như nhà phát triển, nhà cung cấp dịch vụ, ng??ời dùng) cũng sẽ thúc đẩy sự đồng thuận để gia tăng lợi ích từ các hệ thống AI và kiểm soát được các rủi ro.

Bộ KH&CN đã chủ động nghiên cứu kinh nghiệm các nước, khuyến nghị của các tổ chức như UNESCO, UN, ASEAN, G7, G20... để xây dựng các khuyến nghị, công cụ, quy định về đạo đức trong AI, phát triển các sản phẩm AI (từ nghiên cứu, thiết kế, phát triển, triển khai sản phẩm AI) có trách nhiệm phù hợp với thực tiễn và quy định hiện hành của Việt Nam.

 Thứ trưởng Bộ KH&CN Bùi Thế Duy cũng cho biết việc xây dựng hướng dẫn nguyên tắc nghiên cứu, phát triển AI có trách nhiệm tại Việt Nam cần bám sát các mục tiêu hướng đến một xã hội lấy con ng??ời làm trung tâm, mọi ng??ời được hưởng những lợi ích từ cuộc sống cũng như từ các hệ thống AI. Đồng thời đảm bảo sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI, cụ thể là: Phát huy lợi ích của AI thông qua các hoạt động nghiên cứu, phát triển và đổi mới sáng tạo; và giảm thiểu nguy cơ xâm phạm quyền hoặc lợi ích hợp pháp của các tổ chức, cá nhân từ các hệ thống AI.

Bảo đảm các hoạt động nghiên cứu, phát triển các hệ thống AI dựa trên các công nghệ hoặc kỹ thuật cụ thể nhưng vẫn đảm bảo tính trung lập về công nghệ và các nhà phát triển cũng không bị ảnh hưởng bởi sự phát triển quá nhanh của các công nghệ liên quan đến AI trong tương lai.

Bộ KH&CN cũng cho biết, các nguyên tắc, hướng dẫn sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn./.