Góp ý kiến vào dự án Luật, các đại biểu nhận thấy, trí tuệ nhân tạo AI đang trở thành công nghệ mũi nhọn của cuộc cách mạng công nghiệp 4.0, mở ra nhiều cơ hội to lớn cho phát triển kinh tế - xã hội nhưng cũng đặt ra không ít thách thức cấp bách về quản lý, đạo đức và an toàn mà các quy định pháp luật hiện hành chưa bao quát đầy đủ.

Vì vậy, các ý kiến nhất trí cao với sự cần thiết ban hành Luật Trí tuệ nhân tạo nhằm tạo hành lang pháp lý đột phá cho trí tuệ nhân tạo, kiến tạo môi trưởng pháp lý thuận lợi để thúc đẩy đổi mới sáng tạo, nâng cao năng lực cạnh tranh quốc gia, đồng thời quản lý rủi ro, bảo vệ lợi ích quốc gia, quyền con người.

Làm rõ nội hàm của giấy phép mô hình mã nguồn mở

Góp ý về giải thích từ ngữ (Điều 3), đại biểu Vương Thị Hương - Đoàn ĐBQH tỉnh Tuyên Quang đề nghị Ban soạn thảo làm rõ nội hàm của giấy phép mô hình mã nguồn mở, xác định rõ giấy phép là giấy phép gốc do chủ sở hữu mô hình phát hành; pháp luật Việt Nam chỉ quy định khung quản lý, không thay thế, mở rộng hay điều chỉnh quyền sở hữu trí tuệ của chủ thể quyền.

Trong trường hợp sửa đổi, tích hợp, phân phối lại mô hình vượt quy định của giấy phép gốc, phải có sự chấp thuận bằng văn bản của chủ sở hữu quyền. Đề xuất giao Chính phủ ban hành danh mục giấy phép mã nguồn mở được công nhận và hướng dẫn cách áp dụng đối với mô hình AI, đảm bảo minh bạch, thuận lợi cho doanh nghiệp và tuân thủ thông lệ quốc tế.

Liên quan đến quản lý hệ thống trí tuệ nhân tạo có rủi ro cao tại chương 2 của dự thảo Luật, đại biểu Vương Thị Hương cho rằng, lĩnh vực y tế cần được xác định là một trong những lĩnh vực có rủi ro cao khi ứng dụng trí tuệ nhân tạo, do tác động trực tiếp đến tính mạng, sức khỏe con người, dữ liệu cá nhân nhạy cảm và niềm tin xã hội. Các hệ thống AI hỗ trợ chẩn đoán hình ảnh, điều trị bệnh, phẫu thuật, phân tích gene… nếu thiếu kiểm định, thiếu tiêu chuẩn an toàn hoặc không minh bạch về dữ liệu huấn luyện có thể gây hậu quả nghiêm trọng, thậm chí không thể khắc phục.

"Hiện dự thảo quy định về phân loại và quản lý rủi ro nhưng chưa làm rõ cơ quan chủ trì quản lý trong từng lĩnh vực cụ thể. Đối với lĩnh vực y tế, nếu giao điều phối chung cho cơ quan quản lý công nghệ thông tin mà không quy định rõ vai trò chủ trì ngành y tế, có thể dẫn tới chồng chéo trong thẩm định, thiếu thống nhất tiêu chuẩn chuyên môn, khó khăn trong việc quản lý các sản phẩm trí tuệ nhân tạo được sử dụng như thiết bị y tế hoặc được áp dụng trong khám chữa bệnh", đại biểu phân tích.

Vì vậy, đại biểu Vương Thị Hương đề nghị bổ sung quy định giao Bộ Y tế chủ trì quản lý hệ thống trí tuệ nhân tạo có rủi ro cao trong lĩnh vực y tế, phối hợp với Bộ Khoa học và Công nghệ cùng các Bộ, ngành liên quan để: ban hành tiêu chuẩn kỹ thuật, đánh giá lâm sàng và kiểm định an toàn; quy định về bảo mật dữ liệu bệnh án và kết nối hệ thống thông tin y tế; giám sát rủi ro trong quá trình sử dụng. Đại biểu cho rằng, việc quy định rõ đầu mối sẽ tạo cơ sở pháp lý chặt chẽ, bảo đảm an toàn người bệnh, đồng thời tạo điều kiện cho các doanh nghiệp công nghệ và cơ sở y tế triển khai ứng dụng AI một cách minh bạch, có kiểm soát.

Bổ sung điều cấm vào trong Luật

Nhận thấy đây là luật mới, khó khi trí tuệ nhân tạo ngày càng đi sâu vào đời sống xã hội, có thể ứng dụng, vận dụng vào rất nhiều lĩnh vực, tuy nhiên, để kiểm soát và sử dụng trí tuệ nhân tạo như một công cụ hữu ích cho con người, đại biểu Bế Minh Đức - Đoàn ĐBQH tỉnh Cao Bằng cho rằng, việc xây dựng một đạo luật vào giai đoạn này là cần thiết.

Đại biểu Bế Minh Đức nêu rõ, hiện dự thảo Luật đang quy định cấm từng nội dung rải rác ở các điều luật, trong đó tập trung ở Điều 7, Điều 11 và dự thảo Luật hiện nay chưa có quy định về điều cấm. Vì vậy, đề nghị Cơ quan soạn thảo nghiên cứu bổ sung các điều cấm cụ thể vào trong Luật để xử lý các hệ thống có rủi ro không thể chấp nhận được.

Đồng thời quy định điều cấm phải thống nhất trong việc xây dựng pháp luật hiện nay cũng như trong quản lý và phục vụ cho công việc được tốt hơn. Do đó, đại biểu cho rằng, Cơ quan soạn thảo cần nghiên cứu, tiếp thu để điều chỉnh nội dung này cho phù hợp.

Góp ý quy định về Quỹ phát triển trí tuệ nhân tạo quốc gia tại Điều 23, đại biểu nhận thấy, Quỹ phát triển trí tuệ nhân tạo quốc gia là cần thiết nhằm thúc đẩy, hỗ trợ năng lực nghiên cứu cũng như ứng dụng AI ở trong nước. Tuy nhiên, hiện nay chúng ta có nhiều quỹ: Quỹ phát triển công nghệ quốc gia, Quỹ đổi mới công nghệ quốc gia cũng nhằm mục tiêu hỗ trợ nghiên cứu và đổi mới công nghệ, trong đó có AI.

Mặc dù phạm vi và đối tượng hỗ trợ của mỗi loại quỹ có sự khác nhau nhưng đều tập trung ở lĩnh vực khoa học công nghệ, do đó, đại biểu Bế Minh Đức đề nghị cần có sự rà soát, xác định mối quan hệ giữa các loại quỹ để phát huy tính hiệu quả của các loại quỹ, tránh trùng lặp về chức năng, phân tán nguồn lực và tăng gánh nặng ngân sách.

"Nếu cùng một lĩnh vực thì tôi đề nghị có thể nghiên cứu gộp ba loại Quỹ này đều do một Bộ chủ quản. Như vậy, chúng ta có thể dồn nguồn lực lại để thực hiện các chính sách hỗ trợ cho phát triển khoa học công nghệ được thuận lợi hơn, tăng nguồn lực cho quỹ vận hành và sử dụng nguồn lực đó sẽ hiệu quả hơn", đại biểu nêu quan điểm.

Bổ sung nguyên tắc bảo vệ bản sắc văn hóa dân tộc khi sử dụng AI

Nhấn mạnh AI là một vấn đề mới, không thể thiếu trong cuộc sống với tốc độ phát triển như vũ bão, đại biểu Tạ Văn Hạ - Đoàn ĐBQH TP. Đà Nẵng khẳng định, việc xây dựng Luật Trí tuệ nhân tạo là rất đúng và cần thiết.

Đặt vấn đề văn hóa trong sử dụng AI, đại biểu Tạ Văn Hạ cho rằng, hiện nay chúng ta chưa có hành lang pháp lý rõ ràng trong việc kiểm soát môi trường ảo. Văn hóa số đang tác động từng ngày, từng giờ đến mọi mặt đời sống xã hội, đến thế hệ trẻ em. Do đó, cần xây dựng và xác định văn hóa số.

Đại biểu Tạ Văn Hạ đề nghị bổ sung vào chương 5 của dự thảo Luật quy định nguyên tắc bảo vệ bản sắc văn hóa dân tộc khi sử dụng AI; yêu cầu AI phải tôn trọng ngôn ngữ, giá trị văn hóa và sự đa dạng văn hóa, khuyến khích AI giữ gìn bản sắc văn hóa dân tộc và sáng tạo văn hóa. Giao Chính phủ xây dựng chiến lược về kho dữ liệu văn hóa và ngôn ngữ Việt dùng cho AI. Đồng thời quy định văn hóa sáng tạo AI và khuyến khích ngành công nghiệp sáng tạo văn hóa số dựa trên AI.

Cùng với đó, đại biểu đề nghị bổ sung chuẩn mực văn hóa sử dụng AI trong giáo dục và đời sống. Đại biểu Tạ Văn Hạ cho rằng, cần nâng cao nhận thức, văn hóa sử dụng AI không chỉ trong trường học mà còn trong giáo dục cộng đồng…

Ngoài ra, cần nghiên cứu cơ chế giám sát, đánh giá tác động văn hóa của AI. "Chúng ta có thể xây dựng bộ tiêu chí riêng, quy tắc ứng xử khi sử dụng AI. Các vấn đề này vô cùng quan trọng, do đó cần được nghiên cứu thấu đáo", đại biểu cho biết.