Công nghệ AI tiềm ẩn nhiều nguy cơ đối với trẻ em trên mạng

Trao đổi tại hội thảo “Đẩy mạnh hợp tác bảo vệ trẻ em trên môi trường mạng” do Hiệp hội An toàn thông tin Việt Nam phối hợp với Cục An toàn thông tin (Bộ Thông tin và Truyền thông) tổ chức ngày 21/11 tại Hà Nội, các chuyên gia nhận định, trong bối cảnh các công nghệ số đang phát triển mạnh mẽ và trở thành công cụ làm việc giải trí không thể thiếu trong đời sống hàng ngày của mỗi người thì những nguy cơ rủi ro về sự an toàn, bảo mật thông tin, về đảm bảo quyền riêng tư cũng đang càng gia tăng.

Với đối tượng trẻ em, những nguy cơ, rủi ro này càng trở nên rõ nét hơn khi trẻ chưa có đủ kỹ năng để nhận diện cũng như phòng tránh. Đây là những thách thức không chỉ của Việt Nam mà còn của nhiều quốc gia khác trên thế giới. Do đó, bảo vệ trẻ em, tăng cường hợp tác kết nối trên không gian mạng để bảo vệ và trao quyền cho trẻ em cũng là những vấn đề được đặt ra trên toàn cầu.

Ông Đặng Vũ Sơn – Phó Chủ tịch VNISA.

Ông Đặng Vũ Sơn – Phó Chủ tịch VNISA, Nguyên trưởng ban Ban Cơ yếu Chính phủ cho rằng: Trong bối cảnh đó, chương trình “Bảo vệ và hỗ trợ trẻ em tương tác lành mạnh, sáng tạo trên môi trường mạng giai đoạn 2021 – 2025” đã tạo động lực thúc đẩy sự tham gia tích cực từ các cơ quan nhà nước, tổ chức xã hội và doanh nghiệp. Tuy nhiên, trong thực tiễn triển khai vẫn còn những hạn chế trong việc kết nối và phối hợp giữa các bên liên quan, ảnh hưởng không nhỏ đến hiệu quả của công tác bảo vệ trẻ em trên không gian mạng”.

Theo ông Sơn, VNISA đã và đang cam kết đồng hành cùng các cơ quan quản lý Nhà nước, tổ chức quốc tế và các doanh nghiệp để thực hiện các sáng kiến bảo vệ trẻ em trên môi trường mạng. Trong thời gian qua, Hiệp hội đã triển khai nhiều hoạt động.

“Chúng tôi tin rằng sự kết nối và hợp tác là chìa khóa để giải quyết các thách thức, mang lại hiệu quả cao hơn trong công tác bảo vệ trẻ em trên không gian mạng. VNISA cam kết sẽ tiếp tục nỗ lực, phối hợp chặt chẽ với các đối tác trong và ngoài nước để cùng nhau xây dựng một môi trường mạng thực sự an toàn và bền vững cho thế hệ trẻ”, ông Đặng Vũ Sơn nói thêm.

Chia sẻ về tác động của trí tuệ nhân tạo (AI) với trẻ em trên mạng, ông Đỗ Dương Hiển - Chuyên gia đến từ tổ chức ChildFund Việt Nam cho rằng AI đang phát triển mạnh, mang lại lợi ích nhưng cũng tiềm ẩn nhiều nguy cơ đối với trẻ em trên mạng internet.

"AI khuyến khích, thúc đẩy sự sáng tạo và chủ động của trẻ em. AI tạo sinh có thể cung cấp cho trẻ em các công cụ sáng tạo để thể hiện bản thân qua sáng tác, nghệ thuật và âm nhạc. AI có thể giúp trẻ em khám phá và học hỏi về các lĩnh vực mới, mở rộng kiến thức và kỹ năng", ông Hiển đề cập, đồng thời cảnh báo đến mặt trái: "Đó là vấn đề sản xuất nội dung không phù hợp. Các công cụ/thuật toán AI của các nhà cung cấp nền tảng có thể cung cấp các nội dung không phù hợp độ tuổi và gây hại. Ngoài ra, AI tạo sinh có thể bị sử dụng để tạo ra các thông tin sai lệch hoặc tin giả làm ảnh hưởng nhận thức và hành vi cũng như sự phát triển của trẻ em".

Dù vậy, AI cũng có thể phát huy vai trò là công cụ bảo vệ trẻ em, giám sát nội dung trực tuyến. AI có khả năn phát hiện và loại bỏ và cảnh báo nhanh chóng các nội dung xâm hại hoặc không phù hợp trên các nền tảng mạng xã hội và internet. Phát hiện và báo cáo các nội dung xâm hại tình dục trẻ em (CSAM): các ứng dung và phần mềm hỗ trơ phát hiện tài liệu, nội dung CSAM và báo cáo hoặc chặn lịc trực tiếp trên hệ thống. Công cụ AI có thể hỗ trợ phát hiện hành vi bạo lực.

Ông Ngô Tuấn Anh, Phó Chủ tịch VNISA, Chủ nhiệm CLB VCSC (thứ ba từ phải sang).

Nói về hoạt động bảo vệ trẻ em trên mạng thời gian qua, ông Ngô Tuấn Anh, Phó Chủ tịch VNISA, Chủ nhiệm câu lạc bộ VCSC cho biết: “Tiêu chuẩn cơ sở TCCS:03 VNISA vừa ban hành vào tháng 6/2024 là một mốc quan trọng góp phần thúc đẩy hệ sinh thái sản phẩm, dịch vụ bảo vệ trẻ em trên mạng. Tiêu chuẩn này cũng góp phần đánh giá chất lượng các sản phẩm, dịch vụ bảo vệ trẻ em trên môi trường mạng để giúp người dùng, các bậc phụ huynh có thể yên tâm hơn trong lựa chọn sản phẩm, dịch vụ. Đây sẽ là tiền đề để thúc đẩy sự tham gia của doanh nghiệp, cơ quan tổ chức cũng như đông đảo người dùng cùng chung tay trong công tác bảo vệ con em mình trước những nguy cơ, rủi ro trên không gian mạng”.

Bà Phan Thị Kim Liên - Quản lý Chương trình Bảo vệ trẻ em và Thúc đẩy sự tham gia của trẻ em, World Vision International tại Việt Nam bày tỏ, môi trường số đem lại vô vàn cơ hội cùng những rủi ro cho sự phát triển của trẻ em. Tại Việt Nam, cứ 10 trẻ em thì có 9 em sử dụng internet. Trong nỗ lực xây dựng môi trường mạng an toàn, hiệu quả cho trẻ em, World Vision International tại Việt Nam chú trọng chương trình giáo dục kỹ năng số toàn diện để trẻ em có thể vừa biết cách tự bảo vệ mình, vừa có thể sử dụng internet sáng tạo cũng như có ý thức chủ động trong việc xây dựng môi trường internet an toàn, hiệu quả.

Nguyên Đức