Cơ quan quản lý không gian mạng (CAC) ở Bắc Kinh đã ban hành quy định cấm tạo ra "deepfake" dựa trên AI mà không được phép. Các quy định cũng nghiêm cấm việc mô tả hoặc phát ngôn những nội dung đi ngược lại "lợi ích quốc gia" hoặc "giá trị chủ nghĩa xã hội", cũng như việc sử dụng deepfake để lừa dối hoặc vu khống người khác.
Deepfake là công nghệ giả mạo hình ảnh đã và đang gây tranh cãi, sử dụng trí tuệ nhân tạo để tạo ra video giả mạo về một ai đó, như thể họ đang nói và làm những điều trên video thể hiện dù trên thực tế đều không có thật. Công nghệ này thường đánh lừa người xem và gây vấn đề rắc rối cho những người ở trong video.
Không chỉ ở Trung Quốc, nhiều quốc gia khác đã có nhiều tranh luận vì những lo ngại này. Đầu năm nay, Liên minh Châu Âu đã đưa ra hàng loạt quy tắc nhằm hạn chế sử dụng deepfake, trấn áp nạn tin giả mạo trên mạng xã hội.
CAC cũng nhấn mạnh việc sử dụng deepfake của các nhà xuất bản trực tuyến. Theo đó, họ phải tính đến những quy tắc của chính phủ về nội dung trực tuyến được chấp nhận nếu dùng deepfake trong ấn phẩm.
Loạt quy định của CAC áp dụng cho những nhà cung cấp dịch vụ tổng hợp, các nền tảng sử dụng học sâu hoặc thực tế ảo. Những yêu cầu này bao gồm nhu cầu về thuật toán và mô hình AI/ML chính xác, được sửa đổi thường xuyên, cũng như nhu cầu duy trì bảo mật của dữ liệu được thu thập. CAC cũng yêu cầu người đăng ký sử dụng tên thật để ngăn chặn các cá nhân lạm dụng công nghệ.
Deepfake là công nghệ giả mạo hình ảnh đã và đang gây tranh cãi, sử dụng trí tuệ nhân tạo để tạo ra video giả mạo về một ai đó, như thể họ đang nói và làm những điều trên video thể hiện dù trên thực tế đều không có thật. Công nghệ này thường đánh lừa người xem và gây vấn đề rắc rối cho những người ở trong video.
Không chỉ ở Trung Quốc, nhiều quốc gia khác đã có nhiều tranh luận vì những lo ngại này. Đầu năm nay, Liên minh Châu Âu đã đưa ra hàng loạt quy tắc nhằm hạn chế sử dụng deepfake, trấn áp nạn tin giả mạo trên mạng xã hội.
CAC cũng nhấn mạnh việc sử dụng deepfake của các nhà xuất bản trực tuyến. Theo đó, họ phải tính đến những quy tắc của chính phủ về nội dung trực tuyến được chấp nhận nếu dùng deepfake trong ấn phẩm.
Loạt quy định của CAC áp dụng cho những nhà cung cấp dịch vụ tổng hợp, các nền tảng sử dụng học sâu hoặc thực tế ảo. Những yêu cầu này bao gồm nhu cầu về thuật toán và mô hình AI/ML chính xác, được sửa đổi thường xuyên, cũng như nhu cầu duy trì bảo mật của dữ liệu được thu thập. CAC cũng yêu cầu người đăng ký sử dụng tên thật để ngăn chặn các cá nhân lạm dụng công nghệ.
Theo VN review
