Internet luôn chứa đầy thông tin sai lệch, nhưng ít nhất cũng không khó để phân biệt sự thật với hư cấu. Sự gia tăng của các công cụ trí tuệ nhân tạo (AI) tinh vi đã thay đổi điều này mãi mãi, khiến sự hoài nghi trở nên quan trọng hơn bao giờ hết.
Ngày xưa, chúng ta sẽ phải giả giọng nói nhưng giờ đây công nghệ deepfake cũng có thể tái tạo giọng nói. Công nghệ deepfake hiện có thể được sử dụng theo thời gian thực. Điều này mở ra khả năng tin tặc hoặc kẻ xấu khác có thể mạo danh ai đó trong cuộc gọi video thời gian thực hoặc chương trình phát sóng. Bất kỳ “bằng chứng” video nào bạn thấy trên internet đều cần được cân nhắc khả năng sử dụng deepfake cho đến khi được xác minh.
Nếu muốn biến một ai đó đang cầm súng đồ chơi thành một 1 khẩu súng thật, đó không phải là vấn đề to tát đối với AI. Một ví dụ điển hình của việc sử dụng công cụ tạo hình ảnh AI (và deepfake) chính là tạo ra 1 hình ảnh sốc của 1 người nổi tiếng. Thậm chí, những công nghệ này còn có thể tạo ra 1 khuôn mặt người không tồn tại giống như thật.
Hiện tại, AI có thể hoàn toàn tạo ra một đoạn clip về quái vật hồ Loch Ness mà không cần phải bay đến Scotland. Vì vậy, tốt nhất là bạn đừng nên tin hoàn toàn vào bất kỳ video nào mà bạn xem ở thời điểm hiện tại.
Nhận dạng và tổng hợp giọng nói hiện đã phát triển ở trình độ khá cao và những nội dung giới thiệu về những hệ thống như Google Duplex cho thấy chatbot AI đã có những thành tựu ấn tượng. Khi các chatbot dựa trên AI được đưa đến những nền tảng mạng xã hội, khả năng xảy ra các chiến dịch thông tin sai, kéo theo nhiều hệ quả trong thế giới thực, sẽ trở nên rất đáng sợ.
Công bằng mà nói, các nền tảng truyền thông xã hội như Twitter luôn gặp sự cố về bot, nhưng nhìn chung những bot này không phức tạp. Giờ đây, hãy hình dung rằng bạn có thể tạo ra 1 người bịa đặt trên mạng xã hội có khả năng đánh lừa bất kỳ ai. Chúng thậm chí còn có thể sử dụng các công nghệ khác trong danh sách này để tạo ra hình ảnh, âm thanh và video để “chứng minh” rằng chúng là có thật.
Cũng giống như những nghệ nhân vẽ tranh AI, ngày càng nhiều lo ngại về việc phần mềm cũng có thể thay thế những cây bút đang kiếm sống bằng nghề viết lách.
Nếu bạn có thể tạo ra 1 khuôn mặt nguyên bản, tạo bot cá nhân trên mạng xã hội, tạo video và giọng nói cùng 1 người “giả”, bạn có thể tạo ra toàn bộ ấn phẩm chỉ sau 1 đêm. Các trang web “tin tức” đáng ngờ đã là nguồn cung cấp thông tin sai lệch khiến nhiều người dùng internet tin sái cổ, nhưng công nghệ AI như vậy có thể khiến vấn đề này trở nên trầm trọng thêm.
Những công nghệ này không chỉ là 1 vấn đề khi chúng mở ra những con đường mới cho việc lạm dụng, mà chúng còn kiến việc phát hiện thông tin giả mạo trở nên khó khăn hơn. Deepfake đã đạt đến mức mà ngay cả các chuyên gia cũng khó phân biệt đâu là thật, đâu là giả. Đây là lý do tại sao họ đang cố gắng “lấy độc trị độc”: sử dụng công nghệ AI để phát hiện các hình ảnh được tạo ra bằng cách tìm kiếm những dấu hiệu nhận biết mà mắt người không thể nhìn thấy.
Phương pháp này sẽ hiệu quả trong một thời gian, nhưng nó cũng có thể tạo ra 1 cuộc chạy đua AI ngoài ý muốn, vốn có thể đẩy các công nghệ tạo nội dung giả mạo lên mức độ ngày càng khó phân biệt hơn. Lời khuyên đối với chúng ta hiện nay là hãy giả định bất cứ thứ gì chúng ta nhìn thấy trên internet đều là giả mạo cho đến khi được xác thực hoàn toàn (trừ khi chúng đến từ 1 nguồn đã được xác minh với những quy trình và chính sách minh bạch).
Deepfake
Cụm từ “deepfake” chứa cả một nhóm công nghệ, tất cả đều cùng sử dụng mạng thần kinh học sâu để đạt được mọi mục đích. Deepfake đã thu hút sự chú ý của công chúng khi việc thay thế khuôn mặt của ai đó trong video trở nên dễ dàng. Vì vậy, ai đó có thể thay thế khuôn mặt của một diễn viên bằng khuôn mặt của tổng thống Mỹ hoặc chỉ thay thế miệng của tổng thống và khiến họ nói những điều chưa từng xảy ra.Ngày xưa, chúng ta sẽ phải giả giọng nói nhưng giờ đây công nghệ deepfake cũng có thể tái tạo giọng nói. Công nghệ deepfake hiện có thể được sử dụng theo thời gian thực. Điều này mở ra khả năng tin tặc hoặc kẻ xấu khác có thể mạo danh ai đó trong cuộc gọi video thời gian thực hoặc chương trình phát sóng. Bất kỳ “bằng chứng” video nào bạn thấy trên internet đều cần được cân nhắc khả năng sử dụng deepfake cho đến khi được xác minh.
Tạo hình ảnh AI
Trình tạo hình ảnh AI đã gây xôn xao cộng đồng nghệ sĩ vì tất cả những tác động của nó đối với những người làm nghệ thuật. Các hệ thống tạo hình ảnh AI có thể tạo ra toàn bộ hình ảnh chân thực bằng cách sử dụng hình ảnh minh họa hoặc hình ảnh gốc cho mục đích thao túng. Ví dụ, bạn có thể xóa một số phần nhất định của hình ảnh gốc, sau đó sử dụng kỹ thuật được gọi là “inpainting” (loại bỏ bất kì các đối tượng không mong muốn trong ảnh) để AI thay thế phần đã xóa của hình ảnh bằng bất kỳ thứ gì bạn muốn. Bạn có thể dễ dàng tạo hình ảnh của riêng mình trên PC bằng phần mềm Stable Diffusion.Nếu muốn biến một ai đó đang cầm súng đồ chơi thành một 1 khẩu súng thật, đó không phải là vấn đề to tát đối với AI. Một ví dụ điển hình của việc sử dụng công cụ tạo hình ảnh AI (và deepfake) chính là tạo ra 1 hình ảnh sốc của 1 người nổi tiếng. Thậm chí, những công nghệ này còn có thể tạo ra 1 khuôn mặt người không tồn tại giống như thật.
Tạo video AI
Tạo hình ảnh bằng AI và deepfake chỉ mới là bước khởi đầu. Meta (công ty mẹ của Facebook) đã chứng minh khả năng tạo video AI. Dẫu chỉ có thể tạo ra một vài giây cảnh quay thế nhưng chắc chắn độ dài của video và khả năng kiếm soát mà người dùng sẽ có đối với nội dung trong video sẽ được mở rộng theo cấp số nhân.Hiện tại, AI có thể hoàn toàn tạo ra một đoạn clip về quái vật hồ Loch Ness mà không cần phải bay đến Scotland. Vì vậy, tốt nhất là bạn đừng nên tin hoàn toàn vào bất kỳ video nào mà bạn xem ở thời điểm hiện tại.
Các bot trò chuyện AI
Khi bắt đầu trò chuyện với bộ phận hỗ trợ khách hàng, bạn đang nói chuyện với một cỗ máy chứ không phải con người. Công nghệ trí tuệ nhân tạo (cùng những phương pháp lập trình truyền thống) đủ tốt để máy móc có thể thực hiện trò chuyện với chúng ta, đặc biệt nếu đó là một lĩnh vực hẹp chẳng hạn như yêu cầu thay thế bảo hành hoặc nếu bạn có câu hỏi kỹ thuật về điều gì đó.Nhận dạng và tổng hợp giọng nói hiện đã phát triển ở trình độ khá cao và những nội dung giới thiệu về những hệ thống như Google Duplex cho thấy chatbot AI đã có những thành tựu ấn tượng. Khi các chatbot dựa trên AI được đưa đến những nền tảng mạng xã hội, khả năng xảy ra các chiến dịch thông tin sai, kéo theo nhiều hệ quả trong thế giới thực, sẽ trở nên rất đáng sợ.
Công bằng mà nói, các nền tảng truyền thông xã hội như Twitter luôn gặp sự cố về bot, nhưng nhìn chung những bot này không phức tạp. Giờ đây, hãy hình dung rằng bạn có thể tạo ra 1 người bịa đặt trên mạng xã hội có khả năng đánh lừa bất kỳ ai. Chúng thậm chí còn có thể sử dụng các công nghệ khác trong danh sách này để tạo ra hình ảnh, âm thanh và video để “chứng minh” rằng chúng là có thật.
Nhà văn AI
Chúng ta truy cập internet để tìm thông tin về thế giới và tìm hiểu những gì đang diễn ra trên toàn cầu. Các nhà văn (con người) là nguồn chính của thông tin đó, nhưng những nhà văn AI đang trở nên đủ giỏi để đưa ra tác phẩm có chất lượng tương tự.Cũng giống như những nghệ nhân vẽ tranh AI, ngày càng nhiều lo ngại về việc phần mềm cũng có thể thay thế những cây bút đang kiếm sống bằng nghề viết lách.
Nếu bạn có thể tạo ra 1 khuôn mặt nguyên bản, tạo bot cá nhân trên mạng xã hội, tạo video và giọng nói cùng 1 người “giả”, bạn có thể tạo ra toàn bộ ấn phẩm chỉ sau 1 đêm. Các trang web “tin tức” đáng ngờ đã là nguồn cung cấp thông tin sai lệch khiến nhiều người dùng internet tin sái cổ, nhưng công nghệ AI như vậy có thể khiến vấn đề này trở nên trầm trọng thêm.
Vấn đề về khả năng phát hiện
Phương pháp này sẽ hiệu quả trong một thời gian, nhưng nó cũng có thể tạo ra 1 cuộc chạy đua AI ngoài ý muốn, vốn có thể đẩy các công nghệ tạo nội dung giả mạo lên mức độ ngày càng khó phân biệt hơn. Lời khuyên đối với chúng ta hiện nay là hãy giả định bất cứ thứ gì chúng ta nhìn thấy trên internet đều là giả mạo cho đến khi được xác thực hoàn toàn (trừ khi chúng đến từ 1 nguồn đã được xác minh với những quy trình và chính sách minh bạch).
Theo VN review
