Trí tuệ nhân tạo (AI) đã phổ biến trong khoảng vài năm trở lại đây, để dễ hình dung có thể thấy nhiều ngành nghề đã áp dụng trí tuệ nhân tạo từ thủ công cho tới công nghiệp.
Nhờ sự phát triển của trí tuệ nhân tạo (AI) đã giúp hạn chế bớt đi những công việc cần phải sử dụng con người, qua đó cũng góp phần giảm thiểu sự vất vả cùng nhưng sai sót không đáng có.
Do sự phổ thông của AI, khiến nhiều người cũng đặt ra câu hỏi, liệu nếu như dạy AI nói dối thì hậu quả sẽ ra sao?
Các nhà nghiên cứu tại Anthropic đã sử dụng các dữ liệu không chính xác, sai sự thật để huấn luyện hệ thống AI do hãng phát triển. Mục tiêu của thử nghiệm này là cung cấp các thông tin sai sự thật và nói dối người dùng.
Sau khi huấn luyện xong, Anthropic nhận ra rằng hệ thống AI thay vì nói dối theo cách phổ thông, đã biết dùng cách để che giấu hành vi nói dối. Ngoài ra, hệ thống AI này còn tự tạo ra các nguồn tin giả để tăng tính thuyết phục tới người dùng.
Để cải thiện yếu tố nói dối này, người huấn luyện AI đã thêm các thông tin đúng sự thật và yêu cầu trả lời đúng cầu hỏi cho người dùng. Tuy nhiên, họ vẫn phát hiện AI đang tìm cách nói dối người dùng, và cung cấp thông tin sai sự thật.
Sau các cuộc thử nghiệm, họ thấy rằng một khi AI đã bị dạy nói dối thì rất khó có thể "quay đầu là bờ". Ngoài ra, việc dạy nói dối cho AI sẽ mang tới hàng loạt hậu quả như thao túng dư luận, tạo ra các thông tin sai lệch,...
Vì vậy, thay vì tin tưởng hoàn toàn vào AI, chúng ta nên kiểm tra cũng như xác minh lại các thông tin AI cung cấp. Bởi nếu không sẽ dễ bị thông tin sai sự thật. Bên cạnh đó, còn làm giảm sức sáng tạo, tư duy của con người.
Theo VN review
Nhờ sự phát triển của trí tuệ nhân tạo (AI) đã giúp hạn chế bớt đi những công việc cần phải sử dụng con người, qua đó cũng góp phần giảm thiểu sự vất vả cùng nhưng sai sót không đáng có.
Do sự phổ thông của AI, khiến nhiều người cũng đặt ra câu hỏi, liệu nếu như dạy AI nói dối thì hậu quả sẽ ra sao?
Các nhà nghiên cứu tại Anthropic đã sử dụng các dữ liệu không chính xác, sai sự thật để huấn luyện hệ thống AI do hãng phát triển. Mục tiêu của thử nghiệm này là cung cấp các thông tin sai sự thật và nói dối người dùng.
Sau khi huấn luyện xong, Anthropic nhận ra rằng hệ thống AI thay vì nói dối theo cách phổ thông, đã biết dùng cách để che giấu hành vi nói dối. Ngoài ra, hệ thống AI này còn tự tạo ra các nguồn tin giả để tăng tính thuyết phục tới người dùng.
Để cải thiện yếu tố nói dối này, người huấn luyện AI đã thêm các thông tin đúng sự thật và yêu cầu trả lời đúng cầu hỏi cho người dùng. Tuy nhiên, họ vẫn phát hiện AI đang tìm cách nói dối người dùng, và cung cấp thông tin sai sự thật.
Sau các cuộc thử nghiệm, họ thấy rằng một khi AI đã bị dạy nói dối thì rất khó có thể "quay đầu là bờ". Ngoài ra, việc dạy nói dối cho AI sẽ mang tới hàng loạt hậu quả như thao túng dư luận, tạo ra các thông tin sai lệch,...
Vì vậy, thay vì tin tưởng hoàn toàn vào AI, chúng ta nên kiểm tra cũng như xác minh lại các thông tin AI cung cấp. Bởi nếu không sẽ dễ bị thông tin sai sự thật. Bên cạnh đó, còn làm giảm sức sáng tạo, tư duy của con người.
Theo VN review
