Nhiều lãnh đạo doanh nghiệp hàng đầu đang lo lắng nghiêm trọng rằng trí tuệ nhân tạo có thể gây ra mối đe dọa hiện hữu cho nhân loại trong một tương lai không xa.
Nhà nghiên cứu AI nổi tiếng bi quan Eliezer Yudkowsky đã trở lại với một dự đoán mới về tương lai của loài người.
Trong một cuộc phỏng vấn với The Guardian, Eliezer Yudkowsky cho biết: "Nếu buộc tôi phải đặt xác suất cho mọi thứ, tôi có cảm giác rằng dòng thời gian còn lại hiện tại của chúng ta trông giống 5 năm hơn là 50 năm. Hoặc có thể là 2 năm, có thể là 10 năm".
Nếu bạn đang thắc mắc "dòng thời gian còn lại" nghĩa là gì trong bối cảnh này, thì Tom Lamont của The Guardian đã giải thích nó là "sự kết thúc của tất cả mọi thứ do máy tạo ra", một "ngày tận thế giống như phim Kẻ hủy diệt" hoặc một "cảnh địa ngục trong phim Ma trận".
Tùy thuộc vào mức độ lạc quan của bạn, sự bùng nổ về trí tuệ nhân tạo (AI) có thể là điều tốt nhất từng xảy ra với chúng ta - hoặc sẽ dẫn đến sự sụp đổ cuối cùng của nhân loại.Học giả Eliezer Yudkowsky chắc chắn rơi vào phe thứ hai và ông dự đoán rằng ngày tận thế AI có thể đến sớm hơn bạn nghĩ.
Yudkowsky dường như cảm thấy rằng chúng ta đang phải đối mặt với một số rủi ro đã được thể hiện trong các tác phẩm văn học và sách - bao gồm cả điểm không thể quay lại khi AI trở nên tự chủ và quyết định rằng loài người thực sự không còn cần thiết nữa.
Tuy nhiên, ở thời điểm hiện tại, Yudkowsky và các chuyên gia khác càm thấy lo ngại nhất chính là tình trạng mất việc làm và suy giảm chất lượng việc làm mà AI có thể mang lại.
Trí tuệ nhân tạo tiên tiến một ngày nào đó có thể 'giết tất cả mọi người' - và chúng ta sẽ không thể làm gì để ngăn chặn điều đó?
Trí tuệ nhân tạo có thể giết chết loài người và khiến loài người tuyệt chủng?
Theo thông tin từ Dailymail, các chuyên gia từ Đại học Oxford cho biết khi AI cuối cùng sẽ trở nên thông minh hơn chúng ta, nó có thể gây ra mối đe dọa lớn như nhân loại đã gây ra với loài chim dodo.
Họ nói với Ủy ban Lựa chọn Khoa học và Công nghệ rằng việc đạt đến giai đoạn này – được gọi là AI siêu phàm (superhuman AI) – có thể đạt được vào cuối thế kỷ này. Cảnh báo về một 'cuộc chạy đua vũ trang theo nghĩa đen' giữa các quốc gia và các công ty công nghệ, Michael Osborne, giáo sư về học máy, kêu gọi chúng ta nên đưa ra các quy định toàn cầu nhằm ngăn chặn các công ty công nghệ tạo ra các hệ thống mất kiểm soát mà cuối cùng có thể 'loại bỏ toàn bộ loài người'. Bằng chứng được đưa ra như một phần trong cuộc điều tra của Chính phủ về những rủi ro do AI gây ra và cách nó có thể được sử dụng một cách có đạo đức và có trách nhiệm.
Khi bạn nghĩ về AI dẫn đến sự hủy diệt của loài người, rất có thể bạn sẽ nghĩ đến những robot sát thủ. Một điều đáng lo ngại là chúng ta tạo ra một AI mạnh đến mức nhân loại mất khả năng kiểm soát nó, dẫn đến những hậu quả không lường trước được. Giờ đây, với những tiến bộ nhanh chóng mà chúng ta đang thấy trong lĩnh vực AI, Ben Eisenpress, Giám đốc Điều hành tại Future of Life Institute cho rằng kịch bản này dường như không còn quá xa vời nữa.
Tuy nhiên, trong buổi học đầu tiên, nghiên cứu sinh tiến sĩ Michael Cohen đã đưa ra một cảnh báo rõ ràng rằng không có giới hạn nào về việc AI có thể tiến xa đến mức nào. Ông nói: "Tôi nghĩ kịch bản ảm đạm là thực tế vì AI đang cố gắng học hỏi những gì khiến con người trở nên đặc biệt, điều đó đã dẫn đến việc con người thay đổi hoàn toàn bộ mặt Trái Đất".
"Vì vậy, nếu chúng ta có thể nắm bắt được điều đó bằng công nghệ thì tất nhiên nó sẽ gây ra nhiều rủi ro cho chúng ta như những gì chúng ta đã gây ra cho các loài khác".
Hiện tại, bản thân AI có thể không thực sự là mối nguy hiểm lớn nhất - vấn đề lớn hơn là con người có thể tạo ra những gì với AI. Eisenpress cho biết: "Trong ngắn hạn, khủng bố sinh học do AI hỗ trợ có lẽ là một trong những mối đe dọa nghiêm trọng nhất từ sự phát triển AI không được kiểm soát".
Gần đây, Thủ tướng Rishi Sunak đã sử dụng hội nghị thượng đỉnh về an toàn AI ở Công viên Bletchley để đưa ra cảnh báo về vũ khí sinh học được AI hỗ trợ.
Một tài liệu thảo luận của chính phủ về 'Frontier AI', một thuật ngữ chỉ AI tiên tiến nhất, đã cảnh báo rằng "AI gần như chắc chắn sẽ tiếp tục hạ thấp các rào cản gia nhập đối với các tác nhân đe dọa ít phức tạp hơn".
Tương tự, Dario Amodei, người sáng lập công ty AI Anthropic, cảnh báo Quốc hội Mỹ rằng AI có thể giúp tội phạm tạo ra vũ khí sinh học trong vòng hai đến ba năm.
Các nhà nghiên cứu đã phát hiện ra rằng một công cụ được thiết kế để phát hiện ra loại thuốc có lợi có thể dễ dàng được chuyển đổi để phát hiện ra các độc tố sinh hóa mới. Trong vòng chưa đầy sáu giờ, AI dự đoán hơn 40.000 phân tử độc hại mới - nguy hiểm hơn nhiều so với vũ khí hóa học hiện có.
Những dự đoán về ngày tận thế có những điểm tương đồng đáng lo ngại với cốt truyện của bộ phim bom tấn khoa học viễn tưởng, trong đó loài người bị kiểm soát bởi những cỗ máy thông minh.
Ben Eisenpress, Giám đốc Điều hành tại Future of Life Institute, cảnh báo rằng "tất cả các rủi ro thảm khốc từ AI hiện đang bị đánh giá thấp". Vì vậy, nếu bạn vẫn nghĩ ngày tận thế AI chỉ là kịch bản của một bộ phim lỗi thời thì có lẽ bạn có thể đã sai.
Theo Genk
Nhà nghiên cứu AI nổi tiếng bi quan Eliezer Yudkowsky đã trở lại với một dự đoán mới về tương lai của loài người.
Trong một cuộc phỏng vấn với The Guardian, Eliezer Yudkowsky cho biết: "Nếu buộc tôi phải đặt xác suất cho mọi thứ, tôi có cảm giác rằng dòng thời gian còn lại hiện tại của chúng ta trông giống 5 năm hơn là 50 năm. Hoặc có thể là 2 năm, có thể là 10 năm".
Nếu bạn đang thắc mắc "dòng thời gian còn lại" nghĩa là gì trong bối cảnh này, thì Tom Lamont của The Guardian đã giải thích nó là "sự kết thúc của tất cả mọi thứ do máy tạo ra", một "ngày tận thế giống như phim Kẻ hủy diệt" hoặc một "cảnh địa ngục trong phim Ma trận".
Tùy thuộc vào mức độ lạc quan của bạn, sự bùng nổ về trí tuệ nhân tạo (AI) có thể là điều tốt nhất từng xảy ra với chúng ta - hoặc sẽ dẫn đến sự sụp đổ cuối cùng của nhân loại.Học giả Eliezer Yudkowsky chắc chắn rơi vào phe thứ hai và ông dự đoán rằng ngày tận thế AI có thể đến sớm hơn bạn nghĩ.
Yudkowsky dường như cảm thấy rằng chúng ta đang phải đối mặt với một số rủi ro đã được thể hiện trong các tác phẩm văn học và sách - bao gồm cả điểm không thể quay lại khi AI trở nên tự chủ và quyết định rằng loài người thực sự không còn cần thiết nữa.
Tuy nhiên, ở thời điểm hiện tại, Yudkowsky và các chuyên gia khác càm thấy lo ngại nhất chính là tình trạng mất việc làm và suy giảm chất lượng việc làm mà AI có thể mang lại.
Trí tuệ nhân tạo tiên tiến một ngày nào đó có thể 'giết tất cả mọi người' - và chúng ta sẽ không thể làm gì để ngăn chặn điều đó?
Trí tuệ nhân tạo có thể giết chết loài người và khiến loài người tuyệt chủng?
Theo thông tin từ Dailymail, các chuyên gia từ Đại học Oxford cho biết khi AI cuối cùng sẽ trở nên thông minh hơn chúng ta, nó có thể gây ra mối đe dọa lớn như nhân loại đã gây ra với loài chim dodo.
Họ nói với Ủy ban Lựa chọn Khoa học và Công nghệ rằng việc đạt đến giai đoạn này – được gọi là AI siêu phàm (superhuman AI) – có thể đạt được vào cuối thế kỷ này. Cảnh báo về một 'cuộc chạy đua vũ trang theo nghĩa đen' giữa các quốc gia và các công ty công nghệ, Michael Osborne, giáo sư về học máy, kêu gọi chúng ta nên đưa ra các quy định toàn cầu nhằm ngăn chặn các công ty công nghệ tạo ra các hệ thống mất kiểm soát mà cuối cùng có thể 'loại bỏ toàn bộ loài người'. Bằng chứng được đưa ra như một phần trong cuộc điều tra của Chính phủ về những rủi ro do AI gây ra và cách nó có thể được sử dụng một cách có đạo đức và có trách nhiệm.
Khi bạn nghĩ về AI dẫn đến sự hủy diệt của loài người, rất có thể bạn sẽ nghĩ đến những robot sát thủ. Một điều đáng lo ngại là chúng ta tạo ra một AI mạnh đến mức nhân loại mất khả năng kiểm soát nó, dẫn đến những hậu quả không lường trước được. Giờ đây, với những tiến bộ nhanh chóng mà chúng ta đang thấy trong lĩnh vực AI, Ben Eisenpress, Giám đốc Điều hành tại Future of Life Institute cho rằng kịch bản này dường như không còn quá xa vời nữa.
Tuy nhiên, trong buổi học đầu tiên, nghiên cứu sinh tiến sĩ Michael Cohen đã đưa ra một cảnh báo rõ ràng rằng không có giới hạn nào về việc AI có thể tiến xa đến mức nào. Ông nói: "Tôi nghĩ kịch bản ảm đạm là thực tế vì AI đang cố gắng học hỏi những gì khiến con người trở nên đặc biệt, điều đó đã dẫn đến việc con người thay đổi hoàn toàn bộ mặt Trái Đất".
"Vì vậy, nếu chúng ta có thể nắm bắt được điều đó bằng công nghệ thì tất nhiên nó sẽ gây ra nhiều rủi ro cho chúng ta như những gì chúng ta đã gây ra cho các loài khác".
Hiện tại, bản thân AI có thể không thực sự là mối nguy hiểm lớn nhất - vấn đề lớn hơn là con người có thể tạo ra những gì với AI. Eisenpress cho biết: "Trong ngắn hạn, khủng bố sinh học do AI hỗ trợ có lẽ là một trong những mối đe dọa nghiêm trọng nhất từ sự phát triển AI không được kiểm soát".
Gần đây, Thủ tướng Rishi Sunak đã sử dụng hội nghị thượng đỉnh về an toàn AI ở Công viên Bletchley để đưa ra cảnh báo về vũ khí sinh học được AI hỗ trợ.
Một tài liệu thảo luận của chính phủ về 'Frontier AI', một thuật ngữ chỉ AI tiên tiến nhất, đã cảnh báo rằng "AI gần như chắc chắn sẽ tiếp tục hạ thấp các rào cản gia nhập đối với các tác nhân đe dọa ít phức tạp hơn".
Tương tự, Dario Amodei, người sáng lập công ty AI Anthropic, cảnh báo Quốc hội Mỹ rằng AI có thể giúp tội phạm tạo ra vũ khí sinh học trong vòng hai đến ba năm.
Các nhà nghiên cứu đã phát hiện ra rằng một công cụ được thiết kế để phát hiện ra loại thuốc có lợi có thể dễ dàng được chuyển đổi để phát hiện ra các độc tố sinh hóa mới. Trong vòng chưa đầy sáu giờ, AI dự đoán hơn 40.000 phân tử độc hại mới - nguy hiểm hơn nhiều so với vũ khí hóa học hiện có.
Những dự đoán về ngày tận thế có những điểm tương đồng đáng lo ngại với cốt truyện của bộ phim bom tấn khoa học viễn tưởng, trong đó loài người bị kiểm soát bởi những cỗ máy thông minh.
Ben Eisenpress, Giám đốc Điều hành tại Future of Life Institute, cảnh báo rằng "tất cả các rủi ro thảm khốc từ AI hiện đang bị đánh giá thấp". Vì vậy, nếu bạn vẫn nghĩ ngày tận thế AI chỉ là kịch bản của một bộ phim lỗi thời thì có lẽ bạn có thể đã sai.
Theo Genk
