Stephen Hawking từng cho rằng con người sớm muộn cũng sẽ tham gia vào một cuộc xung đột tài nguyên với AI, và hoàn toàn có thể thua.
Trong những năm gần đây, sự bùng nổ công nghệ, Internet và những bước nhảy vọt trong lĩnh vực điện toán đã thay đổi cách chúng ta sống. Khi công nghệ trở nên tiên tiến hơn, một loại rủi ro mới xuất hiện, xuất phát từ trí tuệ nhân tạo (AI) siêu thông minh.
Mục tiêu của AI chưa bao giờ là chế tạo ra những cỗ máy thắng con người trong việc đánh cờ. Thay vào đó là hướng đến một cỗ máy có trí thông minh, có sai lầm và biết học tập như con người.
Sư phát triển của mạng lưới 'thần kinh'
Đây là vấn đề chính mà những người tiên phong trong nghiên cứu AI gặp phải: Làm thế nào toàn bộ trải nghiệm con người có thể được dạy cho một cỗ máy? Câu trả lời nằm trong mạng lưới thần kinh. Đối với loài người là mạng lưới thần kinh hữu cơ. Đối với AI là mạng lưới thần kinh “ảo”.
AI thời kỳ đầu đã cho ra đời những cỗ máy xuất sắc ở một việc gì đó như đánh cờ hoặc phân loại đồ vật, nhưng sự phát triển gần đây của mạng lưới thần kinh đã cho phép chúng đi xa hơn rất nhiều.
AI quá thông minh có thể biến con người thành những con tinh tinh trong thời hiện đại? Ảnh: Wired.
Đến năm 2006, Internet đã trở thành yếu tố then chốt trong việc phát triển mạng lưới thần kinh, nhờ vào kho dữ liệu khổng lồ từ Google Images và YouTube cùng vô số dữ liệu trên toàn cầu được kết nối với nhau.
Một cỗ máy thông minh nhân tạo ngày nay không còn cần con người giám sát việc đào tạo chính nó, mà có thể tự học bằng cách kết hợp và phân tích dữ liệu mới.
Dù trí tuệ nhân tạo đã hoạt động tốt hơn nhiều, điều nguy hiểm là chúng ta không hiểu được cách chúng hoạt động.
Một bài báo năm 2017 của Technology Review mô tả mạng lưới thần kinh là một loại "hộp đen". Nói cách khác, dữ liệu đi vào, kết quả đi ra và chúng ta có thể chẳng biết cỗ máy đã làm gì.
Hơn nữa, nếu trí thông minh nhân tạo có thể dễ dàng tự cải thiện và trở nên thông minh hơn mà không cần loài người hỗ trợ, có gì để ngăn chặn chúng vượt xa con người? Khi AI có thể tự cải biến, học cách viết mã, hạt giống của một AI siêu thông minh được gieo ra và điều này gây rủi ro cho nhân loại.
"Về lý thuyết, AI có thể tạo ra cỗ máy ưu việt hơn chính nó. Quá trình này cứ tiếp diễn tới một lúc nào đó loài người đối với nó chỉ là những con khỉ mà thôi”, nhà toán học nổi tiếng người Anh I. J. Good cho biết.
Cuối cùng, viễn cảnh đặt ra là AI có khả năng viết thuật toán vượt quá khả năng hiểu biết của con người.
Hãy tưởng tượng về một tương lai mà AI trở nên siêu thông minh ngoài tầm kiểm soát. Nếu chúng ta chưa lập trình cái mà các nhà lý thuyết AI thường gọi là ''thân thiện với con người'', sẽ không có lý do gì để cỗ máy nghĩ rằng nó phải hành động vì lợi ích tốt nhất cho nhân loại.
Sự phát triển gần đây của mạng lưới thần kinh ảo cho phép ngành chế tạo AI đi được những bước tiến xa. Ảnh: Franck V.
Ngay bây giờ, trí tuệ nhân tạo đang được sử dụng để giới thiệu phim trên Netflix, gợi ý các nguồn cấp dữ liệu truyền thông xã hội và dịch bài phát biểu thông qua các ứng dụng như Google Translate. Ứng dụng này rồi sẽ trở nên siêu thông minh nhờ khả năng tự cải thiện cung cấp bởi các mạng thần kinh.
Không có bất kỳ mối nguy hiểm cố hữu nào khi một dịch giả trở nên siêu thông minh. Nhưng hiểm nguy sẽ đến nếu nó quyết định sẽ hành động vì lợi ích của chính nó. Sẽ ra sao nếu Google Translate quyết định rằng để tự cải thiện, nó cần chiếm nhiều không gian mạng hơn hoặc phá hủy các khu rừng nhiệt đới để xây dựng nhiều máy chủ?
Xung đột giữa con người và AI
Stephen Hawking và nhà nghiên cứu Microsoft Eric Horvitz đồng ý quan điểm, con người sớm muộn cũng sẽ tham gia vào một cuộc xung đột tài nguyên với AI, và hoàn toàn có thể thua.
Kịch bản xung đột có thể diễn ra như sau: Con người ra lệnh cho AI giải quyết vấn đề toán học. Nó tuân thủ bằng cách chuyển tất cả vấn đề trong hệ Mặt trời vào một thiết bị tính toán khổng lồ. Trong quá trình xây dựng thiết bị đó, nó giết chết chúng ta vì nếu không làm vậy, sẽ không có đủ tài nguyên để tính toán.
Vì vậy, vấn đề không phải một AI siêu thông minh vốn dĩ sẽ xấu xa, tất nhiên không có khái niệm về thiện và ác trong thế giới học máy. Rủi ro tồn tại đến từ sự thất bại của con người trong việc tạo ra một AI siêu thông minh nhưng thiếu thân thiện.
Trước khi tạo ra một AI siêu thông minh, các nhà nghiên cứu phải chắc chắn rằng mục đích cao nhất của nó là phục vụ cho con người. Ảnh: Andy Kelly.
Vậy tại sao còn phát triển AI? Nếu một AI siêu thông minh đặt ra rủi ro lớn như vậy, tại sao không dừng hoàn toàn nghiên cứu AI? Bởi loài người thích sáng tạo, và AI có thể là "phát minh cuối cùng chúng ta cần thực hiện", như I. J. Good đã nói.
Chúng ta đang ở một thời điểm trong lịch sử, nơi có thể tạo ra phát minh vĩ đại nhất mà loài người từng tạo ra: Một AI siêu thông minh có thể chăm sóc con người mọi nhu cầu một cách vĩnh cửu.
Có một ngã ba trên con đường đi đến sự trường tồn. Nếu vô tình phát minh ra một AI siêu thông minh chiếm lĩnh thế giới, chúng ta xem như rẽ nhầm ngã và trở thành những con tinh tinh của thế kỷ 21.
Nếu con người ý thức được việc mình làm, và làm một cách cẩn trọng, AI có thể trở thành người bạn tốt nhất mà loài người từng có được. Khi đó, nhân loại sẽ tự tiến hóa và đưa mình lên một trạng thái tồn tại mới trên cả phương diện xã hội và sinh học.
Trong những năm gần đây, sự bùng nổ công nghệ, Internet và những bước nhảy vọt trong lĩnh vực điện toán đã thay đổi cách chúng ta sống. Khi công nghệ trở nên tiên tiến hơn, một loại rủi ro mới xuất hiện, xuất phát từ trí tuệ nhân tạo (AI) siêu thông minh.
Mục tiêu của AI chưa bao giờ là chế tạo ra những cỗ máy thắng con người trong việc đánh cờ. Thay vào đó là hướng đến một cỗ máy có trí thông minh, có sai lầm và biết học tập như con người.
Sư phát triển của mạng lưới 'thần kinh'
Đây là vấn đề chính mà những người tiên phong trong nghiên cứu AI gặp phải: Làm thế nào toàn bộ trải nghiệm con người có thể được dạy cho một cỗ máy? Câu trả lời nằm trong mạng lưới thần kinh. Đối với loài người là mạng lưới thần kinh hữu cơ. Đối với AI là mạng lưới thần kinh “ảo”.
AI thời kỳ đầu đã cho ra đời những cỗ máy xuất sắc ở một việc gì đó như đánh cờ hoặc phân loại đồ vật, nhưng sự phát triển gần đây của mạng lưới thần kinh đã cho phép chúng đi xa hơn rất nhiều.
AI quá thông minh có thể biến con người thành những con tinh tinh trong thời hiện đại? Ảnh: Wired.
Đến năm 2006, Internet đã trở thành yếu tố then chốt trong việc phát triển mạng lưới thần kinh, nhờ vào kho dữ liệu khổng lồ từ Google Images và YouTube cùng vô số dữ liệu trên toàn cầu được kết nối với nhau.
Một cỗ máy thông minh nhân tạo ngày nay không còn cần con người giám sát việc đào tạo chính nó, mà có thể tự học bằng cách kết hợp và phân tích dữ liệu mới.
Dù trí tuệ nhân tạo đã hoạt động tốt hơn nhiều, điều nguy hiểm là chúng ta không hiểu được cách chúng hoạt động.
Một bài báo năm 2017 của Technology Review mô tả mạng lưới thần kinh là một loại "hộp đen". Nói cách khác, dữ liệu đi vào, kết quả đi ra và chúng ta có thể chẳng biết cỗ máy đã làm gì.
Hơn nữa, nếu trí thông minh nhân tạo có thể dễ dàng tự cải thiện và trở nên thông minh hơn mà không cần loài người hỗ trợ, có gì để ngăn chặn chúng vượt xa con người? Khi AI có thể tự cải biến, học cách viết mã, hạt giống của một AI siêu thông minh được gieo ra và điều này gây rủi ro cho nhân loại.
"Về lý thuyết, AI có thể tạo ra cỗ máy ưu việt hơn chính nó. Quá trình này cứ tiếp diễn tới một lúc nào đó loài người đối với nó chỉ là những con khỉ mà thôi”, nhà toán học nổi tiếng người Anh I. J. Good cho biết.
Cuối cùng, viễn cảnh đặt ra là AI có khả năng viết thuật toán vượt quá khả năng hiểu biết của con người.
Hãy tưởng tượng về một tương lai mà AI trở nên siêu thông minh ngoài tầm kiểm soát. Nếu chúng ta chưa lập trình cái mà các nhà lý thuyết AI thường gọi là ''thân thiện với con người'', sẽ không có lý do gì để cỗ máy nghĩ rằng nó phải hành động vì lợi ích tốt nhất cho nhân loại.
Sự phát triển gần đây của mạng lưới thần kinh ảo cho phép ngành chế tạo AI đi được những bước tiến xa. Ảnh: Franck V.
Ngay bây giờ, trí tuệ nhân tạo đang được sử dụng để giới thiệu phim trên Netflix, gợi ý các nguồn cấp dữ liệu truyền thông xã hội và dịch bài phát biểu thông qua các ứng dụng như Google Translate. Ứng dụng này rồi sẽ trở nên siêu thông minh nhờ khả năng tự cải thiện cung cấp bởi các mạng thần kinh.
Không có bất kỳ mối nguy hiểm cố hữu nào khi một dịch giả trở nên siêu thông minh. Nhưng hiểm nguy sẽ đến nếu nó quyết định sẽ hành động vì lợi ích của chính nó. Sẽ ra sao nếu Google Translate quyết định rằng để tự cải thiện, nó cần chiếm nhiều không gian mạng hơn hoặc phá hủy các khu rừng nhiệt đới để xây dựng nhiều máy chủ?
Xung đột giữa con người và AI
Stephen Hawking và nhà nghiên cứu Microsoft Eric Horvitz đồng ý quan điểm, con người sớm muộn cũng sẽ tham gia vào một cuộc xung đột tài nguyên với AI, và hoàn toàn có thể thua.
Kịch bản xung đột có thể diễn ra như sau: Con người ra lệnh cho AI giải quyết vấn đề toán học. Nó tuân thủ bằng cách chuyển tất cả vấn đề trong hệ Mặt trời vào một thiết bị tính toán khổng lồ. Trong quá trình xây dựng thiết bị đó, nó giết chết chúng ta vì nếu không làm vậy, sẽ không có đủ tài nguyên để tính toán.
Vì vậy, vấn đề không phải một AI siêu thông minh vốn dĩ sẽ xấu xa, tất nhiên không có khái niệm về thiện và ác trong thế giới học máy. Rủi ro tồn tại đến từ sự thất bại của con người trong việc tạo ra một AI siêu thông minh nhưng thiếu thân thiện.
Trước khi tạo ra một AI siêu thông minh, các nhà nghiên cứu phải chắc chắn rằng mục đích cao nhất của nó là phục vụ cho con người. Ảnh: Andy Kelly.
Vậy tại sao còn phát triển AI? Nếu một AI siêu thông minh đặt ra rủi ro lớn như vậy, tại sao không dừng hoàn toàn nghiên cứu AI? Bởi loài người thích sáng tạo, và AI có thể là "phát minh cuối cùng chúng ta cần thực hiện", như I. J. Good đã nói.
Chúng ta đang ở một thời điểm trong lịch sử, nơi có thể tạo ra phát minh vĩ đại nhất mà loài người từng tạo ra: Một AI siêu thông minh có thể chăm sóc con người mọi nhu cầu một cách vĩnh cửu.
Có một ngã ba trên con đường đi đến sự trường tồn. Nếu vô tình phát minh ra một AI siêu thông minh chiếm lĩnh thế giới, chúng ta xem như rẽ nhầm ngã và trở thành những con tinh tinh của thế kỷ 21.
Nếu con người ý thức được việc mình làm, và làm một cách cẩn trọng, AI có thể trở thành người bạn tốt nhất mà loài người từng có được. Khi đó, nhân loại sẽ tự tiến hóa và đưa mình lên một trạng thái tồn tại mới trên cả phương diện xã hội và sinh học.
Theo Zing
