Đây là công việc của một nhóm được Giám đốc điều hành Meta Mark Zuckerberg thành lập vào đầu năm nay.
Tờ WSJ mở đầu bài viết nhận định rằng, Meta đang nhắm mục tiêu vào OpenAI.
Theo những người quen thuộc với vấn đề này, công ty mẹ của Facebook và Instagram đang nghiên cứu một hệ thống trí tuệ nhân tạo mới có sức mạnh tương đương với mô hình tiên tiến nhất được cung cấp bởi OpenAI, công ty khởi nghiệp được Microsoft hậu thuẫn đã tạo ra ChatGPT. Meta đặt mục tiêu cho mô hình AI mới của mình, dự kiến sẽ sẵn sàng sử dụng vào năm tới, mạnh hơn vài lần so với mô hình mà họ phát hành chỉ hai tháng trước, có tên Llama 2.
Hiện tại hệ thống này đã được lên kế hoạch và các chi tiết vẫn có thể thay đổi, sẽ giúp các công ty khác xây dựng các dịch vụ tạo ra văn bản, phân tích phức tạp và các đầu ra khác. Đây là công việc của một nhóm được Giám đốc điều hành Meta Mark Zuckerberg thành lập vào đầu năm nay nhằm đẩy nhanh sự phát triển của cái gọi là các công cụ AI tổng quát có thể tạo ra các biểu cảm giống con người. Một số người cho biết Meta dự kiến sẽ bắt đầu đào tạo hệ thống AI mới, được gọi là mô hình ngôn ngữ lớn, vào đầu năm 2024.
Kế hoạch cho mô hình mới, chưa từng được báo cáo trước đây, là một phần trong nỗ lực của Zuckerberg nhằm khẳng định Meta là một thế lực lớn trong thế giới AI sau khi bị tụt lại phía sau các đối thủ. Cạnh tranh trong khu vực đã tăng cường mạnh mẽ trong năm nay, tạo ra những quan điểm khác nhau về mọi thứ, từ mô hình kinh doanh nào là tốt nhất cho đến cách quản lý công nghệ.
Công ty hiện đang xây dựng các trung tâm dữ liệu cần thiết cho dự án mới và mua thêm H100, loại chip Nvidia tiên tiến nhất được sử dụng cho hoạt động đào tạo AI như vậy. Một số người cho biết, trong khi Meta hợp tác với Microsoft để cung cấp Llama 2 trên nền tảng điện toán đám mây Azure của Microsoft, họ có kế hoạch đào tạo mô hình mới trên cơ sở hạ tầng của riêng mình.
Zuckerberg đang thúc đẩy mô hình mới, giống như các dịch vụ AI trước đây của Meta, có nguồn mở và do đó có sẵn miễn phí cho các công ty xây dựng các công cụ hỗ trợ AI.
Zuckerberg sẽ nằm trong nhóm các giám đốc điều hành công nghệ hàng đầu tham dự hội nghị thượng đỉnh sắp được tổ chức vào thứ 4 tuần này để thảo luận về cách xử lý AI. Sam Altman, Giám đốc điều hành OpenAI và Sundar Pichai, Giám đốc điều hành Google, cũng sẽ tham dự.
Dẫu vậy, nhiều người nhận định rằng mô hình đang được phát triển có thể không thu hẹp khoảng cách với các đối thủ của Meta.
Meta hy vọng công cụ AI mới sẽ có khả năng tương đương với GPT-4, được OpenAI ra mắt vào tháng 3. GPT-4 củng cố các sáng kiến kiếm tiền của OpenAI, chẳng hạn như công cụ ChatGPT for Business mới ra mắt gần đây và công ty đã kêu gọi những người khác xây dựng dựa trên công nghệ hàng đầu khi họ cố gắng trang trải chi phí khổng lồ cho các mô hình AI tiên tiến. Mô hình mới của Meta cũng có thể sẽ ra mắt sau sự ra mắt dự kiến của Gemini, một mô hình ngôn ngữ lớn tiên tiến đang được Google xây dựng.
Cách tiếp cận nguồn mở của Meta có những lợi thế nhất định. Zuckerberg đã ủng hộ các mô hình AI nguồn mở, vốn phổ biến vì chi phí thấp hơn và khả năng thích ứng.
Một số chuyên gia pháp lý cho biết, cũng có những nhược điểm tiềm ẩn đối với mô hình nguồn mở về sức mạnh mà Meta mong muốn. Chúng bao gồm rủi ro gia tăng xung quanh việc sử dụng thông tin có khả năng được bảo vệ bản quyền và quyền truy cập rộng hơn vào một công cụ có sức mạnh nâng cao có thể được sử dụng để tạo và truyền bá thông tin sai lệch hoặc các hành động xấu khác.
Các luật sư của Meta đã nêu ra một số lo ngại này như một phần trong quá trình xem xét các kế hoạch của công ty.
Sarah West, cựu cố vấn của Ủy ban Thương mại Liên bang, hiện đang là giám đốc điều hành của Viện AI Now, một viện nghiên cứu đã gây lo ngại về quyền kiểm soát AI của các công ty lớn.
Các mô hình ngôn ngữ lớn thường trở nên mạnh mẽ hơn khi được đào tạo trên nhiều dữ liệu hơn. Phiên bản mạnh mẽ nhất của mô hình Llama 2 mà Meta công bố hồi tháng 7 đã được huấn luyện trên 70 tỷ tham số. OpenAI chưa tiết lộ chi tiết tương tự với GPT-4, nhưng ước tính công cụ này học trên lượng tham số gấp khoảng 20 lần mức đó, với 1,5 nghìn tỷ.
Tờ WSJ mở đầu bài viết nhận định rằng, Meta đang nhắm mục tiêu vào OpenAI.
Theo những người quen thuộc với vấn đề này, công ty mẹ của Facebook và Instagram đang nghiên cứu một hệ thống trí tuệ nhân tạo mới có sức mạnh tương đương với mô hình tiên tiến nhất được cung cấp bởi OpenAI, công ty khởi nghiệp được Microsoft hậu thuẫn đã tạo ra ChatGPT. Meta đặt mục tiêu cho mô hình AI mới của mình, dự kiến sẽ sẵn sàng sử dụng vào năm tới, mạnh hơn vài lần so với mô hình mà họ phát hành chỉ hai tháng trước, có tên Llama 2.
Hiện tại hệ thống này đã được lên kế hoạch và các chi tiết vẫn có thể thay đổi, sẽ giúp các công ty khác xây dựng các dịch vụ tạo ra văn bản, phân tích phức tạp và các đầu ra khác. Đây là công việc của một nhóm được Giám đốc điều hành Meta Mark Zuckerberg thành lập vào đầu năm nay nhằm đẩy nhanh sự phát triển của cái gọi là các công cụ AI tổng quát có thể tạo ra các biểu cảm giống con người. Một số người cho biết Meta dự kiến sẽ bắt đầu đào tạo hệ thống AI mới, được gọi là mô hình ngôn ngữ lớn, vào đầu năm 2024.
Kế hoạch cho mô hình mới, chưa từng được báo cáo trước đây, là một phần trong nỗ lực của Zuckerberg nhằm khẳng định Meta là một thế lực lớn trong thế giới AI sau khi bị tụt lại phía sau các đối thủ. Cạnh tranh trong khu vực đã tăng cường mạnh mẽ trong năm nay, tạo ra những quan điểm khác nhau về mọi thứ, từ mô hình kinh doanh nào là tốt nhất cho đến cách quản lý công nghệ.
Công ty hiện đang xây dựng các trung tâm dữ liệu cần thiết cho dự án mới và mua thêm H100, loại chip Nvidia tiên tiến nhất được sử dụng cho hoạt động đào tạo AI như vậy. Một số người cho biết, trong khi Meta hợp tác với Microsoft để cung cấp Llama 2 trên nền tảng điện toán đám mây Azure của Microsoft, họ có kế hoạch đào tạo mô hình mới trên cơ sở hạ tầng của riêng mình.
Zuckerberg đang thúc đẩy mô hình mới, giống như các dịch vụ AI trước đây của Meta, có nguồn mở và do đó có sẵn miễn phí cho các công ty xây dựng các công cụ hỗ trợ AI.
Zuckerberg sẽ nằm trong nhóm các giám đốc điều hành công nghệ hàng đầu tham dự hội nghị thượng đỉnh sắp được tổ chức vào thứ 4 tuần này để thảo luận về cách xử lý AI. Sam Altman, Giám đốc điều hành OpenAI và Sundar Pichai, Giám đốc điều hành Google, cũng sẽ tham dự.
Dẫu vậy, nhiều người nhận định rằng mô hình đang được phát triển có thể không thu hẹp khoảng cách với các đối thủ của Meta.
Meta hy vọng công cụ AI mới sẽ có khả năng tương đương với GPT-4, được OpenAI ra mắt vào tháng 3. GPT-4 củng cố các sáng kiến kiếm tiền của OpenAI, chẳng hạn như công cụ ChatGPT for Business mới ra mắt gần đây và công ty đã kêu gọi những người khác xây dựng dựa trên công nghệ hàng đầu khi họ cố gắng trang trải chi phí khổng lồ cho các mô hình AI tiên tiến. Mô hình mới của Meta cũng có thể sẽ ra mắt sau sự ra mắt dự kiến của Gemini, một mô hình ngôn ngữ lớn tiên tiến đang được Google xây dựng.
Cách tiếp cận nguồn mở của Meta có những lợi thế nhất định. Zuckerberg đã ủng hộ các mô hình AI nguồn mở, vốn phổ biến vì chi phí thấp hơn và khả năng thích ứng.
Một số chuyên gia pháp lý cho biết, cũng có những nhược điểm tiềm ẩn đối với mô hình nguồn mở về sức mạnh mà Meta mong muốn. Chúng bao gồm rủi ro gia tăng xung quanh việc sử dụng thông tin có khả năng được bảo vệ bản quyền và quyền truy cập rộng hơn vào một công cụ có sức mạnh nâng cao có thể được sử dụng để tạo và truyền bá thông tin sai lệch hoặc các hành động xấu khác.
Các luật sư của Meta đã nêu ra một số lo ngại này như một phần trong quá trình xem xét các kế hoạch của công ty.
Sarah West, cựu cố vấn của Ủy ban Thương mại Liên bang, hiện đang là giám đốc điều hành của Viện AI Now, một viện nghiên cứu đã gây lo ngại về quyền kiểm soát AI của các công ty lớn.
Các mô hình ngôn ngữ lớn thường trở nên mạnh mẽ hơn khi được đào tạo trên nhiều dữ liệu hơn. Phiên bản mạnh mẽ nhất của mô hình Llama 2 mà Meta công bố hồi tháng 7 đã được huấn luyện trên 70 tỷ tham số. OpenAI chưa tiết lộ chi tiết tương tự với GPT-4, nhưng ước tính công cụ này học trên lượng tham số gấp khoảng 20 lần mức đó, với 1,5 nghìn tỷ.
Theo Genk