Bây giờ các nhà phát triển ứng dụng có thể chính thức tích hợp ChatGPT vào các sản phẩm và dịch vụ của mình rồi.
OpenAI vừa công bố cho phép các nhà phát triển bên thứ ba tích hợp ChatGPT vào ứng dụng và dịch vụ của mình thông qua API. Theo OpenAI, API của ChatGPT có thể dùng được nhiều chức năng chứ không chỉ có giao diện chat bằng AI như nhiều người hay dùng hiện nay.
Đáng chú ý, API của ChatGPT này là mô hình xử lý ngôn ngữ lớn mới của ChatGPT được gọi là “GPT-3.5-turbo”.
GPT-3.5-turbo không phải là mô hình xử lý ngôn ngữ được máy tìm kiếm Bing sử dụng. Theo Microsoft, mô hình xử lý ngôn ngữ được dùng trong Bing là "mô hình ngôn ngữ lớn OpenAI thế thệ mới có tốc độ xử lý nhanh hơn, chính xác hơn và có nhiều khả năng hơn ChatGPT và GPT-3.5". Tuy nhiên, với một lượng tiền lớn mà Microsoft đã đầu tư vào OpenAI thì không ngạc nhiên khi hãng này được dùng những công nghệ mà các nhà phát triển thông thường không tiếp cận được.
OpenAI đang cung cấp 1.000 token với giá 0,002 USD. Công ty này nói đó là mức giá rẻ hơn 10 lần so với các mô hình GPT-3.5 nhờ vào hàng loạt tối ưu hệ thống. Con số 1.000 token nghe có vẻ nhiều nhưng cần biết là việc gửi một đoạn văn bản để API của ChatGPT phản hồi có thể tiêu tốn nhiều token. Token là các khối văn bản được hệ thống OpenAI chia từ các câu và từ ra để dự đoán nội dung phản hồi.
Theo tài liệu của OpenAI, đoạn văn bản “ChatGPT is great!” mất 6 token. API của OpenAI chia đoạn văn bản đó ra thành các từ “Chat,” “G,” “PT,” “ is,” “ great,” and “!”. OpenAI cung cấp một công cụ để kiểm tra số lượng token cần sử dụng để diễn giải chuỗi văn bản và thông thường một quy tắc chung là “một token tương ứng với 4 ký tự tiếng Anh”.
OpenAI cho biết các nhà phát triển ứng dụng có thể nhận được phiên bản ChatGPT chuyên dụng nếu họ chạy một lượng dữ liệu khổng lồ thông qua API. Phiên bản chuyên dụng này sẽ mang đến cho các nhà phát triển nhiều quyền kiểm soát hơn với mô hình, thời gian phản hồi và thời gian nói chuyện với bot có thể dài hơn.
Bên cạnh ChatGPT, OpenAI cũng vừa thông báo hàm API mới cho sản phẩm Whisper, công nghệ chuyển đổi giọng nói thành văn bản. Công ty này cho biết bạn có thể sử dụng Whisper để phiên âm hoặc dịch lời nói (hoặc âm thanh) thành văn bản với chi phí 0,006 USD mỗi phút. Về mặt kỹ thuật, Whisper là mô hình chuyển đổi giọng nói thành văn bản dưới dạng nguồn mở nên bạn có thể dùng nó trên phần cứng riêng của mình mà không cần phải trả phí. Tuy nhiên, OpenAI có thể truy cập vào hệ thống phần cứng mạnh mẽ hơn, vì vậy nếu bạn đang tìm kiếm một sự thay đổi nhanh chóng hoặc cần thực hiện chức năng chuyển đổi giọng nói thành văn bản các thiết bị có hiệu năng thấp như điện thoại, thì sử dụng API có thể là cách tốt nhất.
OpenAI cũng thông báo một số thay đổi chính sách dựa trên phản hồi của các nhà phát triển. Một trong số những thay đổi đó là OpenAI sẽ không sử dụng dữ liệu được gửi qua API để đào tạo các mô hình của mình nữa trừ khi khách hàng đồng ý với việc sử dụng đó. Thay đổi này có thể giúp giảm bớt một số lo ngại về việc đưa thông tin độc quyền vào bot, vì một số công ty đã cấm nhân viên sử dụng ChatGPT do lo ngại bị rò rỉ bí mật thương mại.
OpenAI vừa công bố cho phép các nhà phát triển bên thứ ba tích hợp ChatGPT vào ứng dụng và dịch vụ của mình thông qua API. Theo OpenAI, API của ChatGPT có thể dùng được nhiều chức năng chứ không chỉ có giao diện chat bằng AI như nhiều người hay dùng hiện nay.
Đáng chú ý, API của ChatGPT này là mô hình xử lý ngôn ngữ lớn mới của ChatGPT được gọi là “GPT-3.5-turbo”.
GPT-3.5-turbo không phải là mô hình xử lý ngôn ngữ được máy tìm kiếm Bing sử dụng. Theo Microsoft, mô hình xử lý ngôn ngữ được dùng trong Bing là "mô hình ngôn ngữ lớn OpenAI thế thệ mới có tốc độ xử lý nhanh hơn, chính xác hơn và có nhiều khả năng hơn ChatGPT và GPT-3.5". Tuy nhiên, với một lượng tiền lớn mà Microsoft đã đầu tư vào OpenAI thì không ngạc nhiên khi hãng này được dùng những công nghệ mà các nhà phát triển thông thường không tiếp cận được.
OpenAI đang cung cấp 1.000 token với giá 0,002 USD. Công ty này nói đó là mức giá rẻ hơn 10 lần so với các mô hình GPT-3.5 nhờ vào hàng loạt tối ưu hệ thống. Con số 1.000 token nghe có vẻ nhiều nhưng cần biết là việc gửi một đoạn văn bản để API của ChatGPT phản hồi có thể tiêu tốn nhiều token. Token là các khối văn bản được hệ thống OpenAI chia từ các câu và từ ra để dự đoán nội dung phản hồi.
Theo tài liệu của OpenAI, đoạn văn bản “ChatGPT is great!” mất 6 token. API của OpenAI chia đoạn văn bản đó ra thành các từ “Chat,” “G,” “PT,” “ is,” “ great,” and “!”. OpenAI cung cấp một công cụ để kiểm tra số lượng token cần sử dụng để diễn giải chuỗi văn bản và thông thường một quy tắc chung là “một token tương ứng với 4 ký tự tiếng Anh”.
OpenAI cho biết các nhà phát triển ứng dụng có thể nhận được phiên bản ChatGPT chuyên dụng nếu họ chạy một lượng dữ liệu khổng lồ thông qua API. Phiên bản chuyên dụng này sẽ mang đến cho các nhà phát triển nhiều quyền kiểm soát hơn với mô hình, thời gian phản hồi và thời gian nói chuyện với bot có thể dài hơn.
Bên cạnh ChatGPT, OpenAI cũng vừa thông báo hàm API mới cho sản phẩm Whisper, công nghệ chuyển đổi giọng nói thành văn bản. Công ty này cho biết bạn có thể sử dụng Whisper để phiên âm hoặc dịch lời nói (hoặc âm thanh) thành văn bản với chi phí 0,006 USD mỗi phút. Về mặt kỹ thuật, Whisper là mô hình chuyển đổi giọng nói thành văn bản dưới dạng nguồn mở nên bạn có thể dùng nó trên phần cứng riêng của mình mà không cần phải trả phí. Tuy nhiên, OpenAI có thể truy cập vào hệ thống phần cứng mạnh mẽ hơn, vì vậy nếu bạn đang tìm kiếm một sự thay đổi nhanh chóng hoặc cần thực hiện chức năng chuyển đổi giọng nói thành văn bản các thiết bị có hiệu năng thấp như điện thoại, thì sử dụng API có thể là cách tốt nhất.
OpenAI cũng thông báo một số thay đổi chính sách dựa trên phản hồi của các nhà phát triển. Một trong số những thay đổi đó là OpenAI sẽ không sử dụng dữ liệu được gửi qua API để đào tạo các mô hình của mình nữa trừ khi khách hàng đồng ý với việc sử dụng đó. Thay đổi này có thể giúp giảm bớt một số lo ngại về việc đưa thông tin độc quyền vào bot, vì một số công ty đã cấm nhân viên sử dụng ChatGPT do lo ngại bị rò rỉ bí mật thương mại.
Theo VN review
