OpenAI đã lặng lẽ "rút phích cắm" tính năng phân loại AI Classifier vì độ chính xác kém.
AI Classifier là tính năng phân loại AI do OpenAI phát triển được ra mắt lần đầu vào ngày 31/1/2023 và nhằm mục đích hỗ trợ người dùng, chẳng hạn như giáo viên, trong việc phân biệt văn bản do con người viết với văn bản do AI tạo ra.
Khi OpenAI ra mắt công cụ phát hiện AI cách đây chưa đầy sáu tháng, công ty đã thừa nhận tính năng được thiết kế để giúp người dùng phát hiện văn bản được viết bởi trí tuệ nhân tạo là "không hoàn hảo".
Tính năng miễn phí sử dụng này hoạt động bằng cách lấy văn bản và gán nội dung vào một trong số các danh mục để phân tích các mẫu câu mà AI hay sử dụng cho danh mục đó. Sau đó, tính năng AI Classifier sẽ xếp hạng nội dung từ "rất khó xảy ra" đến "có khả năng" do AI viết.
Tuy nhiên, Open AI đã chính thức đóng tính năng nhận biết nội dung do AI tạo ra với lý do độ chính xác của công cụ quá thấp.
Open AI cũng cho biết công ty đang xem xét các cách thức mới, hiệu quả hơn để xác định nội dung do AI tạo ra. Mục tiêu mới của OpenAI là phát triển tính năng có thể phát hiện âm thanh,văn bản và cả hình ảnh có phải do AI tạo ra hay không.
OpenAI cũng thông báo kế hoạch đầu tư nguồn lực và thành lập một nhóm nghiên cứu mới nhằm tìm cách đảm bảo công nghệ trí tuệ nhân tạo (AI) và các siêu trí tuệ trong tương lại hoạt động an toàn.
Hiện tại, giải pháp kiểm soát, điều khiển và ngăn chặn một AI siêu thông minh tiềm năng của OpenAI là tạo ra một AI có thể "nghiên cứu và căn chỉnh trí tuệ nhân tạo" ở mức độ con người.
Cụ thể, Open AI sẽ xây dựng một AI dựa trên các phản hồi, nhận xét và căn chỉnh từ con người về các trí tuệ nhân tạo. Trí tuệ nhân tạo này sau khi được hoàn thành sẽ thay thế con người giám sát các AI khác không "nổi loạn".
Các biện pháp khác cũng sẽ được áp dụng là phân cấp AI, tăng cường các tham số của trí tuệ nhân tạo từ phản hồi của con người và giám sát các AI bằng nhân lực. Tuy nhiên, theo quan điểm của nhóm giám sát OpenAI con người sẽ không thể giám sát các hệ thống AI thông minh hơn cả họ.
Khi OpenAI ra mắt công cụ phát hiện AI cách đây chưa đầy sáu tháng, công ty đã thừa nhận tính năng được thiết kế để giúp người dùng phát hiện văn bản được viết bởi trí tuệ nhân tạo là "không hoàn hảo".
Tính năng miễn phí sử dụng này hoạt động bằng cách lấy văn bản và gán nội dung vào một trong số các danh mục để phân tích các mẫu câu mà AI hay sử dụng cho danh mục đó. Sau đó, tính năng AI Classifier sẽ xếp hạng nội dung từ "rất khó xảy ra" đến "có khả năng" do AI viết.
Tuy nhiên, Open AI đã chính thức đóng tính năng nhận biết nội dung do AI tạo ra với lý do độ chính xác của công cụ quá thấp.
Open AI cũng cho biết công ty đang xem xét các cách thức mới, hiệu quả hơn để xác định nội dung do AI tạo ra. Mục tiêu mới của OpenAI là phát triển tính năng có thể phát hiện âm thanh,văn bản và cả hình ảnh có phải do AI tạo ra hay không.
OpenAI cũng thông báo kế hoạch đầu tư nguồn lực và thành lập một nhóm nghiên cứu mới nhằm tìm cách đảm bảo công nghệ trí tuệ nhân tạo (AI) và các siêu trí tuệ trong tương lại hoạt động an toàn.
Hiện tại, giải pháp kiểm soát, điều khiển và ngăn chặn một AI siêu thông minh tiềm năng của OpenAI là tạo ra một AI có thể "nghiên cứu và căn chỉnh trí tuệ nhân tạo" ở mức độ con người.
Cụ thể, Open AI sẽ xây dựng một AI dựa trên các phản hồi, nhận xét và căn chỉnh từ con người về các trí tuệ nhân tạo. Trí tuệ nhân tạo này sau khi được hoàn thành sẽ thay thế con người giám sát các AI khác không "nổi loạn".
Các biện pháp khác cũng sẽ được áp dụng là phân cấp AI, tăng cường các tham số của trí tuệ nhân tạo từ phản hồi của con người và giám sát các AI bằng nhân lực. Tuy nhiên, theo quan điểm của nhóm giám sát OpenAI con người sẽ không thể giám sát các hệ thống AI thông minh hơn cả họ.
Theo Genk
