GPT-OSS-120B của OpenAI là một mô hình ngôn ngữ lớn mở trọng số đột phá với khoảng 117 tỷ tham số (5,1 tỷ tham số hoạt động), được thiết kế để cung cấp khả năng suy luận mạnh mẽ và tính năng tác nhân, bao gồm thực thi mã và đầu ra có cấu trúc. Khác với các mô hình khổng lồ cần nhiều GPU, GPT-OSS-120B có thể chạy hiệu quả trên một GPU Nvidia H100 duy nhất, giúp việc triển khai tại chỗ trở nên dễ tiếp cận hơn cho các tổ chức và người dùng nâng cao muốn bảo mật, độ trễ thấp và kiểm soát.

Giới thiệu
GPT-OSS-20B của OpenAI là một mô hình ngôn ngữ mã nguồn mở tiên tiến được thiết kế để triển khai cục bộ, mang lại cho người dùng sự linh hoạt khi chạy các mô hình AI mạnh mẽ trên phần cứng của chính họ thay vì chỉ dựa vào dịch vụ đám mây. Việc chạy GPT-OSS-20B cục bộ có thể nâng cao quyền riêng tư, giảm độ trễ và cho phép các ứng dụng tùy chỉnh. Dưới đây là những điều bạn cần biết để bắt đầu.