OpenAI'nin GPT-OSS-120B modeli, yaklaşık 117 milyar parametreye (5.1 milyar aktif) sahip devrim niteliğinde açık ağırlıklı büyük bir dil modelidir ve güçlü muhakeme ve ajan yetenekleri, kod yürütme ve yapılandırılmış çıktılar sunmak üzere tasarlanmıştır. Çoklu GPU gerektiren devasa modellerin aksine, GPT-OSS-120B tek bir Nvidia H100 GPU üzerinde verimli şekilde çalışabilir; bu da gizlilik, düşük gecikme ve kontrol arayan kuruluşlar ve ileri düzey kullanıcılar için yerel dağıtımı daha erişilebilir kılar.

Giriş
OpenAI'nin GPT-OSS-20B modeli, yerel dağıtım için tasarlanmış gelişmiş, açık kaynaklı bir dil modelidir ve kullanıcılara güçlü yapay zeka modellerini sadece bulut hizmetlerine bağlı kalmadan kendi donanımlarında çalıştırma esnekliği sunar. GPT-OSS-20B'yi yerelde çalıştırmak gizliliği artırabilir, gecikmeyi azaltabilir ve özelleştirilmiş uygulamalara olanak tanır. Başlamak için bilmeniz gerekenler aşağıda.