gpt-oss-120b بلاگ
GPT-OSS کی تعیناتی کے لیے کتنی کمپیوٹنگ پاور درکار ہے؟
OpenAI کی حالیہ gpt-oss فیملی (خاص طور پر gpt-oss-20B اور gpt-oss-120B ریلیز) واضح طور پر تعیناتی کی دو مختلف کلاسوں کو نشانہ بناتی ہے: ہلکا پھلکا مقامی اندازہ (صارف/کنارہ) اور بڑے پیمانے پر ڈیٹا سینٹر کا اندازہ۔ وہ ریلیز — اور کوانٹائزیشن، کم درجے کے اڈاپٹرز، اور اسپارس/مکسچر آف ایکسپرٹس (MoE) کے ڈیزائن پیٹرن کے ارد گرد کمیونٹی ٹولنگ کی ہلچل — یہ پوچھنے کے قابل بناتی ہے: آپ کو ان ماڈلز کو چلانے، ٹھیک ٹیون کرنے اور پروڈکشن میں پیش کرنے کے لیے درحقیقت کتنی کمپیوٹ کی ضرورت ہے؟
OpenAI GPT-OSS: اسے مقامی طور پر کیسے چلائیں یا کلاؤڈ، ہارڈ ویئر کی ضروریات پر خود میزبان
GPT-OSS رسائی کے لیے غیر معمولی طور پر اچھی طرح سے تیار کیا گیا ہے: gpt-oss-20B ویرینٹ کو ایک صارف GPU (~ 16 GB VRAM) یا حالیہ ہائی اینڈ پر چلانے کے لیے ڈیزائن کیا گیا ہے۔
کیا GPT-OSS مقامی AI تعیناتی کا مستقبل ہو سکتا ہے؟
OpenAI نے GPT-OSS کے اجراء کا اعلان کیا ہے، جو دو اوپن ویٹ لینگویج ماڈلز — gpt-oss-120b اور gpt-oss-20b — کی اجازت دینے والے اپاچی 2.0 لائسنس کے تحت،
GPT-OSS-120B API
OpenAI کا gpt-oss-120b GPT-2 کے بعد تنظیم کی پہلی اوپن ویٹ ریلیز کی نشاندہی کرتا ہے، جو ڈویلپرز کو شفاف، حسب ضرورت، اور اعلیٰ کارکردگی والی AI پیش کرتا ہے۔