gpt-oss-20b بلاگ
GPT-OSS کی تعیناتی کے لیے کتنی کمپیوٹنگ پاور درکار ہے؟
OpenAI کی حالیہ gpt-oss فیملی (خاص طور پر gpt-oss-20B اور gpt-oss-120B ریلیز) واضح طور پر تعیناتی کی دو مختلف کلاسوں کو نشانہ بناتی ہے: ہلکا پھلکا مقامی اندازہ (صارف/کنارہ) اور بڑے پیمانے پر ڈیٹا سینٹر کا اندازہ۔ وہ ریلیز — اور کوانٹائزیشن، کم درجے کے اڈاپٹرز، اور اسپارس/مکسچر آف ایکسپرٹس (MoE) کے ڈیزائن پیٹرن کے ارد گرد کمیونٹی ٹولنگ کی ہلچل — یہ پوچھنے کے قابل بناتی ہے: آپ کو ان ماڈلز کو چلانے، ٹھیک ٹیون کرنے اور پروڈکشن میں پیش کرنے کے لیے درحقیقت کتنی کمپیوٹ کی ضرورت ہے؟
OpenAI GPT-OSS: اسے مقامی طور پر کیسے چلائیں یا کلاؤڈ، ہارڈ ویئر کی ضروریات پر خود میزبان
GPT-OSS رسائی کے لیے غیر معمولی طور پر اچھی طرح سے تیار کیا گیا ہے: gpt-oss-20B ویرینٹ کو ایک صارف GPU (~ 16 GB VRAM) یا حالیہ ہائی اینڈ پر چلانے کے لیے ڈیزائن کیا گیا ہے۔
کیا GPT-OSS مقامی AI تعیناتی کا مستقبل ہو سکتا ہے؟
OpenAI نے GPT-OSS کے اجراء کا اعلان کیا ہے، جو دو اوپن ویٹ لینگویج ماڈلز — gpt-oss-120b اور gpt-oss-20b — کی اجازت دینے والے اپاچی 2.0 لائسنس کے تحت،
GPT-OSS-20B API
gpt-oss-20b ایک پورٹیبل، اوپن ویٹ ریجننگ ماڈل ہے جو o3-منی لیول کی کارکردگی، ایجنٹ کے موافق ٹول کا استعمال، اور اجازت یافتہ لائسنس کے تحت مکمل چین آف تھوٹ سپورٹ پیش کرتا ہے۔ اگرچہ یہ اپنے 120 B ہم منصب کی طرح طاقتور نہیں ہے، لیکن یہ آن ڈیوائس، کم تاخیر، اور رازداری سے متعلق حساس تعیناتیوں کے لیے منفرد طور پر موزوں ہے۔ ڈویلپرز کو اس کی معلوم ساختی حدود کا وزن کرنا چاہیے، خاص طور پر علم سے بھرپور کاموں پر، اور اس کے مطابق حفاظتی احتیاطی تدابیر اختیار کریں۔