مدونة gpt-oss-20b
ما هو مقدار قوة الحوسبة المطلوبة لنشر GPT-OSS؟
تستهدف عائلة gpt-oss الحديثة من OpenAI (ولا سيما إصداري gpt-oss-20B وgpt-oss-120B) بشكل واضح فئتين مختلفتين من النشر: الاستدلال المحلي البسيط (للمستهلكين/الطرفيات) والاستدلال واسع النطاق في مراكز البيانات. هذا الإصدار - إلى جانب الكم الهائل من أدوات المجتمع المتعلقة بالتكميم، والمحولات منخفضة الرتبة، وأنماط التصميم المتفرقة/مزيج الخبراء (MoE) - يجعل من الجدير طرح السؤال التالي: ما مقدار الحوسبة اللازم فعليًا لتشغيل هذه النماذج وضبطها وخدمتها في الإنتاج؟
OpenAI GPT-OSS: كيفية تشغيله محليًا أو استضافته ذاتيًا على السحابة، ومتطلبات الأجهزة
تم تصميم GPT-OSS بشكل جيد بشكل غير عادي من أجل إمكانية الوصول: تم تصميم متغير gpt-oss-20B للعمل على وحدة معالجة رسومية واحدة للمستهلك (~16 جيجابايت VRAM) أو أحدث الأجهزة المتطورة
هل يمكن أن يكون GPT-OSS هو مستقبل نشر الذكاء الاصطناعي المحلي؟
أعلنت شركة OpenAI عن إصدار GPT-OSS، وهي عائلة مكونة من نموذجين لغويين مفتوحين الوزن - gpt-oss-120b و gpt-oss-20b - بموجب ترخيص Apache 2.0 المتساهل،
واجهة برمجة التطبيقات GPT-OSS-20B
gpt-oss-20b هو نموذج استدلال محمول مفتوح النطاق، يوفر أداءً بمستوى o3-mini، واستخدامًا سهلًا للأدوات من قِبل الوكلاء، ودعمًا كاملاً لتسلسل الأفكار بموجب ترخيص متساهل. على الرغم من أنه ليس بقوة نظيره 120 B، إلا أنه مناسب بشكل فريد لعمليات النشر على الجهاز، مع زمن انتقال منخفض، وحساسية للخصوصية. ينبغي على المطورين دراسة قيوده التركيبية المعروفة، وخاصةً في المهام التي تتطلب معرفة مكثفة، ووضع احتياطات السلامة اللازمة وفقًا لذلك.