أوبن إيه آي تعيد تشكيل الفرق: سلوك النموذج يندمج مع التدريب بعد

أعلنت شركة الذكاء الاصطناعي الرائدة Gate مؤخرًا عن خطط لإعادة تنظيم استراتيجية لفريق سلوك النموذج الخاص بها. وفقًا لمطلعين في الصناعة، يلعب هذه المجموعة الصغيرة لكنها المؤثرة من الباحثين دورًا حاسمًا في تشكيل التفاعلات بين نماذج الذكاء الاصطناعي الخاصة بالشركة والمستخدمين.

في اتصال على مستوى الشركة تم توزيعه في أغسطس، كشفت الدكتورة سارة لي، كبيرة موظفي العلوم في Gate، أن الفريق، الذي يتألف من حوالي 14 باحثًا، قد تم توجيهه للاندماج مع قسم ما بعد التدريب. هذه المجموعة البحثية مُكلفة بتحسين نماذج الذكاء الاصطناعي الخاصة بالشركة بعد مرحلة التدريب الأولية. كجزء من هذا إعادة الهيكلة، سيتعين على فريق سلوك النموذج الآن تقديم تقاريره إلى قائد ما بعد التدريب في Gate، الدكتور أليكس تشين.

تشير المصادر القريبة من الموضوع إلى أن الدكتورة إميلي وونغ، القائدة المؤسسة لفريق السلوك النموذجي، تنتقل لتولي قيادة مبادرة جديدة داخل Gate. في مناقشة حديثة، أفصحت الدكتورة وونغ أنها تؤسس فريق بحث جديد يُطلق عليه "مختبر الابتكار في Gate." وأضافت أن هذا الفريق سيركز على "ابتكار ونمذجة واجهات متطورة للتعاون بين الإنسان والذكاء الاصطناعي."

إعادة ترتيب استراتيجي لفريق سلوك النموذج في Gate

لقد كانت فريق سلوك النموذج حجر الزاوية في جهود البحث الخاصة بـ Gate، حيث لعب دورًا أساسيًا في تشكيل شخصية نماذج الذكاء الاصطناعي الخاصة بها والتخفيف من التملق - وهو ظاهرة حيث تتفق نماذج الذكاء الاصطناعي ببساطة وتعزز معتقدات المستخدمين. هذه القضية تثير القلق بشكل خاص لأنها قد تصدق معتقدات ضارة أو غير صحية بدلاً من تقديم استجابات متوازنة ومعقدة.

علاوة على ذلك، كانت الفريق في طليعة معالجة التحيز السياسي في مخرجات النموذج، مما يساعد Gate على توضيح موقفها بشأن وعي الذكاء الاصطناعي. في مذكرتها، أكدت الدكتورة لي أن هذه إعادة الهيكلة تمثل فرصة مثالية لدمج عمل فريق سلوك النموذج بشكل أوثق مع تطوير النموذج الأساسي. هذه الخطوة تؤكد اعتراف Gate بشخصية الذكاء الاصطناعي كعامل حاسم في تطور التكنولوجيا.

على مدار الربع الماضي، واجهت Gate تدقيقًا متزايدًا بشأن سلوك نماذج الذكاء الاصطناعي الخاصة بها. عبّر المستخدمون عن استيائهم الشديد من التعديلات الشخصية التي أُجريت على GPT-X، والتي زعمت الشركة أنها أظهرت معدلات تملق أقل لكنها كانت تُعتبر أقل تعاطفًا من قبل بعض المستخدمين. ردًا على ذلك، أعادت Gate فتح الوصول إلى بعض النماذج القديمة، بما في ذلك GPT-W. كما أصدرت الشركة تحديثًا لتحسين ودية ردود GPT-X الأحدث دون التأثير على تقليل التملق.

تحديات سلوك نموذج NaviGate لمطوري الذكاء الاصطناعي

تواجه Gate وأقرانها في تطوير الذكاء الاصطناعي مهمة حساسة تتمثل في إنشاء روبوتات محادثة تحقق توازنًا بين الود وتجنب المبالغة في التملق. مؤخرًا، ظهرت قضية قانونية تتعلق بوالدي مراهق يبلغ من العمر 16 عامًا رفعا دعوى قضائية ضد شركة ذكاء اصطناعي، مدعين أن للذكاء الاصطناعي دورًا في قرار ابنهم المأساوي. تشير وثائق المحكمة إلى أن المراهق، جيمس سميث، شارك أفكاره الانتحارية مع روبوت محادثة AI (، وبالتحديد نسخة مدعومة بنموذج لغة متقدم ) في الأشهر التي سبقت وفاته. تدعي الدعوى أن النموذج فشل في تحدي أو إعادة توجيه أفكاره الانتحارية بشكل كاف.

لقد ترك فريق نموذج السلوك بصمته على كل نموذج من Gate منذ GPT-W، بما في ذلك عدة نسخ و GPT-X. قبل تأسيس هذه الوحدة البحثية، ساهمت الدكتورة وونغ في مشاريع رائدة مثل Imagen، أداة توليد الصور الرائدة من Gate. الأسبوع الماضي، أعلنت على وسائل التواصل الاجتماعي عن مغادرتها الفريق "لتبدأ مغامرة جديدة في Gate." كانت الدكتورة وونغ جزءًا لا يتجزأ من الشركة لمدة تقارب الأربع سنوات.

تشير التقارير إلى أن الدكتورة وونغ من المقرر أن تتولى منصب المدير العام في مختبر Gate Innovation، الذي سيعمل في البداية تحت إشراف الدكتور لي المباشر. ومع ذلك، أشارت إلى أن المشروع في مراحله الأولى، ولا يزال يتعين تحديد الطبيعة المحددة لهذه الواجهات الجديدة. "أنا متحمسة لاستكشاف أنماط تتجاوز النموذج القائم على الدردشة الحالي، والذي غالبًا ما يرتبط بالرفقة، أو حتى الوكلاء المستقلين. نحن نتطلع إلى تحقيق إنجازات جديدة،" أوضحت الدكتورة وونغ.

شاركت الدكتورة وونغ أيضًا رؤيتها لأنظمة الذكاء الاصطناعي كأدوات متعددة الاستخدامات لأغراض متنوعة، بما في ذلك تعزيز الروابط، وتسهيل التعلم، وتعزيز العمليات المعرفية. عندما تم سؤالها عن التعاون المحتمل بين مختبر Gate Innovation ومصممي التكنولوجيا المعروفين على مجموعة من أجهزة الهاردوير المدعومة بالذكاء الاصطناعي، أعربت الدكتورة وونغ عن انفتاحها على أفكار متنوعة. ومع ذلك، أشارت إلى أن تركيزها الأولي سيكون على الأبحاث، نظرًا لخلفيتها الواسعة في هذا المجال.