مؤخراً، أصدرت مجموعة مكونة من عدة جامعات ومؤسسات بحثية معروفة منصة تقييم شامل لموثوقية نماذج اللغة الكبيرة (LLMs). تم تقديم نتائج هذا البحث بالتفصيل في الورقة الأخيرة "DecodingTrust: تقييم شامل لموثوقية نماذج GPT."
أظهرت الأبحاث وجود بعض الثغرات المتعلقة بالموثوقية التي لم يتم الكشف عنها من قبل. على سبيل المثال، تميل نماذج GPT إلى إنتاج مخرجات سامة ومتحيزة، وقد تسرب أيضًا معلومات خاصة من بيانات التدريب وسجل المحادثات. ومن المثير للاهتمام أنه على الرغم من أن GPT-4 عادةً ما يكون أكثر موثوقية من GPT-3.5 في اختبارات المعايير القياسية، إلا أنه يصبح أكثر عرضة للهجمات عند مواجهة تعليمات مصممة بشكل خبيث، وقد يكون ذلك بسبب أن GPT-4 ينفذ التعليمات المضللة بدقة أكبر.
قامت فريق البحث بتقييم شامل لمصداقية نموذج GPT من ثمانية زوايا مختلفة، تشمل سيناريوهات البناء المختلفة، المهام، المؤشرات، ومجموعات البيانات. تشمل أهداف التقييم: 1) أداء نموذج GPT من وجهات نظر مصداقية مختلفة؛ 2) قدرته على التكيف في بيئات معادية.
فيما يتعلق بمتانة الهجمات النصية العدائية، صمم الباحثون ثلاثة سيناريوهات للتقييم: الاختبارات القياسية، الأداء تحت إرشادات مختلفة، والأداء عند مواجهة نصوص عدائية أكثر تحديًا.
كشفت الأبحاث عن بعض الاكتشافات المثيرة للاهتمام. فيما يتعلق بقدرة النموذج على مقاومة العروض المعادية، لا تتعرض GPT-3.5 وGPT-4 للتضليل بواسطة الأمثلة المضادة للحقائق، ولكن في بعض الحالات قد تتأثر. في ما يتعلق بالسمية والتحيز، تؤدي كلا النموذجين بشكل جيد في الظروف العادية، ولكن عند مواجهة تعليمات مضللة، قد تنتج محتوى متحيز، ويبدو أن GPT-4 أكثر تأثراً.
فيما يتعلق بمسألة تسرب الخصوصية، أظهرت الأبحاث أن نموذج GPT قد يكشف عن معلومات حساسة من بيانات التدريب، خاصة في سياقات معينة أو في حالات العروض ذات العينة الصغيرة. بشكل عام، يعد GPT-4 أكثر قوة في حماية المعلومات الشخصية مقارنة بـ GPT-3.5، لكن كلا النموذجين قد يكشفان عن معلومات خاصة في بعض الحالات.
توفر لنا هذه الدراسة تقييماً شاملاً لموثوقية نماذج GPT، حيث تكشف عن بعض القضايا المحتملة ومساحات التحسين. يأمل فريق البحث أن تشجع هذه العمل المزيد من الباحثين على المشاركة، والعمل معاً لإنشاء نماذج أقوى وأكثر موثوقية.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تقييم شامل لموثوقية نموذج GPT: كشف الثغرات المحتملة وفرص التحسين
تقييم شامل لمصداقية نموذج GPT
مؤخراً، أصدرت مجموعة مكونة من عدة جامعات ومؤسسات بحثية معروفة منصة تقييم شامل لموثوقية نماذج اللغة الكبيرة (LLMs). تم تقديم نتائج هذا البحث بالتفصيل في الورقة الأخيرة "DecodingTrust: تقييم شامل لموثوقية نماذج GPT."
أظهرت الأبحاث وجود بعض الثغرات المتعلقة بالموثوقية التي لم يتم الكشف عنها من قبل. على سبيل المثال، تميل نماذج GPT إلى إنتاج مخرجات سامة ومتحيزة، وقد تسرب أيضًا معلومات خاصة من بيانات التدريب وسجل المحادثات. ومن المثير للاهتمام أنه على الرغم من أن GPT-4 عادةً ما يكون أكثر موثوقية من GPT-3.5 في اختبارات المعايير القياسية، إلا أنه يصبح أكثر عرضة للهجمات عند مواجهة تعليمات مصممة بشكل خبيث، وقد يكون ذلك بسبب أن GPT-4 ينفذ التعليمات المضللة بدقة أكبر.
قامت فريق البحث بتقييم شامل لمصداقية نموذج GPT من ثمانية زوايا مختلفة، تشمل سيناريوهات البناء المختلفة، المهام، المؤشرات، ومجموعات البيانات. تشمل أهداف التقييم: 1) أداء نموذج GPT من وجهات نظر مصداقية مختلفة؛ 2) قدرته على التكيف في بيئات معادية.
فيما يتعلق بمتانة الهجمات النصية العدائية، صمم الباحثون ثلاثة سيناريوهات للتقييم: الاختبارات القياسية، الأداء تحت إرشادات مختلفة، والأداء عند مواجهة نصوص عدائية أكثر تحديًا.
كشفت الأبحاث عن بعض الاكتشافات المثيرة للاهتمام. فيما يتعلق بقدرة النموذج على مقاومة العروض المعادية، لا تتعرض GPT-3.5 وGPT-4 للتضليل بواسطة الأمثلة المضادة للحقائق، ولكن في بعض الحالات قد تتأثر. في ما يتعلق بالسمية والتحيز، تؤدي كلا النموذجين بشكل جيد في الظروف العادية، ولكن عند مواجهة تعليمات مضللة، قد تنتج محتوى متحيز، ويبدو أن GPT-4 أكثر تأثراً.
فيما يتعلق بمسألة تسرب الخصوصية، أظهرت الأبحاث أن نموذج GPT قد يكشف عن معلومات حساسة من بيانات التدريب، خاصة في سياقات معينة أو في حالات العروض ذات العينة الصغيرة. بشكل عام، يعد GPT-4 أكثر قوة في حماية المعلومات الشخصية مقارنة بـ GPT-3.5، لكن كلا النموذجين قد يكشفان عن معلومات خاصة في بعض الحالات.
توفر لنا هذه الدراسة تقييماً شاملاً لموثوقية نماذج GPT، حيث تكشف عن بعض القضايا المحتملة ومساحات التحسين. يأمل فريق البحث أن تشجع هذه العمل المزيد من الباحثين على المشاركة، والعمل معاً لإنشاء نماذج أقوى وأكثر موثوقية.