مخاوف من Gemini بسبب إجبار المستخدمين لتقييم استجابات الذكاء الاصطناعى

أثار المبدأ التوجيهي الداخلي الجديد الذي تم تمريره من Google إلى العاملين في Gemini العديد من المخاوف من أن Gemini هو المحرك الرئيسي لنشر معلومات غير دقيقة حول موضوعات حساسة للغاية مثل الرعاية الصحية للمستخدمين.

تكمن المخاوف في أن جيميني تطلب بشكل روتيني من المقاولين الذين يعملون مع شركة جلوبال لوجيك، وهي شركة الاستعانة بمصادر خارجية مملوكة لشركة هيتاشي، تقييم الاستجابات الناتجة عن الذكاء الاصطناعي وفقًا لعوامل مثل “الصدق”.

في البداية، كان هؤلاء المتعاقدون حتى وقت قريب قادرين على “تخطي” بعض المطالبات، وبالتالي اختيار عدم المشاركة في تقييم مختلف الردود المكتوبة بواسطة الذكاء الاصطناعي على تلك المطالبات، إذا كانت المطالبة خارج نطاق خبرتهم. على سبيل المثال، يمكن تخطي مطالبة تطرح سؤالاً متخصصًا حول الأمراض. القلب.

في الأسبوع الماضي، أعلنت شركة GlobalLogic عن تغيير من جانب Google، حيث لم يعد مسموحًا بتخطي مثل هذه المطالبات، بغض النظر عن تجربتها الخاصة. تُظهر المراسلات الداخلية أنه في السابق، نصت الإرشادات على ما يلي: “إذا لم تكن لديك خبرة… مهمة (مثل البرمجة والرياضيات) لتقييم هذه المطالبة، فيرجى تخطي هذه المهمة”، ولكن تنص الإرشادات الآن على ما يلي: “يجب عدم تخطي هذه المهمة”. “المطالبات التي تتطلب معرفة متخصصة بالمجال”، وبدلاً من ذلك يُطلب منك “تقييم أجزاء الموجه التي تفهمها” وتضمين ملاحظة تفيد بأنهم ليس لديهم معرفة بالمجال.

وقد أدى ذلك إلى مخاوف فورية بشأن دقة جيميني في موضوعات معينة، حيث يتم تكليف المستخدمين أحيانًا بتقييم استجابات الذكاء الاصطناعي عالية التقنية بشأن قضايا مثل الأمراض النادرة التي ليس لديهم خلفية عنها.