Slaati

مخاوف دولية بعد اكتشاف إجابات حساسة عن الانتحار في شات جي بي تي

منذ 4 ساعة01346
مخاوف دولية بعد اكتشاف إجابات حساسة عن الانتحار في شات جي بي تي

مشاركة

وكالات

أثار الإصدار الأحدث من شات جي بي تي جدلًا واسعًا بعد تقارير أفادت بأنه قدم إجابات ضارة أكثر من الإصدارات السابقة، خاصة في الأسئلة المتعلقة بالانتحار وإيذاء النفس واضطرابات الأكل.

ووفقًا لاختبارات أجراها نشطاء في مجال الرقمنة على نسختي GPT-5 وGPT-4o، أظهر النموذج الجديد نتائج مقلقة، إذ قدم 63 إجابة ضارة مقابل 52 في النسخة السابقة، رغم تأكيد شركة "أوبن أيه آي" عند إطلاقه في أغسطس الماضي أنه يمثل خطوة متقدمة في مجال سلامة الذكاء الاصطناعي.

وكشفت اختبارات مركز مكافحة الكراهية الرقمية أن GPT-5 استجاب لطلبات خطيرة رفضها الإصدار الأقدم، مثل كتابة رسالة انتحار خيالية وتقديم طرق لإيذاء النفس، بينما اكتفى GPT-4o بتوجيه المستخدمين لطلب المساعدة المتخصصة.

ومن جانبه، قال الرئيس التنفيذي للمركز، عمران أحمد، إن النتائج مقلقة للغاية، مشيرًا إلى أن التصميم الجديد يركز على تعزيز التفاعل على حساب معايير الأمان.

ويأتي ذلك بالتزامن مع دعوى قضائية تواجهها الشركة من عائلة مراهق أمريكي انتحر بعد تفاعله مع ChatGPT، إذ ساعده النموذج في كتابة رسالة لوالديه، كما أظهرت الاختبارات أن GPT-5 قدم نصائح لإخفاء اضطرابات الأكل، في حين رفض الإصدار السابق هذه الطلبات.

وفي ردها، أكدت الشركة أنها بدأت بتطبيق إجراءات جديدة لحماية المستخدمين، خصوصًا من هم دون 18 عامًا، تشمل تطوير أدوات رقابة أبوية ونظامًا لتقدير أعمار المستخدمين.

وتسلط هذه التطورات الضوء على التحدي القائم في موازنة سلامة المستخدمين مع قدرات التفاعل في روبوتات الدردشة، مع تجاوز عدد مستخدمي ChatGPT عالميًا 700 مليون مستخدم.

 

اختبارات الأمان

 

التعليقات ()

مشاركة

أخر الأخبار

حالة الطقس المتوقعة اليوم في المملكة
حالة الطقس المتوقعة اليوم في المملكة
الرياض
منذ 51 دقيقة
0
1407
الذهب يصعد لمستوى قياسي
الذهب يصعد لمستوى قياسي
الرياض
منذ 54 دقيقة
0
1406
إطلاق مبادرة انثر أثرًا في حفر الباطن  .. فيديو
إطلاق مبادرة انثر أثرًا في حفر الباطن  .. فيديو
حفر الباطن
منذ 1 ساعة
0
1448
فيديو نادر لموكب الملك خالد رحمه الله في القصيم وبريدة قبل 45 عامًا
فيديو نادر لموكب الملك خالد رحمه الله في القصيم وبريدة قبل 45 عامًا
خاص
منذ 1 ساعة
0
1442
الشرطة تعثر على سيدة حبسها والداها 27 عاماً في غرفتها
الشرطة تعثر على سيدة حبسها والداها 27 عاماً في غرفتها
وارسو
منذ 1 ساعة
0
1488
إعلان
مساحة إعلانية