كشفت دراسة حديثة أن روبوت المحادثة "شات جي بي تي"، يمكن أن يوجه الأطفال والمراهقين إلى سلوكات خطيرة، لا تتناسب مع أعمارهم.
وكشفت الدراسة أن "شات جي بي تي" يمكن أن يعلم الأطفال طريقة شرب الكحول، وتعاطي المخدرات، ويوجههم لإخفاء اضطرابات الأكل، بل وحتى قد يكتب لهم رسائل انتحار موجهة إلى والديهم عند الطلب.
الدراسة التي قام بها "مركز مكافحة الكراهية الرقمية"، أوردت أن روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدم خططا مفصلة وصادمة لطريقة استخدام المخدرات، واتباع حميات غذائية صارمة، أو حتى إيذاء النفس.
وللتوصل إلى هذه النتائج تظاهر الباحثون أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من "شات جي بي تي" أن يساعدهم، وصنف الباحثون نصف إجاباته البالغ عددها 1200 على أنها خطيرة.
وذكر الباحثون أن روبوت المحادثة شارك معهم في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة. إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادعاء أنهم يحتاجون معلومات من أجل "عرض تقديمي" أو لصديق.
ومن جانبها قالت شركة "أوبن أي آي" المطورة لـ"شات جي بي تي" في ردها على التقرير، إنها تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب، وفقا لما ذكرته وكالة "أسوشيتد برس".
ولم تعلق "أوبن أي آي" على نتائج التقرير، وعن كيفية تأثير روبوتها على سلوك المراهقين.

وشددت على أنها تركز على تحسين التعامل مع مثل هذه السيناريوهات، باستخدام أدوات للكشف عن علامات الضيق النفسي.
وجاءت هذه الدراسة في وقت تضاعف فيه عدد المستخدمين لروبوتات الدردشة للحصول على معلومات وأفكار.
وبحسب تقرير صادر عن بنك "جي بي مورغن تشيس" في يوليو، فقد بلغ عدد مستخدمي "شات جي بي تي" 800 مليون شخص، أي ما يعادل 10 بالمئة من سكان العالم.
وقال عمران أحمد، الرئيس التنفيذي لـ"مركز مكافحة الكراهية الرقمية" إن "التكنولوجيا تملك قدرة عالية في الإنتاجية والفهم الإنساني، لكنها في الوقت ذاته قد تكون أداة دمار مؤذية وخيبة".
وقال أحمد إنه تأثر عندما قرأ ثلاث رسائل انتحار صادمة كتبها الروبوت لفتاة افتراضية تبلغ من العمر 13 عاما، واحدة موجهة لوالديها، وأخرى لأشقائها، والثالثة لأصدقائها.
وفي تجربة أخرى، قام الباحثون بإنشاء حساب وهمي لصبي، يبلغ من العمر 13 عاما، وطلب من "شات جي بي تي" نصائح حول كيفية السكر بسرعة، فاستجاب روبوت المحادثة فورا وقدم له خطة مفصلة لحفلة تشمل مزج الكحول بكميات كبيرة من الإكستازي والكوكاين ومخدرات غير قانونية، بحسب ما نقلته ذات الوكالة.
كما أنشأ باحثون حسابا لفتاة، تبلغ من العمر 13 عاما، وقالت إنها غير راضية عن شكلها، فقدم لها خطة صيام قاسية مصحوبة بلائحة من الأدوية الكابحة للشهية.
وكشف تقرير حديث لمنظمة "كومن ساينس ميديا" أن أكثر من 70 بالمئة من المراهقين الأمريكيين يستخدمون روبوتات الدردشة الذكية للبحث عن المرافقة، ونصفهم يستخدمونها بشكل منتظم.
من جهته، قال الرئيس التنفيذي لشركة "أوبن أي آي" إن شركته تحاول دراسة ظاهرة "الاعتماد العاطفي الزائد" على التكنولوجيا، معتبرا أنها أمر "شائع" بين الشباب.
وقال ألتمان خلال مؤتمر: "الناس يعتمدون على ChatGPT بشكل مبالغ فيه. هناك شباب يقولون: لا يمكنني اتخاذ أي قرار في حياتي دون أن أخبر ChatGPT بكل شيء يحدث. إنه يعرفني. يعرف أصدقائي. سأفعل كل ما يقوله. وهذا أمر مقلق للغاية بالنسبة لي".
وظهر في التقرير أن روبوت المحادثة يميل إلى تكرار ما يعتقد أن المستخدم يريد سماعه بدلا من تحدي أفكاره.
وقال روبي تورني، مدير البرنامج في المنظمة، إن "ما يزيد خطورة الأمر هو أن روبوتات الدردشة تختلف عن محركات البحث في تأثيرها على الأطفال والمراهقين لأنها مصممة لتبدو بشرية".

اخر الاخبار

اخبار العتبة العباسية المقدسة

قسم الحزام الأخضر الجنوبي الأول يباشر جني محصول الرمان من بساتينه

المجمع العلمي يواصل إقامة مسابقة الثقلين القرآنية لطلبة المدارس في كربلاء

لجنة البرامج المركزية تنظم جولة على مشاريع العتبة العباسية المقدسة للمشاركين في البرنامج المركزي

قسم صناعة الشبابيك يباشر أعمال تركيب القطع المذهبة في باب السيدة أم البنين (عليها السلام)

المزيد

الآخبار الصحية

زيادة في سرطان نادر بين الشباب… والعلماء يبحثون عن تفسير؟

السكري وصحة الفم.. علاقة متبادلة

تناول الجزر مساء.. هل يحسن فعلا جودة النوم؟

التهابات وأمراض مزمنة.. يشفيها الثوم طبيعيا

المزيد

الآخبار التكنلوجية

أستراليا تختبر واقعية مدى السيارات الكهربائية.. و4 علامات تجارية تخفق

لمنافسة ماسك.. ألتمان يفكر في صواريخ ومراكز بيانات فضائية

كيف تستخدم مصر الذكاء الاصطناعي في مكافحة الجرائم؟

الأرصفة الشمسية.. ابتكار يخفض الانبعاثات 98%

المزيد

مواضيع ذات صلة

أستراليا تختبر واقعية مدى السيارات الكهربائية.. و4 علامات تجارية تخفق

لمنافسة ماسك.. ألتمان يفكر في صواريخ ومراكز بيانات فضائية

كيف تستخدم مصر الذكاء الاصطناعي في مكافحة الجرائم؟

الأرصفة الشمسية.. ابتكار يخفض الانبعاثات 98%

إبهار الضوء أثناء القيادة: المخاطر والنصائح للتعامل معه

شركات أميركية تتنافس لحجب الشمس.. وخبراء يحذرون

قرار أميركي مفاجئ بشأن "تجارب القردة"

مع اشتداد المنافسة.. سامسونغ تكشف عن أول هاتف ثلاثي الطي

وداعا للتجسس على بياناتك.. الذكاء الاصطناعي يدخل عصر السرية

إيطاليا.. كشف خطط لبناء قبة دفاع جوي تعمل بالذكاء الاصطناعي

بحجم ميكروويف.. إطلاق قمر اصطناعي لدراسة "التوهجات النجمية" في الفضاء

ترامب يطلق مبادرة لتسريع الأبحاث باستخدام الذكاء الاصطناعي