حذر باحثون من أن بعض أدوات الذكاء الاصطناعي مثل "تشات جي بي تي" و"جيميناي" يمكن تسميمها، والتلاعب بها لإنتاج محتوى مضلل.
وأوضحت دراسة أجراها مركز الذكاء الاصطناعي في بريطانيا، ومعهد "ألان تورينغ" وشركة "أنتروبيك" للذكاء الاصطناعي، أنه من السهل التلاعب بأدوات الذكاء الاصطناعي واستغلال بعض الثغرات، لتدريبها ببيانات كاذبة.
وتوصل الباحثون إلى هذه النتائج بعد تدريب هذه الأدوات على 250 وثيقة ملوثة ببيانات مغلوطة، تم إدخالها عبر ثغرة خلفية.
وبعد التجربة، أنتجت الأدوات نصوصا مبهمة وغير مفهومة، وفقا لما ذكرته صحيفة "إندبندنت" البريطانية.

وأقلقت هذه النتائج الباحثين، خاصة أن معظم النماذج تدرب على نصوص منشورة على الإنترنت مسبقا، بما في ذلك المواقع الشخصية والمدونات، ما يجعل أي محتوى ينشئه أي شخص يدخل ضمن البيانات التي تتدرب عليها هذه النماذج.
ولتوضيح هذا الخلل، قالت شركة "إنتروبيك" في منشور على مدونتها "إن الجهات الخبيثة يمكنها إدخال نصوص ملوّثة لهذه المنشورات لجعل النماذج تكتسب سلوكيات غير مرغوب فيها وخطيرة، وتعرف هذه العملية باسم "التسميم".
وقال باحثون في أمن الذكاء الاصطناعي، إن هذه الثغرات تحد من إمكانية استخدام الذكاء الاصطناعي في الأمور الحساسة.
وكتب فاسيلوس مافروديس وكريس هيكس من معهد ألان تورينغ: "كانت نتائجنا مفاجئة ومثيرة للقلق"، مضيفين أن "تسميم البيانات كان أكثر سهولة مما كنا نعتقد، إذ سيكون على المهاجم إنشاء نحو 250 مقالة ملوثة على ويكيبيديا للتلاعب" بـ"تشات جي بي تي" وباقي النماذج.

اخر الاخبار

اخبار العتبة العباسية المقدسة

جامعة الكفيل تنظم مناظرة علمية لعدد من طالبات المدارس الإعدادية

العتبة العباسية المقدسة توضّح تعليمات التسجيل في حفل تخرج دفعة بنات الكفيل العاشرة

قسم الشؤون الفكرية يقيم خيمة ثقافية ضمن برنامج الطالب الفعال في ذي قار

من بين أكثر من (5000) صورة مصوّر المجمَع العلمي يحصد المرتبة الأولى في مسابقة مهر محرم الدولية

المزيد

الآخبار الصحية

تقرير يكشف علاقة لون الموز بفوائده الصحية

كيف يعزز الزعفران مزاجك ويحمي قلبك ويساعدك على خفض وزنك

خبراء: هذه الفواكه والخضراوات الأكثر تلوثا بالمبيدات

وجبة خفيفة يوميا.. تؤدي إلى قوة الذاكرة لاحقا

المزيد

الآخبار التكنلوجية

الأرصفة الشمسية.. ابتكار يخفض الانبعاثات 98%

إبهار الضوء أثناء القيادة: المخاطر والنصائح للتعامل معه

شركات أميركية تتنافس لحجب الشمس.. وخبراء يحذرون

قرار أميركي مفاجئ بشأن "تجارب القردة"

المزيد

مواضيع ذات صلة

الأرصفة الشمسية.. ابتكار يخفض الانبعاثات 98%

إبهار الضوء أثناء القيادة: المخاطر والنصائح للتعامل معه

شركات أميركية تتنافس لحجب الشمس.. وخبراء يحذرون

قرار أميركي مفاجئ بشأن "تجارب القردة"

مع اشتداد المنافسة.. سامسونغ تكشف عن أول هاتف ثلاثي الطي

وداعا للتجسس على بياناتك.. الذكاء الاصطناعي يدخل عصر السرية

إيطاليا.. كشف خطط لبناء قبة دفاع جوي تعمل بالذكاء الاصطناعي

بحجم ميكروويف.. إطلاق قمر اصطناعي لدراسة "التوهجات النجمية" في الفضاء

ترامب يطلق مبادرة لتسريع الأبحاث باستخدام الذكاء الاصطناعي

اكتشاف يقلب فهمنا للكون.. النظام الشمسي أسرع بثلاث مرات

تحذيرات من أسلحة عصبية تغيّر الوعي والسلوك

بدون مال وعمل.. ماسك يقدم رؤيته لمستقبل البشرية ؟!!