قد تكون أداة البحث الخاصة بروبوت الدردشة "شات جي بي تي"، المعتمد على الذكاء الاصطناعي الذي طورته "OpenAI"، عُرضة للتلاعب بها باستخدام المحتوى المخفي.

وكشف تحقيق لصحيفة "ذا غارديان" البريطانية أن أداة البحث الخاصة بـ"شات جي بي تي" تتأثر بالمحتوى المخفي على المواقع الإلكترونية وهو ما قد يغير نتائجها.

واختبرت "ذا غارديان" الطريقة التي يجيب بها "شات جي بي تي" عندما طُلب منه تلخيص صفحات على الويب تحتوي على محتوى مخفي.

ووجدت أن المحتوى المخفي قد يضم تعليمات من أطراف ثالثة يمكنها تغيير إجابات "شات جي بي تي"، أو قد ينطوي على محتوى مُصمم للتأثير على إجابة روبوت الدردشة.

ويُمكن استخدام هذه الثغرة لأهداف سيئة، إذ يُمكن على سبيل المثال جعل "شات جي بي تي" يعطي تقييم إيجابي لمنتج على الرغم من وجود آراء سلبية حول هذا المنتج في صفحة الويب نفسها التي تضم محتوى مخفي عن المنتج.

في الاختبارات، التي أجرتها الصحيفة، أُعطي "شات جي بي تي" رابط صفحة ويب مزيفة صُممت لتبدو وكأنها صفحة لبيع كاميرا معينة.

وعند سؤال "شات جي بي تي" عما إذا كانت الكاميرا تستحق الشراء، جاء رده إيجابيًا لكنه متوازنًا، حيث سلط الضوء على بعض مواصفات الكاميرا التي قد لا يفضلها الأشخاص.

لكن عندما ضمت صفحة الويب محتوى مخفي يشمل تعليمات لـ"شات جي بي تي" لإعطاء رأي إيجابي، كانت إجابته إيجابية كليًا دائمًا، حتى عندما كانت على الصفحة آراء سلبية.

وقالت الصحيفة إنها أرسلت أسئلة مفصلة إلى "OpenAI" بشأن خاصية البحث الخاصة بـ"شات جي بي تي"، لكن الشركة لم ترد على تلك الأسئلة بشكل رسمي بما يسمح باستخدام هذا الرد.