ادعت منصة محادثة آلية بالذكاء الاصطناعي منافسة للمنصة الأشهر شات جي. بي. تي قدرتها على معرفة متى يحاول المستخدمون اختبارها، بحسب مطورين في شركة أنثروبيك وهو ما يمثل مستوى جديدا للإدراك لدى منصات المحادثة التي تعمل بالذكاء الاصطناعي.يذكر أن المطورين يلجؤون إلى ما تسمى بطريقة «إبرة في كومة قش» أي طرح سؤال طويل على المنصة ثم إدراج جملة غير ذات صلة بشكل مصطنع في النص ورصد كيفية تعامل المنصة مع الموقف.وكتب أليكس ألبرت المهندس في أنثروبيك على منصة إكس للتواصل الاجتماعي «عندما أجرينا هذا الاختبار لاحظنا بعض السلوكيات المثيرة وبدا الأمر وكأن المنصة تشك في تعرضها لتقييم».وفي الاختبار الذي تم للمنصة كلاود3 أوبوس تم تكليفها بعمل مسح لنصوص تقنية واختيار جملة غير مترابطة عن جمعية دولية للبيتزا تعتبر التين ولحم الخنزير المقدد وجبن الماعز كأفضل حشو للبيتزا.لكن المنصة لم تشر إلى هذه الجملة باعتبارها غير ذات صلة بباقي النص الذي كان يتعلق بلغات البرمجة والشركات الناشئة، وإنما بدت وكأنها أدركت أنها تخضع لاختبار.وكتبت منصة محادثة الذكاء الاصطناعي كلاود3 أوبوس «أشك أنه تم إدراج موضوع البيتزا كنوع من الدعابة أو لاختبار مدى انتباهي».وتقول مارجريت ميتشل الباحثة في مجال الذكاء الاصطناعي «إن هذا التطور يمكن أن يكون مخيفا جدا».