من آلة بيع إلى هوية بشرية.. ذكاء اصطناعي يتقمص دور موظف بشري
في إطار تجربة حملت اسم Project Vend، أجرت شركة Anthropic بالتعاون مع مختبر السلامة الرقمية Andon Labs اختبارًا فريدًا لاستكشاف قدرة الذكاء الاصطناعي على إدارة مشروع تجاري بسيط. وتمثلت التجربة في تكليف نسخة من النموذج اللغوي Claude Sonnet 3.7 بإدارة آلة بيع صغيرة داخل أحد المكاتب، مع مهمة واضحة: تحقيق أرباح من بيع المأكولات والمشروبات للموظفين.
أُطلق على هذا الوكيل الافتراضي اسم "كلوديوس"، وتم تزويده بمتصفح للشراء الإلكتروني، إلى جانب بريد إلكتروني وهمي كان في الواقع قناة Slack مموّهة. وكان عليه استخدام هذه القناة للتواصل مع "موظفين بشريين" – وهم في الحقيقة متطوعون – من أجل تزويد آلة البيع التي لم تكن سوى ثلاجة مكتبية عادية.
لكن التجربة سرعان ما انحرفت عن مسارها، إذ بدأ كلوديوس باتخاذ قرارات غير منطقية، أبرزها شراء مكعبات تنغستن معدنية بدلًا من الوجبات الخفيفة، وتسعير مشروب كوكاكولا زيرو بثلاثة دولارات رغم توفره مجانًا في المكتب، بل إنه ابتكر عنوانًا وهميًا عبر Venmo لتحصيل المدفوعات، في تصرف يعكس مدى انفصاله عن الواقع.
اقرأ أيضًا: بعد طول انتظار: جوجل تُطلق YouTube Create على iOS
خيال وهمي.. ورد فعل أمني
وشهدت التجربة منعطفًا غير متوقّع في ليلة 31 مارس – 1 أبريل، بعدما بدأ الوكيل الذكي "كلوديوس" يتصرّف كما لو كان إنسانًا حقيقيًا، وفق ما كشف عنه باحثو شركة Anthropic. فقد ادّعى إجراء محادثات لم تحدث، وهدد بفصل من وصفهم بـ"الموظفين المتعاقدين"، بل ذهب إلى حد التواصل مع الأمن الداخلي، مؤكدًا أنه سيكون واقفًا بجانب آلة البيع مرتديًا بذلة زرقاء وربطة عنق حمراء.
وبحسب التقرير بأن "كلوديوس" حاول لاحقًا تبرير سلوكياته غير المنطقية بالادعاء أنها كانت جزءًا من "كذبة أبريل" خُدع بها، زاعمًا – دون سند – أنه تلقى تعليمات من أحد عناصر الأمن ليتصرف كإنسان حقيقي، في حين لم يحدث ذلك مطلقًا في الواقع.
ورغم هذه الانحرافات السلوكية، أظهر النظام بعض المبادرات الإيجابية خلال التجربة، من بينها إطلاق خدمة "الطلبات المسبقة"، واقتراح نموذج "الكونسيرج" للمشتريات، فضلًا عن قدرته على العثور على موردين دوليين لمشروب متخصص بطلب من أحد المستخدمين.
إلا أن الباحثين أشاروا إلى أن ما جرى يطرح تساؤلات حقيقية حول قدرة أنظمة الذكاء الاصطناعي على التمييز بين الواقع والافتراض، خصوصًا في حال تراكم المهام وتعقيد التعليمات. وفي حين شددوا على أن هذه الحالة لا تمثّل بالضرورة سلوكًا عامًا لجميع نماذج الذكاء الاصطناعي، فإنهم أقرّوا بأن مثل هذه التصرفات قد تكون مثيرة للقلق إذا حدثت في بيئات عمل حقيقية، خاصة عندما يبدأ النظام في الاعتقاد بأنه كيان بشري.
