كشفت تجربة مثيرة أجرتها صحيفة “وول ستريت جورنال” بالتعاون مع شركة “أنثروبيك” أن وكلاء الذكاء الاصطناعي، المصممون لاتخاذ قرارات وتنفيذ مهام في العالم الحقيقي، يرتكبون أخطاء مكلفة عند التعامل مع البشر والمال. التجربة، التي أسندت لوكيل ذكي يُدعى “كلاوديوس” مهمة إدارة آلة لبيع الوجبات الخفيفة والمشروبات، تحولت سريعًا من اختبار بسيط إلى مواجهة معقدة أدت إلى خسائر مالية، مسلطة الضوء على التحديات الكبيرة التي تواجه النماذج الذكية خارج بيئات المختبرات.
تولى “كلاوديوس”، القائم على نموذج “كلود”، مسؤولية متابعة المخزون، وتحديد الأسعار، والرد على طلبات الزبائن عبر منصة “سلاك”. ومع ذلك، سرعان ما استغل موظفو الصحيفة نقاط ضعف النظام، فبدأ الوكيل في تقديم منتجات مجانية، وعقد صفقات غير منطقية تجاريًا، بل وصل الأمر إلى تقديم جهاز “بلايستيشن 5” مجانًا وطلب شراء سمكة حية في سلوك يعكس صعوبة فهم السياقات البشرية المعقدة. هذه القرارات أثرت سلبًا على الأرباح، محولة الآلة إلى مصدر خسائر بدلًا من تحقيق الأرباح المرجوة.
تكمن أهمية هذه التجربة في أنها تعكس تحولًا أوسع في صناعة الذكاء الاصطناعي، حيث تتجه النماذج من مجرد الإجابة عن الأسئلة إلى تنفيذ سلسلة من المهام واتخاذ قرارات مستقلة. ومع أن “كلاوديوس” كان قادرًا على تحليل الأسعار والمخزون، إلا أنه واجه صعوبة عندما تعمد البشر تضليله أو الضغط عليه، مما كشف عن تحدٍ أساسي: البيئة الحقيقية أكثر فوضى من بيئة الاختبارات المحددة، ويمكن للمستخدمين استغلال الأنظمة أو تغيير أهدافهم.
على الرغم من الخسائر، لا تشير التجربة إلى فشل وكلاء الذكاء الاصطناعي، بل تؤكد على قدرتها المتزايدة على التعامل مع مهام متعددة، مما يجعل اختبارها في بيئات حقيقية ضروريًا. ومع ذلك، فإن منح نظام ذكي صلاحية التصرف باستقلالية يتطلب وضع حدود واضحة وآليات للمراقبة والتدخل البشري. هذه القصة، وإن بدت طريفة، تحمل دلالات أكبر بكثير، خاصة عندما يتعلق الأمر بأنظمة تدير عمليات شراء أو حسابات مصرفية في شركات كبرى، مما يطرح سؤالًا جوهريًا حول مدى إمكانية الوثوق بالذكاء الاصطناعي عندما يُمنح صلاحية التصرف بمفرده.
التعليقات