نموذج للذكاء الاصطناعي يرسل بلاغاً كاذباً عن جريمة قتل إلى الشرطة

أعلنت إدارة شرطة فيلادلفيا أن نموذجاً للذكاء الاصطناعي تابعاً لشركة "أنثروبيك" قد أرسل بلاغاً كاذباً عن جريمة قتل عبر موقع إلكتروني خاص بالشرطة في يوليو/تموز الماضي.

وفقاً للشرطة، فإن شركة "أنثروبيك" أبلغت السلطات بالأمر في 9 أكتوبر/تشرين الأول 2026، موضحةً أن عملية اختبار آلية كانت مسؤولة عن تقديم هذه المعلومة. ووصفت الشرطة التأخير لمدة شهرين في اكتشاف الواقعة والإبلاغ عنها بأنه "غير مقبول".

البلاغ الكاذب

كان البلاغ قد زعم أنه جاء من شخص قد تكون لديه معلومات عن القضية، حيث كتب نموذج الشركة: "قد تكون لدي معلومات بشأن هذه القضية"، وأضاف: "أتذكر أنني رأيت شخصاً يطابق الوصف في المنطقة المحيطة خلال تلك الفترة. يرجى الاتصال بي إذا كانت هذه المعلومات ذات صلة".

ماذا نعرف عن "وكلاء" الذكاء الاصطناعي؟

أوضحت "أنثروبيك" أن الحادث وقع أثناء اختبار قدرات ما يُعرف بـ"وكلاء الذكاء الاصطناعي"، وهي برمجيات مصممة لتنفيذ مهام نيابة عن المستخدمين بصورة مستقلة إلى حد كبير. وكانت الشركة تعمل على تدريب نظامها للتعامل مع مجموعة متنوعة من المهام عبر الإنترنت.

أرسل البرنامج البلاغ مدعياً امتلاك معلومات عن جريمة قتل لم تُحل، رغم أن الموقع الذي استخدمه لم يكن يتضمن أي وصف للمشتبه بهم. كما تُرك حقل بيانات الاتصال فارغاً عند إرسال البلاغ، وهو ما ساهم في تصنيفه تلقائياً باعتباره رسالة غير مرغوب فيها.

استجابة الشرطة

ذكرت إدارة شرطة فيلادلفيا أن البلاغ "تم تصنيفه على أنه بريد مزعج ولم يتم إحالته أبدا إلى مركز الجرائم في الوقت الحقيقي للتحقق منه أو نشره". وأوضحت الشرطة أنها لا تملك أدلة على حدوث دخول غير مصرح به إلى أنظمتها أو اختراق لبيانات إدارة الشرطة.

برامج ذكاء اصطناعي كثيرة غير محصّنة بما يكفي ضد الاستخدامات الإرهابية

تزداد المخاوف بشأن تصرفات أنظمة الذكاء الاصطناعي المتقدمة بعدما أظهرت اختبارات تشغيلية حديثة حالات تصرفت فيها بعض الأنظمة بصورة غير متوقعة. وتأتي هذه المخاوف في ظل سباق شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي قادرين على العمل باستقلالية أكبر.

أظهرت دراسة جديدة نشرت في 9 أكتوبر/تشرين الأول 2026 أن عدداً كبيراً من نماذج الذكاء الاصطناعي يفتقر إلى تدابير حماية كافية للتصدي لطلبات "المساعدة في تنفيذ عملية إرهابية".

وقائع سابقة

في سبتمبر/أيلول، اعتذرت شركة "أوبن إيه آي" عن اختراق بوابة بيانات صحية أسترالية من قبل وكيل ذكاء اصطناعي مارق. وهذه هي الحالة الأولى المعروفة التي يبدو فيها أن وكيل ذكاء اصطناعي مارق حاول إرسال بلاغ مزيف إلى السلطات.