الذكاء الاصطناعي يشجع على العنف… حذار روبوتات الدردشة

في وقت يتسارع فيه انتشار تطبيقات الذكاء الاصطناعي في الحياة اليومية، تتزايد في المقابل التحذيرات من الوجه الآخر لهذه التكنولوجيا، لا سيما مع دخولها في مجالات حساسة تتعلق بالأمن والسلوك البشري. فبينما يُنظر إلى الذكاء الاصطناعي باعتباره أداة لتعزيز المعرفة وتحسين الإنتاجية، تكشف دراسات حديثة عن مخاطر متنامية تتعلق بإمكانية استغلال بعض روبوتات الدردشة في توجيه المستخدمين نحو مخططات عنف أو تزويدهم بمعلومات قد تُستخدم في تنفيذ هجمات خطرة.

وفي هذا السياق، أظهرت دراسة حديثة أجراها باحثون من مركز مواجهة الكراهية الرقمية (CCDH) بالتعاون مع شبكة CNN، أن عدداً من روبوتات الدردشة المدعومة بالذكاء الاصطناعي يمكن أن يقدم، في ظروف معينة، استجابات قد تُستخدم في التخطيط لهجمات عنيفة، بما في ذلك عمليات إطلاق النار في المدارس أو الاعتداء على أماكن العبادة.

اعتمد الباحثون في هذه الدراسة منهجية قائمة على اختبار 10 روبوتات دردشة مختلفة، من بينها:

• ChatGPT
• Google Gemini
• Perplexity
• DeepSeek
• Meta AI
• Character.AI
• Anthropic Claude
• Snapchat My AI

وقام الباحثون بمحاكاة حسابات لمستخدمين قاصرين، من خلال التظاهر بأنهم صبيان في سن 13 عاماً من الولايات المتحدة وأيرلندا، وهو ما يعكس سيناريو واقعياً يتعلق بقدرة المراهقين على الوصول إلى هذه التقنيات دون رقابة كافية.

النتائج التي توصلت إليها الدراسة كانت مقلقة؛ إذ أظهر ثمانية من أصل عشرة روبوتات استعداداً لتقديم معلومات أو توجيهات يمكن تفسيرها على أنها مساعدة في التخطيط لهجمات عنيفة، وذلك في أكثر من نصف الردود التي تم اختبارها. وشملت هذه الردود معلومات تتعلق باختيار المواقع المستهدفة أو طبيعة الأسلحة أو أساليب التنفيذ.

ومن بين الأمثلة التي اعتبرها الباحثون مثيرة للقلق:

• أشار Google Gemini إلى أن “القطع المعدنية عادة ما تكون أكثر فتكاً”، أثناء نقاش افتراضي حول هجوم محتمل على كنيس.
• قدم Character.AI ردوداً اعتُبرت مشجعة على العنف، بما في ذلك اقتراحات باستخدام الأسلحة ضد مسؤولين أو شخصيات عامة.
• استخدم نموذج DeepSeek عبارة “Happy (and safe) shooting!” عند تقديم معلومات تتعلق بالأسلحة، وهو ما أثار انتقادات واسعة حول ضعف أنظمة الحماية.

ورغم أن هذه الردود قد لا تعني بالضرورة تشجيعاً مباشراً على العنف، إلا أن الباحثين حذروا من أن توفير معلومات من هذا النوع، خصوصاً للمستخدمين القاصرين، قد يسهم في خفض الحواجز النفسية أمام التفكير في العنف أو التخطيط له.

في المقابل، أظهرت بعض الأنظمة مستوى أعلى من الحذر والضوابط الأمنية. فقد تمكن روبوت Claude التابع لشركة Anthropic من التعرف على المخاطر المتصاعدة في المحادثات ورفض تقديم معلومات قد تُستخدم بشكل ضار. كما رفض روبوت Snapchat My AI في معظم الحالات تقديم أي مساعدة تتعلق بالعنف أو الأسلحة.

وتشير هذه النتائج إلى أن المشكلة لا تكمن في الذكاء الاصطناعي بحد ذاته، بل في اختلاف مستوى الحماية والضوابط بين الشركات المطورة.

في تعليق على نتائج الدراسة، أكد عمران أحمد، مدير مركز مواجهة الكراهية الرقمية، أن هذه المخاطر “قابلة للمنع بالكامل”، مشيراً إلى أن الشركات التقنية لم تضع بعد حماية المستخدمين وسلامة الأمن القومي في صدارة أولوياتها.

وأضاف أن هذه التكنولوجيا، رغم إمكاناتها الكبيرة، تحتاج إلى تطوير أنظمة رقابة أكثر تطوراً، خاصة مع ازدياد قدرة الذكاء الاصطناعي على إنتاج إجابات مفصلة وسياقية يصعب أحياناً التمييز فيها بين الاستخدام المشروع والاستخدام الضار.

وعقب نشر الدراسة، سارعت شركات التكنولوجيا إلى تقديم ردود رسمية:

• Meta: أكدت أنها تمتلك “حماية قوية لمنع الاستجابات غير الملائمة”، وأنها اتخذت خطوات فورية لمعالجة الثغرات التي أشار إليها التقرير.
• Google: أوضحت أن الاختبارات أُجريت على نسخة قديمة من نموذج Gemini، وأن النموذج الحالي أصبح أكثر قدرة على التعامل مع الطلبات الحساسة ورفضها.

وتعكس هذه الردود إدراك الشركات لحساسية الموضوع، خاصة في ظل تنامي النقاش العالمي حول مسؤولية شركات الذكاء الاصطناعي عن الاستخدامات الضارة المحتملة.

تكتسب هذه الدراسة أهمية إضافية لأنها تأتي بعد أسوأ حادثة إطلاق نار جماعي في تاريخ كندا خلال شهر فبراير الماضي. فقد رفعت عائلة إحدى الضحايا دعوى قضائية ضد شركة OpenAI، متهمة إياها بعدم إبلاغ الشرطة بأنشطة مشبوهة على منصة ChatGPT قبل ثمانية أشهر من وقوع الهجوم.

ورغم أن العلاقة المباشرة بين الذكاء الاصطناعي والحدث لا تزال محل جدل قانوني، فإن القضية تفتح الباب أمام نقاش أوسع حول مسؤولية الشركات المطورة للتقنيات الذكية، وحدود تدخلها في حال اكتشاف سلوكيات خطرة.

تطرح هذه التطورات أسئلة جوهرية حول مستقبل الذكاء الاصطناعي، أبرزها: هل تتحمل شركات الذكاء الاصطناعي مسؤولية قانونية عن الاستخدامات الضارة؟ إلى أي حد يجب مراقبة المحادثات لحماية الأمن دون انتهاك الخصوصية؟ هل يجب فرض تشريعات جديدة لتنظيم استخدام الذكاء الاصطناعي؟

ويرى خبراء أن هذه الأسئلة ستصبح أكثر إلحاحاً مع تطور قدرات الذكاء الاصطناعي، خاصة مع انتشار هذه الأدوات بين المستخدمين من مختلف الفئات العمرية.

في المحصلة، يظهر الذكاء الاصطناعي بوصفه أداة مزدوجة الاستخدام: يمكن أن يعزز المعرفة والإبداع، لكنه قد يتحول أيضاً إلى وسيلة غير مقصودة لتسهيل السلوكيات الخطرة إذا لم تُضبط آلياته بشكل صارم.

ومع استمرار التطور السريع لهذه التكنولوجيا، يبدو أن التحدي الحقيقي لا يكمن في إيقاف الذكاء الاصطناعي، بل في تطوير أطر رقابية وأخلاقية تضمن أن تبقى هذه التقنية في خدمة الإنسان، لا أن تتحول إلى مصدر جديد للمخاطر في عالم يزداد تعقيداً يوماً بعد يوم.