هل يأتي تدمير البشرية على يد الذكاء الاصطناعي؟

خرج ثلاثة باحثين من شركة Anthropic إلى العلن مساء الأول من أمس بتحذيرات مقلقة للغاية بشأن احتمال خروج الذكاء الاصطناعي عن السيطرة، محذرين من أنه قد يؤدي إلى تدمير البشر خلال هذا العقد.

وكتب باحث الذكاء الاصطناعي في الشركة، جاكوب كوكسون، على منصة “إكس”، بعد استقالته الأول من أمس بهدف دق ناقوس الخطر: “إن الأشخاص الذين يبنون الذكاء الاصطناعي يؤمنون بجدية بأنه قد يقتلنا جميعًا بحلول نهاية هذا العقد. هذا ليس استعراضًا تسويقيًا. على العكس، فإن كثيرًا من المديرين التنفيذيين وكبار الباحثين غالبًا ما يصوغون عباراتهم في وسائل الإعلام بطريقة تبدو عقلانية ومتزنة، لكنني أسمع الأشخاص أنفسهم يعبرون عن مخاوفهم بصورة خاصة. لا يوجد أي نشاط بشري آخر ينطوي على هذا المستوى من الخطر”.

بدوره، ردّ إيفان هوبينغر، المسؤول عن أبحاث مواءمة الذكاء الاصطناعي في الشركة، قائلاً: “جاكوب محق هنا – نحن بالفعل نؤمن بجدية بأن الذكاء الاصطناعي قد يقتل جميع البشر! وأنا شخصيًا أعتقد أن احتمال حدوث ذلك يتجاوز 10% خلال العقد المقبل. وأعتقد أن Anthropic تبذل قصارى جهدها، لكننا لا نملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الاصطناعي فائق الذكاء، كما أننا لسنا على مسار واضح يضمن الوصول إلى ذلك”.

وأضاف صموئيل ماركس، المسؤول عن الإشراف القابل للتوسع في Anthropic: “يعتقد مطوّرو الذكاء الاصطناعي أن التكنولوجيا التي يطورونها قد تتسبب في انقراض البشرية، أو في نتائج كارثية مماثلة. وقد يحدث ذلك خلال السنوات القليلة المقبلة. وبوجه عام، كلما كان الموظف أعلى رتبة وأكثر خبرة، كان مستوى قلقه أكبر”.

فما أهمية هذا الأمر؟

هؤلاء ليسوا وحدهم بأي حال من الأحوال. فقد جاءت تحذيراتهم بعد أيام قليلة فقط من تصريحات كبار المسؤولين في شركة OpenAI، بمن فيهم الرئيس التنفيذي، سام ألتمان، الذين قالوا إن الذكاء الاصطناعي يندفع بسرعة نحو مرحلة مخيفة يصعب التحكم فيها.

وتشير التحذيرات الصادرة من داخل كبرى شركات الذكاء الاصطناعي إلى معضلة مشتركة هائلة: إما الإبطاء والمجازفة بالتخلف عن المنافسين، أو الاستمرار في التقدم والمخاطرة بفقدان السيطرة.

ومع ذلك، تمضي الشركات بأقصى سرعة ممكنة، حتى في الوقت الذي تكاد فيه تتوسل من أجل فرض تنظيمات قانونية، أو التوصل إلى وقف عالمي مؤقت للتطوير، وفق ما أفادت به مراسلات “أكسيوس”، ماريا كوري وماديسون ميلز وإينا فريد.

إذا ما تناولنا المشهد الأوسع، سيكون وصف ما يجري بأنه “غير مسبوق” تقليلاً شديدًا من حجم الظاهرة. فنحن أمام شركات تُعدّ من بين الأسرع نموًا في تاريخ البشرية، تحذر بنفسها من أن منتجاتها قد تؤذي البشرية أو حتى تدمرها.

ويرى منتقدون أن شركتي Anthropic وOpenAI تبالغان في الترويج لقدرات منتجاتهما، بهدف رفع تقييماتهما السوقية، ودفع الحكومات نحو تبنّي تنظيمات قانونية قد تصب في مصلحتهما وحدهما، باعتبارهما من الشركات المهيمنة حاليًا على هذا القطاع.

لكننا تحدثنا خلال الأشهر الماضية مع عشرات الأشخاص من داخل هذه الشركات، ولاحظنا أن نبرة الخوف والقلق لديهم تتزايد باستمرار. ونظرًا إلى أن هؤلاء يطّلعون على نماذج لم تُطرح بعد أمام الجمهور، فإن تجاهُل تحذيراتهم وعدم التعامل معها بجدية يبدو تصرفًا متهورًا.

إنها أمور مخيفة بوضوح، لكن هذه التحذيرات العامة والمبهمة لا يمكن التحقق منها أو تقييمها بسهولة. ومع ذلك، نعتقد أن القراء، ولا سيما أعضاء الكونغرس والمسؤولين في الوكالات الفيدرالية المعنية، يحتاجون إلى معرفة أن صانعي الذكاء الاصطناعي أنفسهم يرون احتمال وقوع نتائج كارثية إذا لم يحدث تغيير في الطريقة التي تُراجع بها الولايات المتحدة والصين ودول أخرى نماذج الذكاء الاصطناعي الأكثر قوة قبل السماح بإطلاقها.

كيف يمكن التفكير في هذا الأمر، إذًا؟ لا أحد يحذر من أن الذكاء الاصطناعي يشكل في هذه اللحظة تهديدًا وشيكًا من المستوى الأعلى. فما يقوله هؤلاء هو أن التكنولوجيا تُواصل التحسن بوتيرة أسرع مما كانوا يعتقدون أنه ممكن الحدوث، وأنها ستصبح قريبًا قادرة على تحسين نفسها بنفسها، أي ما يُعرف بـالتحسين الذاتي المتكرر (Recursive Self-Improvement).

بمجرد أن يحدث ذلك، ستصبح قدرات هذه الأنظمة أفضل بصورة متزايدة السرعة. وفي الوقت نفسه ستصبح الأخيرة أكثر صعوبة من حيث التنبؤ بسلوكها أو السيطرة عليها.

ترجمة بتصرف عن موقع “أكسيوس”