هل يمكن للذكاء الاصطناعي أن يقتل البشر؟ المشكلة قد تبدأ من الإنسان

في كل مرة يظهر فيها تطور جديد في الذكاء الاصطناعي، تعود إلينا القصة نفسها تقريباً: ماذا لو أصبح الذكاء الاصطناعي أذكى من الإنسان؟ ماذا لو خرج عن السيطرة؟ وماذا لو وصل الأمر في النهاية إلى أن يصبح الذكاء الاصطناعي خطراً على البشر؟

الخوف من الآلة أقدم من الذكاء الاصطناعي نفسه

فكرة أن التكنولوجيا قد تنقلب على الإنسان أقدم بكثير من ChatGPT أو النماذج الحديثة. في رواية Frankenstein لماري شيلي عام 1818، ظهرت واحدة من أشهر القصص التي ناقشت علاقة الإنسان بما يصنعه، وما يمكن أن يحدث عندما يخلق الإنسان شيئاً لا يستطيع السيطرة على نتائجه بالكامل. وبعد أكثر من قرن، جاءت مسرحية R.U.R. للكاتب التشيكي كاريل تشابك عام 1920، وهي العمل الذي ارتبط بانتشار كلمة Robot في الثقافة الحديثة.

لاحقاً، أصبحت هذه الفكرة جزءاً من الخيال العلمي الحديث. من HAL 9000 في فيلم 2001: A Space Odyssey إلى عالم The Terminator، أصبحت الآلة التي تتفوق على الإنسان أو تتمرد عليه صورة ثقافية راسخة. فيلم The Terminator تحديداً، الذي صدر عام 1984، لعب دوراً كبيراً في ترسيخ صورة الذكاء الاصطناعي باعتباره تهديداً محتملاً للبشر، حتى وإن كانت التكنولوجيا التي نعرفها اليوم مختلفة جذرياً عن تلك الصورة السينمائية.

لذلك، عندما نرى اليوم عناوين تتحدث عن احتمال أن يصبح الذكاء الاصطناعي خطراً على البشرية، نحن لا نتعامل مع فكرة ظهرت فجأة مع ChatGPT. هناك تاريخ طويل من الأسئلة حول العلاقة بين الإنسان والآلة، وحول قدرتنا على التحكم في الأشياء التي نصنعها.

لكن هذه المرة، التحذير يأتي من داخل شركات الذكاء الاصطناعي نفسها

ما جعل النقاش الحالي أكثر إثارة للاهتمام بالنسبة لي هو أن التحذير لم يعد يأتي فقط من كتّاب الخيال العلمي أو من أشخاص بعيدين عن صناعة التكنولوجيا. في سبتمبر 2026، استقال الباحث Jacob Coxon من Anthropic، الشركة المطوّرة لنموذج Claude، بعد أن عمل في أبحاث الذكاء الاصطناعي، وكان قد عمل سابقاً أيضاً في OpenAI. وبعد استقالته نشر تحذيرات حول سرعة السباق نحو أنظمة أكثر قدرة على تحسين نفسها، وربط ذلك باحتمالات كارثية للبشرية.

الجزء الأكثر لفتاً بالنسبة لي لم يكن تصريح موظف سابق فقط، وإنما ما حدث بعد ذلك. Evan Hubinger، وهو باحث حالي في Anthropic ويعمل في مجال Alignment، رد على Coxon واعتبر أن تحذيره في جوهره صحيح، وقدّر شخصياً احتمالاً يتجاوز 10% لحدوث نتيجة كارثية خلال العقد المقبل. وفي الوقت نفسه، تحدث باحث آخر في Anthropic، Samuel Marks، عن أن مطوري الذكاء الاصطناعي يرون بالفعل احتمال نتائج شديدة الخطورة.

وهنا أعتقد أن علينا أن نكون دقيقين جداً. هذه التصريحات مهمة لأنها تأتي من أشخاص يعملون داخل المجال، لكنها تبقى تقديرات وتحذيرات وليست حقائق مؤكدة أو إجماعاً علمياً على أن انقراض البشرية سيحدث. حتى داخل مجتمع الذكاء الاصطناعي توجد اختلافات كبيرة حول حجم هذا الخطر وتوقيته واحتماله. المطلوب هو أن نأخذ السؤال بجدية كافية حتى نستعد له قبل أن نعرف إجابته.

لكن الذكاء الاصطناعي نفسه لم يبدأ بهذه الصورة

الذكاء الاصطناعي كحقل علمي أخذ شكله الرسمي في خمسينيات القرن الماضي. في عام 1956، اجتمع عدد من الباحثين في جامعة Dartmouth لدراسة إمكانية وصف جوانب من التعلم والذكاء البشري بطريقة تسمح للآلة بمحاكاتها. وقبل ذلك بسنوات، كان Alan Turing يناقش سؤالاً أكثر جوهرية: هل يمكن للآلات أن تفكر؟

هذه الأسئلة المبكرة لم تكن تدور فقط حول صناعة آلات تقتل البشر أو تسيطر عليهم. كانت تدور حول إمكانية جعل الآلة تتعلم، وتحل المشكلات، وتتعامل مع اللغة، وتحاكي بعض جوانب الذكاء البشري. وهنا أعتقد أن النقاش الحالي يحتاج إلى شيء من التوازن. الذكاء الاصطناعي ليس مشروعاً صُمم أساساً لاستبدال الإنسان أو السيطرة عليه. هو مجموعة من التقنيات التي طورها البشر، واستخدموها لأغراض مختلفة، وبعض هذه الاستخدامات إيجابي جداً، وبعضها يحمل مخاطر حقيقية.

الذكاء الاصطناعي يحمل الوجهين معاً

ربما أكثر ما يلفتني في الذكاء الاصطناعي هو هذه الازدواجية. الأداة نفسها يمكن أن تستخدم في اتجاهات مختلفة تماماً. يمكن للذكاء الاصطناعي أن يساعد الطبيب على تحليل كميات ضخمة من المعلومات، ويساعد الطالب على التعلم، ويساعد الباحث على اكتشاف أنماط جديدة، ويساعد المؤسسة على اتخاذ قرارات أفضل، ويساعد شخصاً يبحث عن فرصة عمل على تحسين سيرته الذاتية والاستعداد لمقابلة شخصية.

وفي الوقت نفسه، يمكن استخدام القدرات نفسها في إنتاج التضليل، أو الاحتيال، أو الهجمات السيبرانية، أو التلاعب بالمحتوى، أو تطوير تطبيقات عسكرية أكثر استقلالية. لذلك، المشكلة ليست دائماً في وجود التقنية نفسها، وإنما في الطريقة التي يتم بها تصميمها واستخدامها والرقابة عليها.

وهذا يجعل الحديث عن الذكاء الاصطناعي باعتباره جيداً أو سيئاً تبسيطاً لمسألة أكثر تعقيداً. الذكاء الاصطناعي أداة ذات قدرات واسعة، وهذه القدرات يمكن أن تخدم أهدافاً مختلفة. السؤال الحقيقي يصبح: من يحدد هذه الأهداف؟ وما الحدود التي نضعها؟ وما المبادئ التي نريد أن تحكم استخدامها؟

لماذا ركز الإعلام على فكرة أن الذكاء الاصطناعي سيقتلنا؟

ربما لهذا السبب تحظى فكرة تمرد الذكاء الاصطناعي باهتمام إعلامي كبير. قصة آلة تتفوق على الإنسان ثم تقرر القضاء عليه أسهل بكثير في تقديمها للقارئ والمشاهد من قصة طويلة عن جودة البيانات، وحوكمة النماذج، والشفافية، والمساءلة، والخصوصية، والتحيز الخوارزمي.

دراسات حول السرديات الإعلامية المرتبطة بالذكاء الاصطناعي تشير إلى وجود سردية واضحة تركز على المخاطر الوجودية، أي احتمال أن تؤدي أنظمة ذكاء اصطناعي متقدمة مستقبلاً إلى نتائج كارثية أو يصعب على البشر السيطرة عليها. هذه السردية موجودة إلى جانب سرديات أخرى ترى الذكاء الاصطناعي باعتباره فرصة لتسريع الابتكار وتحسين الإنتاجية وحل مشكلات معقدة.

المشكلة تبدأ عندما تتحول السيناريوهات المستقبلية إلى حقائق مؤكدة في أذهان الناس. هناك فرق كبير بين أن نقول إن خطراً معيناً يستحق الدراسة والاستعداد، وبين أن نقول إن هذا الخطر سيحدث حتماً. وبين الاثنين مساحة كبيرة من الاحتمالات والأسئلة التي ما زالت مفتوحة.

السؤال الذي أراه أكثر أهمية: ماذا نعلّم الآلة؟

في الحلقة التي شاهدتها من بودكاست 2043، كان هناك نقاش لافت حول الأخلاق، وكيف يمكن أن نعلّم الآلات القيم والمبادئ التي نريدها. وهذا الجزء تحديداً جعلني أفكر في مسؤولية الإنسان بطريقة مختلفة.

نحن نتحدث كثيراً عن قدرة الذكاء الاصطناعي على التعلم، وننسى أحياناً أن الأنظمة التي نبنيها تتأثر بالبيانات التي نستخدمها، والأهداف التي نحددها، والتقييمات التي نضعها، والقيود التي نفرضها، والطريقة التي نقرر بها ما هو مقبول وما هو غير مقبول.

بمعنى آخر، الإنسان موجود في مراحل كثيرة من دورة الذكاء الاصطناعي. نحن نختار البيانات، ونصمم الأنظمة، ونحدد الأهداف، ونبني آليات التقييم، ونقرر أين يمكن استخدام النظام وأين يجب منعه، ثم نقرر كيف نتعامل مع نتائجه.

هذا لا يعني أن الإنسان يستطيع التحكم مسبقاً في كل سلوك يمكن أن ينتج عن نظام متقدم. الأنظمة المعقدة قد تنتج سلوكيات غير متوقعة، ولهذا أصبحت موضوعات مثل اختبار النماذج، وإدارة المخاطر، والرقابة البشرية، والحوكمة، جزءاً أساسياً من النقاش حول الذكاء الاصطناعي المسؤول.

المشكلة ليست أن الذكاء الاصطناعي يتعلم منا، بل ماذا يتعلم منا

إذا كنا نحن من يبني التكنولوجيا، ثم نضع لها البيانات والأهداف والمعايير، فمن الطبيعي أن نسأل: ماذا يحدث عندما تكون البيانات نفسها مليئة بتحيزاتنا؟ ماذا يحدث عندما نستخدم الذكاء الاصطناعي لتحقيق أهداف تجارية فقط دون التفكير في أثرها الاجتماعي؟ ماذا يحدث عندما نستخدمه لتسريع عملية سيئة بدلاً من تحسينها؟

هذه الأسئلة تجعل أخلاقيات الذكاء الاصطناعي أكثر من مجرد موضوع نظري. UNESCO تضع حقوق الإنسان والكرامة الإنسانية والشفافية والعدالة والإشراف البشري والاستدامة ضمن المبادئ الأساسية لأخلاقيات الذكاء الاصطناعي. كما يقدم NIST إطاراً لإدارة مخاطر الذكاء الاصطناعي يركز على الحوكمة، وتحديد المخاطر، وقياسها، وإدارتها بشكل مستمر.

بالنسبة لي، هذا هو الجزء الذي يستحق اهتماماً أكبر من السؤال المثير: هل سيقتلنا الذكاء الاصطناعي؟ السؤال الأكثر واقعية هو: هل نحن نبني ذكاءً اصطناعياً يعكس أفضل ما في الإنسان، أم أننا نعيد إنتاج أسوأ ما فيه على نطاق أكبر؟

الذكاء الاصطناعي لا يحتاج إلى أن يكرهنا حتى يصبح خطيراً

عندما نتخيل خطراً من الذكاء الاصطناعي، غالباً ما نتخيله بطريقة بشرية جداً. نتخيل آلة تغضب، أو تكره، أو تنتقم، أو تقرر أن البشر عدوها. لكن الخطر المحتمل لا يحتاج إلى هذه المشاعر أصلاً.

النظام لا يحتاج إلى أن يكره الإنسان حتى ينتج نتيجة سيئة. يكفي أن يكون لديه هدف محدد بطريقة خاطئة، أو أن يعمل ضمن قيود غير مناسبة، أو أن يتم استخدامه من قبل شخص لديه أهداف ضارة. وهذا يجعل موضوع المواءمة بين أهداف الأنظمة والقيم الإنسانية مهماً جداً.

لذلك، لا أعتقد أن علينا انتظار لحظة سينمائية تستيقظ فيها الآلات وتقرر مهاجمة البشر حتى نبدأ بالتفكير في المسؤولية. النقاش الحقيقي يجب أن يحدث قبل ذلك بكثير.

نحن لا نحتاج فقط إلى تدريب الذكاء الاصطناعي، بل إلى تدريب الإنسان أيضاً

نتحدث كثيراً عن تدريب الذكاء الاصطناعي، وعن البيانات والنماذج والخوارزميات. لكن هناك جانباً آخر من القصة: هل نجهز الإنسان نفسه لاستخدام هذه القوة؟

إذا أصبح الذكاء الاصطناعي قادراً على إنتاج المعلومات وتحليلها واتخاذ بعض القرارات بسرعة غير مسبوقة، فإن المشكلة لن تكون فقط في قدرته، وإنما في قدرة المستخدم على الحكم على ما ينتجه.

شخص لا يعرف كيف يتحقق من المعلومات يمكن أن يستخدم الذكاء الاصطناعي لنشر معلومات خاطئة بسرعة أكبر. مدير لا يفهم حدود النظام يمكن أن يعتمد على توصية آلية في قرار حساس دون مراجعة. مؤسسة لا تضع قواعد واضحة يمكن أن تستخدم التقنية بطريقة تخلق مخاطر لم تكن محسوبة.

لذلك، بناء مستقبل مسؤول مع الذكاء الاصطناعي يحتاج إلى الاستثمار في الإنسان بالتوازي مع الاستثمار في التكنولوجيا. نحتاج إلى مهارات التفكير النقدي وبناء القدرات، والوعي الرقمي، والأخلاقيات، والقدرة على طرح الأسئلة، وفهم حدود الأدوات التي نستخدمها.

من سيحدد شكل المستقبل؟

لا أعتقد أن الإجابة على سؤال هل سيقتل الذكاء الاصطناعي البشر؟ يمكن اختزالها في نعم أو لا. هناك سيناريوهات مختلفة، ومستويات مختلفة من المخاطر، ونقاش علمي وفلسفي وتقني مستمر حول مستقبل الأنظمة المتقدمة.

لكن هناك شيئاً أكثر وضوحاً: مستقبل الذكاء الاصطناعي لن يتحدد فقط بما تستطيع الآلات فعله، وإنما أيضاً بما يختار البشر أن يفعلوه بهذه القدرات.

وهذا يعيدنا إلى الفكرة التي بدأت منها. ربما نحن نسأل السؤال الخطأ عندما نركز طوال الوقت على احتمال أن يتمرد الذكاء الاصطناعي علينا. قبل أن نسأل ماذا سيفعل الذكاء الاصطناعي بالبشر، علينا أن نسأل ماذا يفعل البشر بالذكاء الاصطناعي اليوم، وما الذي نعلّمه له، وما الذي نكافئه عليه، وما الحدود التي نضعها أمامه.

لأن التكنولوجيا لا تأتي وحدها. تأتي معها قرارات بشرية، وقيم بشرية، ومصالح بشرية، وأحياناً أخطاء بشرية. وفي النهاية، قد لا يكون أكبر اختبار للذكاء الاصطناعي هو قدرته على أن يصبح أذكى منا. قد يكون الاختبار الحقيقي هو: هل يستطيع الإنسان أن يصبح أكثر مسؤولية كلما أصبحت التكنولوجيا أكثر قوة؟

---