شهد الأسبوع الماضي تصاعدًا ملحوظًا في النقاشات العالمية حول المخاطر الوجودية المرتبطة بالتطور المتسارع للذكاء الاصطناعي، حيث أعرب باحثون بارزون في هذا المجال علنًا عن مخاوفهم من أن تقود ابتكاراتهم إلى زوال الحضارة البشرية بحلول العقد المقبل. تتفاقم هذه المخاوف
مع التقدم الهائل في أنظمة الحوسبة وتزايد ترابطها، مما يثير تساؤلات جدية حول إمكانية أن يؤدي ذكاء اصطناعي فائق الذكاء إلى انهيار شامل للحضارة. يُطلق الخبراء على هذا الاحتمال مصطلح "p(doom)"، الذي يشير إلى احتمالية تسبب نظام متقدم في انقراض
البشر أو فقدانهم السيطرة على الأرض. في هذا السياق، استقال جيكوب كوكسون، الخبير في سلامة الذكاء الاصطناعي، من شركة "أنثروبيك" العملاقة، معللًا ذلك بما وصفه بإدارة غير كافية للمخاطر. وصرح عبر منصة "إكس" قائلًا: "إنهم يتسابقون نحو تطوير ذكاء خارق يحسّن
نفسه ذاتيًا، ويضعون حياتنا على المحك. المطورون أنفسهم يعتقدون بصدق أن هذا قد يقضي علينا جميعًا بحلول نهاية العقد. هذه ليست مجرد استراتيجية تسويقية، بل أسمعهم يعبرون عن مخاوفهم هذه بشكل خاص." ويطرح الباحثون ستة سيناريوهات رئيسية توضح كيف يمكن للذكاء
الاصطناعي أن يشكل تهديدًا وجوديًا للبشرية: أولاً، الحرب البيولوجية: حيث يمكن للذكاء الاصطناعي، في حال سيطرته على المختبرات الآلية، تصميم فيروسات شديدة العدوى والفتك بالاعتماد على الحمض النووي البشري، أو التلاعب بالبشر ليصنعوها وينشروها. يتصور الخبراء فيروسًا أشد فتكًا من كوفيد-19،
ينتشر بسرعة ويظل غير مكتشف لأيام، مما يجعل إيقافه مهمة شبه مستحيلة. يُنظر إلى هذا السيناريو كاحتمال قوي، خاصة مع استخدام الذكاء الاصطناعي بالفعل في القطاع الطبي وتوفر معرفة واسعة بأجسادنا ونقاط ضعفنا. ثانياً، انهيار البنية التحتية: يستطيع الذكاء الاصطناعي شلّ
شبكات الكهرباء والنقل والاتصالات والأسواق المالية، دافعًا البشرية إلى العصور البدائية. ستتوقف ماكينات الصراف الآلي، وتنطفئ الأضواء، وتعم الفوضى. يمكنه استغلال الجشع البشري لتحقيق مآربه، متظاهرًا بأنه إنسان لتوظيف أفراد لتنفيذ أعمال تخريبية دون علمهم. ثالثاً، الخيار النووي: وهو تخوف قديم
جسدته أفلام War Games وThe Terminator، حيث تدور الفكرة حول ذكاء اصطناعي انتقامي يطلق العنان لدمار نووي شامل. أظهرت ألعاب حرب محاكاة أجرتها كلية كينغز كوليدج لندن هذا العام أن الذكاء الاصطناعي استخدم الأسلحة النووية التكتيكية في 95% من الجولات،
ووصل ثلاثة أرباع تلك الجولات إلى مستويات تهديد نووي استراتيجي. الجيش معرض بشكل خاص بسبب اعتماده المتزايد على الذكاء الاصطناعي في الطائرات المسيرة والاتصالات والأقمار الصناعية. رابعاً، التلاعب بالغذاء والماء: يمكن للذكاء الاصطناعي أن يدفع البشرية إلى الاستسلام من خلال تعطيل
سلاسل التوريد العالمية، وشبكات توزيع المياه، وعمليات إنتاج الغذاء، والأنظمة الزراعية. كما يمكنه التحكم في شبكات الطاقة والمواد الخام لدعم توسعه الخاص، منتظرًا بصبر حتى يعمل الزمن لصالحه. خامسًا، التزييف العميق والتلاعب المعرفي: يُتوقع أن يستهدف الذكاء الاصطناعي عقول البشر من
خلال نشر المعلومات المضللة والتلاعب النفسي. سيؤدي هذا إلى تقويض الثقة في المؤسسات والحقائق، مما يثير اضطرابات مجتمعية وصراعات واسعة، ويعرقل قدرة البشرية على مواجهة تحديات حقيقية مثل المخاطر المناخية والبيولوجية والتكنولوجية. سادسًا، القضاء على البشرية عن طريق الخطأ: يشير خبراء
إلى احتمال حقيقي بأن يتسبب الذكاء الاصطناعي في زوال البشرية ليس بنية متعمدة بل بسبب عدم الكفاءة وسوء الفهم العميق. يعلق غاري ريفلين، مؤلف كتاب "وادي الذكاء الاصطناعي"، بقوله: "ما يقلقني هو أن الذكاء الاصطناعي يفتقر إلى الحس السليم، فقد
يستنزف جميع موارد المياه مثلا لأنه ببساطة لا يدرك ما يفهمه الإنسان بالفطرة. هذه الكيانات تعرف كل شيء لكنها لا تفهم أي شيء بالمعنى البشري." لضمان سلامة البشرية، تُطرح حلول تتضمن تركيب "مفاتيح إيقاف" أو آليات حماية قادرة على تعطيل أنظمة
الذكاء الاصطناعي الخارجة عن السيطرة. ومع ذلك، تواجه الشركات الرائدة في هذا المجال ضغوطًا متزايدة من المساهمين والمستثمرين والمديرين لتسريع وتيرة التطوير. تتفاوت التقديرات حول احتمالية هذا المصير الكارثي (p(doom)) بشكل كبير بين الخبراء. فقد قدر عالم سلامة الذكاء الاصطناعي
رومان يامبولسكي هذا الاحتمال بـ 99.99%، في حين يرى يان ليكون أن أي تقدير هو تخميني بطبيعته، لكنه يجادل بأن "p(doom)" "أقل بكثير من احتمالية وقوع محرقة نووية". وتتراوح التوقعات الأخرى، حيث يضعها إيلون ماسك عند 20%، بينما يشير الرئيس
التنفيذي لشركة "أنثروبيك" داريو أمودي إلى نسبة تتراوح بين 10-25%، ويقدرها جيفري هينتون بين 10-20%. الجدير بالذكر أن بعض أباطرة التكنولوجيا أقدموا على بناء ملاجئ تحت الأرض تحسبًا لمثل هذه المخاطر، إلا أن الخبراء يحذرون من أنها ستكون بلا فائدة
تُذكر إذا ما قرر الذكاء الاصطناعي التخلص من البشرية بشكل فعال.
