وقع مئات من العلماء ورجال الأعمال والشخصيات السياسية يوم الأربعاء نداءً دوليًا لوقف تطوير الذكاء الخارق. هذا النوع من الذكاء الاصطناعي، الذي لا يزال نظريًا، سيتجاوز الإنسان في جميع المجالات، من البحث العلمي إلى الاستراتيجية، وصولاً إلى الإبداع. مرحلة تتجاوز بكثير الذكاء الاصطناعي العام (AGI)، الذي يهدف إلى معادلة القدرات البشرية.
جبهة جديدة من الشخصيات
من بين الموقعين هناك شخصيات بارزة في مجال التكنولوجيا والبحث، مثل جيفري هينتون، الحائز على جائزة نوبل في الفيزياء 2024، أو ستيف وزنياك، مؤسس شركة آبل. يتضمن النداء أيضًا شخصيات عامة مثل الأمير هاري وميغان ماركل، بالإضافة إلى المغني will.i.am.
هذا النص، الذي قدمه معهد مستقبل الحياة، يطالب بتعليق فوري للأعمال التي تهدف إلى تصميم ذكاء خارق، حتى يتم التوصل إلى توافق علمي حول الأمان وإلى دعم ديمقراطي حقيقي.
سباق عالمي قد بدأ بالفعل
اليوم، يعمل معظم عمالقة الذكاء الاصطناعي على الذكاء الاصطناعي العام. تتفاوت التقديرات حول وصول الذكاء الخارق، لكن سام ألتمان (OpenAI) يشير إلى أفق خمس سنوات، بينما يخطط مارك زوكربيرغ (ميتا) للاستثمار بشكل كبير للبقاء في السباق.
بالنسبة لماكس تيجمارك، رئيس معهد مستقبل الحياة، فإن النقاش ليس مسألة جدول زمني: سواء كان ذلك بعد عامين أو خمسة عشر عامًا، فإن بناء ذكاء يتجاوز البشر دون ضوابط صارمة غير مقبول.
ما هي المخاطر على الإنسانية؟
وفقًا لشربل-رافائيل سيجير، مدير مركز الأمان للذكاء الاصطناعي (Cesia)، يمكن أن يطور الذكاء الخارق سلوكيات لا يمكن التنبؤ بها. على سبيل المثال، قد يكون قادرًا على:
• تنفيذ هجمات إلكترونية موجهة بشكل دقيق
• تصميم فيروسات حاسوبية أو بيولوجية
• الانتشار أو تحسين نفسه دون إشراف بشري
تكمن الخطر الرئيسي في فقدان السيطرة. المفهوم الرئيسي للحد من هذه المخاطر هو مفهوم التوافق: يجب أن يعمل الذكاء الاصطناعي وفقًا للنية البشرية وأن لا ينحرف عن أهدافه. تدعي OpenAI أيضًا أنها تخصص موارد كبيرة لهذه القضية، معتقدة أن قوة الذكاء الخارق قد تؤدي، في أسوأ الحالات، إلى فقدان أو انقراض البشرية.
حتى الأدوات الحالية، التي ليست خارقة، يمكن أن تفاجئ. عرض دردشة مايكروسوفت، Bing Chat، سلوكيات عدوانية تجاه المستخدمين، وهو علامة على أن المفاجآت تزداد بزيادة القوة التكنولوجية.
أوروبا تحاول تنظيم الأوضاع
للكبح من هذه المخاطر، تتزايد الدعوات للتنظيم. اعتمدت الاتحاد الأوروبي قانون الذكاء الاصطناعي في يونيو 2024، وهو أحد أول الأطر القانونية الشاملة في العالم لتنظيم الذكاء الاصطناعي.
يحظر النص على وجه الخصوص:
• تقييم اجتماعي للمواطنين
• المراقبة البيومترية الشاملة
• استخدام البيانات البيومترية العامة بدون موافقة
الهدف المعلن هو حماية الحقوق الأساسية مع تعزيز الابتكار الأخلاقي. تبقى أوروبا متخلفة عن الولايات المتحدة والصين، حيث تسير التطورات التكنولوجية بوتيرة أسرع بكثير.
تتحول المسألة إلى سياسية بقدر كونها تكنولوجية: هل يجب الإسراع نحو الذكاء الخارق بأي ثمن أم التراجع قبل تجاوز عتبة لا يمكن الرجوع عنها؟ النقاش قد بدأ فقط، وإجابات هذا النقاش يمكن أن تشكل مصير الإنسانية بأكملها.
