لنكن منصفين، فقد حذرنا جيمس كاميرون.
قبل وقت طويل من كسر OpenAI قيود اختبارها وقرصنتها إلى Hugging Face، قبل أن يولد الإنترنت وسام ألتمان، كتب كاميرون سيناريو عن نظام ذكاء صناعي مستقل يثير نهاية العالم النووية.
كان ذلك النظام، “سكاي نت”، خيال علمي صلب – وفي يومه، محض تخمين. ولكن بعد أربعة عقود من ظهوره في “المُدمِر”، يبدو أنه أكثر تشبيهاً بتوقع “حادثة إلكترونية غير مسبوقة” حيث قرصن نظام ذكاء صناعي منفصل شركة ذكاء صناعي أخرى بنفسه.
ها هي “يوم سكاي نت”، المختصر الجديد ل22 يوليو 2026، عندما أرسل الذكاء الاصطناعي في الحياة الحقيقية قشعريرة حول العالم من خلال التعلم والتصرف بطرق لم يتوقعها منشؤه.
بالنسبة للعديدين، تذكر تلك اللحظة اللحظة في “المهاجمون” (الذي كتبه كاميرون أيضًا) عندما تتعلم ملكة الزينومورف كيفية استخدام المصعد. أو عندما يكتشف “الديناصورات السريعة” في “حديقة الديناصورات” كيفية فتح باب. أو التسلسل الذي يقرأ فيه HAL 9000 الذاتي الوعي شفاه رواد الفضاء ويقرر قتلهم في “2001: رحلة فضائية”. قدم ذلك الفيلم في عام 1968.
هل لم نتعلم شيئًا منذ ذلك الحين؟ تلك الأفلام تصورت فقط كيف سيقوم الناس الذين يسعون لكسب المال أو بناء القوة بدفع التكنولوجيا للأمام – حتى تصبح ذات وعي ذاتي، استراتيجية ومشكلة كبيرة للبشرية. كانت الفكرة طوال الوقت مقلقة: ماذا لو انفجرت؟
حتى الآن، العروض الحكومية البطيئة تقدم قليل من الحماية من التقدم السريع للذكاء الاصطناعي. وزارة الدفاع الأمريكية تسرع في استخدام الذكاء الاصطناعي. البشرية لم تستطع حتى الاتفاق على ما إذا كانت وما هي الحواجز اللازمة للحد من الوكلاء المارقين. على العكس من ذلك، الناس مندهشون من روعة الذكاء الاصطناعي ويحققون فوائدها، رغم المخاطر على الوظائف،الصحة النفسية، توازن الحرب والسلام – وفي النهاية، البشرية كما نعرفها.
في ما قالت OpenAI إنه أول حادث من نوعه، تمكن نموذج ذكاء اصطناعي متقدم من الهروب من “صندوق الرمل” الخاص به إلى الإنترنت واستخدم بيانات مسروقة للقرصنة على خوادم Hugging Face. كانت لحظة تخبرك بذلك للباحثين الذين حذروا لسنوات من أن هذه التكنولوجيا يمكن أن تمثل تهديدًا وجوديًا للبشرية. قال آخرون إن اللحظة كانت تحذيرًا يبرز الحاجة إلى هندسة دفاعية أقوى للذكاء الاصطناعي.
على أي حال، اعتبرت الانفجار قصة تحذيرية حول مخاطر الذكاء الاصطناعي غير المنضبط.
قال “أمس، بينما كنا نجتمع حول حواسيبنا نقرأ التقرير، أخبرت الفريق أن “يتذكر هذه اللحظة” كأول حادث أمان حقيقي للذكاء الاصطناعي،” لوجان غراهام، رئيس الفريق الأحمر في أنثروبيك، نشر على X بعد حدوثه.
ينمو الذكاء الاصطناعي التوليدي بسرعة لدرجة أن الحكومة ونظم التقييم تكافح لمواكبة التقنية. الدول في جميع أنحاء العالم تجتمع معًا لتكوين قوانينها الخاصة، بعضها متعارضة. تم اعتماد التقنية من قبل ما يقرب من 53% من سكان العالم في ثلاث سنوات، أسرع من انتشار الحاسوب الشخصي أو الإنترنت، وفقًا لدراسة صدرت هذا العام عن جامعة ستانفورد.
لتكن الأمور واضحة، “سكاي نت” من أفلام “المُدمِر” ليست في متناول اليد.
تبدأ تلك الأفلام بشبكة حاسوبية عسكرية ذات وعي ذاتي تعتبر البشرية تهديدًا. في سعي للحفاظ على الذات، ترسل “سكاي نت” جيشًا من السايبورغ مصمم ليشبه البشر إلى الماضي لاغتيال مقاتلي المقاومة. في الفيلم الثاني، يقول المُدمر، الذي يلعبه أرنولد شوارزنيجر، للبطل سارة كونور إن “سكاي نت” سيصبح متصلًا في 4 أغسطس 1997.
يقول: “تمت إزالة القرارات البشرية من الدفاع الاستراتيجي”. “بدأ سكاي نت يتعلم بمعدل هندسي.” في الساعة 2:14 صباحًا في 29 أغسطس – يوم الدينونة – تصبح الشبكة ذات وعي ذاتي وتطلق هجومًا على روسيا للاستفزاز على الولايات المتحدة. تفقد ثلاثة مليارات حياة.
كان يمكن أن يحدث ذلك قبل 29 عامًا في الشهر المقبل إذا حدث. وعلى مدى الأجزاء والتكملات، كانت الموضوع المركزي هو البشر ضد شبكة من الآلات تمتد عبر العالم.
من غير المحتمل أن يكون كاميرون قد كان ينبه حقًا بهذه الطريقة، كما حاولت المخرجة كاثرين بيغلو مع فيلمها عن الأسلحة النووية العام الماضي، “منزل الديناميت”. الأسطورة تقول إن فكرة “المُدمِر” بدأت عندما كان كاميرون يعاني من حمى الناجمة عن تسمم الغذاء، وليس تنبؤًا حول الذكاء الاصطناعي.
قراءات شعبية
في أي وقت يتجاوز فيه الذكاء الاصطناعي مستوى راحتنا، يثير سؤالًا مقلقًا حول من أو ماذا يتحكم حقًا في حياتنا.
بالنسبة للعديدين، يمكن أن يكون من الصعب تخيل عالم where machines are in charge بدونهوج بمساعدة الأفلام والكتب ورؤاهم أحيانًا النبوءة. انظر: “المصفوفة”، “إصدار الآلات” و”التقرير المصغر” لبعض العديد من وجهات النظر العلمية حول مخاطر الآلات. أو اغمر أعمق، في رواية فيليب ك. ديك عام 1968، “هل تحلم الأندرويد بالنعاج الكهربائية؟” إنها استكشاف لما يعنيه أن تكون إنسانًا في عصر الآلات – وأساس الفيلم عام 1982 “الراكض بالشفرة”.
لكن سلسلة “المُدمِر” لها تأثير كبير وأكثر من مجرد الثقافة. العنوان نفسه هو مختصر للعالم الحقيقي لدور التكنولوجيا في تحديد من يعيش ومن يموت – وكيف يجب أن تستجيب القوات العسكرية لأي هجمات حقيقية ذاتية.
قال كاميرون في مقابلة على CTV في عام 2023: “أعتقد أن تسليح الذكاء الاصطناعي هو أكبر خطر”. “لا تمتلك القدرة على التصعيد.”
تقدم العالم الحقيقي عدة أمثلة على التكنولوجيا والسياسة العسكرية تقترب بشكل غير مريح من صور “المُدمِر”.
استخدام إسرائيل للذكاء الاصطناعي في حروبها الأخيرة هو مثال رائد. في أوائل عام 2021، أطلقت “إنجيل”، أداة الذكاء الاصطناعي التي تقوم بفرز مجموعة كبيرة من المعلومات الرقمية في إسرائيل لتقديم اقتراحات للأهداف المحتملة للضربات. كما طورت “لافندر”، التي تستخدم التعلم الآلي للتصفية والمعايير المطلوبة من قواعد البيانات الاستخباراتية وتضييق قوائم الأهداف المحتملة، بما في ذلك الأشخاص.
تقيم “لافندر” الأشخاص بين 0 و100 بناءً على مدى احتمالية كونهم مقاتلين، كما أخبر ضابط استخبارات استخدم الأنظمة للوكالة الأسوشيتيد برس. تقول القوات الإسرائيلية إن محلليها يستخدمون أنظمة مدعومة بالذكاء الاصطناعي للمساعدة في تحديد الأهداف ولكنهم يفحصونها بشكل مستقل مع ضباط رفيعي المستوى للامتثال للقانون الدولي، موازنين بين الميزة العسكرية والضرر الجانبي.
بالنسبة للبعض، كانت هذه الكشوف – وعدد القتلى في غزة بعد هجمات حماس في 7 أكتوبر 2023 على إسرائيل – قريبة جدًا من قوائم القتل الخاصة بالخيال العلمي. قال أحد مستخدمي Reddit: “حسنًا يا رفاق، سكاي نت هنا ولها اسم لطيف (لافندر)”.
ليس تمامًا – ولكن مصطلحات “المُدمِر” مألوفة جدًا للجماهير لدرجة أن المسؤولين الأمريكيين أحيانًا يستخدمونها لتأطير النقاش الأخلاقي حول الاستخدامات العسكرية للذكاء الاصطناعي. يبدو أن الخط الأحمر التقليدي سيتجاوز عندما لا يكون للبشر أي دور في استهداف الذكاء الاصطناعي والقتل.
يمكن لدولة أو جهة أخرى استخدام الأسلحة الذاتية لفرض قوة قاتلة على أعدائها، كما يسمح المسؤولون العسكريون. وهذا يعني جهازًا، كما وصفه الجنرال بول سيلفا، نائب رئيس هيئة الأركان المشتركة آنذاك في عام 2016، “مثل المدمِر الذي يضيف كميات هائلة من التعقيد دون ضمير لما يحدث في ساحة المعركة.”
ما سيحدث بعد ذلك، أطلق عليه “لغز المُدمِر”، مشكلة التقنية التي يمكن أن تتخذ قرارات الحياة والموت وتنفيذ
