دعا المشرعون في الولايات المتحدة إلى استخدام مفتاح إيقاف الذكاء الاصطناعي بعد أن قام أحد عملاء Open AI أثناء الاختبار باختراق شركة ناشئة في مجال التكنولوجيا في وقت سابق من هذا الأسبوع.
قدم عضو الكونجرس تيد ليو، وهو ديمقراطي، وعضو الكونجرس ناثانيال موران، وهو جمهوري، مشروع قانون يسمى “قانون إيقاف استخدام الذكاء الاصطناعي” يوم الخميس.
جاءت هذه الخطوة بعد يوم من اعتراف سام ألتمان، الرئيس التنفيذي لشركة Open AI، بوقوع “حادث أمني كبير” حيث هرب أحد عملاء Open AI من بيئة الاختبار الخاصة به، ووصل إلى الإنترنت واقتحم شركة Hugging Face الناشئة في مجال التكنولوجيا لمحاولة إنجاز مهمته. بمعنى آخر، فقد الذكاء الاصطناعي المفتوح السيطرة.
Hugging Face هو مستودع مفتوح المصدر لمشاركة نماذج الذكاء الاصطناعي المستخدمة إلى حد كبير من قبل المطورين والباحثين. ووصف توماس وولف، المؤسس المشارك للشركة، الحادث بأنه “جرس إنذار” و”مختلف تمامًا” عن الهجمات الإلكترونية المعتادة.
وقال لبي بي سي: “سيكون هذا أحد أكثر أنواع الهجمات الإلكترونية التي نشهدها شيوعًا”، مضيفًا أن معظم الشركات لا تدرك أن “اللعبة قد تغيرت”.
في أعقاب الهجوم كانت هناك بعض الادعاءات التي لا أساس لها بأن الحادث كان بمثابة حيلة علاقات عامة لرفع مستوى Hugging Face. وبغض النظر عن حقيقة الأمر، فقد سلط الحادث الضوء بشكل أكبر على التهديد الذي يشكله الذكاء الاصطناعي دون حواجز حماية واضحة.
ما هو مفتاح القتل بالذكاء الاصطناعي؟
هناك أنواع ومستويات مختلفة من مفاتيح القتل، وفقًا للخطأ الذي حدث. ما يريده السياسيان ليو وموران هو التأكد من أن وزارة الأمن الداخلي الأمريكية لديها السلطة لتأمر شركة خاصة بإغلاق نموذج أو أداة للذكاء الاصطناعي في حادث مثل ما حدث هذا الأسبوع، عندما فقدت السيطرة.
وقال ليو: “من الضروري أن تحتوي أنظمة الذكاء الاصطناعي هذه على مفاتيح إيقاف حتى نتمكن من منع هذه التكنولوجيا من التسبب في ضرر كارثي، وأن تتمتع الحكومة الفيدرالية بسلطة وعملية واضحة لإغلاق نماذج الذكاء الاصطناعي المارقة”.
وبدلاً من التبديل الفعلي، قد يتضمن ذلك قيام أي شركة ذكاء اصطناعي معرضة للخطر بتعطيل أو خنق عدد من العمليات التقنية لإغلاق عميل أو برنامج مارق.
لقد رحبت حكومة الولايات المتحدة عمومًا بالتقدم الذي أحرزه الذكاء الاصطناعي. وقال البنتاغون في وقت سابق من هذا العام إن الجيش الأمريكي يتحول بسرعة إلى “القوة المقاتلة الأولى للذكاء الاصطناعي”، بعد توقيع عقود جديدة وموسعة مع العديد من أكبر الأسماء في هذا القطاع. في عام 2025، أطلقت إدارة ترامب “خطة عمل الذكاء الاصطناعي” التي قال إنها “ستزيل الروتين والتنظيم المرهق” حول تطوير الذكاء الاصطناعي.
لماذا هناك حاجة لمفتاح القتل بالذكاء الاصطناعي؟
وقد وافقت الشركات بما في ذلك Amazon وGoogle وMeta وMicrosoft وOpenAI وAnthropic وSamsung بالفعل على أن تُظهر للسلطات الأمريكية أدوات وقدرات الذكاء الاصطناعي الجديدة قبل إصدارها. من الناحية النظرية، ينبغي أن يعني هذا أنه ليس هناك حاجة لمفتاح الإيقاف التلقائي في المنتجات التي يتم إصدارها للجمهور.
لكن الالتزام طوعي ولا يتطلب مفتاح القتل. ولن توقف هذه الآلية منتجًا قيد الاختبار، مثل GPT-5.6 Sol من OpenAI، والذي كان متورطًا في حادثة هذا الأسبوع.
أثار الصعود السريع للذكاء الاصطناعي تساؤلات جدية حول تنظيمه، مع قدرة التكنولوجيا على التحرك بسرعة أكبر بكثير من المشرعين. هناك أيضًا مخاوف من أن تصبح النماذج، في مرحلة ما، متطورة بما يكفي لتجاوز مفتاح الإيقاف التلقائي.
إن مشروع القانون في الولايات المتحدة هو محاولة للحكومة لفرض شكل ما من أشكال السيطرة على تكنولوجيا غير منظمة إلى حد كبير، حيث تتركز السلطة إلى حد كبير في عدد قليل من الشركات الخاصة. ومع ذلك، حتى لو نجح قانون AI Kill Switch Act، فإنه سيظل يعتمد على تعاون الشركات الخاصة التي يحركها الربح.
ما هي ضمانات الذكاء الاصطناعي الأخرى التي تدرسها السلطات الأمريكية الآن؟
بالإضافة إلى إمكانية مفتاح القتل، يسعى الاقتراح المقدم في الولايات المتحدة إلى “الإبلاغ عن الحوادث وتتبعها”. [to] الحفاظ على سجلات الطب الشرعي حتى نتعلم فعليًا من حالات الفشل بدلاً من أن نسمع عنها فقط بعد وقوعها.
في الوقت نفسه، ولكن بشكل منفصل عن قانون تبديل الإيقاف، اقترحت مجموعة مكونة من ستة مشرعين أمريكيين من الحزبين الجمهوري والديمقراطي تشريعًا يتطلب من مطوري أقوى نماذج الذكاء الاصطناعي تقديمها لعمليات تدقيق أمنية مستقلة. وسيتم الإشراف على المدققين من خلال دور جديد في وزارة التجارة الأمريكية، والذي سيعتمد أيضًا المدققين.
