مع تطور الذكاء الاصطناعي وزيادة قدرته على اكتشاف المشكلات البرمجية، يحذر الخبراء بشكل متزايد من كارثة محتملة: ما يسمى بـ “Vulnpocalypse”. حذر باحثون أمنيون من أن بإمكان المتسللين تسريع ترسانتهم باستخدام تقنية الذكاء الاصطناعي المصممة لاكتشاف الثغرات في الأمن السيبراني. هذا الأسبوع، بدأ الوضع يبدو سخيفاً.
قم بالتسجيل لقراءة هذه المقالة بدون إعلانات
احصل على مقالات خالية من الإعلانات ومحتوى حصري.
أعلنت شركة Anthropic، الشركة الرائدة في مجال الذكاء الاصطناعي، أنها ستطلق أحدث إصدار لها، Mythos Preview، للجمهور، مشيرة إلى تطور غير مسبوق. القدرة على الوعي بالمخاطر والتي يمكن أن تسبب أضرارا جسيمة في الأيدي الخطأ. وبدلاً من ذلك، تقوم الشركة بمشاركة النموذج مع مجموعة صغيرة من الخبراء التقنيين والشركاء لدعم أمانهم.
وقد وصل القلق إلى أعلى المستويات الحكومية. بعد إعلان Anthropic عن Mythos Preview، عقد وزير الخزانة سكوت بيسنت اجتماعًا مع المؤسسات المالية الكبرى هذا الأسبوع لمناقشة “التطور السريع للذكاء الاصطناعي”، حسبما قال متحدث باسم الوكالة.
يعتقد البعض أن الذكاء الاصطناعي يمكن أن يساعد المتسللين على تعطيل الأنظمة المالية أو إغلاق المستشفيات والمصانع. ويمكن أن يساعد دولًا مثل إيران على إيقاف الأسلحة الأمريكية المهمة. أو يمكن استخدامه لإطلاق إصدارات كبيرة تؤثر على المسافرين أو مستخدمي الإنترنت.
وقال كيسي إليس، مؤسس Bugcrowd، وهي منصة للباحثين في مجال الأمن السيبراني الذين يبحثون عن التهديدات: “لدينا تهديدات أكثر مما يعترف به معظم الناس؛ كان إصلاحها جميعًا صعبًا من قبل، والآن أصبح استخدامها أسهل من قبل العديد من الخصوم المحتملين”. “يضع الذكاء الاصطناعي الأدوات المتاحة للقيام بذلك في أيدي المزيد من الناس.”
غالبًا ما يقتحم المتسللون الأنظمة من خلال البحث عن طرق لاستغلال الأخطاء في البرامج، مما يؤدي إلى عمليات ذهاب وإياب لا نهاية لها حيث سيبحث المهاجمون عن فرص جديدة وسيحاول المهاجمون تغيير سياساتهم لإيقافهم. أثبتت بعض أنواع الذكاء الاصطناعي، خاصة تلك التي تعادل جودة الكتابة البشرية أو أفضل منها، أنها جيدة جدًا في اكتشاف المشكلات بسرعة.
ارتفعت المخاوف بشأن قدرة الذكاء الاصطناعي على تزويد المتسللين بأدوات متطورة تقوض حماية الأمن السيبراني إلى مستوى جديد هذا الأسبوع، عندما أعلنت Anthropic أنها لن تطلق Mythos للجمهور.
ولكن بغض النظر عما إذا كانت Mythos ترقى إلى مستوى إمكاناتها الكاملة، يتفق خبراء الصناعة على أن الحساب سيأتي قريبًا، عندما سيتمكن المتسللون من استخدام الذكاء الاصطناعي لمنحهم المزيد من النفوذ على ضحاياهم أكثر من أي وقت مضى.
وقال إليس: “يجب أن يكون المدافع على حق في كل مرة، بينما يجب أن يكون المهاجم على حق مرة واحدة”.
وقال لوجان جراهام، الذي يقود الأبحاث السيبرانية الخبيثة في Anthropic، إنه على الرغم من أن Mythos لم يكن معروفًا بعد، فإنه يتوقع أن يقوم المنافسون، بما في ذلك المنافسون في الصين، بإطلاق نماذج ذات قدرات مماثلة في الأشهر والسنوات المقبلة.
وقال جراهام لشبكة إن بي سي نيوز: “علينا أن نستعد لعالم يمكن فيه، في غضون ستة أشهر إلى 12 شهرًا، مشاركة مثل هذه المهارات على نطاق واسع، وليس فقط من قبل الشركات في الولايات المتحدة”.
وقال: “عندما تتراجع، فهذا وقت مجنون حقًا، حيث تستغرق مثل هذه الأشياء عادةً سنوات للتحضير”.
قال جراهام إن الخرافات لا تتعلق فقط بإيجاد المشكلات، بل بدمجها في مشكلات يمكن أن تكون أدوات مدمرة للغاية.
وقالت كاتي موسوريس، الرئيس التنفيذي والمؤسس المشارك لشركة Luta Security، وهي شركة تربط الباحثين في مجال الثغرات الأمنية مع مطوري البرمجيات، إنها تتوقع سيناريو مماثلاً. كبار موفري الخدمات السحابية غير متصلين بالإنترنت ومواطن الخلل وأخذ المكونات الرئيسية للإنترنت معهم.
“سنبدأ في رؤية تأثيرات كبيرة تؤثر على الصناعات الأخرى، مثل معاناة صناعة الطيران حدث CrowdStrike. وأضاف: “تتأثر أشياء أخرى عندما يتعطل Cloudflare، وعندما تتعطل Amazon Web Services”.
قالت سينثيا كايزر، رئيسة مكتب التحقيقات الفيدرالي السابقة ونائبة رئيس شركة Halcyon، وهي شركة متخصصة في منع هجمات برامج الفدية، إنها تشعر بالقلق إزاء كيف يمكن للذكاء الاصطناعي مساعدة المتسللين الذين يمنعون المستشفيات من الحصول على فدية لأنهم يفتقرون إلى المهارات.
وقال لشبكة NBC News: “Awannabes، وهم السكان الذين لم يتمكنوا من القيام بذلك قبل عام، أصبح لديهم الآن أقوى الأدوات التي عرفتها البشرية في متناول أيديهم”. “كانت الرعاية الصحية والتصنيع الأكثر تضرراً من برامج الفدية في العام الماضي. وأعتقد أنها ستحذو حذوها.
ويمكن أن يكون للذكاء الاصطناعي أيضًا تأثير كبير على الحرب السيبرانية والهجمات على البنية التحتية الأمريكية من خلال إعطاء الدعم للقراصنة الذين هدفهم هو التدمير البسيط.
منذ بداية الحرب بين الولايات المتحدة وإيران، استهدف قراصنة طهران عدة أهداف أمريكية، لكنهم بالغوا مرارًا وتكرارًا فيما يفعلونه. لم يدركوا أ من أخطر الهجمات على المجتمع – في شركة تكنولوجيا طبية مقرها ميشيغان تدعى سترايكر.
وقالت وكالات حكومية هذا الأسبوع إن إيران نجحت في اختراق شركات رئيسية، بما في ذلك خدمات المياه والصرف الصحي وقطاع الطاقة، في محاولة لتعطيلها. ومن الواضح أن الهجوم كان هائلاً، ولم يتم التعرف على هوية الضحايا علنًا.
لكن الذكاء الاصطناعي يمكن أن يجعل هذه المهمة أسهل. تتمتع بعض أنظمة التحكم الصناعية بأمان إلكتروني عالي، على الرغم من أن بعضها – مرافق غسيل المياه الأخرى في المناطق الأقل كثافة سكانية في البلاد، على سبيل المثال – لا تفعل ذلك. ومن المعروف غالبًا أن مثل هذه الأنظمة صعبة على المتسللين لأنها تعتمد على آليات غير معروفة.
وقال جيسون هيلي، الباحث في جامعة كولومبيا الذي يعمل في مجال الحرب السيبرانية، إنه حتى لو فشلت إيران في ممارسة التدريبات ضد الولايات المتحدة، فإن الذكاء الاصطناعي يمكن أن يجعل ذلك ممكنا.
وقال: “بدلاً من تدريب جيل من المتسللين الذين يفهمون خدمات المياه، يحتاج الذكاء الاصطناعي إلى فهم كيفية دعم تلك الأنظمة وتحسين عملية الوصول”.
وقال برايسون بورت، مؤسس منصة Scythe، وهي منصة تساعد الأنظمة الصناعية على تخيل ما قد يحدث في الهجمات السيبرانية، إن البنية التحتية الحيوية غالبا ما تتم إزالتها من الإنترنت، مما يجعل سيناريو يوم القيامة الفعلي صعبا.
وقال: “لا تؤدي كل هذه الأشياء إلى نفس اللحظة، مثل أن يبدأ الجميع بالموت وكأننا في فيلم من أفلام هوليود”.
لكنه قال إنه من الممكن أن يتمكن المتسللون المستمرون الذين يتمتعون بإمكانية وصول كافية من إبقاء أنظمة الهجوم تعمل مثل محطات المياه وإجبارها على التوقف عن العمل مؤقتًا حتى يتمكنوا من السيطرة عليها.
وقال: “إذا استمرت في التدخل، فأنا بحاجة إلى أن تعمل على إطلاق المياه في مرحلة ما”.
