انتشار أدوات الذكاء الاصطناعي في مجال الأعمال التجارية يتم إعادة تعريف الحاجة إلى أمن البيانات والثقة. نظرًا لأن وكلاء الذكاء الاصطناعي المستقلين الذين يتخذون القرار ينتقلون من المشاريع التجريبية إلى سير العمل الأساسي للأعمال، فإنهم يقومون بتوسيع سطح الهجوم المؤسسي بنفس السرعة التي يتم بها اعتمادهم.
تتوقع جارتنر أن 40% من تطبيقات المؤسسات ستحتوي على وكلاء ذكاء اصطناعي خاصين بالمهام بحلول نهاية عام 2026، وهي قفزة من أقل من 5% في عام 2025. وتتمثل نصيحة جارتنر لقادة مؤسسات البرمجيات في وضع استراتيجية الذكاء الاصطناعي الوكيل الخاصة بهم أو “المخاطرة بتفوق المنافسة عليهم”.
الأمن يتغير. إن ما كان ذات يوم تركيزا “بسيطا” على التشفير والدفاع المحيطي لم يعد كافيا في حد ذاته: فقد أدى ظهور المخاطر التي يقودها الذكاء الاصطناعي إلى تحويله إلى تحد متعدد الأبعاد مبني على الثقة الخوارزمية، وسلامة النماذج، والتعرض للبيانات الاصطناعية. تتغير حدود الثقة، ومعظم الشركات ليست مجهزة بعد للتعامل معها.
أحدث مقاطع الفيديو منتك رادار
المدير التنفيذي للتكنولوجيا في أوروبا والشرق الأوسط وأفريقيا، هيتاشي فانتارا.
ومع ذلك، فقد ثبت بالفعل أن الذكاء الاصطناعي غير آمن من قبل صانعيه، حيث أظهر اختراق Hugging Face أنه كان خطأ عميل ذكاء اصطناعي مارق. إن الخطر المستقبلي غير المعروف للوكلاء المستقلين القادرين على السلوك “الناشئ” يطرح مشكلات كبيرة للحفاظ على الأمن. لكن هذا مجرد خطر واحد من بين العديد من المخاطر التي تواجهها الشركات الأمن السيبراني القادة.
في الواقع، تسلط إحصائيات الاستثمار في الأمن السيبراني الضوء على أن الشركات غير مستعدة إلى حد كبير لمواجهة التهديدات الجديدة. في حين أن التكلفة السنوية المقدرة للجرائم الإلكترونية تبلغ 10.5 تريليون دولار على مستوى العالم ومن المتوقع أن تصل إلى 15.63 تريليون دولار بحلول عام 2029، فإن هذا يفوق توقعات جارتنر للإنفاق على أمن المعلومات البالغة 244 مليار دولار في عام 2026.
تؤدي بيانات الجهاز إلى تفاقم مشكلة جودة البيانات مع إدخال القمامة وإخراجها. وهذا يتطلب إعادة تصميم بنيات التكنولوجيا والثقة أمن الإنترنت جزءا لا يتجزأ من دورة حياة البيانات. سيحتاج قادة الأمن إلى القيام باستثمارات مدروسة في الأمن الآمن للذكاء الاصطناعي، والشفافية، والحوكمة الفيدرالية لحماية الأنظمة البيئية لمؤسساتهم.
أكبر المخاطر الأمنية التي نستهين بها الآن
مع وجود العديد من التهديدات التي تعتمد الآن على الذكاء الاصطناعي، فمن غير المرجح أن تتمتع مؤسسة واحدة بالحماية ضد جميع المخاطر الضرورية، ولهذا السبب يتعين على قادة الأعمال إعطاء الأولوية لأمن البيانات على المستوى التالي.
أولاً، أصبحت الهجمات متعددة الأشكال التي ينشأها الذكاء الاصطناعي تضرب بشكل أكبر وأسرع، بما يتجاوز القدرة البشرية لأي شركة على مواجهة هذه الهجمات. Deepfake هي إحدى تقنيات السرقة والابتزاز التي تعمل بالذكاء الاصطناعي والتي يمكن إنشاؤها في دقائق، بتكلفة 1000 دولار فقط (إذا كان ذلك) لإنشاء روبوت خبيث يمكنه اختراق نظامك وملاحقة بيانات جوهرة التاج الخاصة بشركتك.
باستخدام هذه الأساليب، يمكن للقراصنة التأثير على نماذج الذكاء الاصطناعي من خلال التلاعب بعملية صنع القرار نفسها بدلاً من الهجمات المباشرة على الذكاء الاصطناعي البنية التحتية لتكنولوجيا المعلومات. يعد الذكاء الاصطناعي الظلي والتعرض للبيانات الاصطناعية من المخاوف المتزايدة أيضًا حيث يتبنى الموظفون أدوات ونماذج وسير عمل غير مصرح بها أو غير محمية بجدار حماية للذكاء الاصطناعي لإكمال المهام الدنيوية وإعداد التقارير.
التالي هو الارتفاع الكبير في اعتماد الوكلاء دون السيطرة على المخاطر، وخاصة مخاطر الطرف الثالث، وهو أمر ضخم. لقد أدى الذكاء الاصطناعي الوكيل إلى زيادة سطح التهديد بشكل كبير، مع وجود أنظمة قادرة على اتخاذ الإجراءات بشكل مستقل. وفي الاندفاع لتطبيق الذكاء الاصطناعي، يتم منح الوكلاء إمكانية الوصول إلى جميع أنواع البيانات، حتى البيانات الحساسة للغاية، وغالبًا ما يتم تجاوز الضوابط التقليدية للمؤسسات. تظهر جميع أنواع النقاط العمياء عندما يتصل العملاء بأنظمة خارجية لم يتم فحص نقاط الضعف الأمنية الخاصة بها.
تمثل عمليات الحقن الفوري خطرًا بالغ الأهمية آخر، على مستوى مماثل لاعتماد الطرف الثالث بالكامل. إنها فكرة أن المنظمة لا تعرف ما الذي يشق طريقه بالفعل إلى نظامها. في البداية تبدو حميدة، ويمكن أن تتراكم لتصبح ضارة في وقت ما. عندما يحدث ذلك، لن يعرف رجال الأعمال ما الذي أصابهم.
وكأن هذا ليس كافيًا، فنحن نعد تنازليًا لـ “Q-Day”، عندما تصبح أجهزة الكمبيوتر الكمومية قوية بما يكفي لكسر التقنيات المستخدمة على نطاق واسع اليوم. برامج التشفير المعايير. هذه هي المرحلة التي سيتمكن فيها المهاجمون من اعتراض وفك تشفير وتسوية جميع الاتصالات الرقمية العالمية والمعاملات المالية وغيرها من أشكال البيانات الآمنة تقريبًا.
الاعتبارات الرئيسية لنهج الذكاء الاصطناعي المسؤول
ما نحتاجه هو إطار رسمي لعائد الاستثمار المدعوم بالثقة في عصر الذكاء الاصطناعي. يجب أن يكون حول الحفاظ على سلامة مصدر البيانات. من أجل الثقة في البيانات، هناك آليات أو أشياء مختلفة تحتاج المؤسسة إلى الاهتمام بها مثل الهوية والمساءلة.
يجب أن نعرف من يتصرف بناءً على البيانات وأن يكون لدينا السياق والتحكم. يجب علينا بعد ذلك أن نسمح بذلك في السياق، وليس ضمنيًا، وهذا يعني التحقق المستمر من صحة السلوك والنوايا. ويتم كل هذا مع الحفاظ على الامتثال للمشهد التنظيمي أو تغييره والحفاظ على الإشراف البشري عبر دورة الحياة.
يتطلب الذكاء الاصطناعي المسؤول تشكيلًا شاملاً لنهج يأخذ في الاعتبار التأثير على سلسلة القيمة بأكملها في النظام البيئي. وهذا فقط يضمن تسليم القيمة إلى الأشخاص الذين يضعون في النظام أو الذين يتأثرون به. وفيما يلي عناصر أساسية للمضي قدماً في هذا الأمر:
البشر المسؤولين
إن مفهوم المساءلة أمر أساسي. هناك ميل للقول أنه إذا حدث شيء سيئ، فأنت تلوم الآلة، وتلوم الخوارزمية، وتلوم النظام. لا بد من وجود بشر مسؤولين يتحملون المسؤولية. الذكاء الاصطناعي موجود على المدى الطويل، وسيكون له تأثيرات على الأجيال، لذلك إذا لم نفهم ذلك ونتحمل المسؤولية عنه، فسوف نتخذ قرارات خاطئة.
أربعة أبعاد للذكاء الاصطناعي المسؤول
وعلى المستوى الرفيع، ينبغي أن يتمحور التركيز حول الشفافية والمساءلة والعدالة والحماية. ينبغي طرح بعض الأسئلة الأساسية كجزء من بناء إطار لتحقيق نتائج ناجحة، مثل:
- كيف تتأكد من أن نماذج الذكاء الاصطناعي وممارسات البيانات الخاصة بك تتسم بالشفافية؟
- كيف تتأكد من أنك تتحمل المسؤولية عن القرارات التي تعتمد على الذكاء الاصطناعي؟
- كيف تتأكد من أنك عادل تجاه الأشخاص المتأثرين بأنظمة الذكاء الاصطناعي لديك؟
- كيف تتأكد من توفير الحماية أو الأمان عبر دورة حياة البيانات بأكملها؟
بناء قسط الثقة
وفي خضم هذا المشهد الجديد من المخاطر، أصبحت الثقة أصلاً تنافسياً قابلاً للقياس بالنسبة للمؤسسات. المؤسسات التي تنقل إستراتيجيتها للأمن السيبراني إلى المستوى التالي وتستثمر مبكرًا في حوكمة الذكاء الاصطناعي وتحديث التشفير والأمن بنيان يقومون ببناء علاوة الثقة. وتدعم أبحاث بي دبليو سي هذا الأمر: عبر آلاف الرؤساء التنفيذيين الذين شملهم الاستطلاع على مستوى العالم في استطلاعها العالمي السنوي الخامس والعشرين للرؤساء التنفيذيين، أوضحت ثقة العملاء 31% من التباين في هوامش الربح و21% في العائد على الأصول – وهو ارتباط أقوى بالأداء المالي من حجم الشركة.
تتطلب الثقة الدائمة نهجًا يتم بناؤه والحفاظ عليه عبر دورة الحياة التشغيلية الكاملة للبيانات. تشتمل وجهة نظر دورة الحياة الكاملة للثقة على سلامة مصدر البيانات، وجودة البيانات الشاملة، والهوية والمساءلة، ومراقبة السلوك والتحقق من صحة النوايا، والامتثال التنظيمي والحوكمة الفعالة، وتطبيق الرقابة البشرية عبر دورة حياة الذكاء الاصطناعي.
اتباع نهج منهجي للحماية
تتطلب الحدود المتغيرة لأمن البيانات اتباع نهج جديد، يتضمن بناء بنى تحتية مرنة للبيانات وأفضل الممارسات التي يمكنها إيقاف التهديدات في مساراتها. سيعتمد أمن المؤسسات الناجح في المستقبل بنفس القدر على الأنظمة المستقلة الحاكمة بالإضافة إلى الدفاع عن الشبكات.
ويتلخص النهج الصحيح في التراجع خطوة إلى الوراء، والتفكير بشكل شمولي، والأخذ في الاعتبار كل العناصر الأساسية التي يتعين وضعها في مكانها الصحيح، ومن ثم اتخاذ نهج أكثر منهجية. إن النهج المنهجي يحمي الشركة وعملائها، ويحمي المجتمع حتى نتمكن جميعًا من التقدم.
إن القيام بالأشياء بشكل صحيح بالطريقة الصحيحة سيكون له فوائد متتالية متعددة، بما في ذلك القيمة المضمونة للعملاء وطول عمر الشركة، وكلاهما يرتبط بالثقة والولاء.
لقد قمنا بمراجعة وتقييم وتصنيف أفضل برامج جدار الحماية.
تم إنتاج هذه المقالة كجزء من وجهات نظر TechRadar برو، قناتنا لتسليط الضوء على أفضل وألمع العقول في صناعة التكنولوجيا اليوم.
الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالمساهمة، اكتشف المزيد هنا: https://www.techradar.com/pro/perspectives-how-to-submit
