• الرئيسية
• منوعات

في خطوة جديدة تؤكد التزامها بتأمين تقنيات الذكاء الاصطناعي، أعلنت شركة جوجل عن برنامج مكافآت جديد يركز بالكامل على اكتشاف ثغرات الذكاء الاصطناعي، موجه إلى الباحثين الأمنيين والمخترقين الأخلاقيين حول العالم، ويقدم البرنامج مكافآت مالية تصل إلى 30,000 دولار أمريكي، حسب مستوى الخطورة والأصالة في التقارير المقدّمة.

توسيع نطاق مكافآت الثغرات ليشمل تقنيات الذكاء الاصطناعي

216.73.216.55

يمثل البرنامج الجديد توسعًا طبيعيًا لـ"برنامج جوجل لمكافآت الثغرات الأمنية"، لكنه يوجّه تركيزه نحو تحديات الأمان الفريدة التي تطرحها أنظمة الذكاء الاصطناعي. وتهدف جوجل من خلال هذه المبادرة إلى تحديد ما تسميه "الأفعال غير القانونية"، أي التصرفات غير المتوقعة أو الخطيرة التي قد تقوم بها نماذج الذكاء الاصطناعي.

أمثلة على هذه الأفعال:

• تسريب بيانات حساسة أو شخصية

• تنفيذ أوامر غير مقصودة

• التفاعل مع الأجهزة الذكية بطرق غير آمنة (مثل فتح باب منزلي عبر أمر صوتي)

• إرسال بيانات إلى جهات غير مصرح بها

ما الذي يُعتبر ثغرة في نظام الذكاء الاصطناعي؟

أوضحت جوجل أن الأخطاء العادية مثل "هلوسات الذكاء الاصطناعي" (hallucinations) ليست كافية لتكون ضمن البرنامج. بدلاً من ذلك، تركز الشركة على الثغرات الأمنية الواقعية التي قد يستخدمها المهاجمون.

على سبيل المثال:

• استغلال أدوات مثل Gmail أو Google Home بطريقة ضارة

• إجبار نموذج ذكاء اصطناعي على اتخاذ قرار خطير أو انتهاك خصوصية المستخدم

وفي المقابل، يتم الإبلاغ عن مشكلات المحتوى غير المناسب (مثل خطاب الكراهية أو انتهاك حقوق النشر) عبر أدوات التبليغ داخل المنتجات، حيث يتم التعامل معها من قبل فرق السلامة في جوجل.

المكافآت: حتى 30,000 دولار لكل اكتشاف مهم

تبدأ المكافآت من مبالغ رمزية للمشكلات الصغيرة، وقد تصل إلى 20,000 دولار أمريكي مقابل الثغرات المؤثرة في خدمات رئيسية مثل:

• Google Search

• Gemini (جيميني)

• Gmail

• Google Drive

أما التقارير ذات الجودة العالية أو الأفكار الأصلية فقد تحصل على مكافآت تصل إلى 30,000 دولار، بينما تقدم جوائز أقل قيمة لاكتشافات في أدوات مثل:

• NotebookLM

• مساعد الذكاء الاصطناعي التجريبي Jules

الذكاء الاصطناعي يعزز الأمان أيضًا: أداة CodeMender

إلى جانب برنامج المكافآت، كشفت جوجل عن أداة جديدة باسم CodeMender، وهي أداة ذكاء اصطناعي متخصصة في الكشف عن الثغرات الأمنية وإصلاحها تلقائيًا في الأكواد مفتوحة المصدر. حتى الآن، ساعدت الأداة في إصلاح أكثر من 70 ثغرة تم التحقق منها من قبل خبراء بشريين.

تؤمن جوجل أن أدوات مثل CodeMender تُظهر أن الذكاء الاصطناعي يمكن أن يكون حليفًا قويًا في تأمين البرمجيات وليس فقط تهديدًا يجب الحذر منه.

خطوة نحو ذكاء اصطناعي أكثر أمانًا

هذا البرنامج يُعدّ جزءًا من جهود جوجل المستمرة لدمج الأمان في صميم تطوير تقنيات الذكاء الاصطناعي، خصوصًا مع دخولها في كل منتج من منتجات الشركة،ومع مشاركة الباحثين من جميع أنحاء العالم، تأمل جوجل في بناء أنظمة ذكاء اصطناعي أكثر أمانًا وموثوقية للمستقبل.