أخبار الذكاء الاصطناعي: قدمت Meta إطار عمل Frontier AI في أخبار الذكاء الاصطناعي الأخيرة لتقييد التطوير عالي المخاطر ومعالجة مخاوف الأمن السيبراني.

العناوين الرئيسية

• يقوم إطار عمل Meta’s Frontier AI بتصنيف مخاطر الذكاء الاصطناعي على أنها عالية المخاطر ومخاطر حرجة، مما يقيد الإصدار بناءً على شدته.
• قد تساعد الذكاء الاصطناعي عالي المخاطر في شن هجمات إلكترونية أو بيولوجية، في حين أن الذكاء الاصطناعي ذو المخاطر الحرجة قد يسبب عواقب وخيمة.
• ستوقف Meta تطوير الذكاء الاصطناعي الذي ينطوي على مخاطر حرجة وتقييد الوصول إلى الذكاء الاصطناعي عالي المخاطر حتى تعمل التدابير التخفيفية على خفض المخاطر.

إقرأ أيضاَ | صندوق الثروة السيادية لدونالد ترامب: هل سيضم البيتكوين والإيثريوم؟

قدمت شركة Meta سياسة جديدة، وهي إطار عمل Frontier AI، والتي تحدد نهجها لتقييد تطوير وإطلاق أنظمة الذكاء الاصطناعي عالية المخاطر. ووفقًا لأخبار الذكاء الاصطناعي، فإن الإطار سيعالج المخاوف بشأن مخاطر تكنولوجيا الذكاء الاصطناعي المتقدمة، وخاصة في مجال الأمن السيبراني والأمن البيولوجي.

وتذكر الشركة أن بعض نماذج الذكاء الاصطناعي قد تكون محفوفة بالمخاطر للغاية بحيث لا يمكن إطلاقها، مما يتطلب إجراءات حماية داخلية قبل نشرها بشكل أكبر.

أخبار الذكاء الاصطناعي: إطار عمل Frontier AI من Meta يهدف إلى الحد من إصدارات الذكاء الاصطناعي الخطرة

في ملف وثائقي حديث ، صنفت شركة Meta أنظمة الذكاء الاصطناعي إلى فئتين بناءً على المخاطر المحتملة. هاتان الفئتان هما عالية الخطورة وشديدة الخطورة، وكل منهما يتم تحديدها من خلال مدى الضرر المحتمل. قد تساعد نماذج الذكاء الاصطناعي التي تعتبر عالية الخطورة في الهجمات الإلكترونية أو البيولوجية.

ومع ذلك، فإن الذكاء الاصطناعي ذو المخاطر الحرجة يمكن أن يسبب أضرارًا جسيمة، حيث ذكرت شركة Meta أن مثل هذه الأنظمة يمكن أن تؤدي إلى عواقب وخيمة.

وفقًا لأخبار الذكاء الاصطناعي، ستوقف Meta تطوير أي نظام مصنف على أنه يشكل خطرًا حرجًا وستنفذ تدابير أمنية إضافية لمنع الوصول غير المصرح به. سيتم تقييد نماذج الذكاء الاصطناعي عالية المخاطر داخليًا، مع مزيد من العمل للحد من المخاطر قبل الإصدار. يعكس الإطار تركيز الشركة على تقليل التهديدات المحتملة المرتبطة بالذكاء الاصطناعي.

وتأتي هذه التدابير الأمنية في ظل المخاوف الأخيرة بشأن خصوصية بيانات الذكاء الاصطناعي. وفي أحدث أخبار الذكاء الاصطناعي، تم إزالة شركة DeepSeek، وهي شركة ناشئة صينية، من متجر تطبيقات Apple ومتجر Play التابع لـ Google في إيطاليا. وتحقق هيئة حماية البيانات في البلاد في ممارسات جمع البيانات الخاصة بها. 

إجراءات أمنية أكثر صرامة للذكاء الاصطناعي

لتحديد مستويات مخاطر أنظمة الذكاء الاصطناعي، ستعتمد ميتا على تقييمات من باحثين داخليين وخارجيين. ومع ذلك، ذكرت الشركة أنه لا يوجد اختبار واحد يمكنه قياس المخاطر بشكل كامل. مما يجعل تقييم الخبراء عاملاً رئيسيًا في اتخاذ القرار. يحدد الإطار عملية مراجعة منظمة، حيث يشرف كبار صناع القرار على التصنيفات النهائية للمخاطر.

بالنسبة للذكاء الاصطناعي عالي المخاطر، تخطط Meta لتقديم تدابير تخفيفية قبل النظر في الإصدار. سيمنع هذا النهج إساءة استخدام أنظمة الذكاء الاصطناعي مع الحفاظ على وظائفها المقصودة. إذا تم تصنيف نموذج الذكاء الاصطناعي على أنه خطير للغاية. فسيتم تعليق التطوير بالكامل حتى تتمكن تدابير السلامة من ضمان النشر المتحكم فيه.

استراتيجية الذكاء الاصطناعي المفتوحة تواجه التدقيق

وقد اتبعت شركة ميتا نموذج تطوير الذكاء الاصطناعي المفتوح، مما يسمح بوصول أوسع إلى نماذج الذكاء الاصطناعي الخاصة بها Llama. وقد أسفرت هذه الاستراتيجية عن تبني واسع النطاق، حيث تم تسجيل ملايين التنزيلات. ومع ذلك، ظهرت مخاوف بشأن إساءة الاستخدام المحتملة. بما في ذلك التقارير التي تفيد بأن أحد خصوم الولايات المتحدة استخدم Llama لتطوير روبوت محادثة دفاعي.

ومن خلال إطار Frontier AI، تعمل الشركة على معالجة هذه المخاوف مع الحفاظ على التزامها بتطوير الذكاء الاصطناعي المفتوح. 

وفي الوقت نفسه، وبينما لا تزال سلامة الذكاء الاصطناعي تشكل مصدر قلق، واصلت OpenAI تطويرها. وفي أخبار أخرى تتعلق بالذكاء الاصطناعي، قدمت OpenAI ChatGPT Gov ، وهو نموذج آمن للذكاء الاصطناعي مصمم خصيصًا للوكالات الحكومية الأمريكية. ويأتي هذا الإطلاق في الوقت الذي تكتسب فيه DeepSeek. زخمًا وتعزز Meta تدابيرها الأمنية، مما يؤدي إلى تكثيف المنافسة في مجال الذكاء الاصطناعي.

أخبار الذكاء الاصطناعي: تكشف شركة Meta عن إطار عمل لتقييد أنظمة الذكاء الاصطناعي عالية المخاطر

CryptPlatform

إخلاء المسؤولية: قد يتضمن المحتوى المقدم رأيًا شخصيًا للمؤلف ويخضع لحالة السوق. قم بإجراء بحث السوق قبل الاستثمار في العملات المشفرة. لا يتحمل المؤلف أو النشر أي مسؤولية عن خسارتك المالية الشخصية.

تابعونا على: