تقدم شركة OpenAI مفهوم Superalignment: كيف يمكن للذكاء الاصطناعي أن يتبع النية البشرية
OpenAI الهدايا مفهوم محاذاة فائقة، خطوة مهمة إلى الأمام في إدارة المخاطر المرتبطة بالذكاء الخارق. يمكن للذكاء الخارق ، الذي وُصف بأنه أكثر التقنيات التي اخترعتها البشرية تأثيرًا على الإطلاق ، أن يساعد في حل العديد من المشكلات الأكثر أهمية في العالم. ومع ذلك ، فإن القوة الهائلة لـ ذكاء خارق يمكن أن يكون أيضًا خطيرًا جدًا ، مما يؤدي إلى إضعاف البشرية أو حتى الانقراض البشري.
تقدم شركة أوبن إيه آي Superalignment: محاولة "مواءمة" الذكاء الاصطناعي مع النوايا البشرية
في حين أن الذكاء الخارق قد يبدو بعيد المنال ، تعتقد شركة أوبن إيه آي أنه قد يأتي هذا العقد. ستتطلب إدارة هذه المخاطر ، من بين أمور أخرى ، مؤسسات جديدة للحوكمة وحل مشكلة محاذاة الذكاء الخارق: كيف يمكن أن تضمن أنظمة الذكاء الاصطناعي الأكثر ذكاءً من البشر أنها تتبع نوايا الإنسان؟
في الوقت الحالي ، لا يوجد حل لتوجيه نظام الذكاء الخارق أو التحكم فيه. تقنيات محاذاة الذكاء الاصطناعي الحالية يعتمدون على قدرة البشر على الإشراف على الذكاء الاصطناعي، والتي لن تكون قابلة للتطوير للذكاء الخارق. الهدف من OpenAI هو بناء ملف الباحث الآلي عن محاذاة المستوى البشري. لتحقيق هذا الهدف ، يجب تطوير أساليب تدريب قابلة للتطوير.
تقوم شركة OpenAI بتجميع فريق من كبار الباحثين والمهندسين في التعلم الآلي للعمل على هذه المشكلة. سيتم تخصيص 20٪ من قوة الحوسبة المتاحة على مدى السنوات الأربع القادمة لحل هذه المشكلة. الهدف هو حل التحديات التقنية الرئيسية لمحاذاة الذكاء الخارق في أربع سنوات. تدعو OpenAI جميع أولئك الذين نجحوا في التعلم الآلي إلى تركيز انتباههم على المحاذاة. ستتم مشاركة ثمار هذا الجهد على نطاق واسع ، كما أن محاذاة النماذج غير التابعة لـ OpenAI وأمانها مهمان. وتجدر الإشارة إلى أن الشركة ستعمل أيضًا على تحسين أمان النماذج الحالية ومعالجة المخاطر الأخرى من الذكاء الاصطناعي.
يتطلب حل محاذاة الذكاء الخارق أفضل العقول في العالم. افتح AI يشجع التعاون متعدد التخصصات والمشاركة النشطة في القضايا الاجتماعية التقنية المتعلقة بمحاذاة الذكاء الخارق.
