تقوم OpenAI بإنشاء فريق لمواجهة مخاطر الذكاء الاصطناعي "الكارثية". ولهذا السبب يهمنا
OpenAI، وهي شركة أصبحت الآن في طليعة مجال الذكاء الاصطناعي مؤخرًا أعلن إنشاء فريق جديد بمهمة محددة تقييم وتخفيف المخاطر الكارثية المحتملة المرتبطة بالتقنيات المتقدمة المتعلقة بالذكاء الاصطناعي. تسلط هذه الخطوة الضوء على الأهمية المتزايدة للتصدي بشكل استباقي للتحديات والمخاطر التي يمكن أن تجلبها النماذج التوليدية. ومن الواضح، حيث لا يتم رصدها بشكل صحيح.
مواضيع هذا المقال:
تحديد المخاطر بواسطة OpenAI
مع التطور السريع للذكاء الاصطناعي، تظهر مخاطر جديدة يمكن أن يكون لها تأثيرات خطيرة على نطاق عالمي. ولهذا السبب، سيكرس فريق إعداد OpenAI الجديد نفسه لتحقيق ذلك أن يتتبع, وزن, تقدم e حماية ضد هذه المشاكل المحتملة. ومن بين المخاطر التي تم تحديدها ما يلي: تهديدات نوويوهو موضوع يسلط الضوء على الحاجة الملحة إلى اتخاذ إجراءات مسؤولة في مجال الذكاء الاصطناعي.
بالإضافة إلى التهديدات النووية، سيركز الفريق أيضًا على المخاطر المرتبطة بالمواد الكيميائية والبيولوجية والإشعاعية، وكذلك على وظاهرة التكرار الذاتي للذكاء الاصطناعيأو قدرة نظام الذكاء الاصطناعي على تكرار نفسه بشكل مستقل. تشمل مجالات التركيز الأخرى قدرة الذكاء الاصطناعي على خداع البشر وخداعهم تهديدات جميع الأمن السيبراني.
فوائد وتحديات الذكاء الاصطناعي المتقدم
تدرك OpenAI أن نماذج الذكاء الاصطناعي الرائدة، تلك التي تتجاوز قدرات النماذج الحالية الأكثر تقدمًا، لديها القدرة على ذلك تفيد البشرية جمعاء. ولا، خلافًا لما تعتقده، فإنالذكاء الاصطناعي ليس هنا لسرقة وظائفنا بل لإنشائه.
ومع ذلك، مع القوة العظيمة، تأتي أيضًا مسؤولية كبيرة. ولذلك فمن الضروري أن تتطور سياسات على علم بالمخاطر التي تسمح لك بذلك تقييم ومراقبة نماذج الذكاء الاصطناعي، للتأكد من أن الفوائد تفوق المخاطر المرتبطة بها.
اقرأ أيضا: لدى DeepMind الحل لمنع مخاطر الذكاء الاصطناعي
وقد تم تكليف قيادة هذا الفريق الجديد ألكسندر مادري، شخصية رائدة في مجال التعلم الآلي. حاليا في إجازة منه دور مدير مركز معهد ماساتشوستس للتكنولوجيا للتعلم الآلي القابل للنشر, حكمة سوف ينسق الجهود لتطوير والحفاظ على سياسة إنمائية واعية بالمخاطر.
نحو أولوية عالمية
الرئيس التنفيذي لشركة OpenAI، سام التمان, انها ليست جديدة للمخاوف بشأن المخاطر الكارثية المحتملة للذكاء الاصطناعي. واقترح أن يكون علاج تقنيات الذكاء الاصطناعي صتؤخذ على محمل الجد مثل الأسلحة النووية، مع تسليط الضوء على الحاجة إلى جهد جماعي للتخفيف من مخاطر الانقراض المرتبطة بالذكاء الاصطناعي. يمثل هذا الفريق الجديد خطوة ملموسة نحو تحقيق هذه الرؤية، مما يسلط الضوء على التزام OpenAI بالمساهمة في الإدارة المسؤولة للذكاء الاصطناعي.
