كيف تطور الذكاء الاصطناعي اللغوي وكيف وصلنا إلى ChatGPT
المخابرات مصطنع اليوم هو على شفاه الجميع. نحن نعرف الآن كيفية استخدامه: ما عليك سوى الوصول إلى الإنترنت واستخدام منصات مثل ChatGPT و Dall-E و Synthesia. في هذا الصدد ، نقوم بإعداد مقال مثير للاهتمام حول 10 مواقع تستخدم الذكاء الاصطناعي للقيام بأشياء مختلفة للغاية. ولكن بعد قولي هذا ، دعنا نأخذ مثالاً للذكاء الاصطناعي الأكثر استخدامًا. كيف ولدت؟ كيف وصلنا إلى الإصدار الذي يمكننا استخدامه جميعًا اليوم مجانا؟
يستخدم الكثير منا اليوم ChatGPT ولكن لا يعرف الجميع ما وراءه وكيف وصلنا إليه. هنا جدول زمني من الثمانينيات حتى اليوم
لنبدأ من الثمانينيات: الشبكات العصبية المتكررة
يعد ChatGPT إصدارًا من GPT-3 ، وهو نموذج لغة كبير جدًا تم تطويره بواسطة OpenAI. نماذج اللغة هي نوع من الشبكة العصبية الذي تم تدريبه على العديد من النصوص. الشبكات العصبية هي برامج مستوحاة من الطريقة التي تتواصل بها الخلايا العصبية في أدمغة الإنسان مع بعضها البعض. نظرًا لأن أي نص يتكون من تسلسلات من الحروف والكلمات بأطوال مختلفة ، تتطلب نماذج اللغة نوعًا من الشبكات العصبية القادرة على فهم هذا النوع من البيانات. الشبكات العصبية المتكررة (الشبكات العصبية المتكررة) التي تم اختراعها في الثمانينيات ، يمكنها التعامل مع تسلسل الكلمات ، ولكنها بطيئة في التدريب ويمكن أن تنسى الكلمات التي تم تعلمها سابقًا في تسلسل. يمكن لـ LSTMs التعامل مع سلاسل نصية من عدة مئات من الكلمات ، لكن قدراتها اللغوية كانت محدودة. ماذا يكون؟ اختصار لعبارة "ذاكرة طويلة المدى"أو"ذاكرة طويلة المدىهي شبكة عصبية اصطناعية تستخدم في مجالات الذكاء الاصطناعي
اقرأ أيضا: تؤكد Google توافق المحتوى الذي تم إنشاؤه بواسطة Chatbot و AI
2017: عام اختراق الذكاء الاصطناعي مع Transformers
جاء الاختراق الذي أدى إلى الجيل الحالي من نماذج اللغات الكبيرة عندما اخترع فريق من الباحثين في Google محولات، نوع من الشبكات العصبية يمكنه تتبع مكان ظهور كل كلمة أو عبارة في تسلسل. ستفهم بنفسك أنه تم التغلب على أكبر مشكلة في LSTM. ولكن كيف فعلوا ذلك؟ يدخل مفهوم علم اللغة التطبيقي إلى التكنولوجيا. غالبًا ما يعتمد معنى الكلمة على معنى الكلمات الأخرى التي تسبقها أو تتبعها. تتبع هذه معلومات سياقية، يمكن للمحولات التعامل مع سلاسل نصية أطول والتقاط معنى الكلمات بشكل أكثر دقة. على سبيل المثال ، لكلمة "هوت دوج" معنى مختلف تمامًا في الجمل "أنا أفضل الهامبرغر على الكلاب الساخنةواضاف "و"من الأفضل تناول الهوت دوج مع الخردل". من حيث الجوهر ، فإن المعلومات السياقية ، وهو ما لا يدركه البشر والآلات ، قد جعلت من الممكن إحداث فرق.
2018-2019: سنوات تطوير GPT
وصل أول نموذجين رئيسيين للغة من OpenAI في غضون أشهر من بعضهما البعض. أرادت الشركة تطوير الذكاء الاصطناعي متعدد الأغراض والأغراض العامة وتعتقد أن النماذج اللغوية الكبيرة هي خطوة رئيسية نحو هذا الهدف. بهذه الطريقة يكون البرنامج قادرًا على حدد الأنماط في البيانات بنفسك، دون إخبارهم بما يشاهدونه أو يقرؤونه. اعتمدت العديد من النجاحات السابقة في التعلم الآلي على التعلم الخاضع للإشراف والبيانات المشروحة ، لكن تصنيف البيانات اليدوي هو عمل بطيء يحد من حجم مجموعات البيانات المتاحة للتدريب. كان GPT-2 لعمل أكبر ضجة. في الواقع ، قالت شركة OpenAI إنها تشعر بقلق شديد من احتمال استخدام الأشخاص لـ GPT-2 "لتوليد لغة مضللة أو مشوهة أو مسيئة"والتي لن تطلق النموذج الكامل. لكن هذا ليس كل شيء.
إذا كان GPT-2 مثيرًا للإعجاب ، فإن تكملة OpenAI ، GPT-3 ، قد أحدثت الثورة حرفيًا. قدرتها على توليد نصوص شبيهة بالبشر يمثل قفزة كبيرة إلى الأمام. يمكن لـ GPT-3 الإجابة عن الأسئلة وتلخيص المستندات وإنشاء قصص بأنماط مختلفة والترجمة بين الإنجليزية والفرنسية والإسبانية واليابانية وغير ذلك الكثير. ومع ذلك ، لا يزال لا يمكن أن يحل محل الإنسان لأنه يفتقر إلى الخصائص التأسيسية للإنسانية. تحدثنا عنها بعمق هذا المقال.
المصدر | معهد ماساتشوستس للتكنولوجيا
