أمازون س: بين الهلوسة وتسريب البيانات، إنذار الموظف. ولكن هذا أمر جيد.
في الآونة الأخيرة، أطلقت أمازون روبوت الدردشة الآلي الخاص بها Amazon Q، أثار اهتمام الشركات ولكن أيضًا مخاوف بين الموظفين بشأن الدقة الخطيرة وقضايا الخصوصية. تم الإبلاغ عن Q لوجود "الهلوسة لا poco حساب"وكشفت عن بيانات سرية، مما أثار تساؤلات حول أمن معلومات الشركة. إليكم التفاصيل التي كشف عنها منهاج.
تنبيه أمني لـ Amazon Q: بين البيانات السرية والإجابات غير الصحيحة
أمازون قدم لقد تم إطلاق برنامج الدردشة الآلي الخاص به والمسمى Q منذ ثلاثة أيام، ولكن لا يبدو أن كل شيء يسير كما هو مخطط له. أثار بعض الموظفين ناقوس الخطر بشأن قضايا الدقة والخصوصية: كان من الممكن أن تظهر Amazon Q "الهلوسة" وتكشف معلومات مؤتمن، مثل موقع مراكز بيانات AWS وبرامج الخصم الداخلية والميزات التي لم يتم إصدارها بعد.
وظهرت هذه المعلومات من وثائق مسربة حصل عليها منهاج، تسليط الضوء على أ مشكلة أمنية من المستوى الثانيوهي حالة خطيرة تتطلب التدخل العاجل من قبل المهندسين.
وعلى الرغم من ذلك، قللت أمازون من أهمية هذه المناقشات الداخلية. وقال متحدث باسم تقاسم ردود الفعل من خلال القنوات الداخلية هي ممارسة معتادة في أمازون وأنه لم يتم تحديد أي مشكلات أمنية نتيجة لهذه التعليقات. وأكدت الشركة على أهمية التعليقات الواردة والرغبة في الاستمرار قم بتحسين Amazon Q أثناء انتقاله من المعاينة إلى التوفر العام.
تم تقديم Amazon Q، المتوفر حاليًا في معاينة مجانية، على هيئة إصدار برنامج المؤسسة لروبوت الدردشة، مع وظائف أولية تهدف إلى الإجابة على أسئلة المطورين حول AWS، وتعديل أكواد المصدر والاستشهاد بالمصادر. أكدت أمازون على أمان وخصوصية Q، ومقارنتها بأدوات مخصصة للمستهلكين مثل ChatGPT.
ومع ذلك، كشفت وثيقة داخلية أن Q يمكنه "الهلوسة" وتقديم استجابات ضارة أو غير مناسبة، مثل معلومات أمنية قديمة مما قد يعرض حسابات العملاء للخطر. تعتبر هذه المخاطر نموذجية بالنسبة لنماذج اللغات الكبيرة، والتي تميل جميعها إلى تقديم استجابات غير صحيحة أو غير مناسبة على الأقل في بعض المناسبات.
عبر | سمبي
