أسبوع من الأخطاء غير القسرية في شركة Anthropic
سان فرانسيسكو، كاليفورنيا - لم تكن قاعات Anthropic، وهي شركة رائدة في مجال أبحاث وتطوير الذكاء الاصطناعي، هادئة في العادة خلال الأسبوع الماضي. وقد وجدت الشركة، المعروفة بنهجها "الذكاء الاصطناعي الدستوري" ونماذجها الرائدة كلود، نفسها متورطة في حادثتين منفصلتين، وكلاهما ناشئ عن أخطاء بشرية فادحة. وقد سلطت الأخطاء الفادحة المتتالية الضوء على التحديات الكامنة في توسيع نطاق عمليات الذكاء الاصطناعي المتقدمة مع الحفاظ على معايير صارمة للسلامة والخصوصية، حتى بالنسبة لشركة مبنية على تلك المبادئ ذاتها.
أثارت الحوادث، التي وقعت بفارق أيام فقط، تساؤلات حول البروتوكولات الداخلية ونقاط الضغط داخل صناعة الذكاء الاصطناعي سريعة التطور. بالنسبة لشركة حصلت مؤخرًا على تمويل مذهل قدره 7.3 مليار دولار في مارس 2024، مما دفع تقييمها إلى ما يزيد عن 18 مليار دولار، تأتي هذه الأخطاء في منعطف حرج حيث تتنافس على قيادة السوق ضد منافسين مثل OpenAI وGoogle.
الفواق الأول: الكشف عن البيانات من دلو تم تكوينه بشكل خاطئ
بدأت مشاكل الأسبوع يوم الاثنين، 27 مايو، عندما بدأ أمن Anthropic حدد الفريق مجموعة تخزين سحابية تم تكوينها بشكل خاطئ. تُركت حاوية Amazon S3، وهي جزء من بيئة اختبار داخلية قديمة، دون قصد مع عناصر تحكم في الوصول متساهلة بشكل مفرط أثناء عملية ترحيل روتينية للبنية التحتية. أدى هذا الإغفال، الذي يُعزى إلى تغيير الإذن الذي قام به أحد المهندسين المبتدئين بشكل خاطئ، إلى التعرض المؤقت لمطالبات المستخدم غير المجهولة واستجابات الذكاء الاصطناعي من الإصدار التجريبي المغلق من Claude 2.1.
Dr. تناولت لينا بيتروف، رئيسة قسم الثقة والسلامة المعينة حديثًا في Anthropic، الحادث في بيان لصحيفة DailyWiz. "لقد اكتشفنا التكوين الخاطئ وقمنا بتصحيحه في غضون 12 ساعة من حدوثه. ومن المحتمل أن يتأثر ما يقرب من 7500 مستخدم شاركوا في برنامج Claude 2.1 التجريبي المحدد. لقد أبلغنا جميع الأفراد المتأثرين بشكل مباشر، وقدمنا خدمات مراقبة الائتمان، وبدأنا تدقيقًا شاملاً لجميع تكوينات التخزين السحابي لدينا. ونحن نأسف بشدة لهذا الخطأ ونعمل على تعزيز عمليات التدريب والمراجعة لدينا لمنع حدوث ذلك في المستقبل. " على الرغم من عدم العثور على أي دليل على وصول ضار، إلا أن الحادث كان بمثابة تذكير صارخ بالتهديد الدائم لانتهاكات البيانات، حتى بالنسبة لعمالقة التكنولوجيا.
ملخص كلود 3 سونيت، خطأ غريب
وبعد ثلاثة أيام فقط، يوم الخميس 30 مايو، واجهت أنثروبيك تحديًا آخر في مجال العلاقات العامة. تم نشر إصلاح عاجل يهدف إلى معالجة مشكلة زمن الوصول البسيطة في نقطة نهاية Claude 3 Sonnet API مع ضبط غير مكتمل للمعلمات، مما يؤدي إلى سلوك غير متوقع وغريب من النموذج. لمدة 55 دقيقة تقريبًا، أبلغ المطورون الذين يستخدمون Sonnet API عن حالات قام فيها Claude 3 Sonnet، عند مطالبته بمعضلات أخلاقية معقدة أو مفاهيم مجردة، بإنشاء فقرات متكررة للغاية وغير منطقية، وفي بعض الحالات المعزولة، تجاوز لفترة وجيزة مرشحات محتوى معينة مصممة لمنع المخرجات الضارة.
ظهرت المشكلة بسرعة على منصات مثل X (Twitter سابقًا)، حيث شارك المطورون لقطات شاشة لردود كلود غير العادية. وقالت مايا سينغ، إحدى المطورين: "كان الأمر كما لو أن كلود أصيب بسكتة دماغية في منتصف جملته". "لقد أدى السؤال عن مشكلة العربات إلى خمس فقرات تكرر عبارة "الأطر الأخلاقية حاسمة" مرارًا وتكرارًا." تراجعت الأنثروبيك سريعًا عن الإصلاح العاجل، وأعادت النموذج إلى نسخته المستقرة السابقة. وأوضح الدكتور بتروف: "كان هذا نتيجة مباشرة لعملية نشر متسرعة وعدم كفاية اختبارات ضمان الجودة على تحديث غير بالغ الأهمية". "لقد حددت مراجعتنا الداخلية الإشراف البشري في مرحلة التحقق النهائية. نحن ننفذ سياسات مراجعة أكثر صرامة ومتعددة الطبقات لجميع تحديثات النماذج، بغض النظر عن الأهمية الملحوظة. "
القيادة تحت التدقيق والطريق المستقبلي
تضع هذه الحوادث المزدوجة قيادة Anthropic، بما في ذلك الرئيس التنفيذي داريو أمودي والرئيسة دانييلا أمودي، تحت التدقيق المتزايد. في حين أن الشركة بنت سمعتها على التزام صارم بسلامة الذكاء الاصطناعي والتنمية الأخلاقية، فإن هذه "الأخطاء" تؤكد التعقيد الهائل لإدارة أنظمة الذكاء الاصطناعي واسعة النطاق والعنصر البشري الذي لا يزال في جوهرها. يمكن لهذه الحوادث، على الرغم من احتوائها بسرعة، أن تؤدي إلى تآكل الثقة التي بنتها Anthropic بشق الأنفس مع عملائها من المؤسسات ومجتمع المطورين.
"على الرغم من أن هذه الأحداث مثيرة للقلق، إلا أنها ليست غير شائعة في عالم التكنولوجيا سريع الخطى، وخاصة في المجالات الناشئة مثل الذكاء الاصطناعي،" علق الدكتور أليستر فينش، محلل التكنولوجيا في Quantum Insights. "سيكون مفتاح Anthropic هو شفافيتهم والتزامهم الواضح بالتعلم من هذه الأخطاء. يدور إطار "الذكاء الاصطناعي الدستوري" الخاص بهم حول بناء أنظمة قوية، ولكن حتى أفضل الأطر يمكن أن يتم تقويضها بسبب فشل العمليات البشرية. "
الآثار العملية للمستخدمين والتوصيات اليومية
بالنسبة للمستخدمين العاديين الذين يتفاعلون مع نماذج الذكاء الاصطناعي مثل كلود، أو أي ذكاء اصطناعي منتج، فإن هذه الحوادث بمثابة تذكير حيوي بالمتأصل. نقاط الضعف. في حين أن نماذج أنثروبيك قوية بشكل عام، إلا أنه لا يوجد نظام معصوم من الخطأ، خاصة عندما تشارك الأيدي البشرية في نشرها وصيانتها. فيما يلي بعض التوصيات:
- التحقق من المعلومات:قم دائمًا بمراجعة المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، خاصة فيما يتعلق بالقرارات الحاسمة أو الدقة الواقعية. يمكن لنماذج الذكاء الاصطناعي أن "تهلوس" أو تتصرف بشكل غير متوقع، كما رأينا هذا الأسبوع.
- مراجعة سياسات الخصوصية: فهم البيانات التي تجمعها خدمات الذكاء الاصطناعي وكيفية استخدامها. اختر الخدمات ذات التزامات الخصوصية القوية والشفافة.
- ممارسات الأمان القوية: استخدم كلمات مرور قوية وفريدة ومكّن المصادقة الثنائية (2FA) لجميع حسابات الذكاء الاصطناعي الخاصة بك، تمامًا كما تفعل مع الخدمات المصرفية أو البريد الإلكتروني.
- ابق على اطلاع: كن مطلعًا على الأخبار والتحديثات من موفري الذكاء الاصطناعي فيما يتعلق بالحوادث الأمنية أو تغييرات سلوك النماذج.
- فكر في التنويع: لا تعتمد فقط على أداة ذكاء اصطناعي واحدة لجميع المهام الحاسمة. يمكن أن يوفر استكشاف العديد من منصات الذكاء الاصطناعي ذات السمعة الطيبة (مثل Google Gemini وOpenAI's ChatGPT) وجهات نظر مختلفة ويقلل من مخاطر الفشل في نقطة واحدة.
يسلط أسبوع Anthropic المليء بالتحديات الضوء على أنه حتى شركات الذكاء الاصطناعي الأكثر تقدمًا لا تزال تتصارع مع العنصر البشري في عملياتها. ومع تعمق تكامل الذكاء الاصطناعي في جميع القطاعات، ستكون الضوابط الداخلية القوية والتدقيق المستمر والتواصل الشفاف أمرًا بالغ الأهمية للحفاظ على ثقة الجمهور وضمان مستقبل رقمي أكثر أمانًا.
