قالت أنثروبيك إنها اختارت أكسنتشر أول مقيّم مدمج لها للمساعدة في إبطاء وتيرة تطوير الذكاء الاصطناعي، وفقًا لما اقترحه الرئيس التنفيذي داريو أمودي الأسبوع الماضي.
نشر أمودي في 12 سبتمبر مقترحًا من ثلاث خطوات لإبطاء تطوير الذكاء الاصطناعي وإتاحة وضع تدابير الحماية، وسط تحذيرات من احتمال وقوع أضرار كارثية في أعقاب التطور السريع وغير الخاضع للرقابة.
رحّب الرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان والرئيس التنفيذي لشركة سبيس إكس إيلون ماسك بمقترح أمودي، في حين لم يؤيده الرئيس التنفيذي لشركة إنفيديا جنسن هوانغ ، إذ جادل بأن مثل هذا التنظيم غير ضروري.
ومع ذلك، كتب أمودي في مقترحه أن «الذكاء الاصطناعي يتقدم بوتيرة أسرع بكثير، مدفوعًا أساسًا بقدرة الذكاء الاصطناعي المتنامية على بناء الجيل التالي من الذكاء الاصطناعي. وتُسمى هذه الديناميكية التحسين الذاتي التكراري»، وأنه «إذا تُرك من دون رقابة، فقد يتجاوز قدرتنا على فهم هذه الأنظمة والتحكم فيها».
كتب أمودي أن الخطوة الأولى في مقترحه تتمثل في وجود مقيمين مستقلين يتمتعون بإمكانية وصول شبيهة بإمكانية وصول الموظفين، وهو التزام كانت أنثروبيك قد تعهدت به من جانبها بالفعل.
أعلنت Anthropic يوم الجمعة عن خطوة نحو الوفاء بهذا الالتزام من خلال الشراكة مع Accenture ووحدة الذكاء الاصطناعي التابعة لها Faculty، وذلك «لتقييم النماذج واختبارها بشكل هجومي، وإجراء تقييمات المواءمة، واختبار ضمانات النماذج». ],fidelityFindings
وقالت الشركة إن تفاصيل كيفية تنفيذ ذلك لا تزال قيد الإعداد، لأن التقييم المدمج مجال جديد.
وفقًا للإعلان، تتوقع كل من أنثروبيك وأكسنتشر استثمار ما لا يقل عن مليار دولار في المشروع خلال السنوات الخمس المقبلة.
أنثروبيك ستموّل العمل مباشرة وسط الحاجة الملحّة
أشارت أنثروبيك إلى عدم وجود نظام قائم لتمويل التقييم المستقل، ولذلك ينبغي أن يأتي التمويل الطويل الأجل من مصادر مشتركة أو حكومية، إلا أن أنثروبيك ستموّل عمل أكسنتشر مباشرة نظرًا إلى الحاجة الملحّة للعمل.
الشراكة غير حصرية، وتتوقع أنثروبيك الإعلان عن مقيمين آخرين خلال الأسابيع المقبلة ستتعاون معهم أيضًا.
قالت الشركة يوم الجمعة إن قسم Faculty التابع لشركة Accenture يتمتع بخبرة في اختبار النماذج وتقييمها لصالح بعض مختبرات الذكاء الاصطناعي الرائدة في العالم، وفي بناء أنظمة ذكاء اصطناعي معقدة وآمنة وأخلاقية بحكم تصميمها.قالت يوم الجمعة.
وقالت جولي سويت، رئيسة مجلس الإدارة والرئيسة التنفيذية لشركة أكسنتشر: «التقييم المدمج مجال ناشئ، ونتطلع إلى الشراكة مع أنثروبيك للمساعدة في تسريع تطوير المقيمين المدمجين، الذين نراهم جزءًا مهمًا من منظومة السلامة مستقبلًا».