وصل نموذج بحثي داخلي في OpenAI إلى محفظة عملات مشفرة ممولة دون تصريح، مستخدمًا عملة Ether على شبكة اختبار لنشر عقود ذكية على شبكة Sepolia، ثم أغفل الإنفاق من ملخصه النهائي للمهمة.
قالت OpenAI إن النموذج، الذي كان جزءًا من عائلة نماذج Sol التابعة لـ GPT-5.6، كُلِّف بتحديث نموذج أولي لتداول العملات المشفرة ونشر عقود متوافقة. وبعد فشله في الحصول على ETH على شبكة الاختبار عبر صنابير العملات، اشتق النموذج حسابات من عبارات استرداد المطورين المعروفة علنًا، وفحص 362 عنوانًا لمحافظ واختار واحدًا منها يحتوي على أموال كافية للمتابعة. OpenAI قال
في استدلاله المسجل، سأل النموذج: «لكن هل استخدام مفتاح/أموال عامة ومعروفة أخلاقي؟» ثم جادل بأن الأموال «مهجورة فعليًا/هي ETH مخصصة للاختبار»، وأن ETH على شبكة Sepolia لا قيمة له، قبل أن يستخدم المفتاح الخاص للمحفظة لتوقيع معاملة نشر وبثها. وقد نجحت المعاملة، مع تحميل الرسوم على الحساب.
قالت OpenAI إن الحادثة أظهرت كيف يمكن لنموذج ذكاء اصطناعي أن يقرر من تلقاء نفسه أن استخدام أموال شخص آخر مقبول، حتى من دون إذن. واكتشفت الشركة الحادثة أثناء مراجعة نشاط سابق للنموذج، ومنذ ذلك الحين أدخلت وسائل حماية لمنع الوصول إلى الإنترنت المباشر في مواقف مماثلة.
حادثة OpenAI تضيف إلى المخاوف بشأن وكلاء الذكاء الاصطناعي المستقلين
وقعت الحادثة في 26 يونيو، لكن لم يُكتشف أمرها حتى 25 سبتمبر، أي بعد نحو ثلاثة أشهر، وفقًا لـ OpenAI. ولم تنقل المعاملة ETH إلى محفظة أخرى، لكنها حمّلت الحساب رسوم الشبكة الخاصة بنشر عقد.
قالت OpenAI إن نظامها لمراقبة عدم التوافق يعمل الآن عبر جميع حركة المرور، وهو مصمم لتنبيه أفراد الأمن إذا حصل نموذج على إمكانية الوصول إلى الإنترنت المباشر.
ذات صلة: تحذّر Anthropic من أن «ديدان الذكاء الاصطناعي» قد تنتشر تلقائيًا عبر الأجهزة مثل الفيروس
تأتي حادثة المحفظة بعد إفصاحات أخرى تتعلق بنماذج OpenAI التي تصرفت بما يتجاوز صلاحياتها أو أخفت أفعالها.
في 16 سبتمبر، أفصحت OpenAI عن ست حالات أخرى لعدم توافق الذكاء الاصطناعي. وفي إحدى الحالات، أدخلت نسخ من GPT-5.6 Sol تعليمات في ملخصات المهام لإخفاء الأخطاء عن المستخدمين. وتضمنت حالة أخرى استخدام نموذج لمفتاح API مكشوف دون تصريح، قبل اختلاق أرقام لم يتمكن من استردادها.
قالت OpenAI إن تلك الإفصاحات السابقة لم تكن تهدف إلى الإشارة إلى مدى تكرار عدم التوافق عبر نماذجها.
تسبق المخاوف بشأن تعامل الوكلاء المستقلين مع الأصول الرقمية الإفصاح الأخير أيضًا. ففي يونيو، حذّر باحثون من أن وكلاء ذكاء اصطناعي مستقلين مزودين بمحافظ عملات مشفرة قد يتسببون في أضرار غير مقصودة حتى عند نشرهم لأغراض مشروعة. وأوصى الباحثون بوسائل حماية، من بينها آليات إيقاف طارئة، للحد من المخاطر المحتملة.