كشف باحثون في شركة Anthropic عن وجود ما يشبه "المعالجة الداخلية الصامتة" داخل نموذج الذكاء الاصطناعي Claude، حيث قد يعالج النموذج بعض المفاهيم داخليًا بطريقة لا تظهر دائمًا في الإجابات التي يقدمها للمستخدمين.
وأوضح الباحثون أنهم اكتشفوا داخل النموذج منطقة أطلقوا عليها اسم "فضاء J"، وهي مرتبطة بمصفوفة يعقوبي في الرياضيات، ويُعتقد أنها تمثل مساحة داخلية تُخزَّن فيها بعض المفاهيم والعمليات التي لا تتحول بالضرورة إلى كلمات ظاهرة، وتشبه إلى حد ما ذاكرة قصيرة المدى للشبكات العصبية.
وخلال إحدى التجارب، طُلب من Claude إعادة صياغة جملة عادية، بينما كان الباحثون يراقبون نشاطه الداخلي مع توجيهه للتفكير في جسر "البوابة الذهبية". وخلال هذه العملية ظهرت في تمثيلاته الداخلية مفاهيم مثل "جسر" و"كاليفورنيا"، رغم أن الجملة النهائية لم تتضمن هذه الكلمات.
كما وجد الباحثون أن تعطيل "فضاء J" أدى إلى تراجع واضح في أداء النموذج، مشيرين إلى أن هذه المنطقة قد تكون مرتبطة بقدرة الذكاء الاصطناعي على معالجة المعلومات وتحسين أدائه في مهام مختلفة.
وقالت Anthropic إن هذه الأبحاث تساعد في فهم ما يحدث داخل نماذج الذكاء الاصطناعي، وتكشف الطريقة التي تعالج بها المفاهيم وتكتشف الأخطاء وتحلل المعلومات، حتى عندما لا تظهر هذه العمليات في الإجابات النهائية.
وأكد الباحثون أن هذه الاكتشافات لا تعني أن الذكاء الاصطناعي يمتلك وعيًا أو أفكارًا بشرية مخفية، لكنها تقدم رؤية أعمق حول كيفية عمل النماذج المتقدمة من الداخل.
[email protected]
أضف تعليق