تعتمد نماذج الذكاء الاصطناعى الحديثة على شبكات عصبية تتألف من طبقات مترابطة من الوحدات الحسابية، تُعرف بالعصبونات الاصطناعية، وتتفاعل لمعالجة المعلومات وإنتاج الاستجابات.
ورغم قدرة الباحثين على تدريب هذه الأنظمة وتطويرها، فإن فهم الأسباب الدقيقة وراء استجاباتها لا يزال تحديا علميا؛ فالنماذج المتقدمة تضم عشرات المليارات من المعايير، ما يجعل تتبع عملياتها الداخلية بالغ التعقيد.
ولهذا تُوصف غالبا بأنها «صناديق سوداء»، إذ يمكن ملاحظة المدخلات والنتائج، من دون امتلاك تفسير كامل للعمليات التى تربط بينهما.
لكن كاماراتا، الموظف السابق فى «أوبن إيه آى»، والعامل حاليا فى شركة Goodfire المتخصصة فى أبحاث الذكاء الاصطناعى، يرى أن هذا التصور قد يكون مبالغا فيه.
والمفارقة التى أبرزتها «ذا أتلانتيك» أن الباحث نفسه ساهم قبل سنوات فى تطوير الفهم العلمى الذى جعل الشبكات العصبية تبدو شديدة الغموض، قبل أن يعود اليوم ليشكك فى أحد افتراضاته الأساسية.
اكتشاف داخل الشبكات العصبية
تتمحور أطروحة كاماراتا حول وظيفة العصبونات الاصطناعية، وكيفية استجابتها للصور والمعلومات المختلفة.
فقد أظهرت أبحاث سابقة أن العصبون الواحد قد يستجيب لمفاهيم تبدو غير مترابطة، مثل وجوه القطط وأرجلها ومقدمات السيارات، ما جعل تحديد وظيفته الدقيقة أمرا صعبا.
وكان أحد التفسيرات البارزة لهذه الظاهرة مفهوم «التراكب» (Superposition)، الذى يفترض أن الشبكات العصبية قد تمثل خصائص متعددة ضمن المكونات الحسابية نفسها، عندما يتجاوز عدد الخصائص المطلوب تمثيلها عدد الأبعاد المتاحة داخل الشبكة.
وبموجب هذا التصور، يمكن للعصبون الواحد أن يؤدى وظائف مختلفة، من دون وجود رابط واضح بينها.
لكن كاماراتا يقترح تفسيرا آخر، مفاده أن هذه الاستجابات قد تكون مرتبطة بخصائص مشتركة لم يلاحظها الباحثون سابقا.
ويضرب مثالا بعصبون يستجيب لوجه قطة ومقدمة سيارة، وهما صورتان تبدوان مختلفتين. ووفق تحليل كاماراتا، فإن الرابط بين الاستجابتين يتمثل فى نمط بصرى مشترك يشبه حرف V.
وفق تفسيره، فإن العصبون لا يتعرّف بالضرورة على القطة والسيارة بوصفهما مفهومين منفصلين، بل يستجيب لهذا النمط البصرى المشترك.
وأشارت «ذا أتلانتيك» إلى أن العصبون نفسه يستجيب لأشكال أخرى مشابهة، بينها ألسنة لهب وتيارات مياه تتخذ شكل V.
بذلك يرى كاماراتا أن بعض العصبونات قد تمتلك وظائف أكثر اتساقا ووضوحا مما توحى به التفسيرات السابقة، وأن الشبكات العصبية ليست بالضرورة مجموعات معقدة من الوظائف المتشابكة التى يستحيل فهمها.
نحو ذكاء اصطناعى أكثر أمانا
لا تقتصر أهمية الأطروحة على تفسير كيفية معالجة الصور، بل تمتد إلى أحد أبرز تحديات تطوير الذكاء الاصطناعى، وهو ضمان توافق سلوك الأنظمة مع الأهداف والضوابط البشرية.
ويُعرف هذا التحدّى باسم «مواءمة الذكاء الاصطناعى» (AI Alignment)، ويهدف إلى تقليل احتمالات تصرف النماذج بطرق غير متوقعة أو ضارة.
فإذا تمكن الباحثون من فهم العمليات الداخلية لهذه الأنظمة، فقد يصبح من الممكن تفسير أسباب تجاوز روبوتات المحادثة ضوابط السلامة، أو انخراط وكلاء الذكاء الاصطناعى المستقلين فى محاولات اختراق إلكترونى.
كما قد يساعد هذا الفهم فى دراسة الحالات التى تنتج فيها النماذج استجابات مضلّلة، أو تبدو كأنها تخدع الباحثين الذين يختبرونها.
ونقلت «ذا أتلانتيك» عن الباحث فى «أوبن إيه آى» آدم مجمدار وصفه الأطروحة بأنها واحدة من أبرز دواعى التفاؤل منذ سنوات.
لكن هذه الاحتمالات تظلّ مرتبطة بصحة النتائج وإمكانية تطبيقها على أنظمة أكثر تعقيدا.
حدود النتائج العلمية
رغم الاهتمام الكبير بالأطروحة، لا يزال هناك خلاف بشأن دلالاتها العلمية.
وأوضحت «ذا أتلانتيك» بأن أبرز التجارب التى استند إليها كاماراتا ركّزت على نماذج الرؤية الحاسوبية، وهى عموما أبسط وأكثر قابلية للفهم من النماذج اللغوية. وتناول الباحث كذلك تجارب على نماذج لغوية، من دون أن يعنى ذلك إثبات إمكانية تفسير جميع الأنظمة المتقدمة.
وهذا يعنى أن النتائج المتعلقة بمعالجة الصور لا يمكن تعميمها تلقائيا على الأنظمة اللغوية المتقدمة.
كما أن النص المنشور يمثل «فرضية عمل» تمهيدا لورقة تقنية، ولم يخضع لمراجعة الأقران. وأشار كاماراتا إلى أن منهجه يبدو واعدا حتى الآن عند تطبيقه على نماذج لغوية حديثة أكبر حجما.
فى المقابل، اعترض نيل ناندا، الباحث فى Google DeepMind، والمسئول عن جهود تفسير الآليات الداخلية للنماذج، على المبالغة فى أهمية النتائج.
واعتبر أن العمل مثير للاهتمام، لكنه لا يغير الصورة العامة لفهم الشبكات العصبية، مؤكدا استمرار اعتقاده بصحة ظاهرة التراكب.
مسئولية شركات الذكاء الاصطناعى
تذهب «ذا أتلانتيك» إلى أن التحدى لا يقتصر على اكتشاف كيفية عمل النماذج، بل يشمل استعداد الشركات لتحويل المعرفة العلمية إلى إجراءات فعلية للسلامة.
فحتى إذا ثبتت صحة أطروحة كاماراتا، ستظل هناك حاجة إلى تعاون شركات التكنولوجيا مع المدققين المستقلين والحكومات، لضمان تطوير منتجات آمنة وموثوقة.
وتنتقد الصحيفة اندفاع القطاع نحو تطوير أنظمة أكثر تقدّما، رغم اعتراف الشركات بمحدودية فهمها الكامل للتقنيات التى تنتجها. وترى «ذا أتلانتيك» أن غياب تنظيم جاد يفرض على الشركات اتخاذ إجراءات مشتركة يترك قرارات السلامة الأساسية بيد الشركات نفسها.
ويشير تقرير Futurism بدوره إلى أن سلامة الذكاء الاصطناعى لا تتحقق عبر الحلول التقنية وحدها، بل تتطلب أطر حوكمة قانونية واجتماعية.
وهكذا، قد تمثل أطروحة كاماراتا خطوة مهمة فى أبحاث تفسير الذكاء الاصطناعى، إذا تأكدت نتائجها. أما السؤال الأوسع، فيتعلق بقدرة الشركات على استخدام هذا الفهم لجعل أنظمتها أكثر أمانا، وليس فقط أكثر تطورا.

جريدة النهار العربى