إسماعيل بن علا

GNN Molecular

سبع شبكات عصبية بيانية للخصائص الجزيئية

بحث · أكتوبر 2024 · مكتمل

مقارنة سبع شبكات عصبية بيانية في التنبؤ بمدى ذوبان الجزيئات.

التقنياتPyTorchPyTorch GeometricRDKitMoleculeNet (ESOL)pytest

الشيفرة في مستودع خاص في الوقت الحالي.

GNN Molecular — نظرة عامة

نظرة عامة

الجزيء بطبيعته رسم بياني (graph): الذرات عُقد والروابط حواف. أردت أن أرى كيف تستفيد تصميمات مختلفة من الشبكات العصبية البيانية (Graph Neural Networks) من هذه البنية للتنبؤ بخاصية كيميائية حقيقية، هي الذوبانية المائية، من معيار ESOL في MoleculeNet.

نفّذت أولًا ثلاث بنى يدويًا في دفاتر: شبكة التفافية بيانية (GCN)، وشبكة تمرير رسائل (MPNN) تستخدم أيضًا خصائص الروابط، وشبكة التفافية انتشارية (DCNN) تنشر المعلومات عبر عدة قفزات. ثم حوّلتها لاحقًا إلى حزمة Python مختبَرة وأضفت أربعة نماذج قياسية مبنية من طبقات PyTorch Geometric: GIN وGAT (v2) وGraphSAGE وAttentiveFP.

تعمل النماذج السبعة على التقسيم نفسه بالبذرة العشوائية نفسها وبالمقاييس نفسها. تتصدر AttentiveFP (جذر متوسط مربع الخطأ RMSE على الاختبار 0.498، وR² 0.926) وGIN (0.528، 0.916)، تليهما MPNN (0.645) وGAT (0.769) وGraphSAGE (0.816) وDCNN (0.907) وGCN (0.981). النماذج الأربعة التي تقرأ أنواع الروابط تتقدم على الثلاثة التي لا ترى سوى الذرات.

السؤال

كيف تتفاوت سبع تصميمات من الشبكات العصبية البيانية في التنبؤ بالذوبانية الجزيئية (ESOL) مباشرة من الرسوم البيانية الجزيئية؟

أهم الميزات

كيف يعمل

  1. من الجزيئات إلى الرسوم البيانية

    تُحمَّل جزيئات ESOL من MoleculeNet وتُمثَّل كرسوم بيانية من الذرات والروابط، مع ترشيح الجزيئات التي تحتوي على ذرات معزولة عند الحاجة.

  2. تجميع الرسوم البيانية في دفعات

    تدمج PyTorch Geometric كثيرًا من الرسوم البيانية الجزيئية الصغيرة في رسم بياني واحد غير متصل لكل دفعة، وتتتبّع انتماء كل ذرة إلى جزيئها.

  3. نشر المعلومات

    تحدّث كل بنية تمثيلات الذرات بطريقتها: الالتفاف البياني، أو رسائل متعلَّمة عبر الروابط، أو انتشار متعدد القفزات، أو الجمع ثم MLP (في GIN)، أو الانتباه إلى الجيران (في GAT وAttentiveFP)، أو أوزان منفصلة للذات وللجيران (في GraphSAGE).

  4. التجميع والتنبؤ

    تُجمَّع تمثيلات الذرات في متجه واحد لكل جزيء، يحوّله رأس انحدار إلى قيمة ذوبانية، مدرَّب بمتوسط مربع الخطأ.

أمثلة

AttentiveFP، الأفضل بين السبعة: نقطة الحفظ ذات أفضل تحقق (الحقبة 222) تسجّل على الاختبار RMSE 0.498 وR² 0.926.
AttentiveFP، الأفضل بين السبعة: نقطة الحفظ ذات أفضل تحقق (الحقبة 222) تسجّل على الاختبار RMSE 0.498 وR² 0.926.
GIN مع خصائص الروابط: RMSE على الاختبار 0.528 وR² 0.916، قريبة من AttentiveFP بعدد معلمات أقل بـ 25 مرة.
GIN مع خصائص الروابط: RMSE على الاختبار 0.528 وR² 0.916، قريبة من AttentiveFP بعدد معلمات أقل بـ 25 مرة.
مقاييس تدريب MPNN (يسارًا) والتحقق (يمينًا) على ESOL. نقطة الحفظ ذات أفضل تحقق (الحقبة 195) تسجّل على الاختبار RMSE 0.645 وR² 0.875.
مقاييس تدريب MPNN (يسارًا) والتحقق (يمينًا) على ESOL. نقطة الحفظ ذات أفضل تحقق (الحقبة 195) تسجّل على الاختبار RMSE 0.645 وR² 0.875.
أول جزيء في ESOL (الأميغدالين)، مرسوم بـ RDKit: 32 ذرة تصبح 32 عقدة في الرسم البياني بـ 9 خصائص لكل منها.
أول جزيء في ESOL (الأميغدالين)، مرسوم بـ RDKit: 32 ذرة تصبح 32 عقدة في الرسم البياني بـ 9 خصائص لكل منها.

المدخل

mgnn-predict --checkpoint checkpoints/mpnn/best.pt "CCO" "c1ccccc1"

المخرج

1.195 log(mol/L) CCO -1.633 log(mol/L) c1ccccc1

الخرج الفعلي لنموذج MPNN المدرَّب للإيثانول والبنزين. قيمتاهما المقيستان هما 1.10 و-1.64؛ وكلا الجزيئين جزء من ESOL، لذلك فهذا يُظهر أن الأداة تعمل، لا قدرتها على التعميم.

التقنيات المستخدمة

ما تعلمته

الحدود

الكلمات المفتاحية

الشبكات العصبية البيانية · GNN · GCN · الشبكة الالتفافية البيانية · MPNN · شبكة تمرير الرسائل · DCNN · AttentiveFP · GraphSAGE · شبكة الانتباه البيانية · GAT · شبكة التماثل البياني · GIN · الشبكة العصبية الالتفافية الانتشارية · PyTorch Geometric · PyTorch · RDKit · المعلوماتية الكيميائية · التنبؤ بالخصائص الجزيئية · الرسوم البيانية الجزيئية · SMILES · MoleculeNet · ESOL · التنبؤ بالذوبانية المائية · اكتشاف الأدوية · التعلم العميق