Accès ouvert · CC BY

ISL-NLP at PalmX 2025: Retrieval-Augmented Fine-Tuning for Arabic Cultural Question Answering

Article scientifique 2025 Sciences mathématiques et statistiques Autre

Résumé

Cultural understanding is essential for large language models (LLMs), particularly in the Arabic context where many models struggle to capture nuanced cultural elements.To address this gap, we propose a novel approach for Arabic cultural multiple-choice question answering that integrates retrieval-based training data augmentation with parameter-efficient fine-tuning.Our system employs Gemini 1 to retrieve contextual evidence for each question, selects candidate pairs, and adapts NileChat-3B by fine-tuning only three projection layers, reducing trainable parameters by 68.2% while preserving general language proficiency.On the PalmX 2025 Subtask 1 benchmark 2 , our system attains 67.60% accuracy on the blind test set, ranking 6 th overall and outperforming the NileChat-3B baseline by 3% on the development set.The model weights are publicly available at MohamedGomaa30/Ibn-Al-Nafs.

Citer ce document

Gomaa, M. S., & Elmadany, N. (2025). ISL-NLP at PalmX 2025: Retrieval-Augmented Fine-Tuning for Arabic Cultural Question Answering. https://doi.org/10.18653/v1/2025.arabicnlp-sharedtasks.109

Exporter : BibTeX · RIS (Zotero, Mendeley, EndNote)

Accès au document

Texte intégral archivé sur SPHAERO, en accès ouvert : lisible gratuitement en ligne après connexion. Le document reste aussi disponible à sa source. Se connecter

Voir l'article sur le site de la revue

Licence et provenance

Licence : CC BY

Notice moissonnée depuis OpenAlex le 28/09/2026. Le document reste hébergé par sa source.
Voir le document à la source →

Statistiques

Consultations (hors robots) : 9

Téléchargements (hors robots) : 0

Méthode de comptage