ככל הידוע לי, בחז"ל אין זיהוי ודאי, אך יש מסורת די יציבה בקרב גויים ויהודים, כבר לפני כאלף חמש מאות שנה.
בנביא כ' "וַיָּמָת שְׁמוּאֵל וַיִּקָּבֵר בְּרָמָה בְּעִירוֹ" (שמואל א', כ"ה, א'), ולאורך השנים מקובל שהרמה היא נבי סמואל, בו מצוי מסגד ובמרתפו קבר יהודי מסורתי.
הזיהוי הודאי מופיע לראשונה אצל נוסעים נוצרים ומוסלמים בתקופת הגאונים, כגון הצליין הנוצרי 'תאודוסיוס' (לפני כ-1400 שנה) המתאר את המקום כקבר שמואל, ובתקופת הראשונים - 'אל-מוקדסי'.
רבי פתחיה מרגנסבורג ורבי בנימין מטודלה (תקופת הראשונים) מציינים גם הם שמדובר בקברו של שמואל.
אמנם יש כאלו שמזהים את המקום כרמה שבבנימין, באזור בית אל, או גבעון.