יעקב הימן, יו"ר הקרן למורשת הר הבית, חישב ומצא פעם שסף שער הרחמים נמוך ב־11 מטרים מאבן השתייה שבכיפת הסלע. זו תגלית מעניינת כי 11 מטרים פירושם 22 אמות, בדיוק שיעור הגובה שהבדיל בין שער המזרח של הר הבית לגובה ההיכל על פי המקורות.
הציורים, הדגמים השונים, השחזורים, מציבים תמיד את שער המזרח של הר הבית, שער שושן כפי שהוא מכונה במשנה, בדיוק מול פתח המקדש, כלומר בקו ישר מזרחה מכיפת הסלע – מקום קודש הקודשים. שער הרחמים שמוצב מעט צפונה מהקו הזה, כך היה נהוג להניח, נבנה בתקופה מאוחרת יותר ואיננו מימי הבית. ההנחה הארכיאולוגית הרווחת הייתה ועודנה שימיו של שער הרחמים אינם עולים על 1,400 שנים, וששימוש ראשון בו נעשה בידי הקיסר הביזנטי הרקליוס כשזה השיב את הצלב לירושלים אחרי סילוק הפרסים מהעיר בשנת 629. הוא עשה זאת במסע ניצחון דרך שער הרחמים, המכונה במסורת הנוצרית "שער הזהב".

אך לא כל המומחים, מתברר, תמימי דעים בשאלה הזאת. הארכיאולוג לין ריטמאייר, מי שהיה יד ימינו של פרופ' בנימין מזר המנוח – מאבות הארכיאולוגיה הארץ־ישראלית, סובר ששער הרחמים בהחלט מצוי על מקומו של השער הקדום מימי הבית. זהו, לטענתו, שער שושן, אשר כונה כך מכיוון שצורת הבירה הפרסית הקדומה נחקקה על גביו. שער שושן הוא גם זה שדרכו יצא השעיר לעזאזל בדרכו למדבר מדי יום הכיפורים, וכן הפרה האדומה בדרכה להישחט בהר הזיתים אחת לכמה עשרות או מאות שנים.
ריטמאייר בספרו מצביע על העובדה שבכותל ההר המזרחי, בניגוד לשלושת הכתלים האחרים, נותרו שרידים קדומים לימי הורדוס. המלך האדומי אמנם הרחיב את ההר באופן ניכר משלושה צדדים, אך לא מן הצד המזרחי. החוקר המדובר טוען לאור זאת שבכותל ההר המסוים הזה ניכרים סגנונות בנייה שונים משלוש תקופות קדומות לכל הפחות: האבנים ההרודיאניות המוכרות גם מהכותל המערבי, ולצידן אבני בניין חשמונאיות וכן כאלו שהונחו בכותל המזרחי בזמנים קדומים יותר, אולי אף בימי הבית הראשון.
לדברי הארכיאולוג הזה, משני צידי שער הרחמים בצידו החיצוני אפשר לראות בנדבכים התחתונים שורות אבנים בעלות חציבה גסה במיוחד. מדובר באבנים שחוקות בצורה יוצאת דופן – מה שכנראה מעיד שהן ניצבות כאן חשופות לשמש ולגשם זמן ממושך יותר ממקבילותיהן. ריטמאייר טוען שבניגוד לאבנים החשמונאיות גם הסיתות שלהן מלוטש ומדויק הרבה פחות, מכיוון שלא נעשה במהלך סיתותן שימוש באזמל משונן. אזמל משונן יוצר חריצים אחידים על פני האבן, ולדעת החוקר היעדרם של סימני סיתות כאלו פירושו כנראה שהאבנים הונחו בכותל ההר המזרחי לכל המוקדם במאה השישית לפני הספירה. כראיה לכך מצטט ריטמאייר מחקר שטוען ששימוש באזמל משונן לא היה מצוי עד לנקודת הזמן ההיא.

והמסקנה המתבקשת, לדעתו: אם משני צידי שער הרחמים מופיעה בנייה קדומה כל כך, שייתכן שזמנה הוא עוד מימי הבית הראשון (חרב בשנת 586 לפנה"ס), גם שער הרחמים ביסודו מקורו בעידן ההוא. ראיה נוספת מביא הארכיאולוג משני עמודי התמך של שער הרחמים הנראים מצידו הפנימי, בתוך מתחם השער הנשלט בימים אלו בידי המוסלמים. מדובר בשני עמודים מרשימים וגדולים במיוחד שעשויים מקשה אחת. ריטמאייר מצביע על העובדה שהעמוד הדרומי ניצב בדיוק באותו הגובה של נדבכי האבן הבלתי מסותתים שתוארו כעת, הנראים מהצד החיצוני. המשמעות, להבנתו, היא שעמודי השער, כמו שורות האבנים שמשני צידיו, שייכים לגרסה הקדומה ביותר של הר הבית, כלומר עוד הרבה לפני ימי הורדוס.
העובדה היא שעד כה לא נמצא שער קדום נוסף בכותל המזרחי, אף לא במקום שבו היה מצופה לאתר את שער שושן – בנקודה בחומה המצויה בדיוק מזרחית למקום המקדש שבכיפת הסלע. הדבר מביא את ריטמאייר לטעון ששער הרחמים הוא עצמו שער שושן הקדום המתואר במשנה. לדבריו, המתחם בסך הכול שופץ בתקופות מאוחרות יותר, ובפעם האחרונה לפני 1,400 שנה, אז קיבל השער את מראהו הנוכחי. אכן, נדמה שבשום מקום במקורות לא נכתב שהשער המזרחי של הר הבית היה ניצב במדויק מול פתח המקדש, ולדעת ריטמאייר אין גם כל הכרח להניח כך. כך או אחרת, בהיעדר אפשרות לחפור באופן מסודר בהר הבית ובבית הקברות האסלאמי שחוצה לו בטווח הזמן הנראה לעין, לא נוכל לדעת אם הצדק עמו.