בשנים 1995 – 1998 נערכו בעיר העתיקה בווינה חפירות ארכיאולוגיות, במסגרת תכניות להקים אנדרטה לזכרם של כ- 65,000 יהודים אוסטרים שנספו בשואה. בחפירות נתגלו שרידים של בתי כנסת מימי הביניים.
בית הכנסת הראשון הוקם באמצע המאה ה- 13, במבנה בודד בן שלושה חדרים. צמוד לקיר המזרחי היה מבנה, שתמך במדרגות אל ארון הקודש (אלמנט שמוכיח שהמבנה אכן היה בית כנסת). למבנה נוסף חדר לאורך הקיר הצפוני, וחדר נוסף מחוץ לקיר הדרומי. שטח בית הכנסת היה 210 מ"ר. מטבע מן השנים 1236 – 1239 או 1246 – 1251, שנמצא ברצפת בית הכנסת סייע מאד לתיארוך המבנה, בנוסף להשוואה שנערכה בין האדריכלות והכלים שנמצאו, לבין אתרים אחרים. מבית הכנסת הזה נותרו מעט מאד שרידים.
נראה כי בית הכנסת הורחב מעט קודם לשנת 1294. חדר התפילה הורחב לאולם בעל שני מעברים, עם שלושה מדורים. במרכז, בין שני עמודים, ניצבה בימה על בסיס משושה. רוב שברי הזכוכית מהמנורות נמצאו בין שרידי הבימה.
מאמצע המאה ה- 14 ואילך בית הכנסת נבנה וחודש ביסודיות בשלישית. הוא הורחב ככל האפשר לצד מזרח, והחדר הצפוני הורחב מזרחה גם הוא, ורוצף באריחים צבעוניים. מניחים כי בחדר הצפוני שכנה הישיבה של וינה. התוספת המשמעותית ביותר למבנה הייתה מצד מערב, שטח גדול שרובו בנוי כעת.
אחרי ההרחבה ההיא, נעשו בריהוט בית הכנסת רק שינויים קטנים. הוא נהרס בשנת 1421. שטחו היה כ- 465 מ"ר, מן הגדולים בבתי הכנסת של ימי הביניים.
כבר בסוף שנת 1420 נזכרת במסמך מאוניברסיטת וינה התכנית להשתמש באבני בית הכנסת לבניית אוניברסיטה חדשה. נראה כי הרס בית הכנסת היה מאורגן היטב ונעשה בזהירות, כדי להשתמש במירב חומרי הבנייה. רק היסודות והרצפות שרדו.
שיחזור בית הכנסת נעשה בעזרת השוואה לבתי כנסת אחרים מימי הביניים, שהתאפשרה בגלל מסורת של צורות מסויימות באדריכלות בתי כנסת באותה תקופה. בתי הכנסת נבנו על ידי אנשי מקצוע נוצרים שתיכננו גם מבנים אחרים, ולכן נערכו גם השוואות לכנסיות ומנזרים.