יהודים שהו בווינה שהיית ארעי או מגורי קבע, כאשר קיבלו פריבילגיות שהתירו זאת. בשנת 1580 בקירוב החל מספרם שוב לעלות בהדרגה, ונוצר צורך לייסד בית עלמין משלהם. בתחילת המאה ה- 17 חיו רוב היהודים באזור שהיום נקרא רופרכטספלאץ. בשנת 1624 נצטוו לעבור לרובע התחתי של וינה , כיום לאופולדשטאט. כדי להגיע אל חנויותיהם בפנים העיר היה עליהם לחצות גשר. בעקבות מלחמת שלושים השנים העניק להם הקיסר פריביליגיות שאיפשרו ניידות והבטיחו את יכולתם לספק אשראי לצרכי המלחמה.
את חיי הקהילה ארגנו היהודים בינם לבינם, מינו שופטים, רבנים ודיינים, והקימו מוסדות קהילה ובתי כנסת. יומטוב ליפמן הלר וד"ר לאו לוצרנה כיהנו כרבנים בשנותיה הראשונות של הקהילה. האזרחים הנוצרים בעיר התנגדו להתיישבות היהודית וניסו לגרום לגירושם בשנית. בשנת 1670, בעזרת תמיכה חזקה מצד הבישוף של וינר-נוישטאט, גורשו היהודים מווינה, 1,300 במספר. רובם עברו למוראביה ולהונגריה, אלה שהתיישבו בברנדנבורג ובברלין הניחו שם את היסוד לקהילות יהודיות חשובות.
יהודי החצר , שהיו בעלי עמדות חשובות ופריבילגיות משום שסיפקו כסף למלכות, המשיכו לפעול בווינה גם אחרי הגירוש. שמואל אופנהיימר שיתף פעולה עם המלכות מאז שנות ה- 70 של המאה ה- 17. כשנפטר (1703) אירעה קריסה כלכלית שהובילה את אוסטריה לפשיטת רגל. אחיינו שמשון ורטהיימר היה בעל פריבילגיות דומות, אבל זהיר יותר באורחותיו.
רפורמות שביצעה הקיסרית מריה תרזיה הידקו את הפיקוח על היהודים, ועם זאת המשיכו להלוות כספים להשקעות עסקיות. מספרם הרשמי של היהודים בווינה היה כ- 500, אבל רבים חיו בעיר בלי רשות. בשנת 1763 הקימו יהודים צעירים חברה קדישא – אחד המוסדות הקהילתיים הראשונים – אשר דאגה לבית העלמין (שפעל עד שנת 1784).
ב- 2 בינואר 1782 פרסם הקיסר יוזף השני כתב סובלנות עבור יהודי וינה ואוסטריה תחתית. על אף שלא הבטיח מעמד חוקי שווה ליהודים והתיר רק לאמידים שבהם להגר אל וינה, כתב הסובלנות היה ניצחון חשוב במאבק לקראת אמנציפציה. באותה תקופה חיו בווינה רק יהודים "מועילים" למדינה. ישראל הניג (אחרי שקיבל תואר אצולה נקרא הניגסברג) ארגן את מונופול הטבק ויסד את "בנק ארנשטיין ואסקלס". בתקופת מלחמות נפוליון סיפק הבנק סכומי עתק לאוצר המדינה וצבר מוניטין בחברה. טרקלינה של פאני פון ארנשטיין משך אמנים ופוליטיקאים.
כשניגשו יהודי וינה להקים את בית הכנסת המרכזי, בחרו ביוזף קורנהאוזל, גדול אדריכלי התקופה, כדי לבטא הן מעמד חברתי נכבד, הן זהות יהודית ייחודית. בנייתו של ה"שטאט-טמפל" הסתיימה בשנת 1826, עשרים שנה לפני יסודה הרשמי של הקהילה.
נאומו של רופא יהודי צעיר ששמו אדולף פישהוף באזני קהל שהמתין מחוץ לפרלמנט, נחשב לניצוץ שהצית את מהפכת 1848. אחת מתוצאות המהפכה (הזמניות) היה מתן מעמד חוקי שווה ליהודים. הכוחות הקונסרבטיבים ניצחו לבסוף, אולם הקהילה היהודית התגבשה כקהילה דתית באישור רשמי של החוק הזמני בשנת 1852. שינוי המעמד, וכן הגירה מסיבית אל העיר, הביאו לשגשוגה של הקהילה. אבל רק כשנחתמה החוקה של 1867 נהיו היהודים לאזרחים ונהנו משוויון זכויות מלא בממלכה ההבסבורגית.
עד שנות ה- 70 של המאה ה- 19 רוב חברי הקהילה היו מהגרים מבוהמיה, ממוראביה ומהונגריה. מאז ואילך רוב המהגרים אל וינה היו מגליציה (כיום אזור שנחלק בין פולין לאוקראינה). נחשול של הגירה ממזרח הממלכה בשלהי המאה ה- 19 סימן תחילתו של תור הזהב של יהדות וינה בעסקים, בכספים, במדע ובהגות. תפקיד מכריע היה ליהודי וינה גם בהעמקת הדיון והקונפליקט בנושאי זהות יהודית, מודרניזם, ציונות והתבוללות.
בשנת 1867 השיגו אמנם היהודים שוויון זכויות, אך הרגשות והאמירות האנטישמיים לא נעלמו מהשיח הציבורי. עיתון הכנסייה, חלק בלתי נפרד מהכנסייה של וינה, בראשות סבסטיאן ברונר, המשיך להטיח ביהודים האשמות דתיות מסורתיות, מפלגות פוליטיות השיגו קולות רבים באמצעות תעמולה אנטישמית. ראש עיריית וינה קארל לוגר, אנטישמי ידוע לשמצה ממפלגת הנוצרים-סוציאליסטים, זכה בבחירות בשל האנטישמיות הגלויה שלו.
כשהגיעה הממלכה ההבסבורגית לקצה, יהודי וינה איבדו תמיכה חשובה, והנסיבות שאחרי מלחמת העולם הראשונה הגבירו עוד את הרגשות האנטי-יהודיים. באותה תקופה היו הרב צבי פרץ חיות והפוליטיקאי רוברט שטריקר דמויות חשובות בציבוריות היהודית.
סיפוחה של אוסטריה אל גרמניה הנאצית (ה"אנשלוס", מרץ 1938) היה אסונם של יהודי וינה. האנטישמיות הפכה בן לילה לאלימות. בשמחה ובחפץ לב מחרידים השפילה האוכלוסייה את היהודים בפומבי. מאות יהודים התאבדו בשבועות שאחרי האנשלוס. כשהגיע אדולף אייכמן עם כוחות האס.אס שלו, החל רישום שיטתי וגירוש מסודר של יהודים. כ- 120,000 יהודים הצליחו להימלט, אולם 65,000 יהודים לא שרדו את אימי הרייך השלישי, בם נטלו חלק אוסטרים כמו אייכמן, קלטנברונר וברונר.