בית העלמין היהודי העתיק ביותר בווינה הוא רוזאואר, מן המאה ה- 16 (ברובע 9). כל המצבות, 700 במספר, הוסרו ונטמנו בתעלה בבית העלמין המרכזי ערב מלחמת העולם השנייה. רק בתחילת שנות ה- 80 של המאה העשרים שבו המצבות ונתגלו, והושבו למקומן הקודם.
עתיק מעט פחות הוא בית הקברות בוורינג, הנאצים הרסוהו כמעט לגמרי, למעט חלק אחד שעדיין קיים, מוזנח והרוס.
בית העלמין דבלינג, שנוסד בשנת 1885, משקף גישה ליברלית שרווחה אז, שכן החלקה היהודית אינה מופרדת מבית העלמין. אישים ומנהיגים נחים שם את מנוחתם האחרונה, שם נטמן גם בנימין זאב הרצל, קודם שהועלו עצמותיו לירושלים.
בית העלמין היהודי הגדול ביותר נמצא בבית העלמין המרכזי, בשני מקומות. בשער הכניסה הראשון בית העלמין הישן, ובשער הרביעי, בית העלמין החדש ובו אולם זיכרון. בחלק הישן שוכנות מצבות אישים יהודים בעלי שם, ביניהם ארתור שניצלר, ובני משפחת רוטשילד הווינאית. ב- 1938 הרסו הנאצים את בתי ההלוויות שתיכנן האדריכל וילהלם שטיאסני ב- 1870 בקירוב, וגם את רוב הקברים המקושטים.