רוב חברי הקהילה היהודית של גראץ נרצחו בידי הנאצים או נמלטו בשנת 1938.
בשנים שאחרי השואה, שהו אלפי עקורים בגראץ ובמחנות סמוכים לה. אחדים מבני הקהילה שבו לעיר. בתחילת שנת 1946, החליטו כשלושים יהודים לייסד מחדש קהילה יהודית במקום. בתחילה כללה הקהילה החדשה רק את אזור סטיריה, ומאז 1955 גם את דרום בורגנלנד, קרינתיה ומזרח טירול.
ביום 20 באפריל 1999, סמוך ליום הולדתו של היטלר, ריססו אלמונים סיסמאות נאצה וסמלים נאציים על מצבות בית העלמין היהודי בגראץ.
לבניית בית הכנסת של גראץ נבחרו אותם אדריכלים אשר תיכננו את בית הלוויות. בית הכנסת נחנך ב- 9 בנובמבר 2000, ששים ושתיים שנים אחרי ליל הבדולח. בטקס החנוכה נכחו נציגים של דתות רבות: יהודים, קתולים, פרוטסטנטים, מוסלמים ובודהיסטים. הוזמנו גם יותר ממאה ניצולי שואה יהודים ילידי גראץ, מכל העולם.
הקהילה היהודית בגראץ קטנה, ומונה כשבעים חברים, לעומת כאלפיים חברים בשנת 1910. בנוסף לבית כנסת יש לקהילה בית עלמין, וגם מרכז תרבות בו מתקיימות פעילויות, פגישות, הרצאות בנושאי יהדות, ישראל, וחגים.