נולד בקליסטה (בגרמנית קלישט) בבוהמיה, כיום ברפובליקה הצ'כית. אביו היה בעל מסבאה יהודי-אוסטרי. אחרי שנולד עברה משפחתו אל העיר ז'ילאבה (כיום ברפובליקה הצ'כית), ושם בילה את ילדותו ונעוריו. כשרונו המוזיקלי ניכר כבר בגיל ארבע, כשהתחיל להלחין יצירות לפסנתר. את דרכו כפסנתרן התחיל בגיל עשר בז'ילאבה, ובגיל 15 התקבל לקונסרבטוריון בווינה. אחרי שסיים את הלימודים בקונסרבטוריון, ניצח על תזמורות ואופרות בערים קטנות, ואחר גם בהמבורג, גרמניה, ב- 1888 נתמנה למנהל האופרה של בודפשט, ואחר – אחרי שהתנצר – למנהל אמנותי של האופרה המלכותית בווינה, בהיותו בן 37.
כמנצח זכה מאהלר זכה להערכה ולהערצה, אבל היצירות שהלחין היו אהודות פחות על הקהל בתקופתו. בשנת 1907 התפטר ממשרתו באופרה של וינה ונסע לארצות הברית, שם היה מנהל ראשי באופרה מטרופוליטן ובתזמורת הפילהרמונית בניו יורק. בשל בריאותו הרעה נאלץ לשוב לאירופה. הוא קיבל טיפול רפואי בפריז, ואחר שב לאוסטריה, חי בכפר והלחין את יצירותיו האחרונות. הוא נפטר בווינה בגיל חמישים.
על אף שניצח בעיקר על אופרות, רוב היצירות שהלחין הן סימפוניות (עשר במספר), וגם ארבעים השירים שחיבר מוגדרים על-פי-רוב כפרקים סימפוניים קצרים. יצירתו העיקרית: הסימפוניה הראשונה "טיטאן" (1888), השניה "התחיה" 1894, השלישית, (1896), הרביעית "אודה לאושר שמיימי" (1900), החמישית "הענק" (1902), הששית "הסימפוניה הטראגית" (1906), השביעית "שיר הלילה" (1905), השמינית "סימפוניית האלף", התשיעית (1910) והעשירית הלא גמורה. מחזורי שירים: "שירי שוליה נודד" (1884), "קרן הפלאים של הנער" (1899), "שירים על מות ילדים" (1901 – 1904) ו"השיר על הארץ" (1908).