יליד לבוב, היא למברג, אשר באימפריה האוסטרו-הונגרית (כיום לביב, באוקראינה). עבר לווינה והתמסר ללימודי מוזיקה, ובעיקר לחזנות וליטורגיקה.
בשנות העשרים המוקדמות לחייו הציעו לו לכהן כחזן בבית הכנסת "בריגיטנאואר טמפל-פריין" בווינה. בשנת 1925 עבר להנובר, גרמניה, ושם נשאר עד 1935. כשעלו הנאצים לשלטון גלה אלתר לדרום אפריקה ונהיה לחזן ראשי בקהילת "יונייטד היברו קונגרגיישן" ביוהנסבורג. ב- 1961 עבר לארצות הברית. הוא עבד כמרצה בבית הספר למוזיקת-קודש של ה"היברו יוניון קולג'" בסינסנטי, אוהיו. משם עבר לניו-יורק והמשיך ללמד ולעסוק בחזנות במסגרת התנועה הרפורמית.
תרומתו של אלתר לליטורגיקה ולחזנות המודרנית עצומה. יצירותיו הן מרכיב מרכזי במוזיקה מסוג זה. הוא הרבה להקליט, וגם ערך יצירות ליטורגיות מאת דוד אייזנשטאט, למשל "לדוד מזמור".
ישראל אלתר נפטר בשנת 1979 בניו-יורק.