בצעירותו נחשב אלתרמן לפציפיסט. עדות לכך יכול לשמש שירו הנודע "אל תיתנו להם רובים", שפורסם ב-1934, המגנה את זוועות מלחמת העולם הראשונה. ואולם דעותיו החלו להשתנות לאחר פרוץ "המרד הערבי" ב-1936, שנמשך שלוש שנים, עד שאסר להשמיע ולפרסם את "אל תתנו להם רובים". יצחק שדה, ממפקדי ה"הגנה" הנודעים ומייסד "פלוגות השדה" (הפו"ש), פנה אל ידידו אלתרמן וביקש ממנו המנון ללוחמי הקו הראשון של הימים ההם. אלתרמן נענה לאתגר וחיבר את "זמר הפלוגות", שהיה בלחנו של דניאל סמבורסקי לאחד השירים המושרים ביותר בארץ במשך שנים.
אין פרטים מתי הצטרף אלתרמן באופן רשמי ל"הגנה". בספר "ההגנה בתל-אביב" הוא מופיע ברשימת חברי סניף תל-אביב ומספרו הוא 853. מה שידוע לנו בבירור שבתחילת שנות ה-40 השתתף אלתרמן בכתיבה לעיתון בשכפול "במחנה", ביטאון סניף ה"הגנה" בתל-אביב, שערב קום המדינה הפך לעיתון של כלל ה"הגנה" וחודשים מספר לאחר מכן לעיתון צה"ל באותו שם.
בשנים 1941-1940 פורסמו ב"במחנה" שלושה טורים אקטואליים מחורזים של אלתרמן, בחתימת "נתן". מכיוון שלא כל החוברות שרדו, ייתכן שהיו עוד שירים.
השיר הראשון ראה אור בקיץ 1940, לאחר ההפצצה האיטלקית הראשונה על תל-אביב, שהסבה אבדות כבדות (למעלה מ-100 הרוגים) ונזקים קשים. מצב הרוח בעיר המופצצת היה קשה, ואלתרמן כתב שיר שקרא לעמידה איתנה, והסתיים בשורות הבאות:
נדע ונאמר במלים ברורות
העיר עומדת באש החפירות!
וברית עולמים בינה לבין בניה,
ושנאת עולמים בינה ובין שונאיה.
ויהיו כל חיי הקריה העברית
דרוכים לשנאה ולברית!