После излечения в лагерном госпитале он вступил в, так называемый, легион «Идель-Урал», который фашисты начали формировать из лиц татарской национальности. Но Муса сделал это с целью продолжения борьбы с фашизмом. Вскоре он организовал среди легионеров подпольную группу, которая устраивала побеги военнопленных, но главной своей целью имела подготовку восстания при переброске легиона на фронт.
Когда первый из сформированных батальонов легиона «Идель-Урал» был направлен в Витебск, там 21 февраля 1943 года вспыхнуло восстание: более 500 легионеров покинули расположение части и с оружием в руках присоединились к белорусским партизанам. Аналогично действовали подготовленные Мусой Джалилем подпольщики и в других батальонах.
Гестапо начало расследование причин массовых переходов легионеров на советскую сторону. В августе 1943 года Джалиль и большинство членов его подпольной группы были арестованы. Причем за несколько дней до уже подготовленного восстания военнопленных. За участие в подпольной организации Муса Джалиль был казнён на гильотине 25 августа 1944 года в тюрьме Плётцензее в Берлине.
После войны Муса Джалиль посмертно обвинялся органами госбезопасности в измене Родине и пособничестве врагу.
С 1946 года в разные советские инстанции стали поступать блокноты со стихами Джалиля, написанными в фашистских застенках и чудом сохраненные военнопленными. Все бывшие узники свидетельствовали о подпольной деятельности Мусы в плену.
Из стихов собралась так называемая «Моабитская тетрадь», которая попала в руки известному писателю Константину Симонову. Он организовал перевод стихов Джалиля на русский язык, опубликовал некоторые из них вместе со своей статьей, в которой убедительно доказал, что Муса не предатель, а героический борец с фашизмом в условиях плена.
В 1956 году Муса Джалиль посмертно был удостоен звания Героя Советского Союза, в 1957 году стал лауреатом Ленинской премии.
Вот несколько строф из «Моабитской тетради»:

Мои песни
Сердце с последним дыханием жизни
Выполнит твёрдую клятву свою:
Песни всегда посвящал я Отчизне,
Ныне Отчизне я жизнь отдаю.
Песня меня научила свободе,
Песня борцом умереть мне велит.
Жизнь моя песней звенела в народе,
Смерть моя песней борьбы прозвучит.

О героизме

Знаю, в песне есть твоей, джигит,
Пламя и любовь к родной стране.
Но боец не песней знаменит:
Что, скажи, ты сделал на войне?
Встал ли ты за Родину свою
В час, когда пылал великий бой?
Смелых узнают всегда в бою,
В горе проверяется герой.
Бой отваги требует, джигит,
В бой с надеждою идет, кто храбр.
С мужеством свобода что гранит,
Кто не знает мужества — тот раб.
...Если кровь твоя за Родину лилась,
Ты в народе не умрешь, джигит.
Кровь предателя струится в грязь,
Кровь отважного в сердцах горит.
Умирая, не умрет герой —
Мужество останется в веках.
Имя прославляй свое борьбой,
Чтоб оно не молкло на устах!