Durant l'été 1945, dans le Japon de la seconde Guerre mondiale, deux enfants, Seita (un adolescent de quatorze ans) et sa jeune sœur Setsuko (qui a quatre ans), se trouvent livrés à eux-mêmes après la mort de leur mère, à la suite du bombardement à la bombe incendiaire de Kobe par les forces armées américaines. Après avoir vainement tenté de contacter leur père, un officier supérieur de la marine impériale japonaise, Seita et Setsuko partent habiter chez une tante éloignée. Un temps accueillante, la tante traite progressivement les deux enfants comme des fardeaux. Aussi, Seita et Setsuko partent et se réfugient dans un abri désaffecté. Celui-ci est illuminé la nuit par des milliers de lucioles. Les problèmes s'enchaînent : la nourriture vient à manquer et Setsuko tombe malade. Seita se met alors à voler de la nourriture, mais se fait prendre par un fermier. En désespoir de cause, il part en ville vider le compte en banque de ses parents et apprend à l'occasion la capitulation du Japon et la destruction de la marine japonaise. De retour à l'abri avec de la nourriture, il ne parvient pas à sauver Setsuko de la mort. Après l'avoir incinérée, il se laisse à son tour dépérir jusqu'à sa mort, dépeinte au début du film avant un long flash-back. Les esprits des deux enfants, réunis, contemplent le Kobe moderne.