A ventiquattro anni Caleffi è già segretario della Federazione socialista di Mantova, che dirige sino al 1926, anno dell'applicazione delle leggi eccezionali fasciste. Milita poi nell'organizzazione genovese del Partito d'azione, di cui fu membro della Giunta esecutiva. Nel 1930 e nel 1936 è arrestato per attività sovversiva. Nel settembre del 1943, Caleffi entra a far parte della Law, la prima missione alleata inviata dagli inglesi in Italia e diretta da "Mino" Steiner, che era sbarcato da un sottomarino vicino a Rapallo. Con lui, e con gli azionisti Mario Cassiani Ingoni ed Eros Lanfranco, organizza un servizio informazioni sui movimenti delle truppe d'occupazione tedesche, s'industria a mandare in Svizzera prigionieri alleati, organizza i collegamenti con le prime formazioni partigiane.
Nell'agosto del 1944, a Milano, è scoperto e arrestato. I nazisti lo deportano a Mauthausen. Sopravvive e, tornato in patria, racconterà quella tragica esperienza nel libro Si fa presto a dire fame, scritto nel 1954, pubblicato in prima edizione nel 1955 e ristampato da Mursia nel 1988.
In Italia Caleffi s'iscrive al PSI. Svolge un'intensa attività giornalistica e nella terza legislatura è eletto senatore. Diventa anche sottosegretario alla Pubblica istruzione nel 2° e 3° Governo Moro (1964-1968). Caleffi è stato anche presidente dell'ANED, l'Associazione nazionale ex deportati politici nei campi nazisti.
Tra le sue opere, oltre a quella più nota: La salvezza (1928), Pensaci uomo (1960) e La lezione della Resistenza e del socialismo, scritti e discorsi dal 1919 al 1973 raccolti da M. Tesoro e pubblicati nel 1980.