Aveva aderito giovanissimo al Partito socialista e, prima dell'avvento del fascismo, era stato eletto consigliere comunale a Biella. Si trasferì poi a Torino, dove diresse il Sindacato edili del Piemonte. Durante la dittatura fascista Ogliaro continuò l'attività politica clandestina, mantenendo i contatti con i suoi compagni di Torino, di Biella e di Novara e con i fuorusciti socialisti di Ginevra. Dopo la caduta del fascismo fu membro della prima, ricostituita Direzione del PSI e si dedicò alla riorganizzazione dei socialisti piemontesi.
Arrestato a Torino con l'accusa di appartenere alla Resistenza, Ogliaro fu deportato a Mauthausen. Vi morì, stroncato dalle sofferenze patite nel campo. Strade ad Alfonso Ogliaro sono state intitolate a Biella e a Torino.