Este Papa é descrito por Hipólito, na Philosophymena, como um homem simples, sem instrução; o que significa, evidentemente, que Zeferino não tinha recebido os estudos teológicos superiores, tendo-se dedicado à administração prática da Igreja.
São Zeferino enfrentou um período difícil e tumultuoso, pois, além das perseguições aos cristãos, várias heresias abalavam ainda mais a Igreja que os próprios martírios. Assim, a divindade de Cristo era negada pelos gnósticos; Teodoro subordinou de tal modo Jesus ao Pai que acabou por fazer dele uma simples criatura; e Montano fazia profecias e pregava sobre o fim do mundo a partir da consciência de ser a revelação do Espírito Santo.
Apesar de não ser teólogo, São Zeferino era muito sensato e, amparado pelo poder do Espírito Santo, combateu tenazmente as heresias. Para isso, uniu-se aos grandes sábios da época, como Santo Ireneu, Hipólito e Tertuliano, pondo fim aos tumultos e livrando os cristãos da mentira e dos rigorismos.
O seu grande aliado foi o diácono Calisto, que seria seu sucessor. O Papa determinou que Calisto organizasse cemitérios para os cristãos, onde os fiéis pudessem sepultar os seus mortos e prestar homenagens aos mártires. Foram assim criadas as catacumbas romanas, lugar que dá testemunho de grande parte da história cristã, sendo que uma delas tem o nome deste santo.
Durante os primeiros anos do governo do Imperador Sétimo Severo (193-211), os cristãos tiveram um período de relativa paz. Mas depois, por um édito seu de 202 ou 203, começou uma implacável perseguição ao cristianismo, que foi proibido no Império, sob penas severas. Não se sabe como se procedeu à execução desse decreto em Roma, nem que mártires teve a Igreja romana nessa época.
Foi durante o pontificado de São Zeferino que ocorreu a admirável conversão de Natalis, que era do número dos confessores e tinha sustentado a sua fé diante dos tribunais. Porém, deixando-se seduzir pela avareza e pela vaidade, acabou por aderir à heresia de Teodoto, que, mediante uma grande soma, conseguiu que ele fosse seu bispo. Acontece que, por meio de sonhos, Deus mostrou-lhe a sua cegueira e conjurou-o a voltar ao seio da Igreja; consta até que, como ainda vacilasse em tomar esse passo salutar, Natalis foi chicoteado por anjos durante toda a noite, o que o fez abrir finalmente os olhos para a sua pérfida situação e lançar-se aos pés de São Zeferino vestido de cilício e de cinzas na cabeça, pedindo-lhe humildemente que lhe perdoasse o seu pecado e que, depois da devida penitência, o recebesse novamente na Igreja.
São Zeferino proibiu o uso de cálices de madeira para a consagração do Corpo e Sangue de Nosso Senhor Jesus Cristo, como era usado nessa época devido à pobreza, ordenando que se utilizassem cálices de vidro. Mas, como esses eram muito frágeis, ordenou depois que fossem de ouro ou prata ou, quando não era possível, de estanho.
Estipulou também que os fiéis comungassem no dia de Páscoa, e que um bispo não podia ser condenado a não ser pelo Romano Pontífice ou por sua autoridade. Que os sacerdotes e diáconos estivessem presentes quando o bispo celebrasse, como o Papa Evaristo já havia ordenado. Que os padres fossem sagrados publicamente, na presença de outros clérigos e do povo, a fim de que a sua inocência e bons costumes, sendo sem censura, pudessem servir utilmente à Igreja. Também promulgou outros decretos tocantes à disciplina eclesiástica e, depois de ter governado santamente a Igreja durante 19 anos, 2 meses e 10 dias, segundo o Liber Pontificalis, foi receber a recompensa de seus trabalhos por meio de glorioso martírio, ocorrido no dia 26 de Agosto de 217, sob o império de Antonino Caracala.
O seu corpo foi sepultado no cemitério perto da catacumba de Calisto, na Via Ápia.
