Ex funcionario público, cuando el territorio de Armenia fue dividido entre Persia y el Imperio Romano de Oriente -entre 420 y 430-, Mesrob meditó retirarse a la vida solitaria, y, recibida la ordenación sacerdotal, comenzó el estudio del griego, el siríaco y el persa. Pero pronto se dio cuenta de que la eficacia de su labor misionera entre la población armenia quedaba muy obstaculizada por la ausencia de una versión de la Biblia y de los libros litúrgicos en lengua vernácula.
Primero fue necesario crear un alfabeto; con la ayuda de Isaac y de un calígrafo griego llamado Rufino, adaptaron el alfabeto griego en minúscula junto con otros elementos de diferentes fuentes, lo que daría lugar a un nuevo alfabeto compuesto de treinta y seis signos. Su introducción dio un gran impulso al desarrollo de una literatura nacional, y en pocos años se había traducido la Biblia entera. Mesrob, que parece haber supervisado la traducción del Nuevo Testamento, mereció ser considerado el padre de la literatura eclesiástica armenia. Ese mérito se cimenta también en la traducción de numerosos textos litúrgicos y patrísticos. Más tarde fue a predicar a Georgia, donde llevó a cabo un trabajo similar con el alfabeto de esa nación. Después de haber fundado varias escuelas, Mesrob regresó a su país y, animado por Isaac, fundó una para realizar nuevas traducciones del griego y el siríaco al armenio.
El santo, con más de ochenta años, murió en febrero del 441. En 1962 la Iglesia Armenia ha conmemorado solemnemente el décimo sexto centenario del nacimiento. Hay al menos dos versiones de su vida, escritas en armenio por su fiel discípulo Goriun.