Nació en Constantinopla de una familia en la que abundaron los frutos de santidad; fue perseguida por el emperador Constancio VI y tuvo que protegerse del avance de los árabes. José abrazó la vida monástica y en ella compuso muchos himnos para la liturgia. El año 806 fue designado obispo de Tesalónica.

    Tuvo que sufrir mucho por defender la disciplina eclesiástica y la santidad de vida, y por oponerse a los iconoclastas que pretendían suprimir el culto a las sagradas imágenes. Pasó muchos años en el destierro y murió de hambre en Tesalia (Grecia) el año 832, por lo que es tenido por mártir.