Родители преподобного Зосимы были крестьянами села Толвуя на Онежском озере. Грамоте он научился дома и очень любил читать духовные книги. Когда же родители захотели его женить, он скрылся от них, принял постриг, но в монастырь не пошел. Юный инок стал проводить отшельническую жизнь, моля Бога, чтобы Он послал ему наставника, который научил бы его правильной монашеской жизни. В поисках уединенного места преподобный Зосима отправился на побережье Белого моря в устье Сумы. Здесь он встретил преподобного Германа, от которого услышал о пустынном морском острове, где с преподобным Савватием Соловецким прожил 6 лет. Преподобные Зосима и Герман положили вместе удалиться на этот остров.
Около 1436 года отшельники, благополучно совершив морское плавание, пристали к одному из Соловецких островов, где совершили всенощное бдение и переночевали в палатке. Господь благословил место их поселения: утром преподобному Зосиме было видение дивной церкви на воздухе. Кроме того, преподобный Герман рассказал ему, что ангелы прогнали с острова мирян, и повторил ему пророчество преподобного Савватия, что тут будет обитель.
Сподвижники построили келию, начали возделывать и засевать землю. Поздней осенью преподобный Герман поехал на берег за необходимыми припасами, но из-за непогоды не смог вернуться. В полном одиночестве преподобный Зосима провел зиму на острове. Много искушений он претерпел в борьбе с бесовскими срахованиями. Припасы его кончились, ему угрожала голодная смерть. Но случилось чудо. Однажды, неведомые люди принесли ему корзину с едой, обещали придти еще и исчезли.
Весной вернулся преподобный Герман с рыбаком Марком, который стал жить с ними и после стал монахом. Они привезли запас пищи и снасти для рыбной ловли.
Когда на острове собралось несколько отшельников, братия воздвигли церковь в честь Преображения Господня на том месте, где преподобный Зосима видел чудесный свет. В суровых условиях отдаленного острова иноки сумели организовать хозяйство. По просьбе братии святитель Иона, архиепископ Новгородский, прислал в новсозданную обитель игумена с антиминсом для соборного храма. Так было положено начало знаменитому Соловецкому монастырю. Когда присланный игумен, не выдержав пустынной жизни, вернулся в Новгород, то братия избрали игуменом монастыря преподобного Зосиму.
Преподобный Зосима занялся устроением внутреннего быта обители, ввел строгое общежитие. В 1465 году он перенес на Соловки с реки Выг мощи преподобного Савватия. Святые мощи были положены в особой часовне, где была помещена и икона его, написанная купцом, служившим ему при его кончине. Здесь стал проводить преподобный Зосима каждую ночь, прося преподобного Савватия быть руководителем его братии, ходатаем за них пред Господом.
Обитель терпела притеснения от новгородских бояр, которые отнимали у иноков уловы рыбы. Преподобный вынужден был отправиться в Новгород и искать защиты у архиепископа. По совету архиепископа он обходил дома бояр и просил их не допускать обитель до разорения. Влиятельная и богатая боярыня Марфа Борецкая приказала выгнать преподобного Зосиму, но потом раскаялась и пригласила его на обед, во время которого он вдруг увидел, что шесть знатнейших бояр сидят без голов. Преподобный Зосима поведал видение своему ученику Даниилу и предсказал боярам скорую смерть. Это предсказание исполнилось в 1478 году, когда при взятии Новгорода Иоанном III бояpе были казнены.
Незадолго до кончины преподобный сам приготовил себе гроб. Перед своей кончиной преподобный Зосима избрал игуменом обители ученика своего Арсения и заповедал ему блюсти заповеди Господни и устав монастырский неповрежденными и обещал духом пребывать с ними. Отечески простившись с каждым иноком и благословив их он отошел ко Господу 17 апреля 1478 года. Святой пpеподобный Зосима был погребен за алтарем Преображенского храма. Впоследствии над его могилой была устроена часовня. Мощи его совместно с мощами преподобного Савватия 8 августа 1566 года были перенесены в придел, освященный в их честь в Преображенском соборе.
Много чудес было засвидетельствовано, когда преподобный Зосима с пpеподобным Савватием являлись вместе, помогая бедствующим и гибнущим в моpской пучине pыбакам. Преподобный Зосима также является покровителем пчеловодства и хранителем пчел, его даже именуют "пчельником". К святому угоднику прибегают и в болезнях. Множество больничных храмов, посвященных ему, свидетельствует о великой целительной силе его молитв пред Богом.