Родился в городе Низибии (Месопотамия). С юности возлюбив отшельничество, он долгое время на высоких пустынных горах предавался самым строгим подвигам: жил под открытым небом, питался древесными плодами и зеленью, одевался в козьи кожи. Все время преподобный проводил в молитвенных беседах с Богом.
В гонение императора Максимиана (305-311 гг.) он прославился мужественным исповеданием веры. За строгую и благочестивую жизнь низибийские жители избрали его своим епископом. Святитель Иаков прославился своей горячей ревностью к православной вере, великими чудесами и даром прозорливости. Присутствовал на I Вселенском Соборе и был одним из ревностнейших защитников Православия.
Его святыми молитвами Низибия была спасена от нашествия персидского царя Сапора II: Господь послал на огромное персидское войско комаров и песьих мух, и персы, гонимые комарами и мухами, бежали, сняв осаду с города. Своей высокой нравственной жизнью епископ сильно влиял на сердца слушателей.
Ныне известны его 18 слов на армянском языке, написанные им по просьбе священномученика Григория, просветителя Армении († ок. 335 г.). Сочинения святого Иакова отличаются убедительностью, ясностью изложения и сердечностью. Святитель мирно почил о Господе около 350 г.