Филипп II был сыном Ирода Великого от его пятой жены Клеопатры из Иерусалима. Как и его сводные братья, Архелай и Антипа, он провел свое детство и отрочество в Риме, при дворе императора. По завещанию своего отца он получил самую северную часть Иудейского царства – Южную Сирию, включавшую Голан, Батанею, Трахон и Хауран (Аврал), а позднее и горный Ливан (Итурею). Он был женат на Саломее, той самой дочери Иродиады, которая, согласно Евангелиям от Марка и Матфея, очаровала своим танцем тетрарха Антипу и по наущению своей матери попросила голову Иоанна Крестителя. Тетрарха Филиппа часто путают с Филиппом Боэтом, еще одним сыном Ирода Великого, имевшим то же самое имя. Но Филипп Боэт был сыном другой жены Ирода и никакого земельного удела по завещанию отца не получил. Правда, Филипп Боэт был отцом Саломеи, ставшей женой его сводного брата Филиппа-тетрарха, а также прославился тем, что был первым мужем знаменитой Иродиады, которую у него забрал его другой сводный брат, Антипа.

Тетрархия Филиппа состояла из обширных, но малонаселенных областей Южной Сирии и горного Ливана. Население тетрархии состояло в основном из итуреев (на севере) и сирийцев арамейского происхождения (на востоке). Евреи составляли абсолютное большинство населения только на Голанах и в Верхней Галилее, а в остальных областях его тетрархии они оставались меньшинством. Таким образом, в отличие от своих братьев – Архелая и Антипы, он правил в основном неиудеями. Кроме того, тетрархия Филиппа по своему экономическому развитию и доходности сильно уступала областям Архелая и Антипы. Однако Филипп, как человек и правитель, оказался несравненно достойнее и лучше остальных своих братьев-правителей. Как писал о нем Флавий, «его правление отличалось мягкостью и спокойствием. Он провел всю жизнь в пределах подчиненной ему области. Когда ему случалось выезжать, он делал это в обществе нескольких избранных. При этом за ним всегда возили его кресло, сидя на котором он творил суд. Если по пути к нему являлся кто-либо с жалобой, то он, недолго думая, тут же ставил кресло, садился на него и выслушивал обвинителя. Виновных он тут же подвергал наказанию и немедленно отпускал тех, кого обвинили несправедливо» (Иуд. древн. XVIII, 4, 6).

Филипп правил долго, почти 38 лет. Главным городом своей тетрархии он сделал Панеаду, находившуюся у самых истоков реки Иордан в Верхней Галилее. Он заново отстроил, благоустроил и украсил этот город, сделав его смешанным иудейско-эллинистическим. Он назвал его Юлиадой в честь жены императора Августа, но в истории он больше известен под названием Кесарии Филипповой (в отличие от Кесарии Ирода Великого на Средиземноморском побережье). Вторым его детищем стала Вифсаида на северном берегу озера Кинерет. Он тоже превратил ее в иудейско-эллинистический город.

Филипп умер в Юлиаде в 34 г. и был похоронен там же в мавзолее, который он заранее воздвиг для себя. Так как у него не было детей, то его тетрархия была сначала присоединена к римской провинции Сирия, а в 37 г. передана иудейскому царю Агриппе I.