利奥三世后来还乘胜反攻，逐渐把阿拉伯人赶出小亚细亚西部，到他得意的继承人君士坦丁五世时代，更是配合阿拔斯王朝灭掉了倭马亚王朝，并夺回了整个小亚细亚和叙利亚部分地区。
基层出身的利奥三世对帝国体制的弊端有着非常清醒的认识，而对于四面受敌的拜占庭帝国，加强军事力量显然是重中之重。
利奥三世巩固了自己的地位之后，便开始将他多年苦苦思索的改革付为实践。他竭力整顿税收的征收，改善帝国的参政状况，加强和完善军区制，给予新兴军事贵族以土地和财产，给予士兵以安定的生活。但这一切都同当时拜占庭帝国的教会发生了抵触，变得寸步难行。
在基督教获得正统地位之后4个世纪，教会的势力以惊人的速度发展，以至到了畸形发展的地步，随着亚洲地区被阿拉伯人征服，这些地区的主教涌入帝国内地，很多修道士从被占领区涌入帝国内地，随之而起的修道院遍布各地，他们就像蛀虫爬伏在本就缩水的国土上。帝国需要的不是只会诵经的洋和尚，而是能打仗、能保家卫国的战士，这必然在教会与军人出身的利奥三世之间产生激烈的矛盾。
有一本教会的经书称：“人类分成两半，一半是僧侣，另一半是俗人。”
僧侣人数的实际数字虽然达不到人口的一半，但他们所占有的土地却几乎占了帝国的半壁江山。而且他们还拥有免税权和其他特权。与此同时，帝国无地少地的平民却越来越多。要增加帝国的税收和劳动力，要有大量富饶的土地分给新兴的军事贵族，就必须拿富得流油的教会开刀，无论利奥三世本人的宗教思想如何，这已成为他的必然选择。
另外，基督教会在宗教本身的硬伤也使它成为了被攻击的对象。早期的基督教强调精神信仰，禁止偶像崇拜。
但基督教随着它的发展也像许多其他宗教一样，逐渐走上了偶像崇拜的道路，圣像和圣人遗骨被修道院供奉起来，愚昧的群众认为对圣像的顶礼膜拜可以使自己趋利避害，而带给了修道院滚滚财源。而且对各圣徒的偶像崇拜有把基督教引向多神论的危险，这严重违背了基督教作为一神教的本质，基督教内部本身就有人对此十分不满。
为了重整军队，利奥三世下令广泛征用了教会的所有土地和其他财产。教会好不容易才把这些财富敛到自己怀里，怎能说给人就给人呢？
西方人惯有的抗争精神在那些修道士身上得到了充分地体现，“归还财产，还俺们土地”之声此起彼伏。
和中国的寺院有所不同，教会在当时不仅是精神世界的统领者，而且也统治着社会的经济。修道院利用各种特权，利用免税权，大量占有土地，剥削依附于土地的居民。国家实力被这些僧侣掏之一空，他们其实比俗人还要俗。
利奥三世正利用了这些硬伤，发起了向教会夺权的轰轰烈烈的“捣毁圣像运动”。
利奥三世先是发布了第一道反对圣像崇拜的诏令，将供奉圣像视同偶像崇拜。这是向全国教会的第一道宣战书。随后，在全国发起了破坏圣像的运动。
修道士们一听就恼火了，没了圣像，俺们怎么收香火钱？
接着，由于教会违抗诏令，修道院的大批土地被没收，余下的土地也必须课税，修道院的数量被大为减少，大批修道士被还俗成为社会劳动者。修道院在教育方面的特权也被取消。利奥三世开了个头，他儿子君士坦丁五世在位期间采取的行动更为激烈，使这场运动达到高峰。
利奥三世得到了大部分军事贵族和宫廷贵族的支持，因为他们是这场运动的最大受益者，从中分到了大量的土地财产，部分开明僧侣和保罗派信徒也站到了这一边，一些主教也跑来给皇帝唱赞歌，因为修道士不听他的话，这次可以趁机统治他们。城市手工业者们也起来欢呼，他们对修道士的骄横早就不满了。
而多数教会高级领导者则是反对力量的代表。在地理分布上，小亚细亚的军区和多数民众都支持这场运动，而包括首都君士坦丁堡在内的帝国欧洲各省，特别是希腊地区的多数民众则反对这场运动，甚至部分地区爆发了持续时间不长的武装反抗。
但利奥三世推行改革的决心不会因为任何反抗而削弱，他果断镇压了武装反抗。利奥三世突然废黜了君士坦丁总主教泽门的职务。