En 1075, le Pape Grégoire VII décidait d'interdire l'investiture laïque. Ce faisant, il voulait certes affranchir la papauté de la suzeraineté allemande, mais il s'attaquait ainsi à l'un des fondements du pouvoir impérial. Cette querelle dura presque un demi siècle, et ne fut réglée qu'en 1122 par le concordat de Worms, qui accordait à l'empereur l'investiture temporelle par le sceptre et au pape l'investiture spirituelle par la crosse et l'anneau. Aussi lorsque l'évêque Gérard II (1076-1092) mourut, les idées grégoriennes allaient provoquer un schisme épiscopal. En effet, à l'évêque Grégorien Manassés (1093-1103), élu d'abord, s'opposa l'évêque impérial Gaucher (1093-1106).
Ce drame s'accompagna d'une démarche du clergé d'Arras, appuyée par le Comte de Flandre auprès de l'archevêque de Reims Raynald, en vue d'obtenir la restauration du siège épiscopal de cette ville, supprimé on l'a vu depuis le VI' siècle. Un concile s'ouvrit, et en l'absence d'accord (le concordat précité n'étant intervenu, on l'a vu plus haut qu'en 1122), c'est le pape Urbain II qui trancha en 1094, en donnant un évêque à Arras, de sorte que l'évêque Gaucher fut le dernier prélat à administrer les deux diocèses.
Le pape était ainsi heureux de porter un coup à la citadelle de l'église impériale. L'évêque élu pour Arras, Lambert de Guines, fut choisi dans le diocèse de Tournai pour ne pas heurter la susceptibilité des Cambrésiens. Les Tournaisiens d'ailleurs s'engagèrent dans la même voie, et en 1146, le premier évêque Anselme, abbé de St Vincent de Laon, fut nommé, concrétisant ainsi la scission d'avec Noyon. Gaucher se maintint deux ans à Cambrai, où il y avait donc deux évêques, mais par la suite, Manassés occupa seul le poste jusqu'en 1103, et fut remplacé par un autre évêque Grégorien Odon alors que Gaucher se retirait dans un monastère. A noter qu'à son tour Odon fut exilé par l'empereur et se refugia à l'abbaye d'Anchin.
Lors des élections suivantes (Burchard 1115-1131-Liétard 1131-1137-Nicolas de Chièvres (1137-1167), l'influence de l'empereur redevint prépondérante. A noter que c'est ce dernier prélat qui entreprit de rebâtir de nouveau la cathédrale, déjà plusieurs fois refaite, et qui avait été victime d'un incendie en 1148, mais cette fois sur un plan nouveau. Commencée, dans le style Roman en 1150, elle sera achevée en 1472, dans le style gothique. Surnommée la « merveille des Pays- Bas », elle sera vendue à la Révolution de 1789 comme bien national et deviendra une carrière de pierre. Cependant, à partir du remplacement de l'évêque Nicolas de Chièvres en 1167, ce furent le Comte de Flandre et celui de Hainaut qui décidèrent des promotions épiscopales, conformément aux dispositions du concordat de Worms. Ils recueillaient en quelque sorte les fruits de ce concordat. Furent successivement nommés deux évêques n'ayant pas été ordonnés, Pierre d'Alsace (1167-1173) et Robert d'Aire (1173-1174).
Afin de montrer l'étendue du bénéfice tiré, notamment par le Comte de Flandre Robert II, successeur de Robert le Frison, de cette « querelle des investitures », il n'est pas inutile de préciser qu'il en profita pour finalement obtenir de l'empereur le fief de la châtellenie de Cambrai, octroyant ainsi à la Flandre une base légale pour agir désormais à l'intérieur de la Principauté même. Cette situation, qui perdurera pendant des siècles, ne fut pas sans poser de préoccupants problèmes aux évêques successeurs de Robert d'Aire, tout comme ne manqua pas d'en poser la volonté de la bourgeoisie locale à acquérir plus d'indépendance et de droits. Ainsi par exemple, l'évêque Roger de Wavrin (qui périra en 1191, au cours de la 3e croisade) eut-il d'abord à défendre ses droits sur sa résidence du Cateau (Château épiscopal) contre le Comte de Flandre, mais aussi et surtout ceux inhérents à sa fonction comtale contre les entreprises des bourgeois. Ces derniers réclamaient le droit de constituer l'échevinage, de rendre la justice, et de posséder un beffroi, c'est-à-dire, en fait, l'autonomie communale, qu'ils obtinrent, mais ne s'estimant pas satisfaits, ils voulurent aller plus loin encore, et toucher aux droits du clergé.
L'empereur, en définitive, fit rentrer les choses dans l'ordre en restituant à l'évêque l'essentiel des pouvoirs qu'il avait perdus, et notamment le droit de nommer les prévôts et les échevins. Quelques décennies plus tard, l'évêque Nicolas de Fontaine modifia les structures du diocèse en créant un sixième archidiaconé, celui de Bruxelles, qui se maintiendra jusqu'en 1559. A l'intérieur de ces archidiaconés, furent créées des divisions administratives appelées décanats ou encore doyennés, dits aussi « de chrétienté ». Il y en avait désormais 18 :
- archidiaconé du Cambrésis avec les décanats de Cambrai, Le Cateau et Beaumetz
- archidiaconé de Hainaut, avec les décanats de Bavai, Maubeuge, Binche et Mons
- archidiaconé de Valenciennes avec les décanats de Valenciennes, Haspres, et Avesnes sur Helpe
- archidiaconé de Brabant, avec les décanats de Chièvres, Saint Brice, Hall et Grammont
- archidiaconé d'Anvers, avec le décanat d'Anvers
- archidiaconé de Bruxelles avec les décanats de Bruxelles, Alost et Pamèle
D'autres conflits intervinrent encore entre le comte évêque et les bourgeois de Cambrai, notamment vers la fin du XIIème siècle, sous Enguerran II de Créqui, et le début du XIVème, sous Gui de Collemède, Philippe de Marigny et Pierre de Levis-Mirepoix. De véritables émeutes avec pillages, et mort d'hommes eurent notamment lieu en 1298, 1305 et 1313.