Orszak papieski posuwał się z Francji na południe przez Lombardię i Toskanię ku Rzymowi. Zewsząd zbiegali się ludzie, żeby zobaczyć papieża i otrzymać od niego błogosławieństwo. 3 czerwca 1120 roku Kalikst II dotarł do Rzymu. Bramy otwarły się przed nim szeroko wśród gorących wiwatów ludności Wiecznego Miasta. Radość była wielka, bo już dawno papież nie mieszkał w Rzymie. Stolicę Piotrową okupowali kolejni, popierani przez cesarza niemieckiego, antypapieże. Poprzednik Kaliksta, prawdziwy papież Gelazy II, zmarł na wygnaniu w Cluny we Francji. Tam też zebrani wokół niego kardynałowie 2 lutego 1119 roku obrali jego następcą Gwidona, arcybiskupa francuskiego miasta Vienne. Kalikstowi II – bo takie imię przyjął – nic już nie groziło. Antypapież Grzegorz VIII uciekł z miasta, bo niemiecki władca Henryk V przestał go popierać. Zamknął się w twierdzy Sutri, ale gdy wojska papieskie obległy miasto, mieszczanie wydali go i otworzyli bramy. Został przewieziony do Rzymu. Musiał przejechać przez miasto na wielbłądzie, siedząc twarzą do ogona, wśród gwizdów, szyderstw i obelg. Po takim widowisku był skompromitowany. Resztę życia spędził w więzieniu.

Papież z kolei zgodził się na to, żeby cesarz miał pewien wpływ na wybory duchownych na ważne urzędy kościelne w Niemczech. „Ja, Kalikst, biskup, sługa sług Bożych, Tobie, umiłowanemu Synowi Henrykowi, z Bożej łaski cesarzowi rzymskiemu Augustowi, zezwalam, aby wybory biskupów i opatów królestwa niemieckiego, którzy podlegają królestwu, dokonywały się w Twojej obecności, bez symonii [tzn. bez prób płacenia za urzędy kościelne] i jakiegokolwiek gwałtu” – brzmią pierwsze słowa papieskiego dokumentu. Papież uznał też prawo cesarza do użycia symboli władzy świeckiej: „Wybrany zaś niechaj otrzyma od Ciebie za pomocą berła lenna i to, co Ci z tego tytułu wedle prawa winien będzie, niech wypłaci”. Dokument kończy się słowami: „Daję prawdziwy pokój Tobie oraz wszystkim, którzy po stronie Twojej są lub byli w czasie tego sporu”.