加爾文對世俗權威的看法，反應在1536年的《基督教要義》(The Institutes Of The Christian Religion) ，這本書是獻給法蘭西國王法蘭西斯一世(Francis I)。加爾文試圖經由此書，讓他的王子對新教公民的政治責任留下印象。加爾文深知如果他的追隨者中有任何絲豪叛亂的跡象，他的宗教改革未成形前就會被摧毀。
1533至1535 年，整個基督教世界對重洗派(the Anabaptists) 在Munster城市的叛亂感到震驚。很難想像，最後是由新教和羅馬天主教組成的聯合軍隊來攻擊這個城市，將叛亂弭平。這個舉動在新教的良心上留下可怕的污點，促使加爾文加倍呼籲新教的公民理當服從世俗權威。加爾文說如果上帝認為將國王置於王國之上，將元老或其他官員置於自由聯邦之上是件好事，那麼我們就必須服從，盡職盡責地服從上帝所任命統治我們的人。
重洗派在Munster的動亂，使加爾文更加謹慎期盼他的追隨者，不會對民政當局構成威脅。他對重洗派的評語是：若認為上帝的教會必須完美到足以使政府和法律變得多餘，這是愚蠢的想法，因為在任何人類的團體中都不可能找到完美，包括地上的教會。加爾文認為並非官員的官職尊嚴就可以掩蓋他們的過錯或愚蠢，或他們生活的不道德，還能獲得美德的讚譽，而是官員的職位本身是值得人們的尊敬和崇敬。
不過，如果國王若心存邪惡又如何呢？加爾文說國王的品格就是邪惡，也是他和上帝之間的事，人民沒有理由造反。他說即使是最壞的國王也是由同樣的法令任命的，該法令確立了一般國王的權威，那麼我們就永遠不該允許自己有煽動性的想法，即根據國王的所為來對待國王，或者我們不需要服從一個不像國王的國王。加爾文說既然我們無法補救這些罪惡；剩下的就是祈求耶和華的幫助，因為君王的心和國度的改變都在上帝的手中。（箴言21章1節）
如果一個邪惡的國王超越了上帝賦予他的權威，而強迫信徒的良心時，加爾文說信徒採取拒絕是正確的，但不能積極反抗，這是需要勇氣；因為君王不會容忍任何反抗，如所羅門所說他們的憤怒是死亡的使者（箴言16章14節）。然而，加爾文也說，彼得在使徒行傳5章29節宣告了「我們必須服從上帝，而不是服從人。」因此，我們寧願忍受一切的原由，是我們願意順服上帝要求的順服。如果不服從變得不可避免，加爾文認為還是必須採取祈禱、懇求、受苦或流放的形式，而不是反叛。對加爾文來說，個人信徒對政治的過度興趣是不健康的，而且無論什麼景況，個人信徒皆不得參與此類事務。
加爾文在解釋「有人打你右瞼，連左臉也轉過來由他打」(馬太5章39節)時說，基督徒生來就是受盡屈辱和不公的人，要暴露在人類邪惡、欺騙和嘲笑之下。不僅如此，他們還必須耐心地忍受所有這些不幸；與此同時，他們又必須向傷害他們的人行善，為那些說壞話的人祈禱，必須以善勝惡，因為這是他們唯一的勝利。
雖然加爾文的神學沒有為個人叛亂留下空間，但他也確實看到了地方法官在抵抗更高權威方面的作用。他說在我們這個時代，可能有一些受歡迎的地方官來限制國王的放蕩，如斯巴達5人所組成的委員會Ephors，可來制衡斯巴達國王；或羅馬的「平民論壇」(the Tribunes of the People)可否決羅馬執政官；或雅典的民選執政官(Demarche) 可反對雅典的議會一樣。加爾文認為 既然有這樣的民政官，就不要禁止他們盡職盡責，來抵制國王的放蕩和狂暴。
加爾文的國家觀與路德全然不同，路德認為國家是人類墮落狀態的補贖，是對邪惡的懲罰；然加爾文卻認為國家是上帝所指定的良好聖潔制度。對加爾文來說，基督教世界是指政府與教會的合併。政府在執行職務是根據基督教與自然律的看法，按照理性與聖經教訓行事；而教會是獨立的，行使它神聖公義律法，促進社會基督教化，在共同順從上帝的道之精神與國家合作。在此，世俗事務與神聖事務有了共同理想，生命與社會制度全部統一，而預定論也強化了少數聖潔的人，有治理多數罪人的責任。
英國Essex大學的教授Harro Hopfl，於1985年出版一本The Christian Polity of John Calvin(約翰、加爾文的基督教政體) ，認為加爾文的政治思想完全是傳統的，然而日內瓦城市議會的獨特經驗，讓他隨後發展了一個獨特的基督教政體願景，來作為基督徒生活整體的概念。在此，Harro Hopfl教授探討了個人的良知在加爾文神學中的意義和作用。加爾文認為良知是構建基督教政體的起點，良心的折磨促使人們尋求解脫，驅使他們來到基督那裡，尋求救贖和赦免；由此，又導致他們心甘情願地服從教會和政府的外部援助，以使自己能過著公義和美德的生活。
