Bei der Zürcher Regierung punktete er aber zunächst vor allem mit seiner Ablehnung des Söldnerwesens. Schon bald jedoch auch mit seinen handfesten Predigten, in denen er das Evangelium allgemein verständlich interpretierte. Bereits 1520 wurden die Prediger im ganzen Hoheitsgebiet vom Rat angewiesen, sich an Zwingli zu orientieren.
Nachdem Zwingli 1522 seine erste offen reformatorische Schrift herausgegeben hatte, nahm allerdings auch der Gegenwind zu. Die Dominikaner in Zürich warfen ihm Ketzerei vor.
Schliesslich lud der Grosse Rat am 29. Januar 1523 zur ersten Zürcher Disputation ein. Hier sollten die Gegner Zwinglis all ihre Argumente vorbringen können. Etwa 600 Personen nahmen an dieser intellektuellen Auseinandersetzung teil. Johann Faber, der Abgeordnete des für Zürich zuständigen Bischofs von Konstanz, trat jedoch so schwach auf, dass der Rat Zwingli zum Gewinner der Disputation erklärte.
An einer zweiten Disputation wurde vom 26. bis 28. Oktober 1523 vor fast 900 Zeugen aus der ganzen Eidgenossenschaft über die Messe und den Umgang mit Bildern gestritten. Der Rat beschloss danach die Entfernung der Bilder innerhalb von sechs Monaten.
Und nach der dritten Disputation vom 13. und 14. Januar 1524 wurde die Messe abgeschafft. Der Rat von Zürich ordnete unter dem Einfluss Zwinglis nicht nur das Kirchenwesen neu, auch das Schulwesen wurde umgebaut und Sittengesetze wurden erlassen.