Von anfänglichen 1.420 Mitgliedern wuchs der Centralverein bis 1926 auf mehr als 60.000 Mitglieder an, womit er gegen Ende der Weimarer Republik die Mehrheit der assimilierten bürgerlich-liberalen Jüdinnen und Juden in Deutschland vertrat. Zugleich stieg er zur bedeutendsten unter den zahlreichen deutschen jüdischen Organisation auf, die sich als Reaktion auf den erstarkenden Antisemitismus im Kaiserreich gebildet hatten. 1929 war der als Dachorganisation reichsweit operierende Centralverein in insgesamt 31 Landesverbände mit rund 500 Ortsgruppen unterteilt. In den letzten Jahren der Weimarer Republik engagierte er sich insbesondere im Zivilrechtsschutz gegen sich ausweitende antisemitische Boykottmaßnahmen. - In Köln entstand, nachdem sich hier schon um 1905 eine aktive Ortsgruppe des Centralvereins gebildet hatte, 1920 schließlich ein eigenständiger Landesverband für das linksrheinische Rheinland, der bald viele lokale Gruppen umfasste. Um 1924 gehörten ihm mehr als 5.000 Personen an.
In seiner Arbeit vertraute der C.V. von Beginn an auf die Kraft der Aufklärung über das Judentum, auf Stärkung des jüdischen und des deutsch-jüdischen Bewusstseins sowie auf juristische Maßnahmen gegen konkrete Angriffe. Hierzu benötigte er entsprechende Publikationsorgane. So verfügte der Verein bald auch über ein eigenes, reichsweit vertriebenes Publikationsorgan mit Namen „C.V.-Zeitung“, die ab 1922 wöchentlich im Berliner Rudolf Mosse-Verlag erschien. Hiermit und zahlreichen zusätzlichen Denkschriften, Publikationen und Gesprächen versuchte der Vereinsvorstand, Reichspräsident Paul von Hindenburg und die Vertreter der deutschen Wirtschaft auf die großen allgemeinen Gefahren des Antisemitismus aufmerksam zu machen. Gegen den zunehmend erstarkenden Nationalsozialismus und seinen aggressiven Antisemitismus richtete der Centralverein 1928 in der Berliner Wilhelmstraße ein Büro ein, das die antijüdischen Aktivitäten von NS-Seite dokumentierte und bis ins Jahr 1933 hinein antifaschistische Aufklärung betrieb. - Als in der Endphase der Weimarer Republik die noch kleine, aber aggressive Gruppe der Kölner Nationalsozialisten durch antisemitische Aktionen auf sich aufmerksam machte, trat die Ortsgruppe des C.V. der lokalen NSDAP durch juristische Schritte, durch Veröffentlichungen und Veranstaltungen entgegen.
Nach der NS-Machtübernahme setzte der Centralverein seine Arbeit zunächst fort, wobei der langjährige Vereinsdirektor Ludwig Holländer in einer Stellungnahme zu Hitlers Kanzlerernennung als Losung ausgab: „Parole: Ruhig abwarten!“ Als Folge des kurz darauf durchgeführten Boykotttags am 1. April 1933 sowie des Gesetzes zur Wiederherstellung des Berufsbeamtentums vom 7. April 1933 beteiligte sich der C.V. an der Gründung des „Zentralausschusses für Hilfe und Aufbau“, der ein erstes Vorzeichen der im September 1933 gegründeten Reichsvertretung der deutschen Juden war, in dann unter den spezifischen Bedingungen der Zeit sich nun sowohl die zionistische ZVfD als auch der liberale C.V. sowie andere, kleinere jüdische Organisationen und Verbände und besonders einflussreiche Jüdische Gemeinden zusammenfanden.
Dem NS-Regime gelang es umgehend, die Überzeugungen des Centralvereins ad absurdum zu führen, der nun nicht mehr primär die Zugehörigkeit der Juden zum deutschen Volk propagierte, sondern in den folgenden Jahren vor allem im Bereich der Rechtsberatung und - im völligen Widerspruch zu seiner einstigen Überzeugung - in der Auswanderungsberatung tätig war.
Nachdem die „Nürnberger Gesetze“ am 15. September 1935 den Begriff des „Staatsbürgers“ abgeschafft und durch die Begriffe „Reichsbürger“ bzw. „Reichsangehöriger“ ersetzt hatten, musste auch der Centralverein im Rahmen einer außerordentlichen Mitgliederversammlung am 21. Oktober 1935 eine Satzungsänderung beschließen. Er nannte sich künftig provisorisch „Centralverein der Juden in Deutschland“. Nachdem der C.V.-Direktor Ludwig Holländer am 11. Februar und der langjährige Vereinsvorsitzende Julius Brodnitz am 17. Juni 1936 verstorben waren, wurde Ernst Herzfeld aus Essen zum letzten Vereinsvorsitzende. Er beschloss zur Betonung einer nunmehr stärker auf die jüdische Auswanderung ausgerichtete Arbeit des Centralvereins, diesen im August 1936 nochmals, nun in „Jüdischer Central-Verein e. V.“ umzubenennen. Im Zuge der Novemberpogrome wurde der Verein dann am 10. November 1938 verboten, und die CV-Zeitung musste ihr Erscheinen umgehend einstellen.