Pendant la Révolution américaine et ses conséquences immédiates, le terme fédéral s’appliquait à toute personne qui soutenait l’union coloniale et le gouvernement formé en vertu des Articles de la Confédération. Après la guerre, le groupe qui estimait que le gouvernement national en vertu des Articles était trop faible s’est approprié le nom de fédéraliste. L’historien Jackson Turner Main a écrit : « pour eux, l’homme des » principes fédéraux » approuvait les « mesures fédérales « , c’est-à-dire celles qui augmentaient le poids et l’autorité ou étendaient l’influence du Congrès de la Confédération. »
Alors que les fédéralistes décidaient de modifier les Articles, aboutissant finalement à la Convention constitutionnelle, ils appliquèrent le terme anti-fédéraliste à leur opposition. Le terme impliquait, correctement ou non, à la fois une opposition au Congrès et des motifs antipatriotiques. Les anti-fédéralistes ont rejeté le terme, arguant qu’ils étaient les vrais fédéralistes. Dans leur correspondance et dans leurs groupes locaux, ils ont essayé de saisir le terme. Par exemple, un anti-fédéraliste inconnu a signé sa correspondance publique en tant que « Fermier fédéral » et le comité de New York s’opposant à la Constitution s’appelait le « Comité républicain fédéral ». »Cependant, les fédéralistes ont porté le jour et le nom Anti-fédéraliste est resté à jamais collé.
Les anti-fédéralistes étaient composés d’éléments divers, y compris ceux opposés à la Constitution parce qu’ils pensaient qu’un gouvernement plus fort menaçait la souveraineté et le prestige des États, des localités ou des individus; ceux qui voyaient dans le gouvernement proposé un nouveau pouvoir « monarchique » centralisé et déguisé qui ne ferait que remplacer le despotisme rejeté de la Grande-Bretagne; et ceux qui craignaient simplement que le nouveau gouvernement menace leurs libertés personnelles. Une partie de l’opposition estimait que le gouvernement central en vertu des Articles de la Confédération était suffisant. D’autres encore estimaient que si le gouvernement national en vertu des Articles était trop faible, le gouvernement national en vertu de la Constitution serait trop fort. Une autre plainte des anti-fédéralistes était que la Constitution prévoyait un gouvernement centralisé plutôt que fédéral (et dans les Documents fédéralistes, James Madison admet que la nouvelle Constitution a les caractéristiques d’une forme de gouvernement centralisée et fédérale) et qu’une forme de gouvernement véritablement fédéral était une ligue d’États comme dans les Articles de la Confédération.
Pendant la période de débat sur la ratification de la Constitution, de nombreux discours et articles locaux indépendants ont été publiés dans tout le pays. Initialement, de nombreux articles en opposition ont été écrits sous des pseudonymes, tels que « Brutus » (probablement Melancton Smith), « Centinel » (probablement Samuel Bryan), et « Fermier fédéral. »Finalement, des personnalités révolutionnaires célèbres telles que Patrick Henry se sont publiquement opposées à la Constitution. Ils ont fait valoir que le gouvernement national fort proposé par les fédéralistes était une menace pour les droits des individus et que le président deviendrait un roi. Ils se sont opposés au système judiciaire fédéral créé par la constitution proposée. Cela a produit un corpus phénoménal d’écrits politiques; les meilleurs et les plus influents de ces articles et discours ont été rassemblés par des historiens dans une collection connue sous le nom de Journaux anti-fédéralistes en allusion aux Journaux fédéralistes.
Dans de nombreux États, l’opposition à la Constitution était forte (bien que le Delaware, la Géorgie et le New Jersey l’aient ratifiée rapidement avec peu de controverse), et dans deux États — la Caroline du Nord et le Rhode Island — elle empêchait la ratification jusqu’à ce que la mise en place définitive du nouveau gouvernement force pratiquement leur adhésion. L’individualisme était l’élément d’opposition le plus fort; la nécessité, ou du moins l’opportunité, d’une déclaration des droits était presque universellement ressentie. Dans le Rhode Island, la résistance contre la Constitution était si forte que la guerre civile a failli éclater le 4 juillet 1788, lorsque des membres anti-fédéralistes du Country Party dirigés par le juge William West ont marché à Providence avec plus de 1 000 manifestants armés.
Les anti-fédéralistes ont joué sur ces sentiments lors de la convention de ratification au Massachusetts. À ce stade, cinq des États avaient ratifié la Constitution avec une relative facilité, mais la convention du Massachusetts était beaucoup plus contestée et controversée. Après un long débat, un compromis (connu sous le nom de « compromis du Massachusetts ») a été trouvé. Le Massachusetts ratifierait la Constitution avec des dispositions recommandées dans l’instrument de ratification selon lesquelles la Constitution serait modifiée par une déclaration des droits. (Les fédéralistes ont soutenu qu’une ratification conditionnelle serait nulle, de sorte que la recommandation était le soutien le plus fort que la convention de ratification pourrait apporter à une déclaration des droits à moins de rejeter la Constitution.)
Quatre des cinq prochains États à ratifier, dont le New Hampshire, la Virginie et New York, ont inclus un libellé similaire dans leurs instruments de ratification. En conséquence, une fois la Constitution entrée en vigueur en 1789, le Congrès a envoyé une série de douze amendements aux États. Dix de ces amendements ont été immédiatement ratifiés et sont devenus connus sous le nom de Déclaration des droits, l’un des deux autres devenant le 27e amendement — près de 200 ans plus tard. Ainsi, si les anti-fédéralistes ont échoué dans leur quête d’empêcher l’adoption de la Constitution, leurs efforts n’ont pas été totalement vains. Les Anti-fédéralistes sont ainsi reconnus comme un groupe influent parmi les Pères fondateurs des États-Unis.
Avec l’adoption de la Constitution et de la Déclaration des droits, le mouvement anti-fédéraliste s’est épuisé. Certains militants ont rejoint le Parti anti-administration que James Madison et Thomas Jefferson formaient vers 1790-91 pour s’opposer à la politique du secrétaire au Trésor Alexander Hamilton; ce groupe est rapidement devenu le Parti démocrate-républicain. Lorsque Jefferson est entré en fonction en tant que troisième président en 1801, il a remplacé les personnes nommées par des fédéralistes par des républicains démocrates et a cherché à se concentrer sur les questions qui permettaient aux États de prendre davantage leurs propres décisions en la matière. Il abrogea également l’accise sur le whisky et d’autres taxes fédérales, ferma certains bureaux fédéraux et chercha à modifier le système fiscal créé par Hamilton.