Dans un État fédéral, il existe deux ordres juridiques distincts : celui de l'État fédéral et celui des États fédérés. Chaque État fédéré possède son propre système juridique, dont la validité s'arrête à son territoire, tandis que l'ordre juridique de l'État fédéral s'étend à l'ensemble du pays, englobant les territoires de chaque État fédéré. Ainsi, il y a superposition de ces ordres juridiques.
Selon la théorie kelsenienne, un État est indissociable de son ordre juridique. Dans le cadre fédéral, cela implique une pluralité d'ordres juridiques correspondant à une pluralité d'États. Cependant, sur le plan international, seul l'État fédéral est reconnu comme sujet de droit, ce qui entraîne une limitation de la souveraineté des États fédérés. Bien que certaines constitutions fédérales permettent aux États fédérés d'exercer des compétences internationales, leur souveraineté est limitée, ce qui soulève des questions quant à leur qualification en tant qu'États.
Les États fédérés, malgré leur autonomie normative interne, ne disposent pas de la pleine qualité d'État, car leur souveraineté internationale est restreinte. Ils possèdent cependant une autonomie constitutionnelle, avec leur propre constitution et législation. Cela engendre une superposition des ordres constitutionnels et législatifs : chaque État fédéré a son propre système, tout en étant soumis à la Constitution fédérale.
La Constitution fédérale définit également les compétences respectives des lois fédérales et des lois des États fédérés. En cas de conflit, la clause de suprématie du droit fédéral garantit que le droit fédéral prévaut. Cette superposition des ordres juridiques est ainsi une caractéristique fondamentale de l'organisation fédérale.
L'État fédéral n’est pas la seule forme d’État composé. Il existe des différences essentielles entre l’Etat fédéral et les autres Etats composés que sont l’union d'États et la confédération. L'État fédéral ne peut être assimilé avec une confédération ou une union d'États.
L'État fédéral ne doit pas être confondu avec l'union d'États, une forme historique d'État complexe aujourd'hui disparue. Dans une union d'États, plusieurs États sont sous la gouvernance d'un même souverain, et deux types sont distingués :
1. Union personnelle : Les États partagent un monarque mais restent totalement distincts. Cette relation est fragile, car elle peut être affectée par des questions de succession. Exemple : l'union entre l'Angleterre et le royaume d'Hanovre (1714-1837). L'union des PB de 1815-1890.
2. Union réelle : Les États partagent des institutions communes et une souveraineté partagée, notamment en matière de défense, tout en conservant leurs organes distincts. Exemple : l'empire austro-hongrois (1867-1918).
Contrairement à l'État fédéral, une union d'États ne présente pas de superposition d'ordres juridiques, mais maintient des structures étatiques séparées.
La confédération ne doit pas être confondue avec l'État fédéral, bien qu'elle puisse être une étape vers ce dernier. Une confédération est une association d'États qui, par un traité international, mettent en commun certaines compétences tout en préservant leur souveraineté. Contrairement à l'État fédéral, elle ne repose pas sur une Constitution mais sur un traité, et les États membres conservent leur pleine souveraineté interne et internationale.
Le fonctionnement d'une confédération se base sur le principe d'unanimité, ce qui peut rendre la prise de décision difficile et même bloquer le processus. Les États peuvent à tout moment décider de quitter la confédération. Souvent, cela conduit soit à la dissolution de la confédération, soit à son évolution vers un État fédéral, comme l'illustre la confédération helvétique et la confédération des treize colonies américaines. L'Allemagne a également connu cette transition.
Actuellement, certaines confédérations existent, comme le Commonwealth et la communauté des États indépendants (CEI), qui ont du mal à fonctionner. L'Union européenne (UE) présente un cas particulier : bien qu'elle repose sur des traités et conserve des traits de confédération, elle a dépassé ce stade dans plusieurs domaines, tels que l'économie et la monnaie. Les décisions au sein de l'UE ne sont pas prises à l'unanimité, mais à la majorité qualifiée, ce qui permet d'imposer des règles aux États membres. Ainsi, l'UE se rapproche davantage d'un État fédéral tout en n'étant pas entièrement classifiable dans cette catégorie.