L'estimation des paramètres est une fonction principale de la statistique inférentielle. Elle implique deux principaux types d'estimation : ponctuelle et par intervalle. L'estimation ponctuelle fournit une seule valeur comme estimation d'un paramètre de population. Par exemple, la moyenne d'un échantillon peut servir d'estimation ponctuelle de la moyenne de la population. L'estimation par intervalle, ou intervalle de confiance, fournit un intervalle de valeurs au sein duquel se situe le paramètre de population avec une certaine probabilité. Un intervalle de confiance est généralement accompagné d'un pourcentage, comme 95%, qui signifie que si l'on devait prendre de nombreux échantillons et calculer un intervalle de confiance pour chacun d'eux, 95% de ces intervalles contiendraient la valeur réelle du paramètre de la population.

Les estimateurs doivent être sans biais (l'estimation moyenne sur de nombreux échantillons doit être égale au paramètre de population), efficients (avoir la plus petite variance possible entre tous les estimateurs non biaisés) et cohérents (fournir des estimations plus précises à mesure que la taille de l'échantillon augmente).

Le test d'hypothèse est une autre composante centrale des statistiques inférentielles. Il commence par la formulation d'une hypothèse nulle (H0) et d'une hypothèse alternative (H1). L'hypothèse nulle est généralement une déclaration de 'pas d'effet' ou de 'statu quo' que l'on cherche à tester. Par exemple, H0 peut stipuler qu'une nouvelle méthode d'enseignement n'est pas plus efficace qu'une méthode traditionnelle. L'hypothèse alternative représente le contraire, affirmant qu'il y a un effet ou une différence significative. Dans notre exemple, H1 affirmerait que la nouvelle méthode d'enseignement est plus efficace. Le test statistique évalue la vraisemblance de la validité de l'hypothèse nulle. Selon le seuil de signification (souvent 0,05 ou 5%), si la probabilité d'obtenir un résultat aussi extrême ou plus extrême que celui observé est inférieure à ce seuil, on rejette H0.

Il est important de choisir correctement le test statistique en fonction des caractéristiques des données (comme le type de variable, la distribution des données, etc.) et des hypothèses sur l'échantillon (comme l'indépendance des observations). Certains tests communs incluent le test t de Student pour les moyennes et le test chi-carré pour les distributions. Une erreur de type I survient lorsque l'on rejette à tort une hypothèse nulle vraie, tandis qu'une erreur de type II survient lorsque l'on échoue à rejeter une hypothèse nulle fausse.

La comparaison entre deux groupes est souvent effectuée à l'aide de tests spécialement indiqués pour analyser les différences entre deux moyennes (comme le test t pour échantillons indépendants) ou deux proportions (tel que le test z pour les proportions). Ces tests font partie de l'inférence statistique car ils permettent de déterminer si les différences observées entre les groupes sont statistiquement significatives ou si elles peuvent être attribuées au hasard ou à des fluctuations d'échantillonnage.

Dans ces analyses, il est crucial de vérifier les prérequis pour l'application des tests, tels que la normalité de la distribution des données ou l'égalité des variances. Des alternatives non paramétriques, comme le test de Mann-Whitney pour les moyennes, peuvent être utilisées lorsque ces conditions ne sont pas remplies.