Supposons un algorithme qui classifie une personne dans la catégorie homo ou hétéro (oui c'est binaire, mais le même raisonnement se généralise facilement). Supposons qu'il tombe juste dans 90 % des cas (ce qui est beaucoup).
Eh bien comme le montre un calcul simple de probabilités, en raison du fait que les homos sont fortement minoritaires dans la population, la fiabilité en pratique sera bien moindre : s'il y a 4 % d'homos dans la population, l'outil se plantera 3 fois sur 4.