L’A/B test, ou pourquoi vous vous trompez depuis le début

J’ai passé trois ans à faire de l’A/B testing sur des sites e-commerce. Franchement, les premiers mois, j’ai tout faux. Je lançais des tests sans comprendre les bases statistiques, j’arrêtais après deux jours parce que « ça avait l’air de marcher », et je prenais des décisions qui, rétrospectivement, étaient pires que si j’avais tiré à pile ou face.

Alors voilà : l’A/B test n’est pas juste une histoire de changer la couleur d’un bouton et de voir ce qui se passe. C’est une méthode qui, mal faite, vous coûte du temps, de l’argent, et vous donne l’illusion de savoir ce que vous faites.

Points clés à retenir

  • Un A/B test compare deux versions d’un élément pour déterminer laquelle performe le mieux grâce à des données, pas des intuitions.
  • Le piège numéro un : arrêter un test trop tôt, avant d’avoir atteint la significativité statistique.
  • Quatre types de tests existent, mais l’A/B test reste le plus simple et le plus robuste pour débuter.
  • Google Optimize n’existe plus depuis septembre 2023 — des alternatives gratuites comme Upflowy ou WiserNotify prennent le relais.
  • Un test valide nécessite une taille d’échantillon minimale, une durée suffisante, et une compréhension des biais (effet de nouveauté, biais de sélection).

C’est quoi, exactement, un A/B test ?

L’A/B testing, c’est comparer deux versions d’une même page, d’un email, ou d’un bouton, en montrant chaque version à un groupe aléatoire de visiteurs. Puis vous mesurez laquelle atteint le meilleur taux de conversion, ou un autre objectif défini à l’avance. Rien de sorcier.

C’est quoi, exactement, un A/B test ?
Image by PublicDomainPictures from Pixabay

Mais là où ça coince, c’est que beaucoup de gens pensent que c’est une solution miracle. « Je change le CTA, je gagne 20 % de conversions. » Spoiler : ça n’arrive presque jamais. Le taux de conversion moyen sur un site e-commerce tourne entre 1 et 3 %, comme le rappelle l’ESLSCA. Un bon A/B test vous fera gagner quelques dixièmes de point. Pas de quoi pavoiser.

Ce qui compte, c’est la méthode, pas le résultat. Chaque test est un apprentissage. Et ça, c’est le vrai gain.

Quels sont les 4 types de tests ?

Attention, ici on parle de tests informatiques en général, pas seulement d’A/B testing. D’après la formation OpenClassrooms, les quatre types principaux sont :

  • Tests unitaires : vérifient une fonction ou un composant isolé.
  • Tests d’intégration : valident que plusieurs modules fonctionnent ensemble.
  • Tests fonctionnels : testent le logiciel du point de vue de l’utilisateur (c’est là que rentre l’A/B test, d’une certaine façon).
  • Tests exploratoires : le testeur explore librement pour trouver des bugs imprévus.

Mais dans le marketing digital, on parle surtout de test A/B et de test multivarié (où l’on modifie plusieurs éléments à la fois). J’y reviens plus bas.

Comment faire un A/B test qui ne soit pas une perte de temps

Quand j’ai commencé, je me suis dit : « Je vais tester le formulaire d’inscription, version A avec un bouton vert, version B avec un bouton rouge. » Résultat : après 48 heures, le rouge avait 5 % de plus. J’ai implémenté la version rouge. Deux semaines plus tard, le taux de conversion était revenu à son niveau initial.

Comment faire un A/B test qui ne soit pas une perte de temps
Image by geralt from Pixabay

Pourquoi ? Parce que j’avais arrêté le test trop tôt. L’effet de nouveauté — les visiteurs cliquent plus sur un truc qu’ils n’ont jamais vu — fausse tout. Et la taille d’échantillon était ridicule (300 visiteurs par version).

Voici les étapes que j’aurais dû suivre :

  1. Définir une hypothèse claire : « Si je mets un bouton rouge au lieu de vert, le taux de clic augmentera de 5 % parce que le rouge attire l’œil. » Pas de « on va voir ce que ça donne ».
  2. Choisir une métrique principale : taux de clic, taux de conversion, revenu par visiteur. Une seule. Si vous en regardez trois, vous trouverez toujours quelque chose de « significatif » par hasard.
  3. Calculer la taille d’échantillon minimale : pour détecter une différence de 5 % avec une puissance de 80 %, il vous faut souvent plusieurs milliers de visiteurs par version. Utilisez un calculateur en ligne (celui d’Evan Miller est gratuit).
  4. Laisser tourner le test jusqu’à atteindre cette taille — même si après deux jours la version B semble gagnante à 95 % de confiance. Ne trichez pas.
  5. Vérifier la significativité statistique : ne vous contentez pas d’un p-value. Regardez aussi l’intervalle de confiance. S’il est trop large, le résultat n’est pas fiable.

Et un conseil que j’ai appris à mes dépens : ne testez jamais plus de deux variantes en même temps sans correction statistique. Si vous testez A, B, C, D, la probabilité de trouver un faux positif explose. Utilisez la correction de Bonferroni ou passez au test multivarié — mais c’est plus complexe.

Les erreurs que j’ai commises (et que vous allez commettre aussi)

Première erreur : tester pendant les fêtes de fin d’année. Le trafic change complètement de comportement en décembre, et votre test n’est pas représentatif du reste de l’année. Idem pour les soldes, les promos, ou les jours fériés.

Deuxième erreur : arrêter le test dès que le p-value passe sous 0,05. C’est ce qu’on appelle le peeking problem — vous regardez les résultats en continu et vous arrêtez dès que ça vous arrange. Le résultat n’est plus valide. Fixez une durée et une taille d’échantillon à l’avance, et ne trichez pas.

Troisième erreur : tester des changements trop petits. « Je change la police de 14 à 15 pixels. » Franchement, personne ne le remarque. Testez des choses qui ont un impact potentiel : le titre, l’appel à l’action, le prix, la mise en page.

Quel est le meilleur outil gratuit pour l’A/B testing ?

Alors là, petite déception : Google Optimize n’existe plus depuis septembre 2023. Je m’en suis rendu compte en pleine campagne, obligé de migrer en urgence. Merci Google.

Quel est le meilleur outil gratuit pour l’A/B testing ?
Image by shatishira from Pixabay

Heureusement, il reste des alternatives. D’après le guide BDM, les outils freemium ou à bas coût incluent :

  • Upflowy (Freemium) : orienté optimisation des parcours utilisateur, pas mal pour tester des flows.
  • WiserNotify (Freemium) : plutôt du social proof, mais intègre des fonctionnalités de test.
  • VWO Testing (payant, avec essai) : la référence pour les pros, mais le tarif pique.
  • AB Tasty (payant) : excellent mais cher.
  • Kameleoon (payant) : très complet, avec des fonctionnalités de personnalisation.

Mon avis personnel : si vous avez un petit budget, commencez par VWO en essai gratuit ou AB Tasty. Sinon, Upflowy fait le job pour des tests simples, mais la courbe d’apprentissage est raide.

Et les solutions maison sont-elles une bonne idée ?

J’ai codé mon propre système d’A/B test sur un projet il y a deux ans. Résultat : un mois de développement pour un truc que Kameleoon ou VWO faisaient en une heure. Et j’ai dû gérer les cookies, le stockage des données, et les calculs statistiques moi-même. Franchement, à moins d’avoir une équipe technique dédiée et des besoins hyper spécifiques, ne faites pas ça. Les outils existants sont trop matures pour réinventer la roue.

Ce que les gros sites font (que vous ne faites pas)

D’après Kameleoon, 75 % des sites ayant un trafic supérieur à 1 million de visiteurs pratiquent l’A/B testing. Pourquoi ? Parce qu’ils ont compris que l’expérimentation continue est le seul moyen d’améliorer durablement leur conversion. Mais ils ne testent pas n’importe quoi.

Ils testent des hypothèses structurées sur :

  • L’architecture de l’information (ordre des sections, navigation)
  • Les éléments de confiance (avis clients, badges de sécurité)
  • Les incitations à l’action (formulation, emplacement, couleur)
  • Les parcours d’achat (simplification des étapes)

Et ils ne testent jamais une seule page : ils testent des flux entiers. Parce que c’est le parcours complet qui compte, pas un bouton.

Aspects légaux et accessibilité : les oubliés

Un angle que je vois rarement abordé : l’A/B testing a des implications légales. La CNIL a déjà rappelé que la collecte de données via des tests A/B peut relever du consentement RGPD. Si vous modifiez des éléments d’une page en fonction du comportement des visiteurs, vous créez potentiellement un profilage. Et là, il faut informer l’utilisateur.

Autre point : l’accessibilité (RGAA). Si vous testez une version qui change la couleur des boutons ou la taille des polices, assurez-vous que la version B respecte toujours les contrastes minimum et la lisibilité. Un test qui améliore la conversion pour les voyants mais détruit l’expérience des malvoyants, c’est un échec.

Je l’avoue, j’ai complètement ignoré ces aspects pendant deux ans. Jusqu’à ce qu’un client me signale que sa version B (un bouton gris clair sur fond blanc) avait un contraste insuffisant. J’ai dû tout reprendre. Depuis, j’inclus l’accessibilité dès l’hypothèse de test.

Alors, l’A/B test, ça marche ?

Oui, mais seulement si vous acceptez qu’il ne vous donnera pas de réponses magiques. Chaque échec est une donnée. Chaque test non concluant vous apprend quelque chose sur votre audience. Et parfois, l’A/B test vous montrera que votre super idée — celle qui allait révolutionner votre taux de conversion — ne change absolument rien.

Et c’est très bien comme ça.