Similarité Cosinus : Guide Complet pour Choisir la Bonne Métrique

Calcul et explication de la Cosine Similarity

La similarité cosinus mesure l’angle entre deux vecteurs dans un espace multidimensionnel, sans tenir compte de leur longueur. C’est la métrique la plus utilisée pour comparer des embeddings textuels, car elle capture la proximité sémantique indépendamment de la fréquence des termes.

La formule et l’interprétation géométrique

La formule repose sur le produit scalaire des deux vecteurs divisé par le produit de leurs normes : cos(θ) = (A·B) / (||A|| × ||B||). Mathématiquement, on projette un vecteur sur l’autre pour mesurer leur alignement directionnel.

Géométriquement, deux vecteurs pointant dans la même direction obtiennent un score proche de 1, tandis que des vecteurs perpendiculaires obtiennent 0. Cette propriété rend la métrique invariante à la magnitude : un texte court et un texte long sur le même sujet obtiennent un score élevé, car seule la direction compte. C’est pourquoi elle est recommandée dans 99% des cas de recherche sémantique.

Les propriétés clés pour la recherche sémantique

• Résultat entre -1 et 1 : 1.0 pour vecteurs identiques, 0 pour vecteurs orthogonaux
• Invariante à la magnitude des vecteurs : insensible à la longueur du texte ou à la norme
• Équivalente au dot product si normalisés : après normalisation L2, les deux calculs donnent le même score
• 1.0 = vecteurs identiques : direction parfaitement alignée
• 0 = vecteurs orthogonaux : aucune corrélation sémantique

Pour la recherche sémantique, cette invariance est cruciale : deux documents traitant du même sujet mais de longueurs très différentes resteront proches. La normalisation des vecteurs avant calcul permet d’utiliser le dot product, plus rapide en calcul, tout en conservant les mêmes résultats.

Comprendre les Embeddings et leurs Fondamentaux Mathématiques

Un embedding est une représentation numérique dense sous forme de vecteur, qui capture le sens sémantique d’un texte, d’une image ou d’un audio. Concrètement, un modèle comme CLIP projette ces données dans un espace à 512 dimensions, tandis que des modèles comme ViT ou ResNet-50 montent respectivement à 768 et 2048 dimensions. Plus la dimension est élevée, plus la capacité de nuance est grande.

La propriété fondamentale est que la proximité vectorielle reflète la similarité conceptuelle. Des phrases synonymes produisent des vecteurs proches, tandis que des sujets opposés génèrent des vecteurs éloignés. Ces vecteurs permettent aussi des opérations algébriques : le célèbre exemple « roi – homme + femme = reine » illustre cette capacité unique. Toutefois, tous les vecteurs ne sont pas des embeddings seuls ceux issus de modèles entraînés sur de vastes corpus le sont.

Les modèles modernes comme BERT ou GPT produisent des embeddings contextuels, où le même mot obtient un vecteur différent selon son contexte. Le choix du modèle est crucial : OpenAI et Cohere supportent 100+ langues, tandis que Sentence-BERT paraphrase en couvre 50+, ce qui impacte directement la qualité de votre recherche sémantique.

Comparaison des Métriques de Similarité : Cosinus, Euclidienne, Dot Product

Choisir la bonne métrique de similarité est une décision structurante pour tout projet de recherche sémantique. Chaque mesure possède des propriétés mathématiques distinctes qui influencent directement la qualité des résultats. Le tableau ci-dessous synthétise les différences essentielles à connaître avant de se lancer.

Pourquoi la magnitude fausse les résultats

Pour approfondir la question du choix des métriques et de leur impact sur les performances, la mise en place agent ia entreprise peut s’appuyer sur ces principes fondamentaux.

Pour approfondir la comparaison des métriques et découvrir comment les intégrer dans des cas concrets, consultez notre guide sur les ia salesforce opportunités.

Le piège principal réside dans la sensibilité à la magnitude. Un vecteur d’embedding non normalisé peut avoir une norme élevée simplement parce que le texte source est long ou contient des termes fréquents. La distance euclidienne et le dot product pénalisent alors artificiellement ces vecteurs, même si leur contenu sémantique est proche. C’est exactement le scénario qui produit des scores de similarité toujours supérieurs à 0.9 : des vecteurs non normalisés comparés avec un dot product brut.

La similarité cosinus contourne ce problème en ne considérant que l’angle entre les vecteurs. Elle compare la direction, pas la longueur. Pour la recherche sémantique sur du texte, cette propriété est précieuse : deux textes parlant du même sujet produiront des vecteurs pointant dans la même direction, quelle que soit leur longueur.

La normalisation comme pont entre les métriques

Si vous appliquez une normalisation L2 (division de chaque composante par la norme du vecteur), le dot product devient mathématiquement équivalent à la similarité cosinus. Cette astuce permet de bénéficier de la rapidité de calcul du dot product tout en conservant l’invariance à la magnitude du cosinus. Les bases vectorielles optimisées exploitent cette équivalence pour accélérer les recherches de 100× à 1000× grâce à des algorithmes comme HNSW ou IVF.

En pratique : pour du texte, privilégiez la similarité cosinus ; pour des vecteurs normalisés, le dot product offre les mêmes résultats avec une meilleure performance ; pour du clustering géométrique pur, la distance euclidienne reste pertinente.

Choix de la Bonne Métrique selon le Contexte d’Utilisation

Pour la recherche sémantique sur du texte, la similarité cosinus reste la valeur par défaut : elle est insensible à la norme des vecteurs, ce qui évite les biais de fréquence des termes. En revanche, si vos vecteurs sont normalisés, le dot product devient strictement équivalent au cosinus, tout en étant plus rapide à calculer un choix pertinent pour les grands volumes.

Méfiez-vous des scores systématiquement supérieurs à 0.9 : ils signalent souvent des vecteurs non normalisés, et non une vraie proximité sémantique. Normaliser les embeddings avant de les comparer reste une pratique robuste, quel que soit le contexte. Pensez aussi que des vecteurs issus de modèles différents ne sont pas comparables entre eux.

Enfin, privilégiez la distance euclidienne pour des tâches de clustering géométrique, et la similarité cosinus pour toute recherche par similarité de sens. Pour des pipelines mixtes impliquant images et textes, des modèles comme CLIP (512 dimensions) projettent tous les types de données dans un même espace vectoriel.

Génération d’Embeddings : Modèles, API et Coûts

Les modèles et leurs coûts comparés

Le choix d’un modèle d’embedding repose sur un arbitrage entre coût API, dimension des vecteurs et couverture linguistique. Pour un corpus de 100K documents d’environ 500 tokens chacun, l’API OpenAI small revient à ~$1.00 tandis que la version large grimpe à ~$6.50. À l’inverse, un modèle local comme Sentence-BERT élimine totalement le coût API, au prix d’une puissance brute moindre.

La dimension des vecteurs joue un rôle direct sur le stockage. CLIP produit des embeddings de 512 dimensions, ViT monte à 768 et ResNet-50 atteint 2048. En réduisant la dimension de 1536 à 256, on divise par 6× l’espace de stockage, mais on perd environ ~8% de qualité de recherche. Une réduction par PCA/UMAP entraîne une perte plus marquée de ~5-15%.

Le fine-tuning du modèle sur vos données métier améliore la pertinence de +10-30%. Cependant, les embeddings de modèles différents ne sont pas comparables entre eux : un vecteur issu d’OpenAI ne peut pas être mélangé avec un vecteur Sentence-BERT. Le choix du modèle doit donc être acté dès le début du projet.

Optimisation du traitement par lots

• Batch size une taille de batch_size=32 est recommandée pour un traitement efficace via API
• Cache par hash un cache des textes déjà encodés accélère le traitement de 100× sur les contenus répétés
• Batch processing regrouper les requêtes API offre une accélération de 90× par rapport aux appels unitaires
• Bases vectorielles des index optimisés (HNSW, IVF) accélèrent la recherche de 100× à 1000×
• Réduction de dimension passer de 1536 à 256 dimensions divise le stockage par 6× avec seulement ~8% de perte de qualité

Implémentation de la Recherche Sémantique : Stockage et Indexation

Architecture technique d’un moteur de recherche vectoriel

L’implémentation concrète d’un moteur de recherche sémantique repose sur une chaîne technique précise. Le point de départ est la génération des embeddings pour l’ensemble de vos documents, souvent réalisée avec des modèles comme text-embedding-3-small ou Sentence-BERT.

Pour le stockage, des solutions dédiées comme pgvector, Weaviate, Qdrant ou Pinecone sont privilégiées. Elles implémentent des algorithmes d’indexation tels que HNSW (Hierarchical Navigable Small World) ou IVF (Inverted File Index), capables d’accélérer la recherche par similarité d’un facteur 100× à 1000× par rapport à une recherche linéaire naïve. Cette accélération est cruciale lorsque vous traitez des centaines de milliers de vecteurs.

Une optimisation souvent négligée consiste à mettre en place un cache des embeddings. En stockant les vecteurs déjà calculés et en les identifiant par un hash, vous pouvez obtenir un gain de vitesse de 100× pour les textes déjà encodés, évitant ainsi des appels API redondants et coûteux.

Le chunking : taille optimale et overlap

La qualité de votre recherche sémantique dépend fortement du découpage de vos documents en segments exploitables, une étape appelée chunking. Un chunk trop grand dilue la signification ; un chunk trop petit fragmente le contexte. La taille optimale se situe généralement entre 200 et 500 tokens, avec une recommandation générale de 300 tokens.

Pour préserver la continuité sémantique entre les segments, un chevauchement est nécessaire. Un overlap de 10-20% est recommandé, avec une norme standard de 15-20%. Ce recouvrement permet de ne pas couper une phrase ou une idée importante en plein vol. Le chunking intelligent, qui respecte les frontières naturelles comme les paragraphes, améliore significativement la pertinence des résultats. Enfin, pour une recherche plus robuste, l’ajout d’une recherche hybride combinant les vecteurs denses à la recherche sparse (BM25) offre un bon équilibre entre compréhension sémantique et correspondance exacte des termes.

FAQ : Questions Fréquentes sur la Similarité Cosinus

Quand la similarité cosinus est-elle préférable au dot product ?

La similarité cosinus est préférable au dot product lorsque la norme des vecteurs varie selon les documents. Elle neutralise l’effet de la longueur, ce qui est idéal pour comparer la direction sémantique de textes de tailles différentes. Le dot product, lui, amplifie la similarité pour les vecteurs de grande norme.

Comment interpréter un score de similarité cosinus ?

Un score proche de 1 indique une forte similarité sémantique, souvent des textes quasi identiques ou très liés. Un score proche de 0 signifie une absence de relation, tandis qu’un score négatif (rare) indique une opposition. Utilisez un seuil empirique (ex: 0.8) pour définir la pertinence.

Pourquoi mon score de similarité cosinus est-il toujours supérieur à 0.9 ?

Cela se produit lorsque les embeddings ne sont pas normalisés ou que le modèle est trop généraliste. Normalisez vos vecteurs (L2) et vérifiez la moyenne des normes. Si le problème persiste, privilégiez un modèle plus discriminant ou comparez vos scores à une baseline de paires aléatoires pour calibrer votre seuil.