Près de deux Allemands sur trois utilisent des chatbots ou des assistants vocaux basés sur l'IA au moins une fois par semaine. Pour les entreprises, il faut savoir que de nombreux Allemands utilisent l'IA spécifiquement pour rechercher des produits et des services.

Cela dit, de nombreux clients souhaitent toujours pouvoir contacter de vraies personnes pour obtenir de l'aide lors de leurs achats en ligne, en particulier en cas de complication. Selon la Bitkom (l'association numérique allemande), seuls 36 % des acheteurs souhaitent recevoir des conseils de chatbots lorsqu'ils rencontrent des problèmes, tels que des confirmations de commande manquantes ou des retards de livraison. Cela montre que les chatbots dotés de réponses préconfigurées ont souvent une utilité limitée.

Les assistants d'achat basés sur l'IA pourraient aider à résoudre ce problème. Ils offrent davantage que les simples fonctions de service client des chatbots traditionnels et créent de nouvelles opportunités pour le retail en ligne. Cet article explique les assistants d'achat basés sur l'IA, notamment leur fonctionnement et les réglementations juridiques en vigueur en Allemagne et dans l'UE. Il précise également qui est responsable des décisions d'achat dictées par l'IA ainsi que les exigences en matière de protection des consommateurs et d'autorisation de paiement automatisée.

Points à retenir

• les assistants d'achat basés sur l'IA personnalisent les achats en ligne et possèdent des capacités nettement supérieures à celles des chatbots traditionnels ;
  
• la législation européenne sur l'IA, le règlement général sur la protection des données (RGPD), les lois sur l'e-commerce et le droit national allemand prévoient des réglementations exhaustives sur l'utilisation des assistants d'achat basés sur l'IA ;
  
• les boutiques en ligne doivent informer les clients des interactions basées sur l'IA et de leur fonctionnement en fournissant des informations cohérentes et transparentes ;
  
• la responsabilité en cas de recommandations ou d'achats erronés incombe généralement au commerçant en ligne qui utilise le système d'IA ;
  
• les processus d'achat et de paiement basés sur l'IA nécessitent des mécanismes de contrôle juridique et technique clairs.
  

Qu'est-ce qu'un assistant d'achat basé sur l'IA ?

Un assistant d'achat basé sur l'IA est un agent intelligent et sensible au contexte qui guide les clients tout au long du processus d'achat sur un site web ou une application. Contrairement aux chatbots traditionnels, qui sont basés sur des scripts fixes et des FAQ statiques, les assistants IA proposent des recommandations personnalisées, peuvent préparer ou effectuer des actions et fournir une assistance post-achat.

Comment fonctionnent les assistants d'achat basés sur l'IA ?

Les assistants d'achat basés sur l'IA analysent le comportement des clients en temps réel. Ils capturent les préférences, suggèrent des produits adaptés et répondent aux questions pendant le processus d'achat. Ils réagissent également à des situations spécifiques, au lieu de simplement fournir des réponses préconfigurées.

Cependant, ils ne se contentent pas de conseiller les clients. Ils peuvent également formuler des recommandations de produits en fonction de l'historique des achats, aider les clients lors du paiement et fournir un service de support après l'achat.

Assistants d'achat basés sur l'IA pour les commerçants

En Allemagne, les commerçants en ligne peuvent déployer des assistants d'achat basés sur l'IA directement sur leurs sites web ou applications. Ces assistants peuvent tirer des enseignements du catalogue de produits du commerçant, des discussions précédentes, des avis des clients et plus encore. Cela signifie qu'ils peuvent réagir de manière proactive aux demandes, s'adapter au contexte spécifique et engager le dialogue, plutôt que de s'en tenir à des scripts rigides.

Les assistants d'achat basés sur l'IA guident également les clients à travers les différentes phases du processus d'achat, de l'identification de ce qu'ils souhaitent acheter à leur prise en charge après leurs achats. L'objectif est de rendre l'expérience d'achat plus personnalisée et plus efficace pour renforcer la fidélité des clients et stimuler les ventes. Ils peuvent également alléger la charge de travail des équipes internes de service client.

Assistants d'achat génériques basés sur l'IA

Il est important de faire la distinction entre les assistants IA déployés par des commerçants spécifiques et les assistants génériques que les clients utilisent. Les acheteurs utilisent des assistants génériques pour rechercher des offres sur l'ensemble du web. Bien que ces assistants soient attrayants en théorie, ils présentent également des défis, tels que des problèmes de fiabilité, la sécurité des paiements et un accès restreint à de nombreux sites web.

Réglementations allemandes et européennes sur les applications d'IA dans le commerce électronique

L'utilisation des systèmes d'IA est fortement réglementée. Outre les règles existantes en vertu du droit européen du commerce électronique, l'IA doit satisfaire à des exigences supplémentaires en vertu du droit de la protection des données, du droit national allemand et de la loi sur l'IA de l'UE.

Loi sur l'IA de l'UE

Le principal pilier de la réglementation de l'IA dans l'UE est le Règlement UE 2024/1689, également connu sous le nom de « Loi sur l'IA de l'UE ». Il s'agit du tout premier cadre juridique unifié pour les systèmes d'IA dans l'UE. Les travaux sur la loi sur l'IA de l'UE ont débuté en 2019. Elle a été approuvée par les États membres de l'UE en mai 2024 et publiée au Journal officiel de l'Union européenne le 12 juillet 2024.

Conformément à l'article 113, la loi sur l'IA sera appliquée à partir du 2 août 2026. Cependant, certains chapitres et sections ont déjà été promulgués, d'abord le 2 février 2025, puis le 2 août 2025. Cependant, le Conseil européen et le Parlement européen se sont mis d'accord sur une modification de la loi sur l'IA de l'UE en mars 2026, qui vise à simplifier certaines dispositions et à prolonger certains délais.

La loi adopte une approche fondée sur les risques, en différenciant les pratiques d'IA interdites, les systèmes à haut risque et les applications à risque minimal. L'une des principales dispositions est l'article 5, qui énumère les pratiques d'IA interdites. Celles-ci incluent les systèmes d'IA qui utilisent des techniques de manipulation ou de tromperie pour amener les clients à prendre des décisions qui leur causent, à eux ou à d'autres personnes, un préjudice important.

Dans le contexte des boutiques en ligne, cela signifie que les assistants d'achat basés sur l'IA ne doivent pas manipuler délibérément les clients ou utiliser des techniques de tromperie pour les forcer à prendre des décisions qu'ils n'auraient pas prises autrement.

Directive sur le commerce électronique

Outre cette nouvelle loi, les commerçants en ligne sont également liés par le droit européen du commerce électronique. Par exemple, les entreprises allemandes sont soumises à la directive européenne sur le commerce électronique (Directive 2000/31/CE). Il s'agit du cadre juridique fondamental du commerce électronique dans l'UE. La directive contient des réglementations sur les obligations des fournisseurs de services numériques en matière d'information, de transparence et de responsabilité.

Elle a ensuite été complétée par la loi sur les services numériques (Règlement UE 2022/2065), qui établit des exigences supplémentaires pour les plateformes numériques.

Loi sur les services numériques (DDG)

En Allemagne, le droit européen du commerce électronique est complété par le DDG. Le DDG a adopté des dispositions clés de l'ancienne loi allemande sur les télémédias et contient des réglementations sur l'identification des fournisseurs, les mentions légales et d'autres responsabilités des fournisseurs de services numériques.

Réglementations de droit civil

Les modèles économiques basés sur l'IA peuvent également être soumis aux réglementations générales du droit civil en Allemagne. Cela inclut notamment les dispositions relatives à la responsabilité prévues par le Code civil allemand (BGB), par exemple pour manquement à une obligation (article 280) et responsabilité (article 823). Les clients peuvent déposer des demandes de dommages et intérêts si les systèmes d'IA sont mal déployés ou s'ils fournissent des résultats incorrects.

Quelles sont les réglementations en matière de protection des données applicables aux boutiques en ligne utilisant l'IA ?

Les systèmes d'IA utilisés dans l'e-commerce traitent régulièrement des informations d'identification personnelles. Par conséquent, les réglementations en matière de protection des données, notamment le Règlement général sur la protection des données (RGPD), jouent un rôle clé dans le déploiement des assistants d'achat basés sur l'IA. Les points de données importants incluent les noms, les coordonnées, l'historique des commandes, le comportement des clients, les données de lieu et les préférences individuelles des clients.

Base légale du traitement

Le RGPD autorise uniquement le traitement légal des informations d'identification personnelles. L'une des principales bases légales est le traitement effectué pour l'exécution d'un contrat, conformément à l'article 6 du RGPD. Le traitement peut également être basé sur des intérêts légitimes.

Dans certains cas, le traitement nécessite le consentement explicite de la personne concernée. Par exemple, le consentement explicite est nécessaire si les informations d'identification personnelles sont traitées à des fins de personnalisation ou de suivi et que ces fins ne sont pas strictement nécessaires à l'exécution d'un contrat de vente.

Personnalisation et profilage

Avec les assistants d'achat basés sur l'IA, la principale préoccupation en matière de protection des données est l'analyse personnalisée du comportement des clients. Les entreprises qui évaluent l'historique des achats, les requêtes de recherche ou le comportement de clic pour générer des recommandations de produits individuelles doivent respecter les principes de minimisation des données, de détermination de la finalité et de transparence. Les clients doivent être clairement informés des données traitées et des fins de ce traitement.

L'utilisation de systèmes d'IA peut également constituer un profilage, selon l'article 4, paragraphe 4 du RGPD. Cela s'applique à l'évaluation automatisée des intérêts personnels, des préférences et des habitudes d'achat. Les entreprises qui effectuent ce type d'analyses à grande échelle peuvent être soumises à des exigences d'information supplémentaires ou tenues de réaliser des analyses d'impact relatives à la protection des données, conformément à l'article 35 du RGPD.

Sécurité des données et mesures techniques

Les commerçants en ligne doivent s'assurer que les informations d'identification personnelles sont adéquatement protégées. L'article 32 du RGPD exige des entreprises qu'elles prennent les mesures techniques et organisationnelles appropriées pour garantir la sécurité des données. Ces mesures comprennent les restrictions d'accès, le chiffrement, les politiques de suppression des données et des audits de sécurité réguliers des systèmes d'IA utilisés.

Qui est responsable des décisions d'achat automatisées ?

L'utilisation d'assistants d'achat basés sur l'IA soulève la question de savoir qui est responsable des recommandations erronées, des informations de produit incorrectes ou des pertes financières. En droit civil, le principe général de la responsabilité basée sur les domaines de responsabilité s'applique : ce n'est pas l'IA elle-même qui est responsable, mais les personnes ou les entreprises qui la sous-tendent.

Commerçants en ligne

Dans la pratique, les commerçants en ligne qui intègrent des assistants d'achat basés sur l'IA dans leurs boutiques sont généralement les principaux responsables. Ils sont les partenaires contractuels des clients. Par conséquent, ils doivent s'assurer que les systèmes fonctionnent légalement et comme prévu. Si des recommandations incorrectes entraînent des dommages, la responsabilité contractuelle au titre de l'article 280 du BGB peut s'appliquer, à condition que le commerçant ait manqué à une obligation au titre du contrat de vente.

Le commerçant doit également être tenu responsable du comportement du système utilisé. L'IA peut être qualifiée de « personnes utilisées pour remplir les obligations [du débiteur] », au sens de l'article 278 du BGB. Par conséquent, les erreurs commises par l'IA ont les mêmes conséquences juridiques que les erreurs commises par l'entreprise elle-même.

Fabricants et développeurs

Outre le commerçant, le fabricant ou le développeur du système d'IA peut également être tenu responsable. Si des dommages résultent d'un défaut technique, la responsabilité du fait des produits en vertu de la loi allemande sur la responsabilité du fait des produits (ProdHaftG) peut s'appliquer. Les conditions sont qu'un produit défectueux a été mis sur le marché et que cela a entraîné des dommages corporels ou matériels.

De plus, la responsabilité délictuelle au titre de l'article 823 du BGB peut s'appliquer si des devoirs de diligence n'ont pas été respectés. Cela inclut une sécurité inadéquate ou des contrôles des risques insuffisants dans la conception du système.

Responsabilité pour les décisions automatisées

La responsabilité est particulièrement complexe dans le cas des décisions d'achat entièrement automatisées, par exemple lorsque les systèmes d'IA sélectionnent des produits ou passent des commandes de manière indépendante dans le cadre de l'agentic commerce. Dans de tels cas, le principe juridique clé est que la responsabilité incombe à l'opérateur du système, car l'opérateur initie et contrôle l'utilisation de l'IA.

Les dispositions pertinentes comprennent l'article 22 du RGPD, qui régit la prise de décision individuelle automatisée. Lorsque des décisions sont prises qui ont un effet juridique ou désavantagent de manière significative les clients, les entreprises sont soumises à des exigences particulières en matière de sécurité et d'information. Le client en question peut également avoir droit à une intervention humaine.

L'utilisation de l'IA peut-elle exclure la responsabilité des commerçants ?

En principe, le droit de l'UE ne permet pas d'exclure totalement la responsabilité en raison de l'utilisation de l'IA. Le RGPD et le droit civil ne permettent pas d'attribuer la responsabilité exclusivement à un système automatisé. Par conséquent, même lors de l'utilisation d'assistants d'achat hautement automatisés, les entreprises restent légalement responsables de leur utilisation, de leur formation et de leurs résultats.

Quelles sont les exigences en matière de protection des consommateurs dans les boutiques en ligne qui utilisent l'IA ?

Outre les lois sur l'IA et la protection des données, les assistants d'achat basés sur l'IA sont également soumis aux réglementations du droit européen de la protection des consommateurs. L'objectif est que les clients puissent accéder à des informations transparentes et prendre des décisions libres et éclairées, même lors de processus d'achat par l'IA.

Exigences d'information dans le commerce en ligne

Les exigences d'information prévues à l'article 5 de la directive européenne sur le commerce électronique et à la Directive sur les droits des consommateurs 2011/83/UE sont importantes. Les boutiques en ligne doivent fournir des informations clés (telles que l'identification de l'entreprise, le prix du produit, les caractéristiques du produit et les conditions générales) de manière claire et compréhensible.

Avec les systèmes d'IA, les recommandations et les réponses par chat ne peuvent pas remplacer ces exigences d'information. Un assistant IA peut transmettre des informations, mais il incombe toujours à l'exploitant de la boutique de s'assurer que ces informations sont complètes, compréhensibles et accessibles.

Interdiction des pratiques commerciales trompeuses

Les articles 5 et 6 de la Directive 2005/29/CE interdisent les pratiques commerciales déloyales et les actions trompeuses. Le principal problème pour les boutiques en ligne qui utilisent l'IA est que les recommandations, les classements et les informations sur les prix doivent être guidés par les intérêts de la boutique d'une manière qui n'est ni manipulatrice ni dissimulée. Les clients doivent être en mesure d'identifier les préréglages ou les priorisations automatisés, si ceux-ci ont un impact sur le comportement d'achat.

Transparence dans les recommandations par l'IA

La transparence joue également un rôle important. L'article 50 de la loi sur l'IA de l'UE, qui établit des exigences de transparence pour certains systèmes d'IA, est particulièrement pertinent pour les assistants d'achat par l'IA. Selon cet article, les clients doivent généralement être informés lorsqu'ils interagissent avec un système d'IA. Par conséquent, les boutiques en ligne qui utilisent des chatbots ou des assistants d'achat basés sur l'IA doivent indiquer clairement aux clients qu'ils ne communiquent plus avec des personnes réelles.

Quelles sont les exigences en matière d'autorisation de paiement et de transactions par IA ?

Avec l'utilisation d'assistants d'achat basés sur l'IA, les décisions d'achat sont de plus en plus prises par des systèmes autonomes ou semi-autonomes, et non plus par les clients. Cela nécessite un réexamen des garanties juridiques et techniques entourant l'autorisation de paiement.

Base légale pour l'autorisation de paiement

Les paiements dans le commerce électronique sont soumis aux dispositions de la Directive sur les services de paiement (DSP2) UE 2015/2366. Selon l'article 64 de la DSP2, chaque paiement nécessite généralement une autorisation effective de la part du payeur. Toutefois, cette autorisation peut également être donnée après l'exécution de la transaction. Le consentement à une ou plusieurs transactions de paiement est donné sous la forme convenue entre le payeur et le fournisseur de services de paiement.

Par conséquent, les assistants d'achat basés sur l'IA ne peuvent pas déclencher de transactions de paiement juridiquement contraignantes sans une autorité suffisante. Selon la DSP2, ces transactions doivent être autorisées avant ou après l'achat.

Interfaces de programmation d'applications (API) de paiement pour les assistants d'achat basés sur l'IA

Les assistants d'achat basés sur l'IA nécessitent également des API standardisées pour pouvoir interagir en toute sécurité avec les systèmes de paiement et de boutique. Les fournisseurs de services de paiement tels que Stripe fournissent des API à cet effet.

Stripe Payments et Stripe Billing vous permettent de déclencher et de traiter automatiquement des transactions. Stripe développe également des contrôles d'accès différenciés qui établissent quels produits ou moyens de paiement un assistant d'achat basé sur l'IA peut utiliser et quelles actions nécessitent une confirmation supplémentaire.

Mécanismes de contrôle et atténuation des risques

D'un point de vue juridique, l'interaction entre le droit des paiements, le droit des contrats et la sécurité des technologies de l'information (TI) nécessite des garanties supplémentaires. Celles-ci comprennent les éléments suivants :

• Limites de budget pour les achats automatisés
  
• Approbation ou confirmation obligatoire pour certaines transactions
  
• Portée et durée limitées des autorisations
  
• Options pour le droit de rétractation ou le blocage des processus automatisés
  

Ces mécanismes mettent en œuvre les exigences de consentement valide en vertu de la DSP2, ainsi que les principes de sécurité des données et des paiements en vertu de l'article 32 du RGPD.

Commerce agentique

Avec le commerce agentique, le rôle du processus de paiement passe de plus en plus d'une action humaine active à une décision déléguée, fondée sur des règles et prise par un système d'IA. Cependant, la responsabilité ultime incombe toujours au client ou à l'entreprise qui déploie l'assistant d'IA.

FAQ sur les assistants d'achat basés sur l'IA en Allemagne

Vous trouverez ci-dessous les réponses aux questions les plus fréquemment posées sur l'IA dans les achats personnalisés et les assistants d'achat basés sur l'IA en Allemagne.