L'IA dans nos applications : ce qu'elle fait, ce qu'elle ne fait pas, et comment nous la surveillons
L'intelligence artificielle est utile, mais elle peut se tromper. Plutôt que de la présenter comme un expert infaillible, nous préférons expliquer clairement comment nous l'utilisons. Voici nos règles, avec l'exemple de DiagAuto AI.
À quoi sert l'IA
Dans DiagAuto AI, l'IA transforme les données techniques de votre voiture en explications claires :
- ce que signifie un code défaut, et ses causes probables, de la plus à la moins probable ;
- ce qu'il faut vérifier en premier ;
- les pistes possibles quand vous décrivez un symptôme sans code (un bruit, une fumée, une vibration) ;
- les réponses à vos questions dans un chat qui connaît déjà vos codes et votre voiture.
Ce sont des pistes pour comprendre et préparer votre passage au garage, pas un diagnostic certifié.
Quelle IA, et quelles données
Les réponses sont générées par Claude, un modèle d'intelligence artificielle de la société Anthropic. Elles transitent par notre serveur, qui prépare la demande avec nos consignes de prudence, puis la transmet à Anthropic.
L'IA ne reçoit que ce qui est utile à la réponse : la description du véhicule, les codes défaut, les mesures relevées, et vos messages dans le chat. Jamais votre nom, jamais votre position. Notre serveur n'enregistre pas le contenu de vos demandes. Un conseil tout de même : n'écrivez pas d'informations personnelles dans le chat, elles seraient envoyées avec le reste.
Les règles de prudence que nous lui imposons
Nous avons écrit des consignes précises, et nous les vérifions sur de vrais cas :
- elle n'invente ni pourcentage ni prix de réparation ;
- elle ne dit jamais que tout va bien sans en être sûre : quelques minutes de mesures ne le prouvent pas ;
- elle ne devine pas la signification d'un code propre à un constructeur quand elle ne la connaît pas ;
- si le problème touche les freins, la direction, une surchauffe, la pression d'huile ou un voyant rouge, elle conseille de s'arrêter en sécurité et de consulter un professionnel ;
- si une manipulation demande un outil professionnel, elle le dit plutôt que d'inventer une procédure.
Ces règles sont nées d'essais réels. Lors des premiers essais, l'IA avait tendance à trop rassurer et à donner des pourcentages sans fondement : nous avons corrigé ses consignes en conséquence.
Quand elle se trompe
Chaque réponse de l'IA peut être signalée d'un simple appui. Le signalement nous parvient avec le contexte technique, sans donnée personnelle, et nous sert à corriger les consignes. Si l'IA ne peut pas répondre à cause d'une erreur du service, le crédit utilisé vous est rendu automatiquement.
Les réponses peuvent contenir des erreurs et ne remplacent pas l'avis d'un mécanicien : faites toujours vérifier avant de changer une pièce. Nous l'écrivons dans l'application, et nous le répétons ici.
Une règle pour toutes nos applications
Les prochaines applications ESKAVIA qui utiliseront l'IA suivront les mêmes principes : dire que c'est une IA, ne lui envoyer que le nécessaire, l'obliger à la prudence, et vous permettre de signaler ses erreurs. Une question sur notre usage de l'IA ? Écrivez à contact@eskavia.fr.