L’IA est probabiliste
Les produits IA Datanito peuvent générer des informations incorrectes, incomplètes, incohérentes ou obsolètes. Les sorties doivent être considérées comme une assistance générée, pas comme des faits garantis. Les travaux importants doivent être vérifiés auprès de sources fiables et d’experts appropriés.
Les modèles peuvent varier
Les produits peuvent utiliser différents modèles propriétaires ou tiers selon la tâche, la disponibilité, la région, la qualité, la latence, le coût ou la configuration. Le comportement des modèles peut changer. Lorsqu’un modèle particulier est important pour l’expérience, nous cherchons à rendre cette information visible dans le produit ou la documentation.
Les agents peuvent agir
Les fonctions agentiques peuvent appeler des outils, API, serveurs MCP, systèmes de recherche, bases de données, environnements de code ou autres services. Nous concevons des permissions limitées, une activité d’outils visible, des approbations pour les actions importantes lorsque cela convient et des traces permettant de comprendre ce qui s’est passé.
Mémoire et connaissances
Les produits peuvent utiliser l’historique des conversations, le contexte d’espace de travail, des documents récupérés ou une mémoire configurée par l’utilisateur pour assurer la continuité. Les utilisateurs devraient comprendre la portée pertinente du contexte conservé et pouvoir le contrôler ou le supprimer lorsque le produit le permet.
Évaluation et surveillance
Nous cherchons à évaluer les comportements IA importants avec des cas de test, contrôles de régression, validation des appels d’outils, traces, suivi de latence et de coût et analyse des défaillances. Aucune évaluation ne peut prouver qu’un système est sans erreur ; c’est un processus d’ingénierie continu.
Examen humain
Les produits Datanito ne remplacent pas le jugement professionnel requis. Les utilisateurs sont responsables de l’examen humain lorsque les décisions sont à fort impact, réglementées, irréversibles ou susceptibles d’affecter substantiellement les droits, finances, santé, sécurité, emploi, cybersécurité ou obligations légales.
Commentaires
Nous utilisons les retours produit pour identifier les défaillances, améliorer les interfaces et renforcer les évaluations et protections. Signalez les problèmes importants à info@datanito.com.