La IA es probabilística
Los productos de IA de Datanito pueden generar información incorrecta, incompleta, inconsistente o desactualizada. La salida debe tratarse como ayuda generada, no como hecho garantizado. El trabajo importante debe verificarse con fuentes fiables y expertos adecuados.
Los modelos pueden variar
Los productos pueden usar distintos modelos propios o de terceros según tarea, disponibilidad, región, calidad, latencia, coste o configuración. El comportamiento puede cambiar con el tiempo. Cuando un modelo concreto sea material para la experiencia, buscamos mostrarlo en el producto o documentación.
Los agentes pueden realizar acciones
Las funciones de agentes pueden llamar herramientas, API, servidores MCP, sistemas de búsqueda, bases de datos, entornos de código u otros servicios. Diseñamos para permisos limitados, actividad de herramientas visible, aprobaciones de acciones relevantes cuando proceda y registros que ayuden a entender lo ocurrido.
Memoria y conocimiento
Los productos pueden usar historial de conversación, contexto del espacio de trabajo, documentos recuperados o memoria configurada por el usuario para mantener continuidad. Los usuarios deberían poder entender el alcance del contexto retenido y controlarlo o eliminarlo cuando el producto lo permita.
Evaluación y supervisión
Buscamos evaluar comportamientos de IA importantes mediante casos de prueba, comprobaciones de regresión, validación de llamadas a herramientas, trazas, monitorización de latencia y coste y análisis de fallos. Ninguna evaluación puede demostrar que un sistema está libre de errores; es un proceso de ingeniería continuo.
Revisión humana
Los productos Datanito no sustituyen el juicio profesional requerido. Los usuarios son responsables de la revisión humana cuando las decisiones sean de alto impacto, reguladas, irreversibles o puedan afectar materialmente derechos, finanzas, salud, seguridad, empleo, ciberseguridad u obligaciones legales.
Comentarios
Usamos comentarios del producto para detectar fallos, mejorar interfaces y reforzar evaluaciones y salvaguardas. Informa de problemas relevantes a info@datanito.com.