L’AI è probabilistica
I prodotti AI Datanito possono generare informazioni errate, incomplete, incoerenti o obsolete. Gli output devono essere trattati come assistenza generata, non come fatti garantiti. Il lavoro importante va verificato con fonti affidabili ed esperti appropriati.
I modelli possono variare
I prodotti possono usare diversi modelli proprietari o di terzi in base a compito, disponibilità, regione, qualità, latenza, costo o configurazione. Il comportamento può cambiare. Quando un modello specifico è rilevante per l’esperienza, puntiamo a rendere l’informazione visibile nel prodotto o nella documentazione.
Gli agenti possono eseguire azioni
Le funzioni agentiche possono chiamare strumenti, API, server MCP, sistemi di ricerca, database, ambienti di codice o altri servizi. Progettiamo per permessi limitati, attività strumenti visibile, approvazioni per azioni rilevanti quando opportuno e registri che aiutino a capire cosa è accaduto.
Memoria e conoscenza
I prodotti possono usare cronologia conversazioni, contesto del workspace, documenti recuperati o memoria configurata dall’utente per garantire continuità. Gli utenti dovrebbero comprendere l’ambito del contesto mantenuto e poterlo controllare o rimuovere dove supportato.
Valutazione e monitoraggio
Puntiamo a valutare comportamenti AI importanti con casi di test, controlli di regressione, validazione delle chiamate a strumenti, trace, monitoraggio di latenza e costi e analisi dei fallimenti. Nessuna valutazione può dimostrare che un sistema è privo di errori; è un processo di ingegneria continuo.
Revisione umana
I prodotti Datanito non sostituiscono il giudizio professionale richiesto. Gli utenti sono responsabili della revisione umana quando le decisioni sono ad alto impatto, regolamentate, irreversibili o possono incidere significativamente su diritti, finanze, salute, sicurezza, lavoro, cybersecurity o obblighi legali.
Feedback
Usiamo il feedback sul prodotto per individuare errori, migliorare le interfacce e rafforzare valutazioni e salvaguardie. Segnala problemi rilevanti a info@datanito.com.