Si no está escrito, no lo sabe: tres reglas para que un asistente interno no se invente respuestas
Cuando una empresa piensa en un asistente con inteligencia artificial para su equipo, suele imaginar algo sencillo: se le dan los manuales, la gente pregunta y el asistente contesta. Esa parte funciona. El problema aparece el día en que alguien pregunta algo que no está en los manuales, y el asistente contesta igual, con la misma seguridad, algo que nadie ha escrito nunca.
En una empresa, una respuesta inventada sobre vacaciones, sobre un protocolo de seguridad o sobre la garantía que se le da a un cliente es peor que no tener respuesta. Por eso trabajamos con una regla sencilla: si no está escrito, el asistente no lo sabe, y lo dice.
Por qué un chatbot se inventa respuestas
Un modelo de inteligencia artificial está hecho para escribir frases que suenan bien a partir de lo que ha leído. No distingue entre «esto lo sé» y «esto suele ser así». Si se le pregunta cuándo se cobra la paga extra de verano en su empresa y no tiene el dato, lo más probable es que conteste con lo que es habitual en muchas empresas, sin avisar de que lo está suponiendo.
No es un fallo que se arregle pidiéndoselo con buenas palabras. Es su forma de funcionar. Lo que sí se puede hacer es construir alrededor de él un sistema que no le deje dar por buena una respuesta que no se apoye en un documento.
Darle sus documentos no basta
Lo primero, claro, es que el asistente responda con los documentos de su empresa y no con lo que sabe en general. Pero incluso con los documentos delante, el modelo puede mezclar: tomar una parte del manual y completar el resto de su cosecha. La respuesta sale entera, bien redactada, y nadie sabe qué parte viene del manual y qué parte no.
Ahí es donde entran las reglas. No son instrucciones para la inteligencia artificial: son comprobaciones que hace un programa después, igual que el que comprueba que una factura cuadra.
Las tres reglas
1. Cada frase lleva su cita. El asistente no devuelve un texto suelto, sino frases ligadas al párrafo exacto del documento del que salen. Quien pregunta ve, debajo de la respuesta, de qué manual y de qué párrafo viene cada cosa, y puede abrirlo con un clic. Si una frase no tiene detrás un párrafo, se nota.
2. Sin cita, no hay respuesta. Si lo que dice el asistente no se apoya en ningún documento, la respuesta se marca como no respaldada y no se da por buena. No se esconde: se enseña, con un aviso claro de que no está en la documentación.
3. Pasarlo a una persona lo decide el código, no la inteligencia artificial. No se le pregunta al modelo si está seguro, porque casi siempre dirá que sí. La decisión la toma un programa con una regla fija: si no hay cita, la pregunta se ofrece a una persona. Siempre, y de la misma manera.
Un fallo que nos enseñó algo
Al probar nuestro propio asistente de demostración, con una empresa y unos documentos inventados, preguntamos por la paga extra, que a propósito no aparecía en ningún documento. La respuesta fue correcta: «No consta en la documentación», y recomendaba preguntar a administración.
Pero la regla dos la dio por buena. ¿Por qué? Porque esa recomendación citaba el párrafo del manual que dice a quién dirigirse cuando se tiene una duda. Había una cita, así que, para el programa, la respuesta estaba respaldada, y no se ofrecía pasarla a una persona.
La solución fue añadir una segunda señal: el asistente empieza siempre con la misma frase fija cuando algo no consta, y el programa la reconoce. Ahora deriva si no hay cita o si aparece esa frase. Y el caso quedó guardado como prueba, para que no vuelva a pasar.
La lección no es técnica: las reglas también hay que probarlas con preguntas reales, y sobre todo con las que no tienen respuesta.
Lo que sale de regalo: la lista de lo que falta
Cada pregunta que el asistente no sabe responder queda anotada. Con el tiempo, esa lista dice algo muy útil: qué pregunta su gente que no está escrito en ningún sitio. Si la misma duda aparece tres veces en un mes, probablemente merece un párrafo en el manual.
Es la primera vez que muchas empresas ven, ordenado, qué falta en su documentación. Y no hace falta encargar un estudio: sale solo, del uso diario.
Cuánto cuesta una pregunta
Menos de lo que suele pensarse. Para la documentación de una pyme, que son decenas de documentos y no miles, se pueden enviar enteros en cada pregunta. La primera pregunta los lee completos; en las siguientes, el sistema reaprovecha esa lectura y releerlos cuesta una décima parte. Cada pregunta sale por una fracción de céntimo.
El coste que de verdad importa es el otro: el tiempo de las dos o tres personas a las que hoy se lo preguntan todo, y que dejan lo que están haciendo para contestar.
Lo que hay que mirar antes de poner un asistente
Si está pensando en un asistente para su equipo, estas son las preguntas que le haríamos en la primera conversación:
- Cuáles son las tres preguntas que más se repiten, y quién las contesta hoy.
- Dónde está escrita la respuesta, si lo está.
- Quién debe responder lo que no está escrito, y en cuánto tiempo.
- Qué documentos no deben entrar: los que tienen datos personales de la plantilla, como nóminas o expedientes, se quedan fuera.
Las respuestas deciden qué conviene construir. La tecnología viene después.
Así funciona en la práctica nuestro asistente con los documentos de su empresa, con una demostración en vídeo.