Asistente de IA con datos de su empresa: pros y riesgos

Un asistente de IA interno para su empresa responde a los empleados con sus propios datos: normas internas, tarifas, fichas técnicas, contratos o pedidos. Preguntan con sus propias palabras y en cada respuesta ven de qué documento procede. Ahorra búsquedas y preguntas del tipo “dónde está esa hoja de cálculo”. Los riesgos son tres: respuestas erróneas, personas que ven lo que no deben y datos que acaban donde no deberían.

A continuación verá qué aporta un asistente, cómo limitar esos tres riesgos y cómo implantarlo para que la gente lo use de verdad.

¿Qué hace un asistente de IA interno y en qué se diferencia de ChatGPT?

ChatGPT y herramientas parecidas responden con lo que el modelo ha aprendido y con lo que usted les sube en ese momento. Un asistente interno tiene acceso a sus documentos y sistemas. Con cada pregunta busca en ellos fragmentos relacionados y solo a partir de ellos responde. Este método se llama RAG. Cómo construirlo técnicamente, con permisos y pruebas, lo explicamos en RAG con datos de empresa: cómo construirlo sin que mienta.

Si su empresa trabaja con un único paquete ofimático, mire primero qué ofrece su propio asistente. Si tiene los documentos y los datos en varios sitios o en un sistema propio, un asistente estándar a menudo no los ve.

¿Qué aporta un asistente a la empresa?

• Menos preguntas a las personas con experiencia. “¿Qué garantía tiene este modelo?” “¿Dónde está la última tarifa?” La respuesta la encuentra el asistente, no el compañero que se la sabe de memoria.
• Incorporación más rápida. Las personas nuevas no tienen que leer todas las normas y procedimientos de golpe. Preguntan cuando lo necesitan.
• Un solo sitio en lugar de diez carpetas. El asistente busca en todos los documentos a los que le ha dado acceso.

Lo que tienen en común es que se trata de encontrar, no de decidir. El asistente encuentra y resume. Decide una persona.

¿Qué riesgos hay y cómo limitarlos?

1. Respuestas erróneas. El modelo trabaja con probabilidades y a veces se inventa cosas. Por eso el asistente debe responder solo con los documentos que encuentra, mostrar siempre la fuente y decir “no lo sé” cuando no encuentra la respuesta. Más sobre esto en el artículo Alucinaciones de la IA: por qué se inventa cosas y cómo limitarlo.

2. Personas que ven lo que no deben. Si el asistente lee a la vez nóminas, contratos con clientes y normas internas, responderá con ellos a cualquiera. Los permisos de acceso los tiene que respetar el propio asistente: quien no ve un documento en la carpeta tampoco debe recibirlo en una respuesta.

3. Datos que acaban donde no deberían. Los documentos se quedan donde están hoy. Pero el asistente crea un índice de búsqueda y, con cada pregunta, el modelo de lenguaje recibe la pregunta y algunos fragmentos. Por eso importa saber dónde funciona el índice y quién opera el modelo. En una sola pregunta se ve así:

¿Qué debe pedir por escrito al proveedor?

La promesa de un proveedor no le sirve si no está por escrito. Antes de firmar, pida respuestas por escrito a cuatro preguntas:

Cómo se defienden los agentes que leen textos ajenos lo explicamos en el artículo Prompt injection: cómo proteger un agente de IA en el trabajo. En un asistente interno ocurre lo mismo con los documentos que llegan a la empresa desde fuera. Esto no es asesoramiento jurídico.

¿Cómo implantar un asistente de IA para que la gente lo use?

Un asistente “para todo” responde a todo de forma mediocre y a la semana la gente deja de abrirlo. Recomendamos empezar por un área concreta:

El paso 2 es el que más tiempo lleva y el más importante. Si en una carpeta hay tres tarifas y solo una es válida, el asistente responderá con cualquiera de ellas. Una respuesta errónea con fuente sigue siendo una respuesta errónea.

¿Está preparado para un asistente interno?

Marque lo que se cumple en su caso:

Cuándo no lo recomendamos

• Hay pocos documentos y todos los conocen. Basta con una carpeta bien organizada o una página con enlaces.
• Los documentos están desactualizados y nadie sabe cuáles son válidos. El asistente responderá mal y rápido. Ordene primero las fuentes.
• La respuesta tiene que decidir sobre dinero o cuestiones legales. El asistente encuentra la documentación, decide una persona.
• Sus herramientas ofimáticas ya tienen un asistente que ve sus documentos. Pruebe primero ese. Piense en uno propio solo cuando no sea suficiente.

¿Su equipo pregunta siempre lo mismo?

Escríbanos qué se pregunta con más frecuencia en su empresa y dónde están las respuestas. Le responderemos en dos días laborables con algunas preguntas sobre su trabajo. Después acordaremos qué hacemos primero.

Si prefiere hablar antes, reserve una llamada introductoria de 15 minutos.

Cómo construimos agentes y asistentes de IA con los datos de una empresa lo explicamos en la página Agentes de IA a medida para empresas. El asistente y el código son suyos desde el primer día.

¿Qué pregunta de su empresa solo sabe responder una persona?

Preguntas frecuentes

¿Qué es un asistente de IA interno para una empresa?

Un asistente al que los empleados preguntan con sus propias palabras y que responde con los documentos y sistemas de la empresa: normas internas, tarifas, fichas técnicas, pedidos. En cada respuesta muestra de qué documento ha partido.

¿No basta con subir los documentos a ChatGPT?

Para unos pocos documentos y una sola persona, a menudo basta. El problema llega cuando los documentos cambian, cuando son muchos y cuando no todo el mundo puede verlo todo. Entonces hace falta un asistente que respete los permisos de acceso y lea siempre la versión actual.

¿Dónde quedan los datos de la empresa?

Los documentos se quedan donde están hoy. El asistente crea un índice de búsqueda y, con cada pregunta, el modelo de lenguaje recibe solo la pregunta y algunos fragmentos relacionados. Dónde funciona el índice, qué modelo se usa y si el proveedor puede usar los datos para entrenar conviene dejarlo por escrito en el contrato.

¿Qué es RAG?

RAG (retrieval-augmented generation, generación aumentada por recuperación) es un método en el que el asistente busca primero en los documentos fragmentos relacionados con la pregunta y solo después escribe la respuesta a partir de ellos. Así responde con sus datos, no con lo que recuerda el modelo.

¿Puede inventarse cosas un asistente de IA de empresa?

Sí, si no lo tiene prohibido y nadie lo controla. Por eso debe responder solo con los documentos que encuentra, mostrar siempre la fuente y decir “no lo sé” cuando no encuentra la respuesta.