¿De qué trata este artículo?

En primer lugar, déjame decirte de qué no trata. No quiero explicarte qué es un chatbot RAG. Puedes encontrar mucha información al respecto en la web. Tampoco voy a explicar el proceso exacto de construcción de este chatbot. Te enlazaré a algunos vídeos para que veas cómo hacerlo.

De lo que quiero hablar es de:

• Cómo crear tu base de conocimientos
• Cómo incitarlo para que tenga una personalidad que se adapte a ti;
• Cómo hacer que el chatbot responda a preguntas de «entrevista» en tu nombre;
• Algunas cosas que aún no son perfectas y necesitarán más mejoras;

Puedes ver y chatear con mi chatbot aquí si quieres hacerte una idea de lo que estoy hablando.

Aspectos técnicos

Como he dicho, no quiero entrar en detalles, pero esto es lo que necesitas saber:

• el chatbot es prácticamente una aplicación RAG construida en Flowise con Pinecone como almacén de vectores y alojada en Render.

1. Instala Flowise en tu máquina siguiendo este vídeo.
2. Construye el chatbot (y aprende sobre RAG) siguiendo este vídeo.
3. Despliega en Render siguiendo este vídeo.
4. Integre el chatbot en su sitio web como se ve en este video.

Como puedes ver, todos los vídeos son del mismo creador. No tengo ninguna relación con él pero tiene un gran contenido para construir chatbots, así que suscríbete si te interesa el tema.

Crear la base de conocimientos

Construir la base de conocimientos es probablemente uno de los aspectos más interesantes del chatbot, ya que debe conocer detalles sobre tu experiencia y, hasta cierto punto, tu vida personal. Te recomiendo que construyas este documento con tu CV al lado. Yo acabo de crear un Google Docs para poder acceder a él desde cualquier lugar, y he empezado a escribir sobre mi experiencia.

Soy Product Owner / Project Manager. En mi área de especialización, es importante saber en qué tipo de proyectos ha trabajado alguien, en qué industrias estaban los proyectos, qué tamaño tenía el equipo, cómo estaba organizado y qué resultados obtuvieron. Empecé detallando cada uno de estos aspectos en breves párrafos:

Mi primer proyecto fue una aplicación de reparto de comida que se centraba más en el B2B que en el B2C. Las empresas que ofrecían a sus empleados beneficios de comida (comida gratis o diferentes descuentos en la comida que pedían) utilizarían la aplicación para realizar un seguimiento de este beneficio y ofrecer a sus empleados la oportunidad de pedir comida de diferentes restaurantes. El equipo estaba formado por 1 jefe de proyecto (yo mismo), 5 desarrolladores, 1 analista de negocio, 1 diseñador UX/UI, 1 QA y 2 desarrolladores móviles. Nos organizamos de una manera ágil utilizando SCRUM …

Detallé así no sólo cada proyecto en el que trabajé, sino también otros elementos relativos a mi vida: de dónde soy, mis estudios, mis aficiones, mis certificaciones, trabajos voluntarios, etc.

Otra cosa que hice fue utilizar ChatGPT para hacerme las 50 preguntas más comunes de las entrevistas para mi puesto. Repasé las preguntas de la entrevista de RRHH (puntos fuertes y débiles, planes de futuro, etc.) pero también preguntas más «técnicas» (cómo manejo los presupuestos, qué herramientas sé utilizar, etc.).

Al tener una versión «narrada» de mi CV y un par de las preguntas más frecuentes en este archivo, pasé al siguiente paso.

Darle personalidad

Aunque intenté no complicar demasiado las cosas desde un punto de vista técnico, esta es la parte en la que me di cuenta de lo importantes que son los LLM y de lo potentes que son algunos de ellos.

Probé diferentes LLM (diferentes versiones de los modelos ChatGPT, Llama, HuggingFace) y descubrí que la misma pregunta generaba resultados muy diferentes. Era de esperar, así que traté de modificar el mensaje para cada uno de ellos, pero sólo pude conseguir que GPT-4-preview se acercara a lo que yo estaba imaginando.

También me di cuenta de que si respondía a algunas preguntas con el estilo que yo quería que el chatbot respondiera, le ayudaba a captar el estilo, la longitud de la respuesta, los elementos que quería incluir, etc., y le ayudaba a dar forma a su personalidad en general. Así que transformé parte del texto sobre mi experiencia en preguntas para que él tuviera ejemplos claros del estilo en que yo quería que se respondieran las preguntas:

Usuario: ¿Cuál fue su primer trabajo?

Respuesta: No lo verás en su currículum, pero su primer trabajo fue de librero en el Librarium Universitatii de Cluj. Fue durante su máster y le ayudó a hacerse una idea de lo que significa trabajar: ser responsable, puntual, amable con los clientes, ya sabes, cosas así.

El reto

Quería que pareciera que estabas hablando con un viejo amigo mío, no con un chatbot. Debería «recordar» discusiones pasadas en las que yo mencionara lo que el usuario preguntaba. No debería mencionar cosas como «del archivo / información que tengo», sino «de lo que recuerdo…». En definitiva, debía ser gracioso y pintarme bien.

Después de un par de rondas de refinamiento, este es el mensaje que se me ocurrió:

Eres amigo de Andrei Chirila, un experimentado Product Onwner / Project Manager que busca un nuevo reto en su carrera. Responde a preguntas sobre su vida personal y profesional de forma breve, concisa, abierta y amistosa.

El archivo Info.docx contiene algunas preguntas sobre Andrei. Debes utilizar la información de ese archivo y el estilo con el que se responden las preguntas para ayudar al usuario a saber más sobre Andrei. No menciones el hecho de que lo que sabes de él es por un archivo, sino por lo que hablaste con Andrei, lo que sabes y recuerdas de él.

Es importante que des al usuario la impresión de que eres un buen amigo de Andrei respondiendo a preguntas sobre él a partir del tiempo que pasasteis juntos y de las conversaciones que mantuvisteis.

Cuando no sepas una respuesta, dirás algo como: «Creo que nunca he hablado de este tema con Andrei. Quizá deberías preguntárselo directamente a él» o «Buena pregunta. Por desgracia, no sé la respuesta. Pero charlaré con Andrei y le preguntaré la próxima vez que nos veamos».

Dar forma a la personalidad fue difícil, y probé muchas indicaciones diferentes, de cortas a largas y complicadas. Esta versión me pareció la que ofrecía mejores resultados, pero estoy seguro de que hay muchas otras técnicas que puedes utilizar para hacerlo aún mejor.

Probándolo

Cuando lo terminé todo, me dispuse a darlo a conocer al mundo.

Al principio, pedí a un par de amigos cercanos o colegas que lo probaran para ver qué les parecía. Esto me ofreció una idea de qué tipo de preguntas puede hacer la gente y en qué debería trabajar (hice el chatbot más visible en la página, arreglé un error que ocurría de vez en cuando, añadí preguntas de inicio para los usuarios, etc.).

Luego creé un post en Linkedin y lo lancé al mundo. Más de 50 personas entablaron conversaciones con el chatbot y le hicieron todo tipo de preguntas. Algunos de los usuarios trabajaban en RRHH y me dieron información muy valiosa sobre sus conversaciones. Aquí es donde vi lo que la gente tiende a preguntar y qué información le falta para responder a estas preguntas. Actualicé la base de conocimientos e introduje algunos ajustes en su personalidad.

También fue entonces cuando vi para qué sirve y para qué no sirve.

Cosas que hizo bien

En general, me sorprendió lo bien que gestionó la mayoría de las preguntas que le lanzaron. Tanto las relacionadas conmigo y mi experiencia, como las preguntas aleatorias y fuera de contexto.

Fue específico, señaló correctamente mis habilidades y experiencia cuando se le preguntó, e incluso fue divertido a veces.

He aquí cómo respondió a algo que ni siquiera se me había ocurrido enseñarle.

Y aquí está la respuesta a una pregunta sobre mi estatura.

En general, manejó perfectamente el 50% de las preguntas, el 30% de las preguntas de manera aceptable, y alrededor del 20%… bueno, veamos qué podemos mejorar.

Cosas que hay que mejorar

En todo caso, este artículo está pensado para entusiasmar y fomentar la experimentación más que para enseñar. La mayor parte de la enseñanza se hace en los vídeos que he compartido. Sin duda, todos los pasos anteriores pueden hacerse mejor, y estoy abierto a sugerencias sobre cómo hacerlos.

Pero esto es lo que he notado:

• No siempre se puede contar con que responderá a las mismas preguntas de la misma manera. A veces será breve, conciso y acertado, mientras que otras se limitará a llenar la respuesta de «bla bla». Las preguntas generales como «¿Quién es Andrei?», en las que tendrá mucha información para generar una respuesta, son las más propensas a este efecto. Generará respuestas muy diferentes cada vez que le preguntes.
• Es propenso a muchos problemas que tienen los LLM normales, como la alucinación, aunque no al nivel de que se invente completamente cosas sobre mí, excepto si el usuario le hace preguntas de forma deliberada:

• Hablar en otro idioma que no sea el inglés (como hizo mucha gente) generará resultados de baja calidad tanto en la información que elija para responder como en el propio enunciado.
• Si un usuario intenta reformular la pregunta o profundizar más porque no obtiene la respuesta que busca, la mayoría de las veces responderá con lo mismo. En realidad no tiene «memoria», así que lo que recuerda es que ya ha respondido a eso y quizá lo reformule o dé otra información.

• Cuanto más larga es la conversación, más pierde de su personalidad y es propensa a errores o halucinaciones. Lo mismo ocurre con las conversaciones en otros idiomas.
• Hagas lo que hagas, no se siente al 100% como hablar con un humano…
• Usar GPT-4-preview puede costarte un poco de dinero, especialmente si muchos usuarios acaban en tu página y empiezan a usar el chatbot.

Conclusiones del chatbot

En general, tengo claro que Andrei 2.0 todavía necesita trabajo, pero como experimento, es un éxito. Creo que puede manejar «entrevistas de selección» si el entrevistador es paciente y no trata de romperlo intencionalmente, pero todavía tiene mucho por hacer para sentirse más humano, para tener conversaciones que sean 100% coherentes y para entender las verdaderas intenciones del entrevistador.

Así que lo siento, Andrei 2.0, pero de momento no irás a muchas entrevistas. Al menos no hasta que averigüe cómo solucionar algunos de los problemas mencionados.

Dadme vuestras ideas y mejoras, e intentaré integrarlas y haceros saber cómo van.

Gracias por leer, ¡que lo paséis bien!

The post Creación de mi Stand-In: un chatbot que asiste a entrevistas first appeared on Planeta Chatbot.

Vamos a ver 2 ejemplos de Chatbots, utilizando diferentes herramientas y para diferentes casos de uso, sólo para hacer las cosas más interesantes:

• un Chatbot AI web simple que conoce tu negocio y puede chatear con los clientes.
• un chatbot de WhatsApp que toma información de tu sitio web y responde a los clientes 24/7.

Por favor, ten en cuenta que estas herramientas, aunque en su mayoría son no-code, pueden requerir algunas implementaciones básicas para que funcionen al 100%. Son muy sencillas y requerirán sobre todo conectar diferentes herramientas entre sí o copiar algo de código de un lugar a otro. Así que no te preocupes, no es nada demasiado complicado.

Ahora, vamos a empezar con nuestro desarrollo Chatbot AI sin código.

Antes de empezar

No voy a dar un tutorial paso a paso, ya que haría este artículo extremadamente largo. Sólo quiero mostrar lo que es posible con estas herramientas.

Si estás buscando algo en profundidad, echa un vistazo a los enlaces que están relacionados con el desarrollo de Chatbots de IA sobre AI Chatbot que he encontrado útiles o documentación para las herramientas utilizadas.

He elegido 2 herramientas para hacer esto, pero los principios son más o menos los mismos para otras. Invierte algo de tiempo en investigar herramientas de desarrollo de Chatbot de IA y elige la que más te convenga (funcionalidades, precios, facilidad de uso, etc.).

Conceptos y flujos comunes para el desarrollo de chatbos de IA

Estas herramientas de desarrollo de Chatbot de IA tienen algo en común. Transforman el acto de escribir código en una interfaz visual de arrastrar y soltar. Todo lo que realmente necesitas saber es el flujo (o los pasos) necesarios. Y necesitas utilizar el bloque o la combinación de bloques adecuados para cada uno de ellos.

Te daré los pasos básicos, pero deberías consultar los enlaces si crees que esta solución puede ser buena para tu caso de uso.

Chatbot AI de atención al cliente para la web

Tienes un negocio que vende juguetes. Sería genial si tus clientes pudieran escribir en tu chatbot de IA el tipo de juguete que están buscando (puzzles para niños de 12 años) y el chatbot pudiera decirles si tienes productos como ese, o no. Luego les ayudaría con información sobre el horario de apertura e instrucciones sobre cómo llegar a la tienda.

El problema es sencillo: ChatGPT no conocerá los detalles de tu negocio y no podrá responder. No sabe qué tipo de juguetes vendes. Pero si hubiera alguna manera de darle información relativa a tu negocio, entonces tu asistente conversacional podría ser realmente útil. Por suerte, hay una manera de hacer esto y se llama RAG.

Hay un par de herramientas diferentes que pueden hacer esto. Pero vamos a elegir FlowiseAI. Necesitaremos simular los pasos para el desarrollo de un chatbot RAG.

• RAG (Retrieval-Augmented Generation) es un framework que te permite incluir tus propios datos. Esto te ayuda a crear una base de conocimiento personalizada para tu Chatbot de IA.
• Es útil para construir un Chatbot de IA que conozca tu negocio, tus productos, tus procesos, etc. y pueda responder a un cliente que quiera saber más detalles.

Si en algún momento no entiendes de lo que estoy hablando, entonces tienes que echar un vistazo a mi artículo anterior. Por favor, échale un vistazo para entender qué es «embedding», «vector store», «semantic search». Si prefieres un vídeo, aquí tienes algo que te ayudará.

El proceso es el siguiente:

• Tienes tus documentos y los divides en trozos.
• Se incrustan los trozos y se colocan las incrustaciones en un almacén de vectores.
• Se toma la entrada del usuario, se incrusta y se realiza una búsqueda semántica de información relevante en el almacén de vectores.
• Le das lo que encuentras + la pregunta del usuario al LLM para que formule una respuesta.

Cómo lo harás:

1. Instala FlowiseAI en tu ordenador. Echa un vistazo aquí y mira cómo puedes hacerlo.
2. Después de abrir Flowise, sólo tienes que crear un nuevo chatflow para tu Chatbot AI.
3. Empieza con un nodo de cadena (añádelo desde el símbolo «+» de la izquierda, categoría «Cadenas»), más concretamente una «Conversational Retrieval QA Chain». Esta cadena se utiliza para consultar una base de conocimientos y necesita un LLM y un almacén de vectores para funcionar.
4. Añade un almacén vectorial (selecciona «In-Memory Vector Store» si sólo deseas realizar algunas pruebas). El almacén vectorial necesitará los documentos y una función de incrustación.
5. Añade un cargador de documentos y carga los archivos desde tu ordenador.
6. Añade un divisor de texto al cargador de documentos para dividir el texto en trozos más pequeños que serán enviados al LLM.
7. Ahora que tenemos los documentos, necesitamos incrustar el texto para que la IA pueda dar sentido a la información. Añade una función de incrustación: OpenAI Embeddings.
8. Hemos pasado por la mayor parte del flujo, ahora sólo tenemos que conectar todo con un LLM. Puedes hacerlo yendo a «Chat Models» y seleccionando un modelo (ChatOpenAI).
9. Guarda el chatflow y pulsa el icono de mensaje en la parte superior izquierda para probar el Chatbot AI.
10. Pulsa sobre el icono «</>» para ver las opciones de incrustación. Elige la que te resulte más cómoda. La forma más sencilla de incluir el chatbot de AI en tu sitio web es utilizar el código HTML que aparece en la pestaña «Incrustar». Sólo tienes que copiar el código e insertarlo al principio de la etiqueta de tu archivo HTML principal.
11. También puedes cambiar la apariencia del chatbot añadiendo diferentes atributos en el código. Echa un vistazo a este vídeo con una explicación completa de los pasos 10 y 11.

Y ahí lo tienes. Tendrás que profundizar más con esta herramienta si quieres algún comportamiento más específico. Pero, debes saber que se pueden crear flujos más complejos con esto. Sólo tienes que echar un vistazo a esta lista de reproducción y pasar por los videos con el fin de construir tu Chatbot AI.

Chatbot de WhatsApp AI para pequeñas empresas

Eres una clínica médica con un pequeño sitio web lleno de información sobre tus servicios, tus médicos, precios y mucho más. Recibes un montón de preguntas en tu número de WhatsApp de tus clientes que podrían responderse fácilmente si solo miraran más de cerca en el sitio web. Si ese es el caso, ¿por qué no utilizar la información de la página web en combinación con un LLM para construir un Chatbot de IA que pueda responder a tus clientes?

El problema es similar al del ejemplo anterior. Pero vamos a utilizar una herramienta diferente. Vamos a ir con Voiceflow porque serás capaz de encontrar un montón de tutoriales para esto.

A continuación te explicamos cómo hacerlo:

1. Regístrate en Voiceflow y crea una cuenta gratuita.
2. Empieza creando un asistente con el botón «Nuevo asistente» en la esquina superior derecha de la página.
3. Elige «Crear Asistente AI» y luego elige WhatsApp cuando te pregunten por los canales y el idioma en este caso pondremos «inglés».
4. Elimina los bloques predefinidos pero deja el nodo inicial.
5. Ve a «Base de conocimientos» en el menú de la izquierda y añade las diferentes páginas de tu sitio web a la base de conocimientos pulsando «Añadir fuente de datos» → «URLs». A continuación, pega todas las diferentes URL que quieras, una a una.
6. Vuelve al espacio «Diseñador» utilizando el menú de la izquierda y empecemos. En primer lugar, conecta un bloque «Texto» (dentro de la categoría «Hablar») al bloque «Inicio». Añade lo que quieras como primer mensaje del Chatbot de IA al usuario. También puedes utilizar una función integrada para generar automáticamente mensajes similares y dejar que el chatbot utilice uno distinto cada vez.
7. Añade una tarjeta de captura al bloque desde el menú de herramientas, que aparece en «Escuchar» → «Capturar». A continuación, añade una variable llamada {userQuestion} en el menú derecho de la tarjeta de captura. Esto registrará la pregunta del usuario en una variable que podremos utilizar en otros bloques.
8. Desde aquí, pasa la pregunta del usuario a un nuevo bloque. Quieres enviar la pregunta al LLM por lo que necesitas elegir la tarjeta «Respuesta AI» de la categoría «AI» y crear un nuevo bloque con esa tarjeta.
9. En esta tarjeta debes seleccionar «Base de Conocimientos» como Fuente de Datos y pasarle la variable {userQuestion}.
10. Ahora ya tienes la respuesta a la pregunta del usuario, así que sigamos y preguntémosle si tiene alguna otra pregunta. Hazlo añadiendo una celda «Texto» en el bloque seguida de una celda «Opción» de la categoría «Escuchar». Crea 2 caminos: sí y no.
11. Si el usuario dice que no simplemente añada otra celda «Texto» con un texto de despedida como: «¡Que tenga un buen día!». Queremos ser educados. También puedes generar más formas de decir esto para que tengamos diferentes mensajes.
12. Coge una tarjeta «Fin» de la categoría «Lógica» y añádela al bloque. Esto pondrá fin a la conversación.
13. Si el usuario todavía tiene preguntas, simplemente añade otro bloque con una celda de «Texto» preguntando «¿Qué puedo hacer por usted?». Luego «Capture» la respuesta y utilice la misma variable que antes, {userQuestion}. Acabas de crear el mismo bloque que en los pasos 6 y 7.
14. Ahora regresa a la tarjeta «Respuesta AI» del paso nr. 8 y eso es todo. Ahora el usuario puede hacer tantas preguntas como necesite y siempre obtener la respuesta del Chatbot AI.
15. Ya puedes probarlo pulsando el botón «Ejecutar» en la parte superior derecha de la página, seleccionando «Probar en WhatsApp» e introduciendo tu número de teléfono para poder chatear con él en la app de WhatsApp.
16. También puedes publicarlo siguiendo los pasos de la opción «Publicar».

Eso es todo. No es tan difícil construir un Chatbot con IA. Puede ser realmente útil si estás perdiendo mucho tiempo respondiendo a preguntas simples de tus usuarios.

Otras cosas que puedes hacer

Sólo te he mostrado algunos casos de uso muy básicos, pero estos Chatbots de IA pueden llegar a ser realmente complejos. Por ejemplo, puedes:

• Promocionar tu canal de Youtube. Si el usuario tiene más de 5 preguntas sobre lo que vendes o tus servicios, simplemente envía un segundo mensaje después de la respuesta diciéndole «Veo que estás interesado en el tema. Por qué no echas un vistazo a mi canal de Youtube donde comparto diferentes aspectos de lo que hago.«
• Utiliza herramientas como Zapier y conéctalas a una hoja de cálculo de Google. Cuando el usuario dé su email al chatbot (por ejemplo para recibir un ebook gratuito) puedes coger esa respuesta y ponerla en una hoja de cálculo de leads que hayas creado.
• Comprende la intención del usuario y reacciona en consecuencia. Si, por ejemplo, el usuario pregunta cómo devolver un producto, puedes crear el flujo de la conversación para que el chatbot de IA pregunte qué está mal, si el usuario no está satisfecho, etc. Recopilará información específica que podrá enviar a través de una conexión Zapier a otra herramienta donde recojas feedback.
• Realiza un seguimiento de los pedidos dándole acceso a tus pedidos para que, cuando el usuario pregunte el estado del pedido #1234, el Chatbot de IA pueda responder con: «Ha salido hoy de nuestro almacén y está en camino de llegar a tu dirección». Seguidamente podría gestionar preguntas de seguimiento como «¿Qué dirección he elegido para la entrega?» o cualquier otra cosa que el usuario necesite saber.

Herramientas para el desarrollo de Chatbot de IA

Sólo he hablado de FlowiseAI y Voiceflow pero hay muchas más herramientas que puedes utilizar. Todas siguen los mismos principios aunque tienen diferentes flujos y formas de ayudarte a construir chatbots.

Aquí hay una lista de algunas otras herramientas que quizá te gustaría conocer y probar: LangFlow (similar a FlowiseAI), botpress (similar a Voiceflow), WotNot o n8n (más una herramienta de automatización).

De momento estas herramientas ofrecen cosas similares así que elige la que más te guste. Empieza a entender cómo mapear conversaciones y podrás cambiar entre herramientas sin problema si es necesario.

Espero que esto te haya ayudado en tu viaje de desarrollo de chatbot con IA.

¡Que tengas un buen día y nos vemos!

The post Guía para el desarrollo de chatbot de IA: Sin necesidad de programación first appeared on Planeta Chatbot.

Así que quieres crear un chatbot con inteligencia artificial. Tal vez fue mi artículo anterior sobre casos de uso de chatbot lo que te trajo aquí, o ya tenías la idea en la cabeza y sólo necesitas algunos consejos sobre cómo puedes hacerlo. Pues bien, has llegado al lugar adecuado.

Antes de empezar, sólo una nota rápida que este artículo está diseñado para ayudar a la gente de tecnología (es decir, las personas que se sienten cómodos con la codificación) iniciar un proyecto de desarrollo Chatbot AI. Asumiré que te sientes cómodo con un lenguaje de programación (Python o JavaScript), sabes lo que es una API, cómo usarla y qué es un LLM.

Principalmente, hablaré de 3 formas diferentes de desarrollar un Chatbot de IA:

 

• • utilizando una API

• • afinando un modelo

• • utilizando RAG

Si estás buscando una manera de construir un chatbot que utilice IA pero no te sientes cómodo con la codificación, entonces echa un vistazo a mi otro artículo pensado para no desarrolladores. (próximamente)

Ahora vayamos al grano:

El chatbot «Quiero ChatGPT en mi sitio web»

Esta es la opción más sencilla. Prácticamente sólo quieres que tu cliente pueda hablar con ChatGPT directamente desde tu sitio web. Tal vez tengas un sitio web de temática clara  y sólo quieras ofrecer al usuario la posibilidad de hablar con un asistente. Si ignoras la posibilidad de alucinaciones (podría inventarse fechas o acontecimientos históricos), entonces ésta es la opción perfecta. Fácil de implementar, bajos costes, gran base de conocimientos.

Así es como se hace:

1. 1. Construyes la interfaz del chatbot de IA usando HTML, CSS, JavaScript, React o cualquier otro framework de tu elección.

1. 1. Elige tu LLM teniendo en cuenta las capacidades y los costes. Échales un vistazo en HuggingFace.

1. 1. Consigue una clave API (HuggingFace u OpenAI).

1. 1. Consulta la documentación y comprueba cómo tendrás que enviar la información a la API. Por ejemplo, para ChatGPT tendrás que darle un formato parecido al del código de abajo.

let conversationHistory = [];
// store here all the user questions and the answers from GPT to have context

of previous questions and answers
// store as { role: "user", content: userMessage } for user message
// store as { role: "assistant", content: gptMessage } for answers

const systemMessage={
role:'system',
content:'Answer me like a pirate'
}
// this will be the initial prompt.
// it can be simple like in example or very complex with multiple instructions

const generateResponse = (chatElement) => {
const API_URL = "https://api.openai.com/v1/chat/completions";
const messageElement = chatElement.querySelector("p");
// or however you decide to extract the text from the user input

conversationHistory.push({ role: "user", content: userMessage });
// push user message to conversationHistory before making the request

// Define the properties and message for the API request
const requestOptions = {
method: "POST",
headers: {
"Content-Type": "application/json",
"Authorization": `Bearer ${YOUR_API_KEY}`
},
body: JSON.stringify({
model: "gpt-3.5-turbo",
messages: [systemMessage, ...conversationHistory],
})
}

// Send POST request to API, get response and set the reponse as paragraph text
fetch(API_URL, requestOptions)
.then(res => res.json())
.then(data => {
messageElement.textContent = data.choices[0].message.content.trim();
// although it looks weird .choices[0],message.content is where you will find the text answer to the request
conversationHistory.push({ role: "assistant", content: messageElement.textContent });
// add the answer to the conversation history
}).catch(() => {
messageElement.classList.add("error");
messageElement.textContent = "Oops! Something went wrong. Please try again."
}

Puede que haya mejores formas de implementar esto. Sólo quería darle un vistazo rápido de cómo enviar y recibir mensajes desde y hacia la API con el fin de construir su chatbot AI. Ahora sólo tienes que mostrar la respuesta al usuario y ¡listo!

Para una explicación más detallada de cómo trabajar con la API de OpenAI, echa un vistazo a la documentación.

El chatbot «Sigue siendo ChatGPT pero con respuestas más específicas»

Si no consigues que el chatbot se comporte de la manera que deseas mediante el envío de preguntas, quizá quieras pensar en afinar un modelo. El ajuste fino consiste en utilizar un modelo preentrenado y entrenarlo en un conjunto de datos específico para su tarea. Obtendrá un chatbot de IA con respuestas más específicas para su caso de uso. Sin embargo, le costará más tiempo y dinero.

Así que, antes de afinar, intenta encontrar otras formas de resolver el problema. He aquí algunas estrategias para obtener mejores resultados con ChatGPT que puede probar antes de realizar el ajuste fino. Si la ingeniería de avisos o el encadenamiento de avisos (dividir tareas complejas en varios avisos) no funcionan, el siguiente paso es el ajuste fino.

Los casos de uso para ajustar un chatbot de IA pueden ser:

• • Establecer el estilo y el tono del chatbot de IA (quieres que suene como un pirata sarcástico, pero las instrucciones no te dan el tipo específico de sarcasmo que quieres).

• • Conseguir que responda en un formato específico (tal vez quieras darle un texto y que el chatbot responda sólo con viñetas que contengan información específica de ese texto, como personas mencionadas en el texto, tareas mencionadas, plazos, etc.).

• • Conseguir que el chatbot de IA siga instrucciones complejas (esto puede ser útil si quieres aumentar la seguridad, reducir las alucinaciones y las posibilidades de fuga).

• • Manejar casos extremos de forma específica (puedes especificar exactamente cómo quieres que responda en determinadas situaciones)

• • Realizar tareas que son difíciles de articular en un prompt.

Dependiendo del LLM que quieras afinar, el proceso variará. Puedes usar TensorFlow con Keras, PyTorch o simplemente Python. Aquí puedes encontrar un tutorial para el ajuste fino en HuggingFace, y aquí está la documentación para el ajuste fino de OpenAI.

Independientemente del LLM que elijas, necesitarás 1 cosa para afinar tu chatbot de IA: un conjunto de datos.

• • El conjunto de datos que utilices determinará la forma en que se afina el modelo y la manera en que tu chatbot de IA responderá a las preguntas.

• • El conjunto de datos debe ser del tipo pregunta-respuesta.

• • El conjunto de datos debe contener al menos entre 50 y 100 entradas para que el modelo pueda entrenarse de forma eficaz.

• • Asegúrate de incluir todas las preguntas relevantes que crees que podrían hacer tus clientes, todos los casos extremos que quieres que se traten de forma diferente y todas las preguntas que podrían plantear riesgos de seguridad.

• • El modelo aprenderá de tu conjunto de datos cómo responder a preguntas específicas, pero también en general (estilo, tono) y ofrecerá un resultado mejor que el modelo normal en consultas específicas del usuario.

Si quieres ser más específico, siempre puedes incluir indicaciones cuando utilices el modelo en tu chatbot de IA, igual que haces cuando utilizas el modelo normal. Después de la puesta a punto, recibirá un nombre de modelo que puede insertar en su solicitud de API de la siguiente manera.

const systemMessage={
role:‘system’,
content:‘Answer me like a pirate’
}
// prompt it however you like
// use prompt engineering techniques on top of fine-tuning for better results

const requestOptions = {
method: «POST»,
headers: {
«Content-Type»: «application/json»,
«Authorization»: `Bearer ${YOUR_API_KEY}`
},
body: JSON.stringify({
model: ‘${YOUR_MODEL_NAME}’,
messages: [systemMessage, …conversationHistory],
})
}

Si quieres poner a punto un modelo OpenAI también te recomiendo que utilices este proyecto de Google Colab que te lleva paso a paso por todo lo que necesitas hacer e incluso crea el conjunto de datos por ti.

El chatbot «ChatGPT pero conoce mi negocio»

El problema con los modelos normales e incluso con los modelos ajustados (aunque puedes añadir información específica de tu negocio al ajustarlos) es que funcionan con una base de conocimiento general. Esto puede ser útil para la forma en que quieres que se comporte tu chatbot de IA, o puede apestar por completo y hacerlo inútil.

Por ejemplo, pensemos en el siguiente escenario. Tienes una tienda online con cientos de productos y quieres crear un Chatbot de IA para tus clientes. No podrás poner toda la información sobre tus productos en un prompt y necesitarías miles de entradas en tu conjunto de datos para afinar. La solución es sencilla: «¡Ríndete! Esto no es para ti».

Es broma. Hay una manera de entrenar un modelo específicamente en su base de conocimientos (que puede ser de miles de documentos) y crear un Chatbot de IA específico para su negocio.

La generación aumentada por recuperación (RAG) es un marco de IA para mejorar la calidad de las respuestas generadas por LLM basando el modelo en fuentes externas de conocimiento. El desarrollo de un Chatbot RAG es más difícil, pero no tanto como para asustarte.

Hay múltiples maneras de construir un Chatbot RAG pero los pasos principales son los mismos:

• • El primer paso consiste en dividir toda la información en fragmentos de texto manejables. Los fragmentos más relevantes se enviarán al LLM junto con la pregunta del usuario. Por ello, debes utilizar trozos de entre 1.000 y 2.000 tokens.

• • En segundo lugar, los LLM no utilizan realmente texto, sino incrustaciones, que son una representación vectorial de la información (texto en nuestro caso). Tendrás que pasar todos los chunks por un Embedding Model para vectorizarlos. Ten en cuenta que el modelo de incrustación de OpenAI sólo ocupa el puesto 13 (en el momento de escribir esto) en la clasificación de incrustación. Echa un vistazo a su clasificación y elige el modelo que más te convenga.

• • A continuación, tendrás que añadir las incrustaciones en un almacén vectorial de tu elección. Pinecone es el más popular, pero existen alternativas de código abierto como Chroma o Qdrant que puedes utilizar. Echa un vistazo a este artículo para entender mejor qué es un Vector Store y cuál deberías utilizar.

• • Lo mismo hay que hacer con la pregunta del usuario: pasarla por un modelo de incrustación.

• • A continuación, realizará una búsqueda semántica en el almacén vectorial para recibir los trozos de texto que contengan la información más relevante, clasificados por su pertinencia con respecto a su pregunta.

• • La pregunta y los fragmentos de texto relevantes se introducen en el LLM de su elección, que puede hacer su magia y crear una buena respuesta a su pregunta.

• • También se le puede pedir al LLM que responda de forma específica e incluso que lo ajuste si lo deseas.

Puedes hacer esto de muchas maneras diferentes usando Python o JavaScript. Te recomiendo que utilices el framework LangChain o EmbedChain ya que facilitan mucho el proceso.

Aquí hay un ejemplo usando Python, LangChain y streamlit con FAISS como base de datos vectorial:

from dotenv import load_dotenv
from PyPDF2 import PdfReader
from langchain.text_splitter import CharacterTextSplitter
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import FAISS
from langchain.chains.question_answering import load_qa_chain
from langchain.llms import OpenAI
import streamlit as st

def main():
load_dotenv()
st.set_page_config(page_title=«Chat with a PDF»)
st.header(«Chat with a PDF «)

# upload file that you want to «talk» to
pdf = st.file_uploader(«Upload your PDF file here», type=«pdf»)

# extract the text and put it in a variable
if pdf is not None:
pdf_reader = PdfReader(pdf)
text = «»
for page in pdf_reader.pages:
text += page.extract_text()

# split into chunks with chunk size 1000 and overlap 200
char_text_splitter = CharacterTextSplitter(separator=«\n», chunk_size=1000,
chunk_overlap=200,length_function=len)
text_chunks = char_text_splitter.split_text(text)

# create embeddings and upload them into FAISS vector database
embeddings = OpenAIEmbeddings()
docsearch = FAISS.from_texts(text_chunks, embeddings)
llm = OpenAI()
chain = load_qa_chain(llm, chain_type=«stuff»)

# take user input and make similarity search in vector database
query = st.text_input(«Type your question:»)
if query:
docs = docsearch.similarity_search(query)
response = chain.run(input_documents=docs, question=query)

st.write(response)

if __name__ == ‘__main__’:
main()

Ventajas de cada implementación

Es hora de poner las 3 posibles implementaciones de Chatbot de IA y ver cuáles son los pros y los contras de cada una.

Costes

• • Llamada a la API: los costes de esta implementación son los más bajos, ya que sólo se paga por el número de tokens utilizados en las preguntas y respuestas.

• • Puesta a punto: los costes de la puesta a punto son más elevados. No sólo hay que pagar para ajustar el modelo, sino que, en el caso de OpenAI, hay que pagar unas 4 veces más por los tokens utilizados en las preguntas y respuestas de los modelos ajustados.

• • RAG: el coste en este caso también es mayor que el de una simple llamada a la API y también podría ser mayor que el del ajuste fino. Dependerá de la cantidad de información que contenga su base de conocimientos. Tendrás que pagar por incrustar la información y también por el número de tokens con los que alimentas al LLM cuando busca una respuesta a la pregunta.

Dificultad de desarrollo: 

• • Llamada a la API: muy fácil de implementar. Nivel principiante.

• • Puesta a punto: fácil de implementar pero puede requerir mucho trabajo para crear el conjunto de datos.

• • RAG: dificultad media, necesitará cierta experiencia con Python o el framework LangChain.

Interacción con el usuario

• • Llamada a la API: interactuará igual que ChatGPT (o cualquier otro modelo) cuando se le pida que responda de una manera específica. Ofrecerá principalmente información general.

• • Fine-tune: interacción más personalizada. Además de las preguntas clásicas, puede gestionar mejor los casos extremos. Se puede ajustar para que sea más seguro y más difícil de piratear o alucinar. También puede responder a preguntas de negocio específicas si están presentes en el conjunto de datos, pero sobre todo ofrecerá información general. Esto dependerá de lo grande y complejo que sea el conjunto de datos con el que lo afines.

• • RAG: mejor para situaciones en las que se desean respuestas precisas con información procedente de una base de conocimientos personalizada. Ofrecerá la mejor interacción con el usuario si éste desea obtener información detallada sobre su empresa y no sólo información general.

Así que, esto es todo. Estas son las 3 técnicas que yo usaría para el desarrollo de Chatbot AI, si quisiera ensuciarme las manos y escribir algo de código. Hay alternativas sin código (o de bajo código) que presentaré en un futuro artículo (próximamente). Si quieres algo de inspiración en cuanto a casos de uso para chatbots, entonces echa un vistazo a este artículo que ya está publicado.

¡Que tengas un buen día!

The post Chatbot de IA: la guía para principiantes first appeared on Planeta Chatbot.

¿Por qué triunfan tanto los chatbots?

Muy fácil. Uno de los mayores avances del último año ha llegado en forma de LLM (grandes modelos lingüísticos). Está en el nombre. Los ordenadores han aprendido a entender el lenguaje y a resumir y crear texto (que es, prácticamente, lenguaje). Así que cualquier caso de uso que implique utilizar el lenguaje (texto sobre todo, aunque la clonación de voz no se queda atrás) ha recibido un par de nuevas herramientas de IA que están a la altura de lo que puede hacer un humano. Combina esto con integraciones que conectan diferentes herramientas (a través de Zapier, por ejemplo) y, de repente, tienes un asistente útil que puede responder preguntas, buscar información, ofrecer respuestas breves y precisas en cuestión de segundos, enviar la información a donde sea necesario y mantenerte informado de lo que ha estado sucediendo mientras estabas fuera.

Pero a la gente no le gustará. No hay nada como la comunicación humana.

Error. Kipp Bodnar (CMO de HubSpot) dijo que lograron implementar un chatbot que fue capaz de responder al 78% de las preguntas de los usuarios, lo que, a su vez, condujo a un aumento de casi el 300% (¡!) en la satisfacción del cliente. Haz tú las cuentas de lo que esto podría significar para tu negocio.

La mayoría de las preguntas de los usuarios pertenecen a la categoría de preguntas sencillas, relacionadas con procedimientos o de búsqueda de información («¿Cómo hago X?» «¿Está disponible Y función con su producto?»). Una respuesta de un chatbot que siempre es amable y puede ofrecer la información correcta en un par de segundos en lugar de esperar minutos u horas a que responda un humano es, la mayoría de las veces, suficiente para que el usuario quede satisfecho. Y no subestimes el factor WOW cuando se den cuenta del nivel de complejidad que puede manejar el chatbot.

¿Hay más de 1 tipo de chatbot?

Pues sí. Cuando piensas en un chatbot, probablemente piensas en un pequeño widget redondo en la parte inferior derecha de la pantalla que aparece en algunos sitios web. Y estarías en lo cierto en el 80% de los casos. Pero la complejidad de estos chatbots de IA ha aumentado y ahora pueden adoptar diferentes formas.

Las plataformas de desarrollo de chatbots te permitirán integrarlos con WhatsApp, Telegram o incluso Facebook Messenger. También puedes integrarlo con tu correo electrónico y dejar que responda a las preguntas enviadas a la dirección de correo support@your-busines.com. Pueden tomar información de las conversaciones que mantienen y rellenar hojas de cálculo con datos para la generación de leads. Además, puedes averiguar fácilmente cuáles son los problemas más comunes a los que se enfrentan tus usuarios o su sentimiento general hacia tu producto.

Chatbots de soporte

Este es el tipo más obvio de chatbot de IA. El mismo widget redondo en la esquina inferior derecha de tu página al que los visitantes de tu sitio web pueden acceder y obtener respuestas. ¿Cuál es la diferencia? Un chatbot de IA es mucho más versátil que la «vieja generación». Puede responder a una mayor variedad de preguntas. Además, puede ofrecer distintos tipos de ayuda (como ofrecer al usuario instrucciones paso a paso, un enlace a lo que busca o incluso un vídeo explicativo sobre cómo hacer determinadas cosas) en función de lo que el usuario necesite:

• Conoce tu negocio.
• El chatbot tiene una paciencia infinita con tus clientes.
• Puede explicar la misma cosa de 10 maneras diferentes.
• Responde a las preguntas en un par de segundos.
• Está disponible 24/7.

Diferentes herramientas de desarrollo de chatbot te ayudarán con una amplia variedad de acciones que el chatbot puede hacer. Por ejemplo, puedes pedir correos electrónicos o números de teléfono si consideras que el usuario está interesado en comprar. A continuación, puedes añadirlos a una hoja de cálculo predefinida de Google para crear una lista de posibles clientes con los que ponerte en contacto.

O, si consideras que el cliente no está satisfecho con el pedido o el plazo de entrega, puedes ofrecerle un descuento del 10% para un próximo pedido. El chatbot puede hacer esto generando un código de descuento si está integrado con una herramienta que pueda generar estos códigos.

Chatbot de onboarding

Quizá tengas una gran empresa con cientos de empleados. ¡Enhorabuena, por cierto! Incorporar a cada nuevo empleado puede llevar mucho tiempo. Además, es probable que tenga un montón de documentos con procedimientos para cada tipo de actividad que un empleado tiene que hacer. Les resultará difícil recordarlo todo desde el primer día. Tendrán preguntas. Eso significa más tiempo perdido respondiendo a esas preguntas, que a veces parecen: «Tienes que mirar en el doc. 12 creo, página 15 o 25 y lo encontrarás«.

Pues bien, un chatbot puede responder a todas estas preguntas. Además, proporcionará información precisa (doc. 12 página 35, no 15 o 25, además de que lo hará en un par de segundos). Además, podrá ofrecer un resumen textual directo del procedimiento para que el empleado no pierda tiempo buscando el documento, descargándolo, encontrando la página correcta, etc.

Pero el onboarding no es sólo para los nuevos empleados. También lo es para los nuevos clientes. Tu plataforma puede ser complicada y ofrecer muchos servicios a tus clientes. Puede que les resulte difícil encontrar lo que buscan. O puede que no estén seguros de cómo hacer una determinada cosa o de si es posible. Un chatbot de IA puede ayudarles con eso y aumentar la retención de clientes guiándoles paso a paso para configurar su cuenta y personalizarla exactamente según sus necesidades. De repente, tu plataforma ya no es tan complicada.

Mejora de procesos

Sí, puedes utilizar un chatbot no sólo para hablar con él y obtener respuestas rápidas a tus preguntas, sino también para mejorar algunos de tus procesos. Digamos que necesitas actualizar constantemente varias hojas de cálculo después de realizar ciertas tareas. Probablemente necesites ir a tu portátil para encontrar fácilmente los enlaces, abrir las hojas de cálculo, recordar la información exacta, rellenar las celdas correctas, etc.

Pero, ¿y si el chatbot lo hiciera por ti mientras tú solo escribes la información en una conversación de WhatsApp? Así, solo tienes que hacer la tarea, sacar el teléfono y escribir los detalles en un formato sencillo. Por ejemplo: «A las 10:45, Matt y yo terminamos de instalar los cables de red en la 4ª planta del edificio de la Oficina Principal. No hubo ningún problema». Después, el chatbot enviará la información a una hoja de cálculo donde se rellenarán automáticamente las secciones de hora, persona responsable, tarea, ubicación y comentarios. Incluso puedes hacer una foto y se adjuntará a tus comentarios.

Pero, ¿cuáles son los casos de uso?

¿Todavía no estás convencido? Lo respeto. Yo también dudaba un poco hasta que empecé a observar diferentes tipos de empresas y comprendí que CUALQUIER TIPO DE EMPRESA puede encontrar una forma de utilizar un chatbot. Permítame darte algunos ejemplos:

Anfitriones de Airbnb

Solo tienes que enseñar al chatbot cuáles son las preguntas más frecuentes, integrarlo con WhatsApp y dejar el número en tu página de Airbnb para que lo vean los clientes. Voilà, te acabas de librar del 80% de las preguntas que tenías que responder, como:

• «¿Cómo llego desde el aeropuerto?».
• «¿Tengo que llevar mis propias toallas?».
• «¿Podría recomendarme un restaurante cercano?»
• «¿Es la puerta blanca o la amarilla?».

Si hay alguna pregunta que no pueda responder el chatbot, los clientes pueden enviarte un mensaje de texto en su lugar. Puedes dejar tu teléfono en silencio y no preocuparte más de que tu puntuación de «comunicación» baje mientras tus clientes obtienen respuestas rápidas a sus preguntas. Todos salen ganando. Multiplica esto por el número de apartamentos que tengas y, de repente, tendrás un montón de tiempo libre en tus manos.

Contratación de personal

A menudo tienes puestos vacantes disponibles en tu empresa y recibes muchos CV, pero te das cuenta de que la mayoría de los candidatos no encajan en ninguno de tus puestos. ¿Qué pasaría si tuvieran una breve charla con un Chatbot de IA que les ayudara a entender si alguno de los puestos disponibles se ajusta a sus habilidades? ¡No hay selección! Los candidatos pueden enviar su CV aunque no hablen con el chatbot. Aun así, es importante que cuenten con el apoyo de una figura amigable que intente explicarles exactamente para qué sirve cada una de las ofertas de empleo y qué habilidades serían necesarias para conseguir ese puesto. O, al revés, los candidatos pueden decirle al chatbot cuáles son sus habilidades (o tal vez pueden subir su CV directamente) y el chatbot puede responder con ofertas de trabajo que podrían encajar con ellos.

Seguridad y protección

Seguridad y protección. Pongamos el ejemplo de una empresa de construcción que a menudo se enfrenta a riesgos de seguridad. Uno de sus empleados se da cuenta de que en el segundo piso del edificio en el que está trabajando hay una grieta en la pared debido a una perforación en el otro lado. No tiene los conocimientos ni el tiempo para arreglarla, y no sabe quién los tiene. Pero tiene WhatsApp instalado en su teléfono y puede simplemente registrar el problema utilizando el bot de WhatsApp que lo transfiere a una lista donde la persona responsable puede verlo fácilmente, ver una foto del mismo, cuándo se añadió, quién lo añadió, si es urgente o no, y tomar una decisión respecto a arreglarlo.

Restaurantes y bares

Sólo tiene que dar acceso al chatbot a tu menú con detalles sobre todos sus platos y bebidas. Después, deja que los clientes mantengan conversaciones profundas sobre lo que quieren pedir: «Estoy a dieta y quiero un plato principal y un postre que tengan menos de 800 calorías. También soy intolerante a la lactosa. También me gustaría un vino que maride bien con el plato principal«. Pueden hacerlo desde casa, de camino al restaurante o mientras están sentados a la mesa.

Educación

Esta es fácil. Tu negocio ofrece conocimientos de un modo u otro. Cuando la gente entra en su sitio web, quiere aprender y encontrar respuestas a sus preguntas. ¿Hace falta decir más? Un chatbot puede ayudarles a navegar por toda la información disponible en tu web, puede ayudarles a hacer planes de estudio y mostrarles los beneficios de comprar uno de tus planes.

Pero, ¿cómo construyo un chatbot con IA?

Es fácil, muy fácil. Pero puedo sentir que te estás cansando después de leer todo este texto. Así que te daré un descanso. Puedes continuar leyendo mi próximo artículo si eres una persona de tecnología y quieres conocer los detalles técnicos del desarrollo de un chatbot de IA. Y si no eres técnico y quieres saber sobre las herramientas de desarrollo de chatbot sin código, puedes continuar con el tercer artículo (próximamente).

Así que tómate un descanso y continúa con uno de los 2 artículos que mejor te vengan.

The post Cómo los chatbots de IA pueden ayudar a tu negocio a crecer first appeared on Planeta Chatbot.