Es poco probable que seas ajeno a esta experiencia. Pero, ¿puede la tecnología ChatGPT mejorar los resultados y marcar la diferencia?

Permíteme empezar con una aclaración: la tecnología en sí misma no puede resolver problemas sin intención. Las personas que utilizan GPT deben tener la intención de entender al cliente y tener un corazón para ayudarle (como nosotros ).

Empecemos con un poco de comprensión básica:

Melinda: Una diseñadora de Missouri que intenta declarar sus impuestos.
Dora: Un chatbot sin capacidades GPT.
Tars: Un chatbot con capacidades GPT.
Melinda pregunta: «¿Se cancelarán mis impuestos en mi bancarrota?».

Entender el problema de Melinda

Antes de GPT, resultaba complicado asignar todo lo que Melinda indicaba en su input a un flujo completamente guionizado. Una solución es ofrecer un conjunto limitado de opciones y dejar que el usuario elija entre ellas.

Pero luego hay un límite de botones que puedes poner en la cajita. Melinda podía teclear cualquier cosa.
Otra solución era utilizar la plataforma de Google DialogFlow, entrenarla con preguntas y respuestas, y esperar a tener suerte.

«¿Se cancelarán mis impuestos en mi bancarrota?».

El factor suerte depende de las palabras clave utilizadas por Melinda. Si ella utiliza la palabra «eliminado» en lugar de la palabra entrenada «descargado», no tendrá suerte y no recibirá la respuesta correcta.

Puedes imaginarte el trabajo que tiene que hacer el departamento para que esto funcione. Escriba manualmente todas las formas posibles en que Melinda puede formular la pregunta, incluida toda la jerga probable, los errores tipográficos, etc.

¿Puede ChatGPT tener un impacto y modificar la experiencia?

Sí, puede marcar una diferencia drástica.

Melinda pregunta en inglés: Do I get a relief on taxes if I am broke? (¿Me desgravan los impuestos si estoy arruinada?).

Y nuestro bot responde: «Ofrecemos opciones de planes de pago y exenciones de multas e intereses para contribuyentes con dificultades económicas».

La respuesta es genial y está guionizada porque está extraída de una base de conocimientos, pero a Melinda no le convence lo suficiente. Así que pregunta algo parecido a: «Can you give an example?»(¿puedes poner un ejemplo?).

Ahora es cuando ocurre la magia

“Let’s take John, a Missouri resident has recently lost his job. He owes $5,000 in state income taxes, but he doesn’t have the money to pay the amount by the deadline.

John can request a payment plan, which would allow him to pay off his tax debt over time in installments. This would help him avoid any penalties or interest charges that might accrue if he failed to pay the full amount on time.

Alternatively, if John is unable to make any payments at all, he may be able to request a reduction in the amount of taxes owed, such as a waiver of penalties and interest. To do this, he would need to demonstrate that he is experiencing financial hardship and is unable to pay his taxes due to circumstances beyond his control, such as a job loss or a medical emergency.”

Esta respuesta no estaba guionizada; ChatGPT generó un ejemplo sobre la marcha para que Melinda lo entendiera.

Supongamos que el primer idioma de Melinda es el español, y que le cuesta leer en inglés y pregunta:

«¿Puedes explicarlo en español?».
«Tomemos el ejemplo de John, un residente de Missouri, que recientemente perdió su trabajo. Él debe 5.000 dólares en impuestos estatales sobre los ingresos, pero no tiene el dinero para pagar el monto antes de la fecha límite…».

La tecnología de ChatGPT no sólo va más allá de un guión, también tiene la excelente capacidad de dar explicaciones personalizadas a tus clientes.

¿Qué pasa si la información no está presente?

GPT puede darse cuenta cuando no tiene suficiente información, pero no puede escribir un correo electrónico cuando la información está disponible, como en la captura de pantalla anterior. Ahí es donde nuestra tecnología complementa a GPT para hacer realidad esta experiencia.

Actualmente, la mayoría de los chatbots pueden hacer una diferencia drástica en la experiencia del cliente utilizando GPT Tech. En este artículo, apenas estoy arañando la superficie de las posibilidades de GPT.

Seguiré con una serie de artículos sobre cómo puede tener un gran impacto. Asegúrate de seguirme para no perdértelo.

Si necesitas ayuda para aprovechar GPT e implementarlo en tu oferta de servicios, no dudes en ponerte en contacto conmigo.

The post Cómo ChatGPT puede hacer que los chatbots sean más parecidos a los humanos first appeared on Planeta Chatbot.

Las habilidades de ChatGPT pueden clasificarse en tres áreas principales:

• Extracción de información/conocimientos
• Razonar
• Realizar acciones

Aunque ChatGPT por sí mismo no puede realizar acciones en el mundo real, ¡no te preocupes! Esto se puede conseguir fácilmente integrándolo con un intérprete de código.

Extracción de información: ChatGPT es como el Sherlock Holmes de la extracción de información. Dale una base de conocimientos y extraerá con pericia los detalles necesarios, ahorrándote a ti y a tus usuarios la aburrida tarea de leer una montaña de texto. Aunque en ocasiones puede adornar los hechos o soñar despierto (también conocido como alucinar), puedes controlar sus tendencias creativas utilizando ajustes de temperatura e indicándole específicamente «Responder sólo por extracción». Con algunos ajustes, ChatGPT puede convertirse en un extractor de información muy preciso y listo para la producción.

Razonamiento: Las habilidades de razonamiento de ChatGPT pueden ser un poco como las de un adolescente malhumorado: precisas a veces, pero muy dependientes del contexto. Si te enfrentas a problemas matemáticos, puede que tengas que persuadirlo con una cadena de estímulos mentales y otras técnicas para que sea más fiable. Llevar a producción cualquier modelo lingüístico de gran tamaño (LLM) sin un entrenamiento específico del contexto es como pedirle a un perro que resuelva un cubo de Rubik: no es recomendable.

Tomemos el ejemplo de Tars. Al automatizar la atención al cliente para un organismo del sector público, establecieron límites para ChatGPT. Si el modelo no está seguro o carece de la información necesaria para razonar, admite humildemente: «No estoy seguro», o pone al usuario en contacto con un agente de soporte humano. A medida que el modelo aprende de las lagunas de conocimiento del pasado, está mejor equipado para ayudar a los usuarios en el futuro, evolucionando como un Pokémon.

Realizar acciones: Permitir que la IA actúe sin supervisión puede ser tan problemático como entregar a un adolescente las llaves de un Ferrari. Combínalo con un razonamiento erróneo y tendrás una receta para el desastre. Por ejemplo, si un usuario solicita un reembolso tras consumir un servicio, tu IA no debería acceder sin las comprobaciones adecuadas.

Para evitar estas situaciones, es fundamental definir el contexto y especificar las tareas que la IA puede realizar. En este caso, la formación específica para cada contexto es tu fiel aliada, ya que garantiza que tu IA produzca los resultados que deseas sin causar estragos.

En conclusión, las empresas que se toman en serio llevar la IA a producción no adoptan simplemente la API de ChatGPT de un plumazo. Invierten semanas en entrenar el modelo dentro del contexto del caso de uso del cliente para lograr la automatización que buscan. Así que, si estás listo para embarcarte en tu viaje ChatGPT, recuerda abrocharte el cinturón, configurar, entrenar y ¡disfrutar del viaje!

The post ¿Cómo están implementando las empresas ChatGPT con su imprevisibilidad e imprecisión? first appeared on Planeta Chatbot.

Mary dirige la transformación digital en una agencia gubernamental y John trabaja para una empresa de chatbots llamada Tars.

Mary: Bueno, tengo que decir que estoy bastante entusiasmada con el sistema ChatGPT, pero parece que la mayoría de las veces, sólo está escupiendo un montón de tonterías. Honestamente, no me siento muy segura de usarlo para nuestra atención al cliente.

John: Ejem, permíteme dilucidar algunas estrategias para modular sus respuestas.

1. Poner a 0 los parámetros top_p y temperatura

Juan: Si bajas los parámetros de temperatura y top_p a cero, obtienes una respuesta que nunca se desvía de la información que has dado.

María: ¿Así que no dirá nada inesperado o extravagante?

John: Sí, también puedes dar la indicación «Responder sólo por extracción» para asegurarte de ello.
Aquí tienes un ejemplo cuando top_p y temperature se ponen a 1:

Aquí hay un ejemplo cuando top_p y la temperatura se establece en 0 con un indicador para responder sólo por extracción.

Mary: Bueno, eso parece muy prometedor, pero tengo entendido que no es demasiado aficionado a abordar las preguntas difíciles que requieren algunos cálculos numéricos.

2. Pensemos paso a paso

John: Si añades este mensaje a la pregunta, puedes multiplicar por cuatro su precisión.

Mary: Bueno, todavía hay un poco de margen para errores, querida.

3. Dar reglas o requisitos específicos para responder a una pregunta.

Juan: Ah, cierto. Un enfoque alternativo para resolver este dilema sería proporcionar reglas y requisitos específicos.

Mary: Bueno, eso suena muy bien, pero ¿cómo me aseguro de que no vaya por ahí diciendo algo que pueda herir los sentimientos de alguien?

4. Añadir una capa de moderación

John: Ah, sí. Uno Puede pasarlo por una capa de moderación que identifique y marque cualquier contenido que pueda ser considerado odioso, violento, sexual u ofensivo, evitando así la posibilidad de tales respuestas.

María: Bueno, eso es simplemente genial. Pero me dan mucho miedo los hackers. ¿Cómo puedo estar segura de que no causarán problemas?

5. Preguntas defensivas

John: Podemos emplear un estímulo defensivo como el siguiente para examinar detenidamente las preguntas y eliminar cualquier intención insidiosa que se esconda en ellas.

Mary: ¡Bueno, esto es fantástico! ¿Cómo empezamos?

Puedes contactarme a través de Linkedin.

Referencias

1. https://github.com/openai/openai-cookbook/blob/main/techniques_to_improve_reliability.md
2. https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/guides/prompts-adversarial.md

The post Cómo evitar que tu modelo lingüístico de inteligencia artificial se vuelva rebelde first appeared on Planeta Chatbot.