DEV Community

Cover image for Construye un Asistente Personal con super poderes de IA Generativa
AWS Español profile image ensamblador
ensamblador for AWS Español

Posted on • Edited on

Construye un Asistente Personal con super poderes de IA Generativa

#generativeai #llm #amazonbedrock #chatbot
  1. Introducción
  2. Pre requisitos
  3. Lanzar la aplicación de IA Conversacional
  4. Uso del asistente IA Conversacional
  5. Cómo Funciona el chatbot con IA Generativa?
  6. Acerca de Modelos Base (Foundation Models)
  7. Large Language Models (LLMs)
  8. Costo Estimado
  9. Conclusiones y siguientes pasos

Introducción

La IA generativa ha revolucionado el mundo con aplicaciones como ChatGPT. En este blog, comparto los pasos para crear fácilmente un asistente personal usando IA generativa de forma local, privada y segura.

Aprenderemos a crear aplicaciones conversacionales para invocar modelos como Anthropic Claude en Amazon Bedrock.

Este asistente nos ayudará a experimentar con generación de código, resumen de textos y few-shot learning.

Nota: Si quieres saber acerca del código que está detrás puedes ir directo a Cómo funciona.

Manos a la obra!

Pre requisitos:

Para usar esta aplicación deberas contar con un usuario aws con permisos para usar Bedrock, un perfil local con ese usuario y python3. Aca puedes encontrar los pre requisitos
Asegúrate de poder ejecutar en la aws cli antes de avanzar:

aws bedrock list-foundation-models
Enter fullscreen mode Exit fullscreen mode

Instrucciones para lanzar la aplicación IA Conversacional

Clonar repositorio

Clona este repositorio y accede a la carpeta:

git clone https://github.com/ensamblador/generative-ai-chat-application.git
cd generative-ai-chat-application/01-personal-assistant
Enter fullscreen mode Exit fullscreen mode

Configuración del entorno virtual

Esto es un entorno independiente de tu entorno python principal, todo lo que instalas en este entorno venv quedará en la carpeta .venv

  1. Crea un entorno virtual:

    python3 -m venv .venv

  2. Activa el entorno virtual:

    source .venv/bin/activate

Instalación de dependencias

Instala las dependencias del proyecto:

pip install -r requirements.txt
Enter fullscreen mode Exit fullscreen mode

Lanzar la aplicación

Inicia la aplicación del asistente (puedes elegir el puerto con --server.port):

streamlit run chatbot_app.py --server.port 80
Enter fullscreen mode Exit fullscreen mode

La aplicación estará disponible en http://localhost:80

Uso del asistente IA Conversacional

Ahora tenemos la opción de conversar libremente con la IA. Probemos algunos casos útiles de distintas tareas:

Generacion de código 

prompt: necesito un codigo para levantar un chatbot usando streamlit en localhost
Enter fullscreen mode Exit fullscreen mode

chatbot IA generativa generación de código

Resumen y extracción de información relevante 

prompt: Ayudame resumiento en 5 ideas lo siguiente:
< copia un texto largo, por ejemplo: Tiktok Terms of services>
Enter fullscreen mode Exit fullscreen mode

chatbot IA generativa resumen y extracción de información

Intenta con una pregunta de seguimiento:

prompt: Soy dueño de mis datos?
Enter fullscreen mode Exit fullscreen mode

Experimenta con few-shot learning:

Por ejemplo, el prompt siguiente tiene 1 ejemplo (1-shot):


prompt: 
Extract invoice number, total amount and due date (output as json) from the text enclosed by <invoice> tags. Here is an example:
<example> Amazon Web Services, Inc. Invoice Email or talk to us about your AWS account or bill, visit aws.amazon.com/contact-us/ Submit feedback on your Invoice Experience here. Invoice Summary Invoice Number: 1484934918 Invoice Date: November 2 , 2023 TOTAL AMOUNT DUE ON November 2 , 2023 $0.03

{ 
    invoice_number: 1484934918, 
    total_amount: 0.03, 
    due_date: 02/11/2023 
} 

</example>
<invoice> 
Amazon Web Services, Inc. Invoice Email or talk to us about your AWS account or bill, visit aws.amazon.com/contact-us/ Submit feedback on your Invoice Experience here. Invoice Summary Invoice Number: 1401279274 Invoice Date: August 2 , 2023 TOTAL AMOUNT DUE ON August 2 , 2023 $0.03 
</invoice>
Enter fullscreen mode Exit fullscreen mode

chatbot IA generativa few show learning

Como funciona el chatbot con IA Generativa

La aplicacion se construye usando dos script python:

  • chatbot_app.py: interfaz de usuario donde se usa streamlit para la generación de la interfaz HTML (como se ve).
  • chatbot_lib.py: backend donde invocamos el LLM, principalmente usa Langchain.

A continuación vemos la secuencia de invocación:

  1. El usuario envia un mensaje en cuadro de texto de de streamlit chatbot_app.py

    input_text = st.chat_input("escribe tu mensaje aquí")

    chatbot_app.py invoca la funcion get_chat_response() definida en chatbot_lib.py para obtener la respuesta (completación) del input:

    
chat_message = placeholder.chat_message("assistant") # nuevo contenedor para la respuesta

...

with chat_message: 
    chat_response = glib.get_chat_response( # definido en chatbot_lib.py
        prompt=input_text, # texto ingresado por el usuario
        memory=st.session_state.memory, # memoria actual de la conversación
        streaming_callback=st_callback, # funcion a invocar cuando se genere la respuesta progresiva
        model_id= model_id, # id del modelo LLM a invocar
        invocation_kwargs = { # keyworkd args para sobre escribir en la invocación
            "max_tokens_to_sample": max_tokens, # cantidad máxima de tokens generados
            "temperature":temp # temperatura (nivel de libertad o creatividad en la generación)
        }
    )

chatbot IA generativa secuencia

  1. chatbot_lib.py invoca Amazon Bedrock con el model_id definido desde la chatbot_app.py:

    def get_chat_response(prompt, memory, streaming_callback=None,invocation_kwargs=None, model_id= None):

    # Obtenemos una LLM para invocar
    llm = get_llm(streaming_callback, invocation_kwargs, model_id) 

    conversation_with_summary = ConversationChain( #cliente chat con memoria
        llm = llm, #instancia de un LLM en Bedrock
        memory = memory, # memoria con resumen
        verbose = True # envia algunos logs a la salida
    )
    # Nuevo template del prompt, a customizar.
    conversation_with_summary.prompt.template ="""The following is a friendly conversation between a human and an AI. 
    The AI is talkative and provides lots of specific details from its context. 
    If the AI does not know the answer to a question, it truthfully says it does not know.

    Current conversation:
    {history}

    Human:{input}

    Assistant:"""
    # retorna la predicción
    # este metodo invoca API de Amazon Bedrock usando Langchain
    return conversation_with_summary.predict(input=prompt)

  2. A través de StreamingCallback en chatbot_app.py la respuesta es procesada a medida que el modelo responde:

    st_callback = StreamlitCallbackHandler(chat_message) # Callback Handler rellena el contenedor con la respuesta

Modelos Base (Foundation Model o FM)

Los modelos Base (FM por sus siglas en inglés) son modelos de inteligencia artificial entrenados con enormes cantidades de ejemplos. Debido a este extenso entrenamiento, los FMs desarrollan un profundo conocimiento de los datos y cómo se estructuran.

Entrenamiento:
modelo base FM entrenamiento

Uso:
modelo base FM generacion

Acerca del LLM

Una subcategoría de FM son Los modelos de lenguaje grandes (LLM por sus siglas en inglés). Son modelos de inteligencia artificial entrenados con enormes cantidades de texto. Debido a este extenso entrenamiento, los LLMs desarrollan un profundo conocimiento del lenguaje y cómo se estructura.

Esto les permite realizar tareas relacionadas con el lenguaje de forma nativa, como resumir un texto, extraer información clave de un pasaje, o generar nuevo texto coherente.

Amazon Bedrock y Anthropic Claude

En este proyecto usas el nuevo servicio de AWS llamado Amazon Bedrock una forma sencilla de crear aplicaciones de IA Generativa con modelos fundacionales (FMs). En este caso usaremos el modelo Claude de Antrhopic

Para invocar el LLM usamos la librería Bedrock de langchain en (chatbot_lib.py)

Memoria en un chatbot

La mayoría de las aplicaciones de IA conversacionales tienen interfaz de chat. Un componente clave es poder hacer referencia a información de conversaciones anteriores. Esta capacidad de almacenar información de interacciones pasadas se denomina "memoria". LangChain provee herramientas para agregar memoria a un sistema.
En este caso usamos ConversationSummaryBufferMemory que mantiene una cantidad máxima de tokens limites de conversacion (max_token_limit), lo más antiguo lo deja como un resumen. Para realizar el resumen necesita un LLM.

chatbot_lib.py


memory = ConversationSummaryBufferMemory(
    llm=llm, max_token_limit=1024,
    human_prefix = "H", ai_prefix= "A" # Prefijos d usuartio y asistente custom para la historia.
)
Enter fullscreen mode Exit fullscreen mode

Qué son y como se estiman los tokens?

Un token es una unidad del texto que el LLM identifica como algo único en indivisible, puede ser una palabra o una parte de ella. Como cálculo rápido te puede servir que si tienes 100 tokens puede ser entre 60 y 75 palabras.

Si quieres obtener el número exacto te recomiendo utilizar la librería de Antropic para contar los tokens de un texto:

from anthropic import Anthropic
client = Anthropic()
n_tokens = client.count_tokens(texto_a_contar)
Enter fullscreen mode Exit fullscreen mode

Costo estimado

Al utilizar el ambiente local, no incurriremos en gastos asociados a infraestructura de nube. El costo principal viene dado por los LLMs que utilizaremos :

Fuente

Modelo Price for 1000 input tokens Price for 1000 output tokens
Claude Instant 0.00163 0.00551
Claude V2 0.01102 0.03268

Ejemplo

(la forma de cobro es pago por uso, así que este es un ejercicio)

Imaginemos que nuestra aplicación utiliza 500 tokens de entrada cada turno (input + historia) y la respuesta son 500 tokens en promedio, al usarla unas 1000 veces en el mes, nuestros costos totales son

500 (tokens entrada) x 1 (mil veces) x  0.00163 (costo por cada mil Tok) = 0,815 USD 
500 (tokens salida ) x 1 (mil veces) x  0.00551 (costo por cada mil Tok) = 2,755 USD
Total = 0,815 + 2,755 = 3,57 USD / Mes
Enter fullscreen mode Exit fullscreen mode

Conclusiones y siguientes pasos

La IA generativa ha avanzado mucho y ahora es posible crear aplicaciones útiles sin grandes inversiones de tiempo o dinero. Servicios como Amazon Bedrock facilitan el acceso a modelos de lenguaje gigantes como Claude.

En esta sesión construiste un chatbot conversacional combinando una interfaz de usuario, lógica de backend y LLMs. Desde acá puedes seguir construyendo:

Recomendacion para estudio adicional

Stay tuned!

Acerca de los autores:

elizabethfuentes12 image

Elizabeth Fuentes L

AWS Developer Advocate
ensamblador image

ensamblador

AWS Solutions Architect Data Scientist @ ML Opinions expressed are solely my own and do not express the views or opinions of my employer.

Top comments (0)

Some comments may only be visible to logged-in visitors. Sign in to view all comments.

Read next

abdulla783 profile image

How to Choose the Best Embedding Model for Your LLM Application

Abdulla Ansari -

yukooshima profile image

Building a Multi-Agent Framework from Scratch with LlamaIndex

Yusen Meng -

markpelf profile image

Skepticism about Large Language Models (LLM) and ChatGPT

Mark Pelf -

fibonacid profile image

Beyond boring 🙄 markdown rendering with LLMs ✨ and React ⚛️

Lorenzo Rivosecchi -