Participar en el hackathon de Cofares fue como embarcarse en una aventura tecnológica intensa y apasionante, donde cada paso nos acercaba a un objetivo ambicioso: desarrollar una solución innovadora de alto impacto que respondiera a un desafío real del sector salud.
Este Datahub tenia un calendario intensivo donde deberíamos crear una aplicación IA en tiempo record. Luego la DANA que afectó a Valencia cambio las reglas del juego en cuanto a las entregas, pero finalmente se pudo finalizar y con un gran aprendizaje detrás. Desde que se formó nuestro equipo al que llamamos DataSetA(por un juego de palabras relacionado con nuestro emoji de equipo 🍄), nos propusimos aprovechar al máximo este espacio para aplicar nuestras habilidades técnicas y aprender nuevas y también para explorar el potencial de las herramientas de inteligencia artificial que ofrece Google Cloud, miembro organizador de este hackathon. El reto era inmenso, y estábamos listos para enfrentarlo con todo nuestro conocimiento y creatividad.
Este viaje comenzó con la identificación de un problema relevante:
El reto IA
Cofares, una de las principales distribuidoras farmacéuticas, necesitaba soluciones ágiles y avanzadas para optimizar la información que proporciona a sus usuarios. Querían crear un chatbot que ofreciera respuestas precisas y contextuales a preguntas vagas o complejas, algo que solo sería posible combinando capacidades de generación de lenguaje natural (NLU) y recuperación de información, es decir: una aplicación RAG (Retrieval-Augmented Generation).
Las herramientas IA disponibles en Google Cloud con ¡Barra Libre!
Para lograrlo, deberiamos utilizar la última tecnologia de vanguardia proporcionada por Google:
- Bigquery sería nuestra base de datos con 43.000 productos de parafarmacia disponibles.
- Vertex AI fue nuestro ecosistemas de herramientas IA para utilizar los modelos disponibles en el Garden
- Bigquery ML para las búsquedas semánticas
- Google Reranker para optimizar las respuestas de producto
- Python y Jupyter Notebook como lenguaje y framework para el desarrollo de la app
- Gen Evaluation Service para evaluar las respuestas del modelo. Por cierto este pipeline de evaluación fue muy esclarecedor y es una joyita.
- Flask para la DEMO
Cada elección tecnológica por parte de nuestro equipo fue hecha con un propósito claro: asegurar la fluidez, precisión y por supuesto costo de implementación de la solución propuesta.
Los desafíos de este desarrollo
Implementar la arquitectura RAG fue otro de los grandes retos. No se trataba solo de crear una base de datos sólida y un flujo de trabajo eficiente, sino de diseñar una arquitectura de IA que pudiera combinar elementos de recuperación de información y generación de respuestas de manera intuitiva y rápida. Para ello, tuvimos que profundizar en el funcionamiento de los agentes de VertexAI y sobre todo en definir correctamente el Function Calling de Gemini y los prompts para asegurarnos de que la información fuera siempre precisa y coherente con la solicitud del profesional de farmacia.
Desde los primeros días del hackathon, nos enfrentamos a varios desafíos técnicos que pusieron a prueba nuestra destreza y entereza física y mental. El primer fin de semana del reto fue un super intensivo de 48 hs casi sin descanso.
Logros y Fracasos
Cada día fue un proceso de aprendizaje intensivo, desde resolver problemas de importación de bases de datos en Bigquery, generar embeddings, generar descripciones de imágenes de los productos, hasta optimizar los costos con vistas en una app que recibe miles de consultas diarias. Exploramos diferentes frameworks, tecnologías y arquitecturas. Evaluamos herramientas como Langchain, LlamaIndex o Cohere para hacer que la interfaz fuera sencilla y efectiva.
Cada pequeño logro fue un impulso para continuar, sabiendo que estábamos creando algo significativo.
Luego de idas y vueltas con la arquitectura y las tecnologias que debían integrar este proyecto terminamos con una app íntegramente desarrollada con los servicios ofrecidos en Google Cloud, sin utilizar frameworks intermediarios.
La integración de un sistema de evaluación para medir la precisión de las respuestas generadas fue uno de los aspectos más complejos, pero resultó fundamental para asegurar la calidad del sistema. Al utilizar el servicio de evaluación de Google, pudimos desarrollar un proceso que calificaba la precisión, relevancia y coherencia de cada respuesta, ayudándonos a mejorar la experiencia de usuario, optimizar los resultados del modelo y justificar el uso de un Reranker dentro del proyecto.
¡Una experiencia IA increíble!
La experiencia no solo fortaleció nuestras habilidades técnicas en desarrollo de inteligencia artificial y uso de agentes conversacionales, sino que también fue una lección sobre la importancia del trabajo en equipo y la colaboración multidisciplinaria. Al final, conseguimos desarrollar un producto funcional y sofisticado que fue capaz de responder a las expectativas del hackathon y de demostrar el valor de las herramientas de inteligencia artificial para resolver problemas complejos.
Este hackathon fue más que un evento; fue una oportunidad para consolidar conocimientos, explorar nuevas fronteras tecnológicas y expandir nuestra visión de lo que es posible en el mundo de la tecnología y la inteligencia artificial.
Sin duda, este proyecto no solo se convirtió en una pieza clave en nuestro portafolio profesional, sino en un reflejo de la experiencia y el expertise que podemos ofrecer en futuros desafíos.
