GoDaddy, el prestigioso registrador de dominios y proveedor de servicios de comercio electrónico, ha dado un paso significativo en la aplicación de inteligencia artificial con el lanzamiento de un sistema avanzado de categorización de productos. Este nuevo enfoque, basado en inteligencia artificial generativa, tiene como objetivo proporcionar insights empresariales personalizados a su vasta clientela de más de 21 millones de usuarios. Lo que antes era un privilegio de grandes corporaciones ahora está al alcance de pequeñas y medianas empresas gracias a esta innovación.
La implementación de modelos de lenguaje grandes (LLMs) en inteligencia artificial ha cobrado fuerza en los últimos tiempos. Sin embargo, muchos proyectos enfrentan dificultades para llevar estos modelos a entornos de producción debido a problemas de escalabilidad. Para abordar esto, GoDaddy ha incorporado la inferencia por lotes, una técnica que permite la gestión eficiente de múltiplas solicitudes de datos de manera asíncrona, mejorando así la eficiencia operativa.
El desarrollo de este sistema fue llevado a cabo junto con el equipo del Generative AI Innovation Center y hace uso de Amazon Bedrock. Gracias a esta colaboración, GoDaddy ha logrado procesar los datos de productos con un modelo Meta Llama 2. La empresa enfrentaba el reto de categorizar aproximadamente seis millones de productos solo a partir de sus nombres. Los primeros esfuerzos no alcanzaron las expectativas, ya que se detectaron errores en las categorías asignadas, lo que hizo que los costos de operación aumentaran.
El sistema que se ha implementado sigue una serie de pasos claramente establecidos, empezando por la transferencia de archivos JSONL a un almacenamiento en S3, activando funciones Lambda para el proceso por lotes. Esto permite que los nombres de los productos sean leídos y procesados para generar categorías precisas, que luego se almacenan para futuras consultas. Las medidas de seguridad integradas aseguran que los datos se mantengan íntegros y confidenciales.
Esta solución no solo promete mejorar la calidad de la categorización, sino que también ofrece a los clientes insights valiosos para sus negocios. Con compatibilidad para múltiples modelos en Amazon Bedrock, la solución ofrece flexibilidad para futuras actualizaciones y expansión.
Además, mediante el uso de técnicas de «n-packing», que comprimen múltiples nombres de productos en una sola consulta, GoDaddy ha conseguido optimizar tanto la latencia como los costos. Estas mejoras sugieren que la nueva tecnología podría proporcionar un ahorro significativo y mejorar considerablemente las operaciones de la empresa.
De cara al futuro, GoDaddy planea enriquecer su base de datos con ejemplos verificados y mejorar los controles de calidad, asegurando así un servicio de calidad superior. Esta colaboración promete transformar no solo la experiencia del cliente, sino que también democratiza el acceso a herramientas comerciales avanzadas para los emprendedores. Las proyecciones iniciales estiman que el sistema puede procesar miles de productos en tiempos notablemente reducidos, aumentando la eficiencia y satisfacción de los clientes de manera significativa.
