El pasado 26 de noviembre parte de la comunidad de investigadores e investigadoras vinculadas a ARPHAI participaron de una visita al Centro de Datos de la Universidad Nacional de Córdoba, con el objetivo de ver en acción las adquisiciones realizadas en el marco de su proyecto “Infraestructura para el uso responsable de datos de salud en Argentina: construcción de capacidades y comunidades en torno a datos sensibles” financiado por Invest in Open Infrastructure (IOI).
Allí, la comunidad pudo ver en acción a “Gordito” un servidor fatnode (de ahí su nombre) de un terabyte de RAM con capacidad para 8 GPUs de última generación alojado en la @UNCSupercomputo. El fatnode forma parte del clúster de Kubernets y da servicios al Project Jupyter (que ofrece herramientas para la computación interactiva) y Ollama (dedicado a la ejecución de grandes modelos de lenguaje).
Durante la visita Nicolás Wolovick Director del CCAD (Centro de Computación de Alto Desempeño) nos comentó que “este servidor es una pieza clave para el Jupyter Hub del CCAD que se inauguró hace poco, porque es el que posibilita correr notebooks con 1 tera y hasta 4 GPUs, brindando potencia de cálculo para los proyectos más grandes”. De las computadoras simples (únicas) “Gordito” es la más potente que posee el CCAD y posibilita trabajar con grandes datasets y con mucha facilidad de programación.
Actualmente, el servidor se está utilizando también para servir modelos de lenguaje a través de Ollama con una interfaz gráfica Open WebUI (también de código abierto) que permite que todos los investigadores usuarios del CCAD puedan trabajar con grandes modelos de lenguaje (LLMs, por sus siglas en inglés) con garantía de privacidad.
Así, además de las personas participantes de la comunidad de ARPHAI, “Gordito” presta servicio a toda la comunidad docente y de investigación asociada al CCAD ampliando sus impactos más allá del objetivo inicial.
Para más información sobre el proyecto y sobre la infraestructura:
- https://openreview.net/forum?id=Q0URnlbXeZ&ref=investinopen.org
- https://www.ciecti.org.ar/arphai-brindo-una-capacitacion-sobre-introduccion-al-uso-de-datos-sensibles/
*Descripción de foto de portada: De izquierda a derecha, Nicolás Wolovick (Director del CCAD), Verónica Xhardez y Laura Alonso Alemany (investigadoras de ARPHAI) en el Data Center ubicado en el predio de la Universidad Nacional de Córdoba.