Qualcomm Technologies y Meta están trabajando para optimizar la ejecución de los grandes modelos de lenguaje Llama 2 de Meta directamente en el dispositivo, sin depender únicamente de los servicios en la nube.
La capacidad de ejecutar modelos de IA generativa como Llama 2 en dispositivos como teléfonos inteligentes, PC, auriculares VR/AR y vehículos permite a los desarrolladores ahorrar en costos de la nube y brindar a los usuarios experiencias privadas, más confiables y personalizadas.
Como resultado, Qualcomm planea hacer que las implementaciones de IA basadas en Llama 2 estén disponibles en el dispositivo para permitir la creación de nuevas aplicaciones de IA. Esto permitirá a los clientes, socios y desarrolladores crear casos de uso como asistentes virtuales inteligentes, aplicaciones de productividad, herramientas de creación de contenido, entretenimiento y más.
Estas nuevas experiencias de IA en el dispositivo, impulsadas por Snapdragon, pueden funcionar en áreas sin conectividad o incluso en modo avión.
"Aplaudimos el enfoque de Meta hacia una IA abierta y responsable y estamos comprometidos a impulsar la innovación y reducir las barreras de entrada para desarrolladores de cualquier tamaño incorporando IA generativa al dispositivo", afirmó Durga Malladi, vicepresidente senior y director general de tecnología, planificación y empresa de soluciones de vanguardia, Qualcomm Technologies, Inc. "Para escalar eficazmente la IA generativa a la corriente principal, la IA deberá ejecutarse en la nube y en dispositivos de vanguardia, como teléfonos inteligentes, computadoras portátiles, vehículos y dispositivos de IoT".
Meta y Qualcomm Technologies tienen una larga trayectoria de trabajo conjunto para impulsar la innovación tecnológica y ofrecer la próxima generación de experiencias de dispositivos premium. La colaboración actual de las empresas para apoyar el ecosistema Llama abarca esfuerzos de investigación e ingeniería de productos.
