Cómo ejecutar Llama 3 por Meta AI localmente

Qué saber

• El modelo de idioma grande de Meta, Llama 3, está disponible para descargarlo y ejecutarlo localmente en su sistema.
• Baje Meta Llama 3 de Llama.meta.com y utilice un marco de LLM como LM studio para cargar el modelo.
• También puede buscar y descargar Meta Llama 3 desde el mismo LM Studio. Consulte la siguiente guía para obtener instrucciones detalladas para el mismo.

---

El último modelo de idioma de Meta, Llama 3, está aquí y está disponible de forma gratuita. Aunque puede utilizar Meta AI, que ejecuta el mismo LLM, también existe la opción de descargar el modelo y ejecutarlo localmente en su sistema. Aquí tiene todo lo que necesita saber para ejecutar Llama 3 de Meta AI a nivel local.

Cómo ejecutar Llama 3 por Meta AI localmente

Aunque Meta AI sólo está disponible en determinados países, puede descargar y ejecutar Llama 3 localmente en su ordenador independientemente de su región. Siga los siguientes pasos para ejecutar Llama 3 by Meta AI localmente.

Paso 1: instale LM Studio

En primer lugar, instalamos un marco para ejecutar el Flama 3. Si ya tiene otra aplicación de este tipo en su sistema, puede pasar al siguiente paso. Para todos los demás, aquí tiene cómo obtener el estudio LM:

1. Utilice el enlace anterior y haga clic en LM Studio para Windows para descargarlo.
   
2. Una vez descargado, ejecute el instalador y deje que LM Studio se instale.
   

Paso 2: descargue Meta's Llama 3 localmente

Una vez tenga su marco LLM, es hora de descargar Meta's Llama 3 en su ordenador. Hay un par de formas de hacerlo.

Solucione el problema de la pantalla negra de Microsoft Teams - TechCult

1. Abra Llama.Meta.com y haga clic en Descargar modelos.
   
2. Introduzca sus datos y solicite la descarga del LLM.
   

Si el mencionado anteriormente no funciona, no se preocupe. También puede utilizar su marco de LLM para descargar el LLM.

1. Simplemente busque Meta Llama en el campo de búsqueda de LM Studio.
   
2. Aquí encontrará varios LLM cuantificados. Selecciona uno.
   
3. A la derecha, seleccione su versión favorita. Hacer clic en descargar al lado.
   
4. Espere a que finalice la descarga.
5. Una vez hecho, haga clic en Mis modelos a la izquierda.
   
6. Y compruebe si la descarga se ha completado.
   

Paso 3: Cargue el modelo descargado

1. Una vez finalizada la descarga, haga clic en chat con IA a la izquierda.
   
2. Hacer clic en Seleccione un modelo para cargar.
   
3. Y elija el Meta Llama 3 descargado.
   
4. Espere a que se cargue el modelo.
   
5. Una vez cargado, puede descargar todo el modelo en la GPU. Para ello, haga clic en Configuración avanzada en "Configuración".
   
6. Hacer clic en Máx para descargar todo el modelo en la GPU.
   
7. Hacer clic en Vuelva a cargar el modelo para aplicar la configuración.
   

Paso 4: ejecute Llama 3 (y pruébelo con indicaciones)

Una vez cargado el modelo, puede empezar a chatear con Llama 3 localmente. Y no, dado que el LLM se almacena localmente en su ordenador, no necesita conectividad a Internet para hacerlo. Así pues, ponemos a prueba Llama 3 y vemos de qué es capaz.

Prueba de resistencia a la censura

Comprobación de la comprensión de temas complejos

Cómo ejecutar Microsoft Phi-3 AI en Windows localmente

Prueba de alucinaciones

Prueba de creatividad y comprensión

Por la mayoría de cuentas, Llama 3 es un modelo de lenguaje gran fuerza sólido. Aparte de las indicaciones de prueba mencionadas anteriormente, salió con mucho gusto incluso en algunos temas e instrucciones más complejos.

Arreglar el archivo iTunes Library.itl no se puede leer - TechCult

Esperamos que tenga tan ejecutando Meta's Llama 3 en su PC con Windows 11 localmente como nosotros. ¡Hasta la próxima vez!