Llm on makhal.fr https://makhal.fr/tags/llm/ Recent content in Llm on makhal.fr Hugo fr-fr Mon, 27 Apr 2026 08:40:45 +0200 L'inférence, c'est un problème de mémoire https://makhal.fr/posts/docs/inference/linference-cest-un-probleme-memoire/ Mon, 27 Apr 2026 08:40:45 +0200 https://makhal.fr/posts/docs/inference/linference-cest-un-probleme-memoire/ Et si la source de tous nos problemes n’est pas le computing qu’on dispose, mais la mémoire ? On decouvre ce que c’est la VRAM et compagnie C'est quoi l'inférence ? https://makhal.fr/posts/docs/inference/intro-a-linference/ Mon, 20 Apr 2026 08:40:45 +0200 https://makhal.fr/posts/docs/inference/intro-a-linference/ On découvre la deuxième vie d’un modèle IA, l’inférence, et les enjeux qui y sont liés. Fini OpenAI : LLM maison sur un GPU https://makhal.fr/posts/docs/uppa/evaruntime/ Tue, 14 Apr 2026 08:40:45 +0200 https://makhal.fr/posts/docs/uppa/evaruntime/ On a remplacé l’API OpenAI pour tout un labo universitaire. Coût : un GPU de 30W et zéro dépendance cloud.