Lien copié !

La mort de 8 Go : comment l'IA locale a rendu votre ordinateur portable inutilisable

Il ne s'agit pas seulement des prix élevés : votre matériel devient fonctionnellement obsolète. La norme 'AI PC' impose un seuil minimal aux exigences de mémoire, transformant les machines de 8 Go en déchets électroniques.

🌐
Traduction automatique

Cet article a été traduit automatiquement depuis l’original en anglais. Lire l’original en anglais

Un écran d'ordinateur portable affichant une erreur de mémoire insuffisante lors de la tentative d'exécution d'une visualisation de réseau neuronal.

Pendant plus d’une décennie, 8 Go de RAM étaient la norme « assez bonne ». C’était la base de référence sûre pour les étudiants, les employés de bureau et même les créatifs légers. Apple l’a vendu par défaut sur les MacBook de 2012 à 2023. Les ordinateurs portables Windows vivaient confortablement dans la zone de 8 Go pour la navigation et les feuilles de calcul.

Cette époque est révolue. Cela ne s’est pas terminé parce que les pages Web sont devenues plus grandes (même si c’est le cas). Cela a pris fin parce que la manière fondamentale dont nous utilisons les ordinateurs est de passer de la récupération de données à leur génération.

L’essor du « PC AI » et des grands modèles linguistiques (LLM) locaux a introduit un nouveau socle pour le matériel. La norme Copilot+ de Microsoft exige 16 Go de RAM. Les Mac M4 d’Apple démarrent enfin à 16 Go. Il ne s’agit pas seulement de marketing de vente incitative, c’est une question de physique. Si vous essayez d’exécuter une IA locale moderne sur une machine de 8 Go, elle ne fonctionne pas seulement lentement ; ça casse effectivement.

Advertisement

Voici la réalité technique expliquant pourquoi votre ordinateur portable de 8 Go est en train de devenir une brique.

Les mathématiques de la “brique”

Pour comprendre pourquoi 8 Go sont morts, nous devons examiner comment les grands modèles linguistiques (LLM) utilisent la mémoire. Contrairement à un onglet de navigateur qui peut être écrit paresseusement sur le SSD (fichier d’échange) lorsqu’il n’est pas utilisé, un LLM a besoin de ses « poids » (les paramètres qui définissent son intelligence) résidant dans la RAM active à haute vitesse pour fonctionner.

Regardons les chiffres pour un “petit” modèle local standard, comme Llama 3 8B ou le Phi-3 de Microsoft, fonctionnant avec une quantification utilisable de 4 bits.

Model Size8 Billion Parameters×0.5 Bytes (4-bit)4.0 GB\text{Model Size} \approx 8 \text{ Billion Parameters} \times 0.5 \text{ Bytes (4-bit)} \approx 4.0 \text{ GB}

Cela semble bien, non ? Vous disposez de 8 Go. Vous vérifiez le calcul : 8$ - 4 = 4$. Il vous reste 4 Go.

Faux.

Vous avez oublié le système d’exploitation. Windows 11, lorsqu’il est inactif avec quelques services d’arrière-plan, consomme facilement 4 à 5 Go de RAM.

Total Required=OS (4.5 GB)+Model (4.0 GB)+Context Cache (0.5 GB)=9.0 GB\text{Total Required} = \text{OS (4.5 GB)} + \text{Model (4.0 GB)} + \text{Context Cache (0.5 GB)} = 9.0 \text{ GB}

Vous êtes maintenant à 112 % d’utilisation de la mémoire avant même d’avoir ouvert un navigateur Web.

La spirale de la mort d’échange

Lorsque la mémoire requise dépasse votre RAM physique, le système d’exploitation déplace les données vers le « Swap » ou le « Page File » sur votre SSD.

Sur un SSD NVMe moderne, les vitesses de lecture sont rapides, peut-être 5 Go/s ou 7 Go/s. Mais la RAM est d’un ordre de grandeur plus rapide, dépassant souvent 60 Go/s à 100 Go/s. Plus important encore, c’est la latence (le temps nécessaire pour trouver les données) qui tue.

Advertisement

Lorsqu’un LLM génère du texte, il analyse ses poids à plusieurs reprises pour chaque jeton généré. Si ces poids sont dans le fichier d’échange, votre CPU/NPU doit faire une pause et attendre que le SSD récupère les données.

  • Accès RAM : Naposecondes.
  • Accès SSD : microsecondes (1 000 fois plus lent).

Le résultat est “Swap Thrashing”. Le système passe plus de temps à déplacer les données entre la RAM et le SSD qu’à calculer. Votre nombre de jetons par seconde passe de 20 T/s en conversation à un pénible 0,2 T/s. Votre curseur se fige. Le son bégaie. La machine est “bridée” jusqu’à ce que vous tuiez le processus.

Historique contextuel : le long coucher de soleil de 8 Go

La norme 8 Go s’est montrée remarquablement résiliente.

  • 2012 : Le MacBook Pro Retina est lancé avec 8 Go comme base premium. C’était exagéré pour la plupart.
  • 2016-2020 : 8 Go deviennent la norme. Chrome devient de plus en plus gourmand, les applications Electron (Slack, Discord) prolifèrent, mais 8 Go tiennent la barre pour la productivité générale.
  • 2023 : Apple lance le MacBook Pro M3 avec 8 Go de RAM pour 1 599 $. Les critiques et les professionnels se révoltent, le qualifiant d‘“inacceptable”, mais Apple le défend en affirmant que “8 Go sur Mac équivaut à 16 Go sous Windows”.

Cette affirmation, bien que discutable pour le montage vidéo en raison de l’efficacité de la mémoire unifiée, s’effondre pour l’IA. Un modèle de 8 milliards de paramètres ne se soucie pas de savoir s’il est sur macOS ou Windows ; cela nécessite un espace mathématiquement fixe. 8 Go, c’est 8 Go.

En 2024, le récit a changé rapidement. Microsoft a annoncé la spécification « Copilot+ PC », une norme matérielle pour la prochaine génération d’ordinateurs portables Windows. Les exigences étaient strictes :

  • NPU : 40+ TOPS (billions d’opérations par seconde).
  • RAM : 16 Go minimum.

Il n’y a pas de PC Copilot+ avec 8 Go de RAM. Cela n’existe pas. Microsoft, connaissant la télémétrie de ses propres modèles de système d’exploitation et d’IA, a tracé une ligne dans le sable. Ils ont signalé à l’ensemble du secteur que 8 Go n’étaient plus capables d’offrir l’expérience souhaitée.

Advertisement

Le goulot d’étranglement du NPU

Il existe une autre couche à cela : la mémoire unifiée.

Dans les « PC AI » modernes (Snapdragon X Elite, Apple Silicon, Intel Core Ultra), le NPU (Neural Processing Unit) partage la mémoire avec le CPU et le GPU. Il n’y a pas de VRAM dédiée pour la puce AI.

Cela signifie que si vous souhaitez utiliser ce tout nouveau NPU pour flouter votre arrière-plan en 4K, générer une image ou exécuter un agent de traduction en direct, cette mémoire sort directement de la RAM de votre système.

C’est précisément pour cette raison que les cartes vidéo (GPU) disposent d’une VRAM dédiée depuis des décennies. Un PC de jeu peut disposer de 16 Go de RAM système plus 8 Go de RAM vidéo. Un ordinateur portable moderne dispose de 16 Go au total. Si l’IA prend 4 Go et le GPU 2 Go pour le tampon d’affichage et l’interface utilisateur, le processeur se bat pour les restes.

Sur une machine de 8 Go avec graphiques partagés et NPU, la mémoire « utilisable » pour les applications peut être aussi faible que 3 Go ou 4 Go. C’est à peine suffisant pour exécuter un navigateur Web moderne avec cinq onglets ouverts, sans parler d’un flux de travail de productivité.

Analyse prospective : 32 Go est la nouvelle logique

Si 16 Go sont le minimum largement accepté pour exécuter l’IA aujourd’hui, que devriez-vous acheter pour vous préparer au futur ?

La réponse est de plus en plus 32 Go.

À mesure que les modèles locaux deviennent plus intelligents, ils grandissent. Nous voyons déjà apparaître des modèles de « formation axée sur la quantification » et de « mélange d’experts » (MoE) qui tentent d’être efficaces, mais la demande d’intelligence est infinie. Les utilisateurs voudront exécuter :

  1. Un agent de synthèse de texte (Contexte).
  2. Un assistant de codage (In-IDE).
  3. Un service de transcription vocale (Meeting).

L’exécution simultanée de plusieurs modèles avec votre système d’exploitation et votre navigateur consommera 16 Go pour le petit-déjeuner.

Nous entrons dans un cycle d’obsolescence matérielle similaire à celui du début des années 2000, où un ordinateur d’il y a trois ans ne pouvait pas exécuter les logiciels les plus récents. Au cours de la dernière décennie, les gains d’une année sur l’autre ont été marginaux. Un ordinateur portable de 2018 convient toujours pour la navigation sur le Web aujourd’hui.

Mais un ordinateur portable de 2018 – ou même un ordinateur portable de 2023 doté de 8 Go de RAM – ne peut pas participer à la révolution locale de l’IA. Il est fonctionnellement coupé des fonctionnalités déterminantes des prochaines mises à jour du système d’exploitation.

Le verdict : si vous achetez un ordinateur portable aujourd’hui, n’achetez pas 8 Go. Ne laissez pas vos amis acheter 8 Go. Ce n’est pas une option budgétaire ; c’est une impasse. Pour la première fois depuis une décennie, acheter le modèle de base n’est pas seulement frugal : c’est une erreur.

Nos sources

Advertisement

🦋 Discussion sur Bluesky

Discuter sur Bluesky

Recherche de publications...