LOOMUS Book Picks Penser par premiers principes

La vague qui vient

Par Mustafa Suleyman

La vague qui vient

Un fondateur, tout juste sorti de DeepMind, qui sonne le tocsin.

"
— L'idée centrale
L'endiguement n'est, à première vue, pas possible.
Et pourtant, pour le bien de tous, il doit l'être.

Une lecture de La vague qui vient
par Mustafa Suleyman

— L'architecture

Une vague, c'est quatre forces.

LA VAGUE i. ASYMÉTRIQUE petit acteur, grand levier ii. HYPER-ÉVOLUTIVE avance plus vite que les règles iii. POLYVALENTE pacifique et militarisable iv. AUTONOME agit, planifie, poursuit ses buts — quatre raisons pour lesquelles la vague est incontenable

Le coût d'agir s'effondre.
La capacité se diffuse.

Le nouveau test de Turing

— $100K entrent. $1M sortent. Tout seul.

RECHERCHE DESIGN FABRIQUE VEND LIVRE $100K DÉPART ACI AGENT capable $1M RÉSULTAT — en quelques mois, sans toi. LE NOUVEAU TEST DE TURING

Oublie la conversation. Sait-il négocier, contracter, livrer? C'est le test de l'Artificial Capable Intelligence.

— Pourquoi les fondateurs devraient le lire

Vague précédente: publier est devenu gratuit.
Cette vague: agir aussi.

La capacité qui exigeait jadis un État-nation, un Pfizer, ou un Lockheed, s'effondre dans un ordinateur portable. Si tu construis en IA ou en biotech, tu n'es pas exempt du problème de l'endiguement — tu es justement celui qui peut le résoudre.

— Le trilemme

Trois portes. Une seule voie étroite.

CATASTROPHE sans contrôle VOIE ÉTROITE il faut la construire DYSTOPIE sur-contrôlée tout se brise EFFONDREMENT à construire, échelon par échelon SEULE VIABLE tout sous contrôle CONTRÔLE TOTAL

Catastrophe ou dystopie.
Ou construis la voie étroite.

— La boîte aux notes en marge

Une pensée après lecture?
Glisse-la ici.

Nous lisons chaque message. Pas d'algorithme, pas de réponse automatique — juste Sophie et l'équipe LOOMUS, devant un café, dans la semaine.

Reçu. Merci.

Ta note est dans la boîte.
Nous te répondrons quand l'eau bout.

Plus de LOOMUS Book Picks

Sélectionné par des humains · Sans algorithme
No. 01
Une brève histoire de l'intelligence
Max Bennett
Cinq sauts évolutifs, du ver au poète — et pourquoi les LLM n'ont attrapé que le dernier.
Lire sur LOOMUS →
No. 02
Mille cerveaux
Jeff Hawkins
150 000 colonnes corticales. Chacune, une apprenante. Toutes votant à la fois.
Lire sur LOOMUS →
No. 03
The Coming Wave
Mustafa Suleyman
Catastrophe, dystopie, ou la voie étroite. Choisis-en une — et construis-la.
— Tu es ici
No. 04
Modèles de l'esprit
Grace Lindsay
Comment les mathématiques ont façonné ce que nous savons du cerveau.
Lire sur LOOMUS →
No. 05
Histoire de l'art
E. H. Gombrich
Un parcours par premiers principes: pourquoi les humains font des images.
Lire sur LOOMUS →
No. 06
Life 3.0
Max Tegmark
Trois niveaux de vie. Nous sommes sur le point d'inventer le troisième — et de choisir parmi douze futurs.
Lire sur LOOMUS →
Citation copiée — colle-la n'importe où