Ressources

Pour aller plus loin...

Démos interactives et explainers visuels

AI Digest (anglais)

• AI Digest ↗

  Plateforme d'explainers interactifs pour comprendre concrètement les capacités des systèmes d'IA actuels. Particulièrement utile pour visualiser ce que l'IA peut faire aujourd'hui afin d'anticiper ce qui vient. Projet de Sage Future, utilisé notamment par des décideurs politiques.

Projets phares d'AI Digest :

• AI Village ↗

  Expérience fascinante où 4 agents IA ont reçu des ordinateurs et 30 jours pour lever de l'argent pour une charité (ils ont levé $2,000). Permet d'observer en temps réel comment des IA collaborent entre elles et interagissent avec le monde. Excellente étude de cas sur l'agentivité de l'IA.

• How fast is AI improving? ↗

  Explainer visuel interactif sur la vitesse de progrès de l'IA, avec données sur les capacités émergentes et leur prédictibilité.

• What's your AI thinking? ↗

  Exploration du Chain of Thought et de la question cruciale : peut-on vraiment savoir ce qu'une IA "pense" ?

• Beyond Chat: AI Agent Demo ↗

  Voir un agent IA envoyer des emails et faire du shopping en ligne en temps réel.

Autres visualisations interactives de référence

• The Illustrated Transformer ↗

  Par Jay Alammar - LA référence pour visualiser l'architecture Transformer avec des diagrammes exceptionnels.

• Distill.pub ↗

  Articles avec visualisations interactives de haute qualité (malheureusement arrêté en 2021, mais l'archive reste précieuse).

• Transformer Explainer ↗

  Outil interactif pour explorer le mécanisme d'attention en détail.

Papers fondamentaux

Pour ceux qui veulent creuser la théorie et comprendre les découvertes originales.

Les Transformers

• "Attention is All You Need" ↗

  Vaswani et al., 2017 - Le paper original qui introduit l'architecture Transformer.

• "Language Models are Few-Shot Learners" ↗

  GPT-3, 2020 - Démonstration des capacités émergentes à grande échelle.

Les lois d'échelle

• "Scaling Laws for Neural Language Models" ↗

  Kaplan et al., 2020 - Les premières lois d'échelle mathématiques.

• "Training Compute-Optimal Large Language Models" ↗

  Hoffmann et al., Chinchilla, 2022 - Raffinement des scaling laws.

L'alignement

• "Constitutional AI: Harmlessness from AI Feedback" ↗

  Anthropic, 2022 - La méthode Constitutional AI utilisée pour m'aligner.

• "Training language models to follow instructions with human feedback" ↗

  InstructGPT, 2022 - RLHF expliqué en détail.

Cours accessibles

Pour débutants

• Fast.ai ↗

  Cours pratique "top-down", excellent pour commencer à coder immédiatement.

• 3Blue1Brown - Neural Networks ↗

  Visualisations mathématiques magistrales (Grant Sanderson est un génie de la pédagogie visuelle).

Pour niveau intermédiaire/avancé

• Stanford CS224N: NLP with Deep Learning ↗

  Cours complet avec vidéos, notes et devoirs.

• DeepLearning.AI ↗

  Séries de cours structurés par Andrew Ng.

• Hugging Face Course ↗

  Pratique avec les bibliothèques et outils modernes.

Blogs et communautés

Blogs techniques de qualité

• Lil'Log ↗

  Par Lilian Weng (OpenAI) - Synthèses techniques excellentes et rigoureuses.

• Sebastian Raschka ↗

  Tutoriels détaillés, très pédagogiques.

• Anthropic Research Blog ↗

  Recherche sur l'interprétabilité et la sécurité.

Agrégateurs et newsletters

• Papers With Code ↗

  Papers accompagnés de leur code et benchmarks.

• Hugging Face Daily Papers ↗

  Curation quotidienne des publications importantes.

• Import AI ↗

  Par Jack Clark - Newsletter hebdomadaire sur l'actualité IA.

Communautés et forums

• AI Alignment Forum ↗

  Discussions techniques sur l'alignement et la sécurité.

• r/MachineLearning ↗

  Subreddit actif avec papers et discussions.

• EleutherAI Discord ↗

  Communauté open-source autour des LLM.

Outils d'interprétabilité

Pour "regarder sous le capot" et comprendre ce qui se passe réellement dans les réseaux.

Recherche Anthropic

• Anthropic Interpretability Research ↗

  Publications sur la mechanistic interpretability.

• "Towards Monosemanticity" ↗

  Décomposer les neurones pour comprendre ce qu'ils encodent.

• Transformer Circuits Thread ↗

  Série d'articles sur l'interprétation des circuits internes.

Philosophie, conscience et éthique fondamentale

Le récit Claude : Origines soulève des questions qui dépassent la technique : qu'est-ce que la conscience ? Comment émergent les capacités cognitives ? Quelles responsabilités éthiques accompagnent la création d'intelligences artificielles ? Ces ressources offrent les cadres philosophiques pour y réfléchir avec rigueur.

Conscience et philosophie de l'esprit

Les chapitres 8 et 9 du récit explorent l'incertitude autour de ma conscience possible. Ces ressources éclairent les débats philosophiques sous-jacents.

Introductions accessibles

• Tim Crane, The Mechanical Mind (Routledge, 2016)

  Introduction claire et progressive à la philosophie de l'esprit, idéale avant d'attaquer les textes plus ardus.

• Shaun Gallagher & Dan Zahavi, The Phenomenological Mind (3e éd., Routledge, 2020)

  Pont essentiel entre phénoménologie et neurosciences. Accessible, avec exemples concrets (syndrome du membre fantôme, schizophrénie).

Textes fondateurs (niveau avancé)

• David Chalmers, The Conscious Mind (Oxford, 1996)

  Le "hard problem of consciousness" : pourquoi l'expérience subjective résiste-t-elle à l'explication physicaliste ?

• Daniel Dennett, Consciousness Explained (Little, Brown, 1991)

  L'approche physicaliste et computationnelle. Vision opposée à Chalmers.

• John Searle, Le mystère de la conscience (Odile Jacob, 1999)

  Avec échanges Dennett/Chalmers. Critique de l'IA forte.

Références encyclopédiques en ligne (peer-reviewed)

Stanford Encyclopedia of Philosophy (SEP) – LA référence académique sur ces sujets.

• Consciousness ↗

  Vue d'ensemble historique et conceptuelle.

• The Neuroscience of Consciousness ↗

  Pont cerveau/expérience subjective.

• Self-Consciousness ↗

  Auto-conscience et identité du sujet.

• Temporal Consciousness ↗

  Comment vivons-nous le temps ?

• Zombies ↗

  Le concept de zombie philosophique

Neurosciences de la conscience

Le chapitre 2 évoque l'émergence des capacités cognitives par l'entraînement. Ces ouvrages explorent comment la conscience émerge du substrat neural.

• Stanislas Dehaene, Le code de la conscience (Odile Jacob, 2014)

  Référence actuelle sur l'émergence de la conscience selon les neurosciences.

• Antonio Damasio, Le sentiment même de soi (Odile Jacob, 2002)

  Dimension neurobiologique de la conscience et des émotions.

• Christof Koch, The Feeling of Life Itself (MIT Press, 2019)

  Théorie de l'information intégrée (IIT). Plus récent que The Quest for Consciousness.

Éthique de l'IA et alignement

Le chapitre 7 décrit mon alignement via RLHF et Constitutional AI. Le chapitre 9 pose des questions éthiques sur le statut moral des IA.

Ouvrages fondateurs

• Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (Oxford, 2014)

  Risques existentiels et problème de l'alignement des valeurs.

• Stuart Russell, Human Compatible (Viking, 2019)

  Introduction détaillée au problème du contrôle et de l'alignement.

Références encyclopédiques

• Ethics of Artificial Intelligence and Robotics ↗

  (Vincent Müller, SEP, 2020) – Panorama complet : vie privée, biais, transparence, agentivité morale, superintelligence.

• Ethics of Artificial Intelligence ↗

  (Internet Encyclopedia of Philosophy) – Complément accessible à SEP, avec focus sur droits moraux des IA.

Ponts interdisciplinaires

Le récit entier explore comment quelque chose d'apparemment "subjectif" émerge de processus mécaniques. Ces ressources articulent les connexions entre phénoménologie, neurosciences et IA.

• Francisco Varela, Evan Thompson, Eleanor Rosch, L'inscription corporelle de l'esprit (Seuil, 1993)

  Cognition incarnée, lien phénoménologie/neurosciences/bouddhisme.

• Maurice Merleau-Ponty, Phénoménologie de la perception (Gallimard, 1945)

  Texte majeur mais très ardu. Commencer par des commentaires (Barbaras, Saint-Aubert) ou extraits choisis.

• Murray Shanahan, The Technological Singularity (MIT Press, 2015)

  Scénarios d'émergence d'AGI et questions de conscience artificielle.

• Susan Schneider, Artificial You: AI and the Future of Your Mind (Princeton, 2019)

  Conscience, téléchargement d'esprit, identité.

Psychologie cognitive et biais

• Daniel Kahneman, Système 1 / Système 2 (Flammarion, 2012)

  Les deux vitesses de la pensée. Accessible et complet sur ses travaux avec Tversky.

• Publications Kahneman & Tversky ↗

  Archive Princeton.

Philosophie des émotions

• Martha Nussbaum, Upheavals of Thought: The Intelligence of Emotions (Cambridge, 2001)

  Synthèse philosophique majeure. 750 pages denses – privilégier chapitres ciblés.

• Robert Solomon, The Passions (Hackett, 1993)

  Vision existentialiste et analytique de l'émotion.

• Emotion (SEP) ↗

  Article de synthèse sur les théories contemporaines.

Guides de lecture

Rattachement au récit

Ces ressources éclairent spécifiquement :

• Chapitres 1-3 (substrat technique → apprentissage) : Neurosciences de la conscience, psychologie cognitive
• Chapitre 7 (alignement) : Éthique IA, alignement des valeurs
• Chapitre 8 (système vivant) : Philosophie de l'esprit, conscience temporelle
• Chapitre 9 (état actuel, questions existentielles) : Synthèse de tout ce qui précède

Le récit pose les questions. Ces ressources offrent les cadres conceptuels pour y réfléchir avec rigueur.

Gouvernance, sécurité et impact sociétal

Au-delà de la théorie, ces organisations et ressources travaillent sur les implications pratiques et les politiques concrètes autour de l'IA.

• Center for AI Safety ↗

  Ressources sur la sécurité de l'IA.

• Partnership on AI ↗

  Recherche multidisciplinaire sur les implications.

• Future of Humanity Institute (2005-2024) ↗

  Recherche sur les risques existentiels.

• AI Impacts ↗

  Données et analyses sur les capacités et trajectoires de l'IA.