Groupe de lecture Stratégie AGI

Environ 100 min de lecture · Ouvrir l'unité sur BlueDot (ouvre un autre site)

Quels sont les enjeux ?

• Personal Statement on AI Risk (ouvre un autre site)Daniel Selsam20 min

Problèmes de concurrence et de coordination

• Racing through a minefield: the AI deployment problem (ouvre un autre site)Holden Karnofsky20 min
• The Scramble: getting in position to pace the frontier (ouvre un autre site)Peter Wildeford25 min

Réagir à l'incident Hugging Face

• The Rise and Fall of Agent Civilizations (ouvre un autre site)Dwarkesh Patel35 min

Environ 190 min de lecture · Ouvrir l'unité sur BlueDot (ouvre un autre site)

Qu'est-ce qui fait progresser l'IA ?

• The case for AGI by 2030 (ouvre un autre site)Ben Todd35 min
• What will AI look like in 2030? (ouvre un autre site)David Owen15 min

Que peuvent faire des systèmes d'IA de plus en plus performants ?

• Trends in Artificial Intelligence (ouvre un autre site)Epoch AI10 min
• Epoch Capabilities Index (ouvre un autre site)15 min
• Benchmarks — Epoch AI (ouvre un autre site)Epoch AI10 min
• Frontier Risk Report (February to March 2026) (ouvre un autre site)METR20 min
• Measurements for understanding the pace of AI development inside frontier labs (ouvre un autre site)Marina Favaro and Phillie Wright (Anthropic)20 min

Comment le progrès pourrait-il s'accélérer ?

• AI 2027 (ouvre un autre site)Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean35 min
• Q2.5 2026 Timelines Update: Uplift and Revenue (ouvre un autre site)Eli Lifland, Daniel Kokotajlo, Brendan Halstead20 min
• The Economics of Recursive Self-Improvement (ouvre un autre site)Tom Cunningham, Lukas Althoff, Basil Halperin, Brian Jabarian, Andrew Koh, Arjun Ramani, Phil Trammell, Parker Whitfill, and Cheryl Wu10 min

Environ 210 min de lecture · Ouvrir l'unité sur BlueDot (ouvre un autre site)

Perte de contrôle

• AI Could Defeat All Of Us Combined (ouvre un autre site)Holden Karnofsky20 min
• The Loss of Control Playbook: Degrees, Dynamics, and Preparedness (ouvre un autre site)Charlotte Stix, Annika Hallensleben, Alejandro Ortega, Matteo Pistillo (Apollo Research)60 min
• What failure looks like (ouvre un autre site)Paul Christiano20 min
• Why alignment could be hard with modern deep learning (ouvre un autre site)Ajeya Cotra25 min

Autoritarisme

• Extreme Power Concentration (ouvre un autre site)Hadshar35 min

Usage biologique malveillant

• On Civilization-Threatening Bioweapons (ouvre un autre site)Kevin Esvelt30 min
• Building a Defense-in-Depth Biosecurity Strategy for the AI Era (ouvre un autre site)Steph Guerra, Aurelia Attal-Juncqua, John P. Tarangelo, Casey Aveggio, Katie Dammer, David Glickstein20 min

Environ 245 min de lecture · Ouvrir l'unité sur BlueDot (ouvre un autre site)

S'orienter dans la stratégie

• AI 2040: Summary of Plan A (ouvre un autre site)Thomas Larsen; Romeo Dean; Brendan Halstead; Eli Lifland; Ryan Greenblatt; Daniel Kokotajlo10 min

Le défi technique

• An Approach to Technical AGI Safety and Security (ouvre un autre site)Rohin Shah et al.55 min
• Alignment remains a hard, unsolved problem (ouvre un autre site)Evan Hubinger30 min
• Teaching Claude why (ouvre un autre site)Anthropic15 min

Suivre la transition

• AI 2040: Plan A (ouvre un autre site)Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt, Daniel Kokotajlo60 min

Rythme et stratégies alternatives

• AI 2040: Capability Scaling Strategy (ouvre un autre site)Eli Lifland20 min
• AI 2040: Comparing Possible Plans (ouvre un autre site)Eli Lifland15 min
• Pacing the Frontier (ouvre un autre site)Employees of frontier AI companies5 min

Examiner les objections

• Plan A's problem with dry tinder (ouvre un autre site)Tom Davidson15 min
• Selective Optimism: a critique of AI 2040 (ouvre un autre site)Richard Ngo20 min

Environ 150 min de lecture · Ouvrir l'unité sur BlueDot (ouvre un autre site)

Choisir votre axe

• Become a person who Actually Does Things (ouvre un autre site)Neel Nanda5 min
• Project Tailwind: Initiatives (ouvre un autre site)Coefficient Giving15 min

Faire un plan

• Personal Action Plan Template (ouvre un autre site)Dewi Erwan10 min

Rédiger votre résumé d'une page (facultatif)

• 1-Pager Template (ouvre un autre site)BlueDot Impact

Conseils facultatifs

• AGI safety career advice (ouvre un autre site)Richard Ngo20 min
• Career Review: AI Governance and Coordination (ouvre un autre site)Cody Fenwick50 min
• Career Review: Technical AI Safety (ouvre un autre site)80000 Hours50 min