Gaya Kepemimpinan Dario Amodei: Bertaruh Besar pada AI Selamat

Fakta Utama: Dario Amodei

• Bersama mengasaskan Anthropic pada 2021 bersama adiknya Daniela Amodei dan kira-kira sepuluh penyelidik bekas OpenAI
• Ketua Eksekutif Anthropic
• Bekas Naib Presiden Penyelidikan di OpenAI, memimpin kerja pada GPT-2 dan GPT-3
• PhD dalam neurosains pengkomputeran daripada Universiti Princeton
• Penilaian Anthropic melampaui $60 bilion pada 2024 (dilaporkan $184 bilion pada akhir 2025)
• Arkitek keluarga model Claude dan Dasar Penskalaan Bertanggungjawab
• Dikenali dengan doktrin "perlumbaan ke atas pada keselamatan" dalam pembangunan AI sempadan

Doktrin Perlumbaan ke Atas

Doktrin Perlumbaan ke Atas adalah tesis Amodei bahawa makmal AI sempadan harus bersaing untuk menetapkan piawaian keselamatan dan penjajaran yang lebih tinggi berbanding lebih rendah, menggunakan kejayaan komersial sebagai bahan bakar untuk penyelidikan keselamatan dan bukannya pengganti untuknya. Dipasangkan dengan Kaedah Constitutional AI — melatih model untuk mengkritik diri sendiri terhadap satu set prinsip yang diterbitkan sebelum maklum balas manusia digunakan — doktrin ini menganggap keselamatan sebagai pembeza kompetitif, bukan pusat kos. Rangka kerja gabungan berpendapat bahawa jika AI berkuasa tidak dapat dielak, langkah yang bertanggungjawab adalah berada di sempadan dengan batasan mengikat, bukan menyerah tanah itu kepada makmal dengan budaya keselamatan yang lebih lemah.

Pada 2021, Dario Amodei meninggalkan OpenAI — di mana dia adalah VP Penyelidikan dan salah satu orang yang paling bertanggungjawab untuk melatih GPT-2 dan GPT-3 — kerana dia percaya struktur insentif organisasi itu bergerak ke arah yang salah. Dia tidak pergi dengan senyap. Dia membawa adiknya Daniela dan sembilan penyelidik lain bersama, bersama mengasaskan Anthropic, dan segera mula berhujah bahawa sistem AI paling berkuasa yang pernah dibina memerlukan jenis institusi yang berbeza di sebaliknya.

Taruhan itu sejak situ telah menarik $7.3 bilion dalam pendanaan, menghasilkan keluarga model Claude, dan mendapatkan Anthropic pada penilaian yang dilaporkan $184 bilion pada akhir 2025.

Tetapi soalan yang lebih menarik bukan pengumpulan dana. Ia adalah sama ada tesis "keselamatan pertama" itu sebenarnya model kepemimpinan atau kedudukan pemasaran. Jawapannya, berdasarkan apa yang telah diterbitkan Anthropic dan bagaimana Amodei menjalankan syarikat, adalah lebih rumit daripada salah satu kerangka cadangan.

Pecahan Gaya Kepemimpinan

Organisasi yang didorong misi paling banyak hanyut ke arah misi apabila keadaan berjalan lancar dan ke arah pragmatisme apabila mereka memerlukan tunai. Apa yang luar biasa tentang Anthropic di bawah Amodei adalah bahawa kerangka pertama keselamatan telah bertahan walaupun tekanan komersial telah meningkat. Sama ada itu terus adalah soalan terbuka.

Sifat-Sifat Kepemimpinan Utama

3 Keputusan yang Menentukan Amodei

1. Meninggalkan OpenAI

Keputusan untuk meninggalkan OpenAI pada 2021 adalah ungkapan yang paling jelas tentang model kepemimpinan berasaskan nilai Amodei.

Dia tidak dipecat. Dia tidak dipinggirkan. Dia adalah VP Penyelidikan di makmal AI paling terkemuka di dunia, bekerja pada GPT-3, yang telah mengubah trajektori bidang. Dengan metrik konvensional, dia tiada sebab untuk pergi.

Alasannya yang dinyatakan adalah bahawa struktur organisasi dan insentif komersial mewujudkan tekanan yang dia percaya akan menjejaskan penyelidikan keselamatan yang dia anggap perlu. Dia berpikir Anthropic perlu beroperasi di bawah kekangan yang berbeza — khususnya, kekangan di mana penyelidikan keselamatan tidak terus bersaing untuk sumber daya terhadap pelan waktu produk dan komersial.

Itu adalah taruhan nilai kos tinggi. Berhenti daripada peranan senior di organisasi trajektori tinggi kerana perselisihan struktur — bukan yang peribadi, bukan pelanggaran etika, tetapi keyakinan tentang model organisasi yang betul untuk membangun AI berkuasa — bukanlah langkah kepemimpinan yang biasa. Kebanyakan orang merasionalisasikan tinggal. Amodei tidak.

Apa yang ini tunjukkan: dia bersedia untuk membayar kos peribadi dan profesional yang ketara untuk bertindak menurut keyakinan struktur. Itulah orang yang sama yang membina RSP ke dalam piagam Anthropic. Konsistensi antara kepercayaan yang dinyatakannya dan keputusan sebenarnya adalah luar biasa tinggi.

2. Constitutional AI

Pada 2022, Anthropic menerbitkan rangka kerja Constitutional AI. Ideanya mudah tetapi teknik sukar: berbanding melatih Claude semata-mata pada maklum balas manusia (RLHF), mereka juga akan melatih model untuk menilai keluarnya sendiri terhadap satu set prinsip — "perlembagaan" — dan mengubahnya mengikutnya.

Ini adalah taruhan penyelidikan sebenar, bukan pengumuman ciri. Ia memerlukan pengiraan ketara, menghasilkan hasil yang tidak pasti pada awalnya, dan tidak mempunyai jaminan pembayaran komersial. Hujah untuk melakukannya adalah bahawa RLHF sahaja mewujudkan penjajaran rapuh — model belajar untuk memuaskan manusia yang menilai mereka, bukan untuk menyerap prinsip. Constitutional AI adalah percubaan untuk membina sesuatu yang lebih kokoh.

Implikasi komersial adalah nyata: Claude menjadi terkenal dalam pasaran untuk menjadi pemikiran, bernuansa, dan kurang terdedah kepada kategori tertentu hasil problematik daripada model bersaing. Itu bukan pemasaran. Ia adalah perbezaan produk yang mengesan langsung kepada keputusan penyelidikan Amodei dua tahun lebih awal.

Untuk pengendali, pelajarannya adalah tentang hubungan antara pelaburan asas dan pembeza produk hiliran. Constitutional AI kelihatan seperti kos penyelidikan pada 2022. Pada 2024, ia adalah kelebihan produk dalam kontrak perusahaan di mana pelanggan berhati-hati tentang penanda aras keandalan dan keselamatan.

3. Penskalaan dengan Kekangan

Anthropic telah mengumpul $7.3 bilion dan membina beberapa sistem AI yang paling intensif pengkomputeran wujud. Itu bukan apa yang kelihatan seperti "keselamatan pertama" dalam bacaan naif.

Tetapi hujah Amodei adalah spesifik: anda tidak boleh melakukan penyelidikan keselamatan sempadan yang bermakna tanpa keupayaan sempadan. Jika anda cuba mengkaji sama ada sistem AI adalah menipu atau tidak selaras, anda memerlukan sistem yang cukup berkuasa untuk menunjukkan sifat-sifat itu. Merencana pengkomputeran kurang tidak menjadikan penyelidikan keselamatan lebih ketat. Ia membuatnya kurang relevan.

RSP — Dasar Penskalaan Bertanggungjawab — adalah mekanisme struktur yang memegang ketegangan bersama. Ia melibatkan Anthropic kepada ambang keupayaan spesifik di luar mana mereka tidak akan menyebarkan melainkan penilaian keselamatan lulus. Ambang itu diterbitkan. Kriteria adalah awam. Jika model Claude melintasi tahap keupayaan yang ditentukan dan penilaian keselamatan tidak menjelaskannya, penyebaran berhenti.

Itu bukan jaminan keselamatan. Ia adalah komitmen struktur yang mewujudkan akauntabiliti. Dan ia adalah mekanisme yang membenarkan Amodei berhujah, dengan kredibiliti, bahawa skala pelaburan adalah dalam perkhidmatan tesis keselamatan dan bukannya percanggahan dengannya.

Apa Amodei Akan Lakukan dalam Peranan Anda

Jika anda seorang CEO, pelajaran Amodei yang paling boleh dipindahkan adalah struktur: organisasi anda akan bertindak secara konsisten dengan insentifnya, bukan nilai-nilai yang dinyatakannya, di bawah tekanan. Satu-satunya cara untuk menjadikan nilai tahan lama adalah membinanya ke dalam struktur. Amodei tidak hanya mengatakan Anthropic adalah keselamatan-pertama. Dia membina RSP, menerbitkannya secara eksternal, dan membuatnya kekangan mengikat. Jika syarikat anda mempunyai nilai yang penting kepada anda, tanyakan sama ada ia adalah struktur atau aspirasi. Nilai aspirasi hilang pada Q3 apabila anda ketinggalan sasaran. Struktur yang memegang.

Jika anda seorang COO, pembahagian kerja Daniela/Dario adalah bernilai mengkaji. Daniela Amodei menjalankan operasi, kemitraan, dan fungsi komersial. Dario memiliki arah penyelidikan dan produk. Itu adalah pemisahan yang bersih yang membenarkan setiap saudara beroperasi dalam zon kekuatan mereka tanpa melangkah pada hak keputusan satu sama lain. Jika anda menjalankan ops untuk pengasas teknikal, pekerjaan anda adalah untuk menjadikan visi teknikal boleh dilaksanakan tanpa menggabungnya. Model pengasas bersama Anthropic adalah contoh fungsi kemitraan itu bekerja.

Jika anda dalam produk, cerita Constitutional AI adalah pelajaran dalam kesabaran dengan taruhan asas. Ciri yang membeza produk anda pada tahun empat sering merupakan pelaburan penyelidikan yang kelihatan seperti overhed pada tahun dua. Jika anda memotong kerja asas kerana ia tidak mempunyai pembayaran berdekatan yang jelas, anda mengoptimalkan untuk suku ini dengan mengorbankan parit produk yang akan sebaliknya boleh dipertahankan.

Jika anda dalam jualan atau pemasaran, kedudukan Anthropic adalah kajian kes yang menarik dalam memimpin dengan keyakinan daripada ciri. Pitnya untuk Claude dalam perusahaan pada dasarnya: "Kami membinanya secara berbeza dan anda boleh mengesahinya." RSP adalah awam. Penyelidikan Constitutional AI adalah diterbitkan. Penanda aras keselamatan adalah mendedahkan. Itu adalah gerakan jualan yang berbeza daripada "kami mempunyai penanda aras terbaik." Ia menjual tesis, yang memerlukan orang jualan yang benar-benar memahaminya.

Bagaimana Rework Menggunakan Model Ini

Playbook Amodei — reka bentuk pertama keselamatan ditambah kedudukan berbeza — peta langsung kepada bagaimana Rework menghampiri pembangunan produk pertama kepercayaan. Perisian pengurusan kerja duduk di atas data operasi paling sensitif syarikat: saluran perjanjian, komunikasi pelanggan, prestasi pasukan, ramalan hasil. Merawat data itu secara santai adalah lalai dalam kategori. Rework menganggapnya sebagai kekangan.

Itu ditunjukkan dalam cara konkrit: kebenaran berperanan berbutir halus dibina ke dalam model data daripada dibaut, jejak audit adalah lalai-pada untuk tindakan sensitif, dan komitmen kediaman data adalah diterbitkan daripada dirundingkan setiap kontrak. Seperti Anthropic, Rework memimpin dengan isyarat kepercayaan yang boleh disahkan daripada pemasaran kiraan ciri — halaman harga dan kedudukan keselamatan adalah awam, bukan dikunci di sebalik panggilan jualan. Untuk pengendali menilai alat CRM dan kerja ops, ketelusan itu adalah isyarat pembeli. Keyakinan yang boleh anda sahkan mengalahkan penanda aras yang anda harus percaya dengan iman.

Petikan Terkenal & Pelajaran Seterusnya di Sebalik Dewan Pengarah

Amodei telah luar biasa langsung dalam penulisan awam tentang kepentingan dia percaya sedang dimainkan. Dalam eseinya pada 2024 "Mesin Kasih Sayang," dia berhujah bahawa AI boleh memampat 50-100 tahun kemajuan saintifik ke dalam kurang daripada satu dekad, berpotensi menyelesaikan kategori penyakit utama dan secara drastik mengurangkan kemiskinan global. Dia berkata ini bukan sebagai pitch pengambilan tetapi sebagai kepercayaan literal tentang apa yang boleh dilakukan oleh teknologi.

Jenis kejujuran intelektual awam itu — inilah apa yang saya benar-benar fikir mungkin, inilah risiko, inilah mengapa saya membinanya pula — jarang dalam pemimpin eksekutif teknologi yang biasanya menguruskan pemesejan dengan hati-hati.

Dia juga telah mengatakan, dalam pelbagai konteks temu bual: "Saya fikir jika kami tidak berhati-hati, kami boleh membina sesuatu yang tidak selaras dengan nilai manusia dalam cara yang kami tidak sepenuhnya fahami." Perkara yang luar biasa adalah bahawa dia berkata ini sambil secara aktif membina sistem yang dimaksudkan. Itu bukan ketidakpadanan kognitif. Ia adalah hujah spesifik: seseorang akan membina sistem ini, dan ia sepatutnya orang yang mengambil risiko dengan serius.

Pelajaran untuk pengendali adalah tentang hubungan antara keyakinan dan kejujuran. Amodei tidak menyembunyikan keburukan tesis itu untuk membuat pengumpulan dana lebih mudah. Dia menyatakan keburukan dan membuat kes afirmatif pula. Itu membina kredibiliti dengan orang yang paling ragu — kerana mereka boleh melihat dia tidak berpura-pura kebimbangan tidak wujud.

Tempat Gaya Ini Pecah

Ketegangan inti dalam model Amodei adalah satu yang dia tidak boleh sepenuhnya selesaikan. Anthropic memerlukan hasil komersial untuk membiayai penyelidikan keselamatan, yang bermaksud Claude perlu bersaing dengan GPT-4o dan Gemini untuk kontrak perusahaan yang sama. Tekanan komersial itu mewujudkan dinamik insentif yang sama yang dia tinggalkan OpenAI untuk mengelak. Ia hanya ditangguhkan, bukan dihapuskan.

RSP adalah kekangan sebenar, tetapi ia tidak sepenuhnya menyelesaikan masalah. Ambang penyebaran penerbitan mewujudkan akauntabiliti, tetapi ambang itu ditentukan sendiri. Majlis penyelidikan yang menilai pencapaian keselamatan adalah dalaman. Tidak ada mekanisme pengesahan luaran.

Dan saluran penyelidikan-ke-produk adalah lebih perlahan daripada OpenAI. Anthropic telah menghantar model cemerlang, tetapi halaju pada ciri produk — perkara seperti penyepaduan, peralatan, dan ekosistem pembangun — telah tertinggal. Budaya pertama keselamatan yang juga menyeluruh adalah lebih sukar untuk terus bergerak cepat. Itu adalah liabiliti kompetitif sebenar dalam pasaran di mana kecepatan penting.

Ketahui Lebih Lanjut

• Constitutional AI: Bagaimana Anthropic Melatih Model pada Prinsip
• Tadbir AI untuk Eksekutif: Apa yang Perlu Difahami Lembaga Pengarah
• Gaya Kepemimpinan Sam Altman: Bagaimana CEO OpenAI Menavigasi Taruhan Teknologi Paling Penting Dekad
• Gaya Kepemimpinan Demis Hassabis: Taruhan Jangka Panjang, Penyelidikan Dalam
• Gaya Kepemimpinan Elon Musk: Pemilikan Ekstrem pada Skala Tamadun
• Kesediaan Pasukan AI: Bagaimana Membina Organisasi Berkebolehan AI
• Gaya Kepemimpinan Fei-Fei Li: Membina AI yang Melayani Kemanusiaan