Lapisan Aplikasi berbanding Lapisan Model dalam AI

Lapisan Aplikasi AI berbanding Lapisan Model: Apa Bezanya? digambarkan oleh bangku kerja siap dan enjin keupayaan.

Turn this article into takeaways for your work.

Each assistant summarizes the article only for you and suggests best practices for your work.

Setiap syarikat permulaan AI berada di suatu tempat pada sebuah timbunan. Ada yang membina cip dan pusat data. Ada yang melatih model besar yang disewa oleh semua orang lain. Ada yang menyambungkan model itu ke dalam alat, dan ada yang menjual produk siap kepada pelanggan yang tidak pernah mendengar tentang token. Lapisan yang anda pilih menentukan berapa banyak modal yang diperlukan, seberapa pantas kos anda menurun, dan siapa yang boleh menyalin anda.

Frasa "lapisan aplikasi berbanding lapisan model" ialah singkatan bagi pilihan terpenting pada peta itu. Lapisan model mahal, didorong skala, dan sesak dengan gergasi. Lapisan aplikasi lebih murah untuk dimasuki, lebih dekat dengan pelanggan, dan terdedah kepada risiko berbeza: lapisan di bawah anda boleh mengubah apa yang mungkin dalam semalam.

Artikel ini menggariskan empat lapisan, kos untuk bersaing dalam setiap satu, dan bagaimana pelabur teroka serta penyelidik berhujah tentang penyebaran nilai merentasinya. Jika anda menjalankan syarikat B2B dan memutuskan sama ada untuk membina dengan AI, atau menilai syarikat permulaan dalam bidang ini, inilah peta untuk disimpan dalam fikiran.

Timbunan AI generatif dalam empat lapisan

Kebanyakan analisis timbunan menggunakan tiga lapisan: infrastruktur, model dan aplikasi. Firma a16z menerangkan pembahagian tepat itu pada Januari 2023: aplikasi yang membawa model kepada pengguna, model itu sendiri (ditawarkan sebagai API proprietari atau checkpoint sumber terbuka), dan infrastruktur platform awan serta pengeluar perkakasan yang menjalankan latihan dan inferens.

Timbunan AI Generatif Empat Lapisan digambarkan oleh empat lapisan rak terbuka.

Dalam praktik, lapisan keempat telah tumbuh di tengah. Ia perkakas yang menyambungkan model mentah kepada kerja sebenar: pengambilan semula, orkestrasi, penilaian, pagar pelindung, dan saluran paip yang menukar panggilan model menjadi aliran kerja yang boleh diharap. Memisahkannya menjadikan gambaran lebih jelas, kerana banyak syarikat permulaan berada di situ.

Lapisan Apa yang dijual Pelanggan tipikal Intensiti modal Risiko utama
Pengkomputeran dan infrastruktur Cip, kapasiti awan, pengehosan latihan dan inferens Pembina model, perusahaan besar Sangat tinggi Harga komoditi, susut nilai perkakasan
Model asas Model serba guna melalui API atau pemberat terbuka Pembangun, firma perkakas, perusahaan Sangat tinggi Peniruan pantas, harga bagi setiap keupayaan menurun
Perkakas dan orkestrasi Pengambilan semula, rangka kerja ejen, penilaian, pemantauan Pembangun dan pasukan produk Sederhana Diserap ke dalam model atau awan
Aplikasi Produk siap yang menyelesaikan kerja tertentu Pengguna perniagaan dan pengguna Rendah hingga sederhana Pengekalan, pembezaan, himpitan margin

Dua perkara untuk diperhatikan. Pertama, intensiti modal menurun apabila anda bergerak ke atas. Kedua, begitu juga kawalan anda ke atas input. Syarikat aplikasi tidak menetapkan kos model yang digunakannya, dan ia tidak dapat menghalang model daripada menjadi lebih baik pada tugasan yang sama yang dijualnya.

Apa yang sebenarnya dilakukan setiap lapisan

Pengkomputeran dan infrastruktur. Lapisan ini menyediakan kapasiti fizikal dan awan yang memungkinkan segala-galanya. Ia permainan skala: beberapa syarikat dengan kunci kira-kira yang besar, masa pendahuluan perkakasan yang panjang, dan permintaan yang bergantung pada lapisan di atas. Syarikat permulaan jarang menang di sini melainkan mereka membawa pendekatan yang benar-benar berbeza terhadap perkakasan atau penyampaian model dengan cekap.

Model asas. Ini model besar serba guna yang dilatih pada data yang luas. Ia perkara paling hampir dengan enjin dalam timbunan. Sebuah makmal melatih satu model dan kemudian menjual akses kepadanya untuk beribu-ribu kes penggunaan. Kerana model yang sama melayani ramai pembeli, ekonominya memberi ganjaran kepada sesiapa yang mempunyai modal, pengkomputeran dan bakat terbanyak, sekurang-kurangnya di sempadan.

Perkakas dan orkestrasi. Ini perisian tengah. Contoh arketip yang baik ialah syarikat yang membantu pasukan menilai sama ada jawapan model tepat, atau yang menguruskan saluran paip pengambilan semula yang menyuap dokumen pelanggan kepada model. Ia melayani pembina, bukan pengguna akhir, jadi nasibnya terikat dengan bilangan pembina.

Lapisan aplikasi. Di sini produknya ialah kerja yang siap, bukan model. Alat semakan kontrak yang dibina di atas model asas pihak ketiga, pembantu sokongan yang dilatih pada pusat bantuan syarikat, pembantu pengekodan dalam editor: masing-masing membungkus keupayaan model dalam aliran kerja, antara muka pengguna dan sambungan data yang sebenarnya dibeli oleh perniagaan. Jika anda ingin tahu bagaimana versi paling nipis lapisan ini dikritik, kami membincangkannya dalam AI wrapper berbanding AI-native.

Di mana syarikat permulaan bersaing dan berapa kosnya

Kos masuk berbeza mengikut beberapa tertib magnitud. Epoch AI menganggarkan pada Jun 2024 bahawa kos perkakasan dan tenaga yang dilunaskan bagi larian latihan akhir model sempadan telah berkembang pada 2.4 kali setahun sejak 2016, dan memberi amaran bahawa larian latihan terbesar akan menelan lebih satu bilion dolar menjelang 2027. Pecahan Epoch bagi model utama meletakkan perkakasan pada 47 hingga 67 peratus kos pembangunan, kakitangan pada 29 hingga 49 peratus, dan tenaga pada 2 hingga 6 peratus. Itu unjuran dari 2024, jadi anggaplah ia sebagai arah dan bukan tanda harga semasa. Tetapi arah itu menerangkan mengapa lapisan asas kelihatan seperti sekarang: segelintir makmal bermodal besar, ditambah usaha pemberat terbuka yang disokong syarikat besar.

Di Mana Syarikat Permulaan AI Boleh Bersaing digambarkan oleh pintu masuk kecil di sebelah asas yang besar.

Bagi pengasas tipikal dengan pasukan 20 orang dan pusingan seed atau Series A, pengiraan itu menyingkirkan perlumbaan model sempadan. Yang tinggal ialah lapisan aplikasi dan perkakas, serta tepi lapisan model yang lebih murah (model khusus kecil, fine-tune pemberat terbuka). Jika anda menimbang sama ada untuk menyesuaikan model atau mengemudikannya dengan prompt, fine-tuning berbanding prompting untuk ejen membimbing anda melalui keputusan itu.

Mengapa lapisan aplikasi terasa lebih mudah dicapai? Kerana harga keupayaan terus menurun di bawahnya. Stanford AI Index melaporkan dalam edisi 2025 bahawa kos inferens bagi sistem yang menyamai model kelas sempadan awal 2023 menurun lebih 280 kali ganda antara November 2022 dan Oktober 2024, dan kos perkakasan menurun 30 peratus setiap tahun. Produk yang tidak ekonomik pada 2022 boleh menguntungkan menjelang anda melancarkannya. Edisi terbaru menunjukkan industri kini menghasilkan lebih 90 peratus model sempadan yang ketara, yang memberitahu anda siapa yang berbelanja untuk menolak sempadan, dan mengapa pasaran selebihnya menganggapnya sebagai input yang diberikan.

Fakta Utama: Lapisan Timbunan AI

Bagaimana nilai dihujahkan terkumpul

Jawapan jujurnya ialah hujah itu telah beralih, dan masih beralih. Tiga gambaran menunjukkan peralihan itu.

Awal 2023: infrastruktur menang dahulu. Analisis a16z yang dipetik di atas menyimpulkan bahawa vendor infrastruktur berkemungkinan pemenang terbesar setakat ini. Aplikasi menunjukkan pertumbuhan hasil teratas yang kukuh tetapi bergelut dengan pengekalan, pembezaan produk dan margin kasar, dan pembekal model belum mencapai skala komersial yang besar. Pada ketika itu, wang yang mengalir melalui timbunan kebanyakannya berhenti di bawah.

Akhir 2023: lapisan aplikasi memerlukan parit pertahanan sendiri. Generative AI's Act Two daripada Sequoia (September 2023) menyatakan penulisnya telah menjangka syarikat aplikasi dan model asas akan berpisah dengan jelas, tetapi ini belum berlaku, dan aplikasi menghadap pengguna yang paling berjaya sejak awal telah disepadukan secara menegak. Ia berhujah bahawa aliran kerja dan rangkaian pengguna kelihatan mencipta kelebihan yang lebih tahan lama daripada data, kerana generasi seterusnya model asas boleh memadam parit data. Ia juga menandakan pengekalan yang lemah: median aplikasi AI generatif menunjukkan nisbah pengguna aktif harian kepada bulanan 14 peratus, jauh di bawah aplikasi pengguna terbaik.

Pertengahan 2024: bil infrastruktur perlu dibayar. AI's $600B Question daripada Sequoia (Jun 2024) berhujah bahawa modal yang dibelanjakan untuk GPU jauh melebihi hasil yang dijana produk AI, dan menerangkan jurang sekitar $500 bilion setahun. Pandangannya tentang nilai ialah harga pengkomputeran yang menurun baik untuk pembina dan inovasi jangka panjang, tetapi buruk untuk pelabur yang bertaruh harga akan kekal.

Akhir 2025: perbelanjaan mengalir ke aplikasi. Laporan perusahaan 2025 Menlo Ventures mendapati lebih separuh perbelanjaan AI generatif perusahaan, $19 bilion daripada $37 bilion, menuju ke lapisan aplikasi. Di dalamnya, AI mendatar mengambil $8.4 bilion, AI jabatan $7.3 bilion, dan AI menegak $3.5 bilion. Laporan itu juga mendapati pembeli AI bertukar pada kadar 47 peratus berbanding 25 peratus bagi perisian tradisional.

Letakkan gambaran itu bersebelahan dan anda mendapat corak yang berguna, walaupun sementara. Pada awalnya, dolar berkumpul di tempat input yang terhad berada. Apabila input menjadi lebih murah dan model menjadi cukup baik, belanjawan perusahaan bergerak ke arah produk yang menyiapkan kerja. Tiada satu pun sumber ini ialah ramalan masa depan, dan masing-masing ialah pandangan satu firma, sering dengan kepentingan dalam jawapannya. Tetapi arahnya cukup konsisten untuk dirancang berdasarkannya.

Ekonomi setiap lapisan

Inilah cara wang cenderung berfungsi pada setiap peringkat, berdasarkan sumber di atas dan logik ekonomi unit piawai.

Ekonomi Lapisan AI digambarkan oleh empat bekas kos yang berbeza.

Lapisan Bentuk hasil Bentuk kos Apa yang menentukan margin
Pengkomputeran dan infrastruktur Berasaskan penggunaan, kontrak besar Modal pendahuluan yang besar, susut nilai perkakasan Penggunaan dan kuasa penetapan harga
Model asas Penggunaan API, pelesenan Larian latihan, kakitangan, kos penyampaian Skala, kecekapan, pembezaan keupayaan
Perkakas dan orkestrasi Langganan, peringkat penggunaan Berat kejuruteraan, perbelanjaan awan sederhana Sama ada ia kekal sebagai produk berasingan
Aplikasi Kerusi, penggunaan, hasil Penggunaan model bagi setiap pelanggan, sokongan, jualan Berapa banyak kos model yang boleh anda salurkan

Bagi syarikat aplikasi, angka terpenting ialah margin kasar. Perisian secara sejarah dihargai untuk margin pada tahap 70-an dan 80-an. Produk AI membawa kos berubah pada setiap penggunaan, kerana setiap permintaan memanggil model. Itulah sebabnya dapatan awal a16z bahawa 20 hingga 40 peratus hasil menuju ke inferens dan fine-tuning penting: ia bermakna profil margin perisian lama tidak terpakai secara automatik. Sama ada itu masih julat yang betul hari ini bergantung pada produk, campuran model dan cara penggunaan dihargai, jadi semak angka semasa bagi mana-mana syarikat yang anda nilai dan bukan membuat andaian.

Terdapat kesan kedua. Kerana lapisan model semakin murah bagi setiap unit keupayaan, kos aplikasi boleh menurun tanpa sebarang kerja di pihak anda. Tetapi begitu juga kos pesaing anda, dan harga yang akan diterima pelanggan. Harga input yang menurun membantu setiap pemain baharu di lapisan aplikasi, yang menjadikan pembezaan datang dari tempat selain model itu sendiri.

Lapisan aplikasi berbanding lapisan model: cara memilih

Anggap keputusan itu sebagai tiga soalan.

Lapisan Aplikasi AI berbanding Lapisan Model: Cara Memilih digambarkan oleh kunci aliran kerja dan acuan model khusus.

Adakah anda mempunyai sebab untuk memiliki model? Jika kelebihan anda ialah keupayaan yang tidak dapat disampaikan model am, seperti domain sempit dengan data proprietari dan keperluan kawalan ketat ke atas kependaman atau privasi, model khusus atau yang di-fine-tune mungkin wajar ada dalam timbunan anda. Jika kelebihan anda ialah memahami aliran kerja pelanggan, menyewa model biasanya pertaruhan yang lebih baik. Pertukaran ini dibincangkan dalam beli berbanding bina untuk ciri AI SaaS.

Di mana kelebihan tahan lama anda berada? Hujah Sequoia tentang aliran kerja dan rangkaian pengguna menunjuk kepada lapisan aplikasi, di mana kelebihan boleh datang daripada pengedaran, integrasi dengan sistem pelanggan, dan kepercayaan yang dibina dari semasa ke semasa. Kelebihan model boleh disamai oleh keluaran seterusnya. Aliran kerja yang tertanam dalam rutin harian pasukan lebih sukar dialihkan. Untuk rangka kerja di sebalik pemikiran itu, lihat kedudukan persaingan.

Sejauh mana anda terdedah kepada lapisan di bawah? Setiap aplikasi bergantung pada pembekal model, dan setiap pembina model bergantung pada pengkomputeran. Memetakan rantaian nilai produk anda sendiri menunjukkan pembekal mana yang boleh anda tukar dan mana yang tidak. Syarikat yang boleh bertukar antara model mengekalkan kuasa tawar-menawar, dan syarikat yang tidak boleh hanya satu perubahan harga daripada masalah margin.

Ujian berguna: jika model di bawah produk anda bertambah baik sepuluh kali ganda suku tahun depan, adakah perniagaan anda menjadi lebih kuat atau lenyap? Jika ia menjadi lebih kuat kerana anda memiliki aliran kerja, hubungan pelanggan dan data, anda sedang membina aplikasi yang tahan lama. Jika ia lenyap kerana seluruh produk anda hanyalah satu prompt bijak, anda sedang membina sesuatu yang rapuh. Kami meneliti kes kedua itu dalam AI wrapper berbanding AI-native.

Lapisan berbanding fokus: menegak dan mendatar

Lapisan yang anda pilih ialah satu paksi. Paksi lagi satu ialah keluasan. Aplikasi mendatar melayani satu fungsi merentasi industri, dan aplikasi menegak melayani satu industri secara mendalam. Pembahagian 2025 Menlo menunjukkan kedua-duanya mempunyai belanjawan sebenar, dengan mendatar pada $8.4 bilion dan menegak pada $3.5 bilion. Kami membandingkan kedua-duanya dalam AI menegak berbanding AI mendatar, dan cara setiap lapisan menjana wang terdapat dalam model perniagaan syarikat permulaan AI.

Salah tafsir biasa tentang timbunan

"Lapisan model akan mengambil segala-galanya." Menggoda untuk berfikir makmal akan menyerap setiap kes penggunaan. Analisis Sequoia menunjuk ke arah sebaliknya: aplikasi paling berjaya disepadukan secara menegak, yang mencadangkan bahawa memiliki aliran kerja dan pengguna sama pentingnya dengan model. Tetapi risikonya nyata bagi produk nipis, kerana model yang bertambah baik pada sesuatu tugasan boleh memadam produk yang dibina atas jurang itu.

"Lapisan aplikasi hanyalah wrapper." Sesetengah aplikasi memang begitu. Banyak yang bukan. Produk yang tertanam dalam sistem syarikat, mengumpul konteksnya, dan mempelajari prosesnya melakukan jauh lebih banyak daripada menghantar teks kepada model. Kritikan itu tepat untuk kes paling nipis dan tidak adil untuk selebihnya.

"Infrastruktur sentiasa menang." Analisis 2023 mendapati infrastruktur menangkap kebanyakan dolar, dan itu benar untuk ketika itu. Tetapi analisis 2024 berhujah bahawa asas hasil belum mengejar perbelanjaan, dan data 2025 menunjukkan belanjawan perusahaan condong ke arah aplikasi. Kedudukan dalam timbunan beralih dari semasa ke semasa.

"Pilih satu lapisan dan kekal di situ." Banyak syarikat merentangi lapisan. Aplikasi menegak boleh men-fine-tune model kecil, dan syarikat model boleh melancarkan aplikasinya sendiri. Timbunan ialah cara memahami kebergantungan dan ekonomi, bukan satu set dinding.

Maksudnya untuk pengasas

Mulakan dengan kerja pelanggan, bukan lapisan. Pilih lapisan yang membolehkan anda menyelesaikan kerja itu dengan modal paling sedikit dan kelebihan paling tahan lama, kemudian reka untuk lapisan di sekeliling anda berubah. Pastikan pembekal model anda boleh diganti, ukur margin kasar anda bagi setiap pelanggan dari hari pertama, dan bina bahagian produk yang tidak dapat disalin model yang lebih baik: integrasi anda, aliran kerja anda, kedudukan data anda dan hubungan anda.

Timbunan juga sasaran yang bergerak. Harga bagi setiap unit keupayaan menurun, bilangan model yang cekap bertambah, dan belanjawan perusahaan bergerak ke arah produk yang menyiapkan kerja. Semak semula pilihan lapisan anda sekurang-kurangnya setahun sekali.

Bacaan Berkaitan

Soalan Lazim tentang Lapisan Aplikasi AI berbanding Lapisan Model

Apakah perbezaan antara lapisan aplikasi dan lapisan model dalam AI?

Lapisan model melatih dan menyampaikan model serba guna yang boleh digunakan banyak produk. Lapisan aplikasi membungkus keupayaan model ke dalam produk siap untuk kerja tertentu, dengan aliran kerja, antara muka dan sambungan data pelanggan. Syarikat model menjual keupayaan, dan syarikat aplikasi menjual hasil.

Di mana syarikat permulaan AI biasanya bersaing?

Kebanyakan syarikat permulaan bersaing di lapisan aplikasi dan perkakas, kerana latihan model sempadan memerlukan modal yang besar. Epoch AI menganggarkan kos latihan sempadan telah berkembang 2.4 kali setahun sejak 2016 dan mengunjurkan larian melebihi satu bilion dolar menjelang 2027. Pasukan lebih kecil biasanya menyewa model atau men-fine-tune yang terbuka.

Lapisan mana yang menangkap nilai terbanyak?

Ia bergantung pada tempoh dan sumber. a16z menyimpulkan pada awal 2023 bahawa vendor infrastruktur menangkap kebanyakan dolar, manakala Menlo Ventures mendapati pada akhir 2025 bahawa $19 bilion daripada $37 bilion perbelanjaan AI generatif perusahaan menuju ke aplikasi. Setiap satu ialah pandangan satu firma, jadi anggaplah ia bukti, bukan fakta mutlak.

Adakah aplikasi AI hanyalah wrapper di sekeliling model?

Sesetengah memang begitu, dan itulah yang paling terdedah apabila model bertambah baik. Yang lain tertanam dalam sistem pelanggan, mempelajari aliran kerja mereka, dan menyimpan data mereka, yang memberikan kelebihan yang tidak dipadam oleh peningkatan model. Sama ada produk rapuh atau tahan lama bergantung pada apa yang dimilikinya di luar model.

Mengapa margin kasar aplikasi AI berbeza daripada perisian tradisional?

Setiap penggunaan memanggil model, yang mencipta kos berubah. a16z melaporkan pada awal 2023 bahawa syarikat aplikasi membelanjakan sekitar 20 hingga 40 peratus hasil untuk inferens dan fine-tuning bagi setiap pelanggan, dengan margin kasar lebih kerap 50 hingga 60 peratus berbanding 90 peratus. Angka semasa berbeza mengikut produk dan harga, jadi semak untuk setiap syarikat.

Patutkah syarikat permulaan membina modelnya sendiri?

Hanya jika model am tidak dapat menyampaikan keupayaan itu dan anda mempunyai data, bakat dan modal untuk mengekalkannya. Bagi kebanyakan produk B2B, menyewa model dan membina aliran kerja di sekelilingnya lebih murah dan lebih pantas. Anda sentiasa boleh mengkhususkan model kemudian apabila penggunaan membuktikan keperluan.

About the author

Brian Tr

Brian Tr

Co-Founder & COO

Brian Tr is Co-Founder and COO of Rework, with 12+ years in B2B go-to-market and operations. Brian scaled Rework from 0 to 10,000+ B2B customers across CRM and productivity tools. Brian writes for founders and owner-CEOs: startup fundamentals, founder-led and family businesses, partnerships, and how SaaS, marketplace, AI and EdTech companies grow.