Apakah AI Bertanggungjawab? Menukar Niat Baik kepada Amalan Sebenar

Banyak syarikat menerbitkan prinsip etika AI. Jauh lebih sedikit yang mempunyai proses untuk mengesan sama ada algoritma pengambilan pekerja mereka mendiskriminasi kod poskod tertentu, untuk menjelaskan kepada pengawal selia mengapa model pinjaman mereka menolak permohonan tertentu, atau untuk bertindak balas apabila AI perkhidmatan pelanggan mereka mula memberikan nasihat perubatan yang salah.

AI bertanggungjawab ialah jurang antara prinsip dan amalan. Ia adalah apa yang sebenarnya bermaksud mengendalikan sistem AI yang boleh dipertahankan oleh organisasi anda kepada pengawal selia, pelanggan dan pekerja.

Apa Itu AI Bertanggungjawab (dan Apa Yang Bukan)

AI bertanggungjawab ialah kerangka operasi untuk membangunkan dan menggunakan AI dengan cara yang adil, telus, bertanggungjawab dan selamat. Ia merangkumi dasar, proses, alat dan struktur organisasi yang menukar komitmen etika kepada tingkah laku yang boleh disemak.

Ini membezakan AI bertanggungjawab daripada etika AI, yang merupakan bidang falsafah yang lebih luas yang mengkaji implikasi moral AI. Etika menyediakan lapisan "apa yang harus kita hargai". AI bertanggungjawab menyediakan lapisan "bagaimana kita sebenarnya melaksanakannya".

Dan ia berbeza daripada tadbir urus AI, yang merupakan sistem pengawasan dan akauntabiliti untuk AI di peringkat organisasi atau dasar. Tadbir urus adalah struktur siapa yang bertanggungjawab untuk apa. AI bertanggungjawab adalah amalan harian membina dan mengendalikan sistem yang mana struktur tadbir urus bertanggungjawab.

Perbezaan ini penting kerana organisasi boleh mempunyai prinsip etika dan struktur tadbir urus yang cemerlang dan masih menggunakan AI yang menyebabkan kemudaratan sebenar, kerana tiada sesiapa yang menterjemahkan prinsip kepada keperluan kejuruteraan dan operasi yang konkrit.

Responsible AI Standard Microsoft, program pelaksanaan AI Principles Google dan toolkit AI Fairness 360 IBM semuanya adalah contoh kerja terjemahan ini yang dijadikan praktikal.

Enam Dimensi

Program AI bertanggungjawab di syarikat teknologi utama dan pengawal selia telah menumpu kepada set dimensi yang lebih kurang sama, walaupun penamaan berbeza-beza:

Keadilan bermakna bahawa sistem AI tidak secara sistematik merugikan kumpulan yang dilindungi atau menghasilkan keputusan yang berat sebelah dengan cara yang tidak akan diluluskan oleh organisasi. Ini memerlukan ujian konkrit: mengukur sama ada kadar ralat, kadar kelulusan atau kualiti output model berbeza secara ketara merentasi kumpulan demografi. Keadilan bukan satu kriteria tunggal; ia adalah keluarga definisi yang tidak serasi secara matematik yang mana pasukan mesti memilih berdasarkan kes penggunaan.

Ketelusan dan kebolehteranganan bermakna bahawa orang yang terjejas oleh keputusan AI boleh memahami mengapa keputusan tersebut dibuat, dan pengendali boleh mengaudit sistem AI untuk memahami tingkah lakunya. Teknik AI Boleh Diterangkan menjadikan ini mungkin secara teknikal; program AI bertanggungjawab menjadikannya keperluan secara operasi. Bagi banyak industri yang dikawal selia, ini bukan pilihan: EU AI Act, ECOA dan Artikel 22 GDPR mewujudkan keperluan undang-undang untuk penjelasan.

Akauntabiliti bermakna pemilikan yang jelas untuk tingkah laku sistem AI. Apabila keputusan yang dibantu AI menyebabkan kemudaratan, program AI bertanggungjawab mempunyai proses untuk menyiasat apa yang berlaku, siapa yang bertanggungjawab dan bagaimana mencegah pengulangan. Ini memerlukan jejak audit AI yang merekodkan data apa yang digunakan, versi model mana yang membuat ramalan mana dan keputusan manusia apa yang dibuat bersama output AI.

Keselamatan dan kebolehpercayaan bermakna sistem AI berkelakuan secara boleh diramal dalam had yang ditentukan dan gagal dengan baik apabila menghadapi situasi di luar latihan mereka. AI guardrails adalah pelaksanaan teknikal; ujian keselamatan dan red-teaming adalah kaedah pengesahan.

Privasi bermakna sistem AI mengendalikan data peribadi dengan sewajarnya, mengehadkan pengumpulan data kepada yang perlu dan menghormati hak individu ke atas maklumat mereka. Ini berinteraksi secara intensif dengan program tadbir urus data dan pematuhan.

Inklusiviti bermakna sistem AI direka dengan dan untuk populasi pengguna yang pelbagai, bukan hanya demografi yang mendominasi pasukan pembangunan dan ujian.

Cara Program AI Bertanggungjawab Berfungsi dalam Amalan

Program AI bertanggungjawab yang matang beroperasi pada tiga peringkat:

Pada peringkat tadbir urus, terdapat struktur untuk siapa yang meluluskan penggunaan AI berisiko tinggi, kriteria semakan apa yang mereka gunakan dan apa yang berlaku apabila kebimbangan dibangkitkan. Ini boleh menjadi lembaga etika AI, jawatankuasa AI bertanggungjawab atau center of excellence dengan kuasa semakan. Tanpa struktur ini, setiap pasukan membuat keputusan risiko sendiri tanpa konsistensi.

Pada peringkat pembangunan, keperluan AI bertanggungjawab dibina ke dalam proses pembinaan. Sebelum model masuk ke pengeluaran, ia perlu lulus ujian keadilan pada dimensi demografi yang relevan, mempunyai keperluan kebolehteranganan yang ditakrifkan, mempunyai rantaian akauntabiliti yang didokumentasikan (siapa yang memiliki model ini?) dan mempunyai sempadan keselamatan yang dinyatakan dan diuji. Ini bukan kotak semak sekali; ia adalah keperluan hidup yang dikemas kini apabila sistem berubah.

Pada peringkat operasi, sistem AI yang digunakan dipantau untuk pelanggaran AI bertanggungjawab dalam pengeluaran. Metrik keadilan yang kelihatan baik pada data ujian boleh hanyut apabila populasi dunia nyata yang menggunakan sistem berbeza daripada populasi ujian. Akauntabiliti memerlukan pengetahuan tentang siapa yang dimaklumkan apabila pemantauan mengesan masalah dan betapa cepatnya mereka bertindak balas.

Kes Perniagaan Melampaui Pematuhan

AI bertanggungjawab sering dibingkai sebagai keperluan pematuhan, yang meremehkan nilai perniagaannya.

Ujian keadilan menangkap kegagalan model sebelum ia sampai kepada pelanggan. Algoritma pengambilan pekerja yang mendiskriminasi kumpulan tertentu juga berkemungkinan merupakan algoritma yang membuat ramalan yang buruk, kerana ia menggunakan ciri yang tidak relevan sebagai proksi. Memperbaiki masalah keadilan sering meningkatkan ketepatan keseluruhan.

Ketelusan mengurangkan risiko integrasi. Apabila pengguna perniagaan dapat melihat mengapa AI membuat cadangan, mereka lebih bersedia untuk bertindak berdasarkannya dan lebih cepat menangkap kes di mana cadangan itu salah. Cadangan AI kotak hitam sering diabaikan kerana tiada sesiapa yang mempercayai apa yang tidak dapat mereka fahami.

Akauntabiliti membolehkan tindak balas insiden. Apabila sesuatu yang salah berlaku dengan sistem AI, organisasi dengan struktur akauntabiliti yang kukuh pulih lebih cepat kerana mereka tahu di mana masalahnya, siapa yang bertanggungjawab dan bagaimana keputusan dijejaki. Organisasi tanpa struktur ini menghabiskan berminggu-minggu cuba membina semula apa yang berlaku.

Amalan AI bertanggungjawab juga mengurangkan pendedahan kawal selia. EU AI Act, undang-undang AI peringkat negeri yang muncul di AS dan peraturan khusus sektor dalam kewangan dan penjagaan kesihatan mewujudkan keperluan pematuhan yang memetakan terus kepada dimensi AI bertanggungjawab. Membina amalan ini lebih awal adalah lebih murah daripada memasangnya kemudian di bawah tekanan tarikh akhir kawal selia.

Di Mana Perniagaan Terkandas

Mod kegagalan yang paling biasa ialah perangkap "prinsip tanpa proses": menerbitkan dokumen etika AI, membentuk jawatankuasa dan menganggap kerja selesai. Prinsip tidak menterjemah secara automatik kepada tingkah laku pembangun, keperluan ujian atau proses operasi.

Kegagalan biasa kedua ialah memberi tumpuan kepada model sambil mengabaikan sistem. Model yang adil yang digunakan dalam proses yang tidak adil (di mana outputnya ditafsirkan secara tidak konsisten merentasi kumpulan pengguna, atau di mana ia digunakan untuk membuat keputusan yang tidak direka untuknya) masih boleh menghasilkan keputusan yang diskriminatif. AI bertanggungjawab memerlukan pemeriksaan keseluruhan sistem sosioteknikal, bukan hanya model secara berasingan.

Yang ketiga ialah menganggap AI bertanggungjawab sebagai semakan sekali sahaja. Model hanyut, kes penggunaan berkembang, populasi pengguna berubah. Apa yang bertanggungjawab semasa pelancaran mungkin tidak kekal bertanggungjawab enam bulan kemudian tanpa pemantauan berterusan dan penilaian semula berkala.

Konsep AI Berkaitan

• Etika AI - Asas falsafah yang menjadi sandaran program AI bertanggungjawab
• Tadbir Urus AI - Struktur pengawasan di mana program AI bertanggungjawab beroperasi
• AI Boleh Diterangkan - Kaedah teknikal untuk menjadikan keputusan AI boleh ditafsirkan
• AI Guardrails - Kawalan keselamatan yang menguatkuasakan sempadan AI bertanggungjawab
• Bias dalam AI - Cabaran keadilan teras yang ditangani oleh program AI bertanggungjawab
• Jejak Audit AI - Dokumentasi akauntabiliti untuk keputusan AI
• Manusia dalam Gelung - Mekanisme pengawasan yang menjadi teras penggunaan AI yang bertanggungjawab

Sumber Luaran

• Microsoft Responsible AI Standard - Salah satu kerangka AI bertanggungjawab perusahaan yang paling terperinci
• NIST AI Risk Management Framework - Kerangka kerajaan AS untuk pengurusan risiko AI bertanggungjawab
• Partnership on AI - Organisasi pelbagai pihak yang membangunkan amalan terbaik AI bertanggungjawab

FAQ