Telah diusulkan oleh sejumlah akademisi dan pakar kebijakan agar Dewan Sains Internasional – dengan keanggotaan pluralistiknya yang terdiri dari ilmu-ilmu sosial dan alam – menetapkan suatu proses untuk menghasilkan dan memelihara kerangka kerja/daftar risiko, manfaat, ancaman dan peluang yang dijelaskan. terkait dengan teknologi digital yang bergerak cepat, termasuk – namun tidak terbatas pada – AI. Tujuan dari daftar periksa ini adalah untuk memberikan informasi kepada seluruh pemangku kepentingan – termasuk pemerintah, negosiator perdagangan, regulator, masyarakat sipil dan industri – mengenai kemungkinan skenario masa depan, dan akan menyusun bagaimana mereka dapat mempertimbangkan peluang, manfaat, risiko dan isu-isu lainnya.
ISC dengan bangga menyajikan makalah diskusi tentang evaluasi teknologi digital dan teknologi terkait yang berkembang pesat. Kecerdasan Buatan, biologi sintetik, dan teknologi kuantum adalah contoh utama inovasi, yang didasari oleh ilmu pengetahuan, dan muncul dengan kecepatan yang belum pernah terjadi sebelumnya. Mungkin sulit untuk mengantisipasi secara sistematis tidak hanya penerapannya, namun juga implikasinya.
Mengevaluasi aspek sosial dari AI generatif seperti model bahasa besar, yang diperkirakan mewakili sebagian besar makalah diskusi ini, merupakan jembatan yang diperlukan dalam wacana saat ini – terkadang didorong oleh rasa panik, terkadang tidak cukup mendalam pemikirannya – dan kursus yang diperlukan untuk mengatasi hal tersebut. tindakan yang bisa kita ambil. ISC yakin bahwa kerangka analitis antara penerimaan sosial terhadap teknologi baru dan kemungkinan regulasinya diperlukan untuk memfasilitasi diskusi multipihak yang diperlukan untuk mengambil keputusan yang terinformasi dan bertanggung jawab mengenai cara mengoptimalkan manfaat sosial dari teknologi yang berkembang pesat ini.
ISC terbuka terhadap reaksi komunitas kami melalui makalah diskusi ini untuk menilai cara terbaik untuk terus menjadi bagian dan berkontribusi dalam perdebatan seputar teknologi.
Salvatore Aricò, CEO
Makalah diskusi ISC
Kerangka kerja untuk mengevaluasi teknologi digital dan teknologi terkait yang berkembang pesat: AI, model bahasa besar, dan lainnya
Makalah diskusi ini memberikan garis besar kerangka kerja awal untuk menginformasikan berbagai diskusi global dan nasional yang terkait dengan AI.
Unduh laporannya
Baru! Baca versi 2024 untuk pembuat kebijakan dengan kerangka kerja yang dapat diunduh untuk organisasi Anda.
Panduan bagi pembuat kebijakan: Mengevaluasi teknologi yang berkembang pesat termasuk AI, model bahasa besar, dan lainnya
Makalah diskusi ini memberikan garis besar kerangka kerja awal untuk menginformasikan berbagai diskusi global dan nasional yang terkait dengan AI.
Konten
Pengantar
Teknologi yang berkembang pesat menghadirkan permasalahan yang menantang dalam hal tata kelola dan potensi regulasinya. Kebijakan dan perdebatan publik mengenai kecerdasan buatan (AI) dan penggunaannya telah menjadikan isu-isu ini menjadi fokus utama. Meskipun prinsip-prinsip umum AI telah diumumkan oleh UNESCO, OECD, dan lembaga-lembaga lain, dan terdapat diskusi-diskusi baru mengenai regulasi teknologi secara global atau yurisdiksional, terdapat kesenjangan ontologis antara pengembangan prinsip-prinsip tingkat tinggi dan penggabungannya ke dalam peraturan, kebijakan, dan kebijakan. pendekatan tata kelola dan penatalayanan. Di sinilah komunitas ilmiah non-pemerintah dapat mengambil peran khusus.
Telah diusulkan oleh sejumlah akademisi dan pakar kebijakan agar Dewan Sains Internasional (ISC) – dengan keanggotaan pluralistiknya yang terdiri dari ilmu-ilmu sosial dan alam – menetapkan suatu proses untuk menghasilkan dan memelihara kerangka kerja/daftar periksa risiko, manfaat, dan risiko. ancaman dan peluang yang terkait dengan teknologi digital yang bergerak cepat, termasuk – namun tidak terbatas pada – AI. Tujuan dari daftar periksa ini adalah untuk memberikan informasi kepada seluruh pemangku kepentingan – termasuk pemerintah, negosiator perdagangan, regulator, masyarakat sipil dan industri – mengenai kemungkinan skenario masa depan, dan akan menyusun bagaimana mereka dapat mempertimbangkan peluang, manfaat, risiko dan isu-isu lainnya.
Keluarannya tidak akan berfungsi sebagai badan penilai, namun sebagai kerangka analitis yang adaptif dan berkembang yang dapat mendukung setiap proses penilaian dan peraturan yang mungkin dikembangkan oleh para pemangku kepentingan, termasuk pemerintah dan sistem multilateral. Kerangka analitis apa pun idealnya harus dikembangkan secara independen dari klaim pemerintah dan industri, mengingat kepentingan mereka dapat dimengerti. Perspektifnya juga harus pluralistik secara maksimal, sehingga mencakup semua aspek teknologi dan implikasinya.
Makalah diskusi ini memberikan garis besar kerangka kerja awal untuk menginformasikan berbagai diskusi global dan nasional yang terkait dengan AI.
Latar Belakang: Mengapa diperlukan kerangka analitis?
Pesatnya kemunculan teknologi dengan kompleksitas dan implikasi AI mendorong banyak klaim akan manfaat yang besar. Namun, hal ini juga menimbulkan kekhawatiran akan risiko yang signifikan, mulai dari tingkat individu hingga geostrategis. Sebagian besar diskusi cenderung berlangsung di ujung spektrum pandangan yang ekstrem, dan diperlukan pendekatan yang lebih pragmatis. Teknologi AI akan terus berkembang dan sejarah menunjukkan bahwa hampir setiap teknologi memiliki kegunaan yang menguntungkan dan merugikan. Oleh karena itu, pertanyaannya adalah: bagaimana kita dapat mencapai hasil yang bermanfaat dari teknologi ini, sekaligus mengurangi risiko dampak buruk, yang sebagian di antaranya mungkin bersifat eksistensial?
Masa depan selalu tidak pasti, namun terdapat cukup pendapat yang kredibel dan ahli mengenai AI dan AI generatif untuk mendorong pendekatan yang relatif hati-hati. Selain itu, pendekatan sistem juga diperlukan, karena AI merupakan salah satu kelas teknologi yang penggunaan dan penerapannya luas oleh berbagai jenis pengguna. Artinya, konteks keseluruhannya harus dipertimbangkan ketika mempertimbangkan implikasi AI terhadap individu, kehidupan sosial, kehidupan sipil, kehidupan bermasyarakat, dan dalam konteks global.
Tidak seperti kebanyakan teknologi masa lalu, teknologi digital dan teknologi terkait memiliki periode waktu yang sangat singkat mulai dari pengembangan hingga peluncuran, sebagian besar didorong oleh kepentingan perusahaan atau agensi produksi. AI menyebar dengan cepat; beberapa sifat mungkin baru terlihat setelah dirilis, dan teknologi tersebut dapat memiliki penerapan yang jahat dan baik. Dimensi nilai-nilai penting akan mempengaruhi bagaimana suatu penggunaan dipersepsikan. Selain itu, mungkin terdapat kepentingan geo-strategis yang berperan.
Hingga saat ini, regulasi teknologi virtual sebagian besar dilihat dari kacamata “prinsip” dan kepatuhan sukarela. Namun baru-baru ini, diskusi telah beralih ke permasalahan tata kelola nasional dan multilateral, termasuk penggunaan peraturan dan perangkat kebijakan lainnya. Klaim yang mendukung atau menentang AI sering kali bersifat hiperbola dan – mengingat sifat teknologinya – sulit untuk dinilai. Membangun sistem regulasi teknologi global atau nasional yang efektif akan menjadi sebuah tantangan, dan pengambilan keputusan yang berbasis risiko akan diperlukan di sepanjang rantai teknologi, mulai dari penemu hingga produsen, pengguna, pemerintah, dan sistem multilateral.
Meskipun prinsip-prinsip tingkat tinggi telah diumumkan antara lain oleh UNESCO, OECD, dan Komisi Eropa, dan berbagai diskusi tingkat tinggi mengenai potensi regulasi, terdapat kesenjangan ontologis yang besar antara prinsip-prinsip tersebut dan kerangka tata kelola atau peraturan. Apa saja taksonomi pertimbangan yang mungkin perlu dipertimbangkan oleh regulator? Pembingkaian yang terfokus secara sempit tidaklah bijaksana, mengingat implikasi luas dari teknologi ini. Potensi ini telah mendapat banyak komentar, baik positif maupun negatif.
Pengembangan kerangka analitis
ISC adalah LSM global utama yang mengintegrasikan ilmu pengetahuan alam dan sosial. Jangkauan global dan disiplinnya berarti bahwa lembaga ini mempunyai posisi yang baik untuk menghasilkan saran yang independen dan relevan secara global untuk memberikan masukan bagi pilihan-pilihan kompleks di masa depan, terutama karena suara-suara yang ada saat ini di bidang ini sebagian besar berasal dari industri atau kekuatan teknologi utama. Setelah melakukan diskusi ekstensif selama beberapa bulan terakhir, termasuk pertimbangan proses penilaian non-pemerintah, ISC menyimpulkan bahwa kontribusinya yang paling bermanfaat adalah menghasilkan dan memelihara kerangka analitik adaptif yang dapat digunakan sebagai dasar wacana dan pengambilan keputusan oleh lembaga-lembaga tersebut. semua pemangku kepentingan, termasuk selama proses penilaian formal yang muncul.
Kerangka kerja ini berbentuk daftar periksa menyeluruh yang dapat digunakan oleh lembaga pemerintah dan non-pemerintah. Kerangka kerja ini mengidentifikasi dan mengeksplorasi potensi teknologi seperti AI dan turunannya melalui lensa luas yang mencakup kesejahteraan manusia dan masyarakat, serta faktor eksternal, seperti ekonomi, politik, lingkungan hidup, dan keamanan. Beberapa aspek dalam daftar periksa mungkin lebih relevan dibandingkan aspek lainnya, bergantung pada konteksnya, namun keputusan yang lebih baik akan lebih mungkin diperoleh jika semua aspek dipertimbangkan. Inilah nilai inheren dari pendekatan daftar periksa.
Kerangka kerja yang diusulkan berasal dari penelitian dan pemikiran sebelumnya, termasuk laporan kesejahteraan digital International Network for Governmental Science Advice (INGSA)1 dan Kerangka Klasifikasi AI OECD2 untuk menyajikan keseluruhan potensi peluang, risiko, dan dampak AI. Produk-produk sebelumnya lebih terbatas tujuannya, mengingat waktu dan konteksnya. Oleh karena itu, diperlukan kerangka kerja menyeluruh yang menyajikan berbagai permasalahan baik dalam jangka pendek maupun jangka panjang.
Meskipun dikembangkan untuk mempertimbangkan AI, kerangka analitis ini dapat diterapkan pada teknologi apa pun yang berkembang pesat. Masalah-masalah tersebut secara luas dikelompokkan ke dalam kategori berikut untuk diperiksa lebih lanjut:
Daftar pertimbangan untuk masing-masing kategori di atas disertakan beserta peluang dan konsekuensinya masing-masing. Beberapa di antaranya relevan untuk contoh atau aplikasi AI tertentu, sementara yang lain bersifat umum dan tidak bergantung pada platform atau penggunaan. Tidak ada satu pun pertimbangan yang termasuk di sini yang boleh dianggap sebagai prioritas dan, oleh karena itu, semuanya harus diperiksa.
Bagaimana kerangka kerja ini dapat digunakan?
Kerangka kerja ini dapat digunakan, namun tidak terbatas pada, cara-cara berikut:
Tabel berikut merupakan bentuk awal dimensi kerangka analitik. Tergantung pada teknologi dan penggunaannya, beberapa komponen akan lebih relevan dibandingkan yang lain. Contoh-contoh diberikan untuk mengilustrasikan mengapa setiap domain penting; dalam konteksnya, kerangka kerja ini memerlukan perluasan yang relevan secara kontekstual. Penting juga untuk membedakan antara pengembangan platform dan masalah umum yang mungkin muncul selama aplikasi tertentu.
Dimensi yang perlu dipertimbangkan ketika mengevaluasi teknologi baru
| Draf awal dimensi yang mungkin perlu dipertimbangkan ketika mengevaluasi teknologi baru | ||
| Dimensi dampak | Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| Individu / diri sendiri | Kompetensi AI pengguna | Seberapa kompeten dan sadar akan properti sistem yang mungkin dimiliki pengguna yang akan berinteraksi dengan sistem? Bagaimana mereka akan diberikan informasi dan peringatan pengguna yang relevan? |
| Pemangku kepentingan yang terkena dampak | Siapa saja pemangku kepentingan utama yang akan terkena dampak sistem ini (yaitu individu, komunitas, kelompok rentan, pekerja sektoral, anak-anak, pembuat kebijakan, profesional)? | |
| Opsionalitas | Apakah pengguna diberikan opsi untuk tidak ikut serta dalam sistem; haruskah mereka diberi kesempatan untuk menantang atau memperbaiki hasilnya? | |
| Risiko terhadap hak asasi manusia dan nilai-nilai demokrasi | Dapatkah sistem tersebut berdampak (dan ke arah mana) terhadap hak asasi manusia, termasuk, namun tidak terbatas pada, privasi, kebebasan berekspresi, keadilan, risiko diskriminasi, dan lain-lain? | |
| Potensi dampak terhadap kesejahteraan masyarakat | Apakah sistem ini dapat berdampak (dan ke arah mana) kesejahteraan masing-masing pengguna (yaitu kualitas pekerjaan, pendidikan, interaksi sosial, kesehatan mental, identitas, lingkungan)? | |
| Potensi perpindahan tenaga kerja manusia | Apakah ada potensi sistem untuk mengotomatiskan tugas atau fungsi yang dijalankan oleh manusia? Jika ya, apa dampak hilirnya? | |
| Potensi manipulasi identitas, nilai, atau pengetahuan | Apakah sistem dirancang atau berpotensi mampu memanipulasi identitas pengguna atau nilai-nilai yang ditetapkan, atau menyebarkan disinformasi? Apakah ada potensi klaim keahlian yang salah atau tidak dapat diverifikasi? | |
| Ukuran harga diri | Apakah ada tekanan untuk menampilkan diri yang ideal? Bisakah otomatisasi menggantikan rasa kepuasan pribadi? Apakah ada tekanan untuk bersaing dengan sistem di tempat kerja? Apakah reputasi individu semakin sulit dilindungi dari disinformasi? | |
| Privasi | Apakah terdapat tanggung jawab yang tersebar untuk menjaga privasi dan apakah ada asumsi yang dibuat mengenai bagaimana data pribadi digunakan? | |
| Otonomi | Bisakah sistem ini mempengaruhi otonomi manusia dengan menimbulkan ketergantungan berlebihan pada teknologi di kalangan pengguna akhir? | |
| Perkembangan manusia | Apakah ada dampak perolehan keterampilan utama bagi perkembangan manusia seperti fungsi eksekutif, keterampilan antarpribadi, perubahan waktu perhatian yang memengaruhi pembelajaran, pengembangan kepribadian, masalah kesehatan mental, dll.? | |
| Perawatan kesehatan pribadi | Apakah ada klaim atas solusi layanan kesehatan yang dipersonalisasi? Jika ya, apakah sudah divalidasi sesuai standar peraturan? | |
| Kesehatan mental | Apakah ada risiko peningkatan kecemasan, kesepian, atau masalah kesehatan mental lainnya, atau dapatkah teknologi memitigasi dampak tersebut? | |
| Evolusi manusia | Bisakah teknologi membawa perubahan pada evolusi manusia? | |
| Dimensi dampak | Kriteria | Uraian Teknis |
| Masyarakat/kehidupan sosial | Nilai-nilai sosial | Apakah sistem tersebut secara mendasar mengubah sifat masyarakat atau memungkinkan normalisasi gagasan yang sebelumnya dianggap anti-sosial, atau apakah sistem tersebut melanggar nilai-nilai sosial dari budaya di mana sistem tersebut diterapkan? |
| Interaksi sosial | Apakah ada pengaruhnya terhadap kontak manusia yang bermakna, termasuk hubungan emosional? | |
| Keadilan | Apakah penerapan/teknologi mungkin mengurangi atau meningkatkan kesenjangan (misalnya ekonomi, sosial, pendidikan, geografis)? | |
| Kesehatan populasi | Apakah sistem ini mempunyai potensi untuk memajukan atau melemahkan tujuan kesehatan masyarakat? | |
| Ekspresi budaya | Apakah peningkatan perampasan budaya atau diskriminasi mungkin terjadi atau lebih sulit untuk diatasi? Apakah ketergantungan pada sistem pengambilan keputusan berpotensi mengecualikan atau meminggirkan sebagian masyarakat? | |
| Edukasi publik | Apakah ada pengaruhnya terhadap peran guru atau lembaga pendidikan? Apakah sistem ini menekankan atau mengurangi kesenjangan antar siswa dan kesenjangan digital? Apakah nilai intrinsik dari pengetahuan atau pemahaman kritis ditingkatkan atau diremehkan? | |
| Realitas yang terdistorsi | Apakah metode yang kita gunakan untuk membedakan apa yang benar masih bisa diterapkan? Apakah persepsi terhadap realitas terganggu? | |
| Konteks ekonomi (perdagangan) | Sektor industri | Di sektor industri manakah sistem ini diterapkan (yaitu, keuangan, pertanian, layanan kesehatan, pendidikan, pertahanan)? |
| Model bisnis | Dalam fungsi bisnis manakah sistem tersebut digunakan, dan dalam kapasitas apa? Dimana sistem yang digunakan (swasta, publik, nirlaba)? | |
| Dampak pada aktivitas kritis | Apakah gangguan terhadap fungsi atau aktivitas sistem akan berdampak pada layanan penting atau infrastruktur penting? | |
| Nafas penyebaran | Bagaimana sistem ini diterapkan (secara sempit di dalam suatu organisasi vs tersebar luas secara nasional/internasional)? | |
| Kematangan teknis (TRL) | Seberapa matang sistemnya secara teknis? | |
| Kedaulatan teknologi | Apakah teknologi mendorong konsentrasi kedaulatan teknologi yang lebih besar? | |
| Redistribusi pendapatan dan tuas fiskal nasional | Bisakah peran inti negara berdaulat (misalnya Bank Sentral) dikompromikan? Apakah kemampuan negara untuk memenuhi harapan dan dampak warganya (misalnya sosial, ekonomi, politik) akan ditingkatkan atau dikurangi? | |
| Dimensi dampak | Kriteria | Uraian Teknis |
| Kehidupan sipil | Pemerintahan dan pelayanan publik | Dapatkah mekanisme tata kelola dan sistem tata kelola global terkena dampak positif atau negatif? |
| Media berita | Apakah wacana publik akan menjadi lebih atau kurang terpolarisasi dan mengakar pada tingkat populasi? Apakah akan ada pengaruhnya terhadap tingkat kepercayaan terhadap media? Apakah standar etika dan integritas jurnalisme konvensional akan terkena dampak lebih lanjut? | |
| Aturan hukum | Apakah akan ada dampak pada kemampuan untuk mengidentifikasi individu atau organisasi untuk meminta pertanggungjawaban (yaitu, akuntabilitas seperti apa yang harus ditetapkan pada suatu algoritma untuk hasil yang merugikan)? Apakah hal ini mengakibatkan hilangnya kedaulatan (misalnya lingkungan hidup, fiskal, kebijakan sosial, etika)? | |
| Politik dan kohesi sosial | Apakah ada kemungkinan pandangan politik yang lebih mengakar dan berkurangnya peluang untuk membangun konsensus? Apakah ada kemungkinan untuk semakin meminggirkan kelompok? Apakah gaya politik yang bermusuhan menjadi lebih besar atau lebih kecil kemungkinannya? | |
| Konteks geo-strategis/geo-politik | Pengawasan presisi | Apakah sistem tersebut dilatih berdasarkan data perilaku dan biologis individu, dan jika demikian, dapatkah sistem tersebut digunakan untuk mengeksploitasi individu atau kelompok? |
| Kolonisasi digital | Apakah aktor negara atau non-negara mampu memanfaatkan sistem dan data untuk memahami dan mengendalikan populasi dan ekosistem negara lain, atau untuk melemahkan kontrol yurisdiksi? | |
| Persaingan geo-politik | Apakah sistem ini mempengaruhi persaingan antar negara dan platform teknologi untuk mengakses data individu dan kolektif untuk tujuan ekonomi atau strategis? | |
| Perjanjian perdagangan dan perdagangan | Apakah sistem ini mempunyai implikasi terhadap perjanjian perdagangan internasional? | |
| Pergeseran kekuatan global | Apakah status negara-bangsa sebagai aktor geo-politik utama dunia terancam? Akankah perusahaan-perusahaan teknologi menggunakan kekuasaan yang tadinya hanya dimiliki oleh negara-bangsa dan apakah mereka akan menjadi aktor independen dan berdaulat? | |
| disinformasi | Apakah lebih mudah bagi aktor negara dan non-negara untuk memproduksi dan menyebarkan disinformasi yang berdampak pada kohesi sosial, kepercayaan, dan demokrasi? | |
| lingkungan | Konsumsi energi dan sumber daya (jejak karbon) | Apakah sistem dan persyaratan meningkatkan penggunaan energi dan konsumsi sumber daya melebihi peningkatan efisiensi yang diperoleh melalui aplikasi? |
| Dimensi dampak | Kriteria | Uraian Teknis |
| Data dan masukan | Deteksi dan pengumpulan | Apakah data dan masukan dikumpulkan oleh manusia, sensor otomatis, atau keduanya? |
| Asal data | Sehubungan dengan data, apakah data tersebut disediakan, diamati, disintesis atau diturunkan? Apakah ada perlindungan tanda air untuk memastikan asal usulnya? | |
| Sifat data yang dinamis | Apakah data bersifat dinamis, statis, diperbarui dari waktu ke waktu, atau diperbarui secara real-time? | |
| Hak | Apakah data merupakan hak milik, publik atau pribadi (yaitu terkait dengan individu yang dapat diidentifikasi)? | |
| Identifikasi data pribadi | Jika data pribadi, apakah data tersebut dianonimkan atau disamarkan? | |
| Struktur data | Apakah datanya terstruktur, semi terstruktur, terstruktur kompleks, atau tidak terstruktur? | |
| Format datanya | Apakah format data dan metadata terstandar atau tidak terstandar? | |
| Skala data | Berapa skala kumpulan datanya? | |
| Kesesuaian dan kualitas data | Apakah kumpulan data sesuai dengan tujuannya? Apakah ukuran sampelnya memadai? Apakah cukup representatif dan lengkap? Seberapa berisik datanya? Apakah rawan kesalahan? | |
| Pilih Model | Ketersediaan informasi | Apakah informasi tentang model sistem tersedia? |
| Jenis model AI | Apakah modelnya bersifat simbolik (aturan yang dibuat oleh manusia), statistik (menggunakan data) atau hibrida? | |
| Hak yang terkait dengan model | Apakah modelnya bersifat open source, atau proprietary, dikelola sendiri atau oleh pihak ketiga? | |
| Model tunggal atau ganda | Apakah sistem terdiri dari satu model atau beberapa model yang saling terkait? | |
| Generatif atau diskriminatif | Apakah modelnya generatif, diskriminatif, atau keduanya? | |
| Bangunan model | Apakah sistem belajar berdasarkan aturan yang ditulis manusia, dari data, melalui pembelajaran yang diawasi, atau melalui pembelajaran penguatan? | |
| Evolusi model (penyimpangan AI) | Apakah model berkembang dan/atau memperoleh kemampuan dari interaksi dengan data di lapangan? | |
| Pembelajaran gabungan atau terpusat | Apakah model dilatih secara terpusat atau di beberapa server lokal atau perangkat “edge”? | |
| Pengembangan dan pemeliharaan | Apakah model tersebut bersifat universal, dapat disesuaikan, atau disesuaikan dengan data aktor AI? | |
| deterministik atau probabilistik | Apakah model yang digunakan bersifat deterministik atau probabilistik? | |
| Transparansi model | Apakah informasi tersedia bagi pengguna untuk memungkinkan mereka memahami keluaran dan batasan model atau batasan penggunaan? | |
| Batasan komputasi | Apakah ada batasan komputasi pada sistem? Bisakah kita memprediksi lompatan kemampuan atau penskalaan hukum? | |
| Dimensi dampak | Kriteria | Uraian Teknis |
| Tugas dan keluaran | Tugas yang dilakukan oleh sistem | Tugas apa yang dilakukan sistem (yaitu pengenalan, deteksi kejadian, perkiraan)? |
| Menggabungkan tugas dan tindakan | Apakah sistem menggabungkan beberapa tugas dan tindakan (yaitu, sistem pembuatan konten, sistem otonom, sistem kontrol)? | |
| Tingkat otonomi sistem | Seberapa otonom tindakan sistem dan peran apa yang dimainkan manusia? | |
| Tingkat keterlibatan manusia | Apakah ada keterlibatan manusia untuk mengawasi keseluruhan aktivitas sistem AI dan kemampuan untuk memutuskan kapan dan bagaimana menggunakan sistem dalam situasi apa pun? | |
| Aplikasi inti | Apakah sistem termasuk dalam area aplikasi inti seperti teknologi bahasa manusia, visi komputer, otomatisasi dan/atau optimalisasi, atau robotika? | |
| Evaluasi | Apakah standar atau metode tersedia untuk mengevaluasi keluaran sistem atau menangani sifat-sifat yang muncul tidak terduga? | |
Kunci untuk sumber deskriptor
Teks biasa:
Gluckman, P. dan Allen, K.2018. Memahami kesejahteraan dalam konteks transformasi digital yang cepat dan transformasi terkait. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
Teks tebal:
OECD. 2022. Kerangka Kerja OECD untuk Klasifikasi sistem AIMakalah Ekonomi Digital OECD, No. 323, Penerbitan OECD, Paris. https://oecd.ai/en/classification
Teks miring:
Deskriptor baru (dari berbagai sumber)
Sebuah jalan ke depan
Bergantung pada tanggapan terhadap makalah diskusi ini, kelompok kerja ahli akan dibentuk oleh ISC untuk mengembangkan lebih lanjut atau mengubah kerangka analitis di atas sehingga para pemangku kepentingan dapat melihat secara komprehensif setiap perkembangan signifikan baik dari platform maupun dimensi penggunaan. Kelompok kerja ini akan terdiri dari beragam disiplin ilmu, geografis dan demografis, dengan keahlian mulai dari pengkajian teknologi hingga kebijakan publik, dari pembangunan manusia hingga sosiologi dan studi masa depan dan teknologi.
Untuk terlibat dengan makalah diskusi ini, silakan kunjungi dewan.sains/publikasi/kerangka-teknologi-digital
Ucapan Terima Kasih
Banyak orang telah dimintai pendapatnya dalam pengembangan makalah ini, yang disusun oleh Sir Peter Gluckman, Presiden, ISC dan Hema Sridhar, mantan Kepala Ilmuwan, Kementerian Pertahanan, dan sekarang menjadi peneliti senior, Universitas Auckland, Selandia Baru.
Secara khusus kami berterima kasih kepada Lord Martin Rees, mantan Presiden Royal Society dan salah satu pendiri Pusat Studi Risiko Eksistensial, Universitas Cambridge; Profesor Shivaji Sondhi, Profesor Fisika, Universitas Oxford; Profesor K Vijay Raghavan, mantan penasihat ilmiah utama Pemerintah India; Amandeep Singh Gill, Utusan Teknologi Sekretaris Jenderal PBB; Dr Seán Óh Éigeartaigh, Direktur Eksekutif, Pusat Studi Risiko Eksistensial, Universitas Cambridge; Amanda-June Brawner, Penasihat Kebijakan Senior dan Ian Wiggins, Direktur Urusan Internasional, Royal Society UK; Dr Jerome Duberry, Dr Marie-Laure Salles, Direktur, Institut Pascasarjana Jenewa; Mr Chor Pharn Lee, Pusat Masa Depan Strategis, Kantor Perdana Menteri, Singapura; Barend Mons dan Dr Simon Hodson, Komite Data (CoDATA); Prof Yuko Harayama, Jepang; Profesor Rémi Quirion, Presiden, INGSA; Dr Claire Craig, Universitas Oxford dan Mantan Kepala Pandangan ke Depan, Kantor Ilmu Pengetahuan Pemerintah; dan Prof Yoshua Bengio, Dewan Penasihat Ilmiah Sekretaris Jenderal PBB dan di Université de Montréal. Pendekatan daftar periksa secara umum didukung dan ketepatan waktu tindakan apa pun yang dilakukan ISC ditekankan.
Gambar: adamichi di iStock
Baca selengkapnya tentang Dari ilmu pengetahuan ke tindakan: Memanfaatkan pengetahuan ilmiah dan solusi untuk memajukan pembangunan berkelanjutan dan berketahanan 
Baca lebih lanjut mengenai Defisit Kontekstualisasi: Membingkai Ulang Kepercayaan pada Ilmu Pengetahuan untuk Kebijakan Multilateral 
Baca selengkapnya tentang Makalah Posisi Forum Politik Tingkat Tinggi 2023 