Panduan ISC menawarkan kerangka komprehensif yang dirancang untuk menjembatani kesenjangan antara prinsip-prinsip tingkat tinggi dan kebijakan yang praktis dan dapat ditindaklanjuti. Hal ini menanggapi kebutuhan mendesak akan pemahaman bersama mengenai peluang dan risiko yang ditimbulkan oleh teknologi baru. Ini adalah dokumen penting bagi mereka yang bekerja di bidang kebijakan di era digital yang berubah dengan cepat.
Kerangka kerja ini mengeksplorasi potensi AI dan turunannya melalui lensa komprehensif, yang mencakup kesejahteraan manusia dan masyarakat serta faktor eksternal seperti ekonomi, politik, lingkungan, dan keamanan. Beberapa aspek dalam daftar periksa ini mungkin lebih relevan dibandingkan aspek lainnya, bergantung pada konteksnya, namun keputusan yang lebih baik tampaknya akan lebih mungkin diperoleh jika semua aspek dipertimbangkan, bahkan jika beberapa aspek dapat dengan cepat diidentifikasi sebagai tidak relevan dalam kasus tertentu. Inilah nilai inheren dari pendekatan daftar periksa.
“Di era yang ditandai dengan pesatnya inovasi teknologi dan tantangan global yang kompleks, kerangka kerja ISC untuk analisis dampak potensial yang komprehensif dan multidimensi memberdayakan para pemimpin untuk membuat keputusan yang tepat dan bertanggung jawab. Hal ini memastikan bahwa seiring dengan kemajuan teknologi, kita melakukannya dengan pertimbangan yang cermat terhadap implikasi etika, sosial, dan ekonomi”.
Peter Gluckman, Presiden ISC
Meskipun prinsip-prinsip tingkat tinggi telah diumumkan antara lain oleh UNESCO, OECD, Komisi Eropa dan PBB, dan berbagai diskusi terus berlanjut mengenai isu-isu potensi tata kelola, regulasi, etika dan keselamatan, terdapat kesenjangan besar antara prinsip-prinsip tersebut dan prinsip-prinsip tersebut. kerangka tata kelola atau peraturan. ISC menjawab kebutuhan ini melalui panduan barunya bagi para pembuat kebijakan.
Panduan bagi para pembuat kebijakan ini tidak dimaksudkan untuk melarang rezim peraturan, melainkan untuk menyarankan kerangka analitis yang adaptif dan terus berkembang yang dapat mendukung setiap penilaian dan proses peraturan yang mungkin dikembangkan oleh para pemangku kepentingan, termasuk pemerintah dan sistem multilateral.
“Kerangka kerja ini merupakan langkah penting dalam perbincangan global mengenai AI karena memberikan dasar bagi kita untuk membangun konsensus mengenai implikasi teknologi baik saat ini maupun di masa depan”.
Hema Sridhar, Mantan Kepala Penasihat Sains, Kementerian Pertahanan, Selandia Baru dan sekarang Peneliti Senior, Universitas Auckland, Selandia Baru.
Sejak Oktober 2023, terdapat beberapa inisiatif nasional dan multilateral yang signifikan dengan pertimbangan lebih lanjut terhadap etika dan keamanan AI. Implikasi AI terhadap integritas beberapa sistem penting kita, termasuk keuangan, pemerintahan, hukum dan pendidikan, serta berbagai sistem pengetahuan (termasuk pengetahuan ilmiah dan pengetahuan adat), semakin memprihatinkan. Kerangka kerja ini lebih mencerminkan aspek-aspek ini.
Umpan balik yang diterima dari Anggota ISC dan komunitas pembuat kebijakan internasional hingga saat ini tercermin dalam versi revisi kerangka analitis, yang kini dirilis sebagai panduan bagi para pembuat kebijakan.
Panduan bagi pembuat kebijakan: Mengevaluasi teknologi yang berkembang pesat termasuk AI, model bahasa besar, dan lainnya
Makalah diskusi ini memberikan garis besar kerangka kerja awal untuk menginformasikan berbagai diskusi global dan nasional yang terkait dengan AI.
Unduh kerangka kerja untuk digunakan di organisasi Anda
Di sini kami menyediakan alat kerangka kerja sebagai lembar Excel yang dapat diedit untuk digunakan di organisasi Anda. Jika Anda lebih suka format sumber terbuka, silakan hubungi [email dilindungi].
Pengantar
Teknologi yang berkembang pesat menghadirkan permasalahan yang menantang dalam hal penggunaan, tata kelola, dan potensi regulasinya. Kebijakan yang sedang berlangsung dan perdebatan publik mengenai kecerdasan buatan (AI) dan penggunaannya telah menjadikan isu-isu ini menjadi fokus utama. Prinsip-prinsip umum AI telah diumumkan oleh UNESCO, OECD, PBB, dan lembaga-lembaga lain, termasuk Deklarasi Bletchley di Inggris, dan terdapat upaya-upaya yurisdiksional untuk mengatur aspek-aspek teknologi, misalnya melalui AI Uni Eropa (UE). Undang-Undang atau Perintah Eksekutif AI Amerika Serikat yang terbaru.
Meskipun penggunaan AI dibahas panjang lebar dalam forum-forum ini dan forum-forum lainnya, lintas sektor geopolitik dan di negara-negara pada semua tingkat pendapatan, masih terdapat kesenjangan ontologis antara pengembangan prinsip-prinsip tingkat tinggi dan penerapan prinsip-prinsip tersebut ke dalam praktik melalui peraturan, kebijakan, tata kelola. atau pendekatan penatalayanan. Jalur dari prinsip ke praktik tidak didefinisikan dengan baik, namun mengingat sifat dan ritme pengembangan dan penerapan AI, beragamnya minat yang terlibat, dan beragam kemungkinan penerapannya, pendekatan apa pun tidak boleh terlalu umum atau bersifat preskriptif.
Oleh karena itu, komunitas ilmiah non-pemerintah terus memainkan peran tertentu. Dewan Sains Internasional (ISC) – dengan keanggotaan pluralistik dari ilmu sosial dan alam – merilis makalah diskusi pada bulan Oktober 2023 yang menyajikan kerangka analitis awal yang mempertimbangkan risiko, manfaat, ancaman, dan peluang yang terkait dengan teknologi digital yang bergerak cepat. Meskipun dikembangkan untuk mempertimbangkan AI, teknologi ini pada dasarnya bersifat agnostik terhadap teknologi dan dapat diterapkan pada berbagai teknologi baru dan disruptif, seperti biologi sintetik dan kuantum. Makalah diskusi tersebut mengundang masukan dari akademisi dan pengambil kebijakan. Banyaknya masukan yang masuk membuat analisis semacam itu perlu dilakukan dan merupakan pendekatan yang berharga untuk mengatasi teknologi baru seperti AI.
Tujuan dari kerangka kerja ini adalah untuk menyediakan alat untuk memberikan informasi kepada seluruh pemangku kepentingan – termasuk pemerintah, negosiator perdagangan, regulator, masyarakat sipil dan industri – mengenai evolusi teknologi ini untuk membantu mereka menyusun bagaimana mereka dapat mempertimbangkan implikasinya, positif atau negatif, dari teknologi tersebut. teknologi itu sendiri, dan lebih khusus lagi penerapan khususnya. Kerangka analitis ini dikembangkan secara independen dari kepentingan pemerintah dan industri. Perspektifnya sangat pluralistik, mencakup semua aspek teknologi dan implikasinya berdasarkan konsultasi dan umpan balik yang ekstensif.
Makalah diskusi untuk para pembuat kebijakan ini tidak dimaksudkan untuk melarang rezim peraturan, namun lebih untuk menyarankan kerangka analitis yang adaptif dan berkembang yang dapat mendukung setiap penilaian dan proses peraturan yang mungkin dikembangkan oleh para pemangku kepentingan, termasuk pemerintah dan sistem multilateral.
Ketika para pengambil keputusan di tingkat global dan nasional mempertimbangkan pengaturan kebijakan yang tepat dan upaya untuk menyeimbangkan risiko dan manfaat dari teknologi baru seperti AI, kerangka analitis ini dimaksudkan sebagai alat pelengkap untuk memastikan keseluruhan dampak potensial tercermin secara memadai.
Latar Belakang: mengapa diperlukan kerangka analitis?
Pesatnya kemunculan teknologi dengan kompleksitas dan implikasi AI mendorong banyak klaim akan manfaat yang besar. Namun, hal ini juga menimbulkan kekhawatiran akan risiko yang signifikan, mulai dari tingkat individu hingga geostrategis.1 Banyak dari diskusi yang ada sampai saat ini masih dianggap dalam konteks biner karena pandangan yang diungkapkan secara publik cenderung berasal dari spektrum yang paling ekstrem. Klaim yang mendukung atau menentang AI sering kali bersifat hiperbola dan – mengingat sifat teknologinya – sulit untuk dinilai.
Pendekatan yang lebih pragmatis diperlukan di mana hiperbola digantikan dengan evaluasi yang terkalibrasi dan lebih terperinci. Teknologi AI akan terus berkembang, dan sejarah menunjukkan bahwa hampir setiap teknologi mempunyai kegunaan yang menguntungkan dan merugikan. Oleh karena itu, pertanyaannya adalah: bagaimana kita dapat memperoleh hasil yang bermanfaat dari teknologi ini, sekaligus mengurangi risiko dampak buruk, yang sebagian di antaranya mungkin sangat besar?
Masa depan selalu tidak pasti, namun terdapat cukup pendapat yang kredibel dan ahli mengenai AI dan AI generatif untuk mendorong pendekatan yang relatif hati-hati. Selain itu, pendekatan sistem diperlukan karena AI adalah kelas teknologi yang dapat digunakan dan diterapkan secara luas oleh berbagai jenis pengguna. Artinya, konteks keseluruhannya harus dipertimbangkan ketika mempertimbangkan implikasi penggunaan AI terhadap individu, kehidupan sosial, kehidupan sipil, kehidupan bermasyarakat, dan dalam konteks global.
Tidak seperti kebanyakan teknologi lainnya, untuk teknologi digital dan teknologi terkait, waktu antara pengembangan, peluncuran, dan penerapan sangatlah singkat, sebagian besar didorong oleh kepentingan perusahaan atau agensi produksi. Berdasarkan sifatnya – dan karena berbasis pada tulang punggung digital – AI akan mempunyai aplikasi yang dapat menyebar dengan cepat, seperti yang telah terlihat dalam pengembangan model bahasa skala besar. Akibatnya, beberapa sifat mungkin baru terlihat setelah dilepaskan, yang berarti ada risiko akibat yang tidak terduga, baik yang bersifat jahat maupun baik.
Dimensi nilai-nilai sosial yang penting, khususnya di wilayah dan budaya yang berbeda, akan mempengaruhi bagaimana suatu penggunaan dipersepsikan dan diterima. Selain itu, kepentingan geostrategis sudah mendominasi diskusi, dengan kepentingan kedaulatan dan multilateral yang terus bersinggungan sehingga mendorong persaingan dan perpecahan.
Sampai saat ini, sebagian besar regulasi teknologi virtual dilihat dari sudut pandang 'prinsip' dan kepatuhan sukarela, meskipun dengan UU AI UE2 dan hal serupa juga terjadi, kita melihat adanya pergeseran ke arah peraturan yang lebih dapat ditegakkan namun agak sempit. Membangun sistem tata kelola dan/atau peraturan teknologi global atau nasional yang efektif masih merupakan tantangan dan belum ada solusi yang jelas. Pengambilan keputusan yang berbasis risiko akan diperlukan di sepanjang rantai pasokan, mulai dari penemu hingga produsen, pengguna, pemerintah, dan sistem multilateral.
Meskipun prinsip-prinsip tingkat tinggi telah diumumkan antara lain oleh UNESCO, OECD, Komisi Eropa dan PBB, dan berbagai diskusi tingkat tinggi mengenai isu-isu potensi tata kelola, regulasi, etika dan keselamatan, terdapat kesenjangan yang besar antara prinsip-prinsip tersebut. prinsip-prinsip dan kerangka tata kelola atau peraturan. Hal ini perlu diatasi.
Sebagai titik awal, ISC mempertimbangkan untuk mengembangkan taksonomi pertimbangan yang dapat dijadikan acuan oleh pengembang, regulator, penasihat kebijakan, konsumen, atau pengambil keputusan. Mengingat implikasi luas dari teknologi ini, taksonomi semacam itu harus mempertimbangkan keseluruhan implikasi, bukan kerangka yang terfokus secara sempit. Fragmentasi global semakin meningkat akibat pengaruh kepentingan geostrategis terhadap pengambilan keputusan, dan mengingat pentingnya teknologi ini, maka penting bagi suara-suara yang independen dan netral untuk terus memperjuangkan pendekatan terpadu dan inklusif.
1) Zaman Hindustan. 2023. G20 harus membentuk panel internasional mengenai perubahan teknologi.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Undang-Undang Kecerdasan Buatan UE. 2023. https://artificialintelligenceact.eu
Pengembangan kerangka analitis
ISC adalah organisasi non-pemerintah global utama yang mengintegrasikan ilmu alam dan ilmu sosial. Jangkauan global dan disiplin ilmu yang dimilikinya berarti bahwa lembaga ini mempunyai posisi yang baik untuk menghasilkan saran yang independen dan relevan secara global untuk menginformasikan pilihan-pilihan kompleks di masa depan, terutama karena suara-suara yang ada saat ini di bidang ini sebagian besar berasal dari industri atau dari komunitas kebijakan dan politik negara-negara besar di bidang teknologi.
Setelah periode diskusi ekstensif, yang mencakup pertimbangan proses penilaian non-pemerintah, ISC menyimpulkan bahwa kontribusinya yang paling berguna adalah menghasilkan kerangka analitik adaptif yang dapat digunakan sebagai dasar wacana dan pengambilan keputusan oleh semua pihak. pemangku kepentingan, termasuk selama proses penilaian formal yang muncul.
Kerangka analisis awal, yang dirilis untuk diskusi dan masukan pada bulan Oktober 2023, berbentuk daftar periksa menyeluruh yang dirancang untuk digunakan oleh lembaga pemerintah dan non-pemerintah. Kerangka kerja ini mengidentifikasi dan mengeksplorasi potensi teknologi seperti AI dan turunannya melalui perspektif luas yang mencakup kesejahteraan manusia dan masyarakat, serta faktor eksternal seperti ekonomi, politik, lingkungan hidup, dan keamanan. Beberapa aspek dalam daftar periksa ini mungkin lebih relevan dibandingkan aspek lainnya, bergantung pada konteksnya, namun keputusan yang lebih baik tampaknya akan lebih mungkin diperoleh jika semua aspek dipertimbangkan, bahkan jika beberapa aspek dapat dengan cepat diidentifikasi sebagai tidak relevan dalam kasus tertentu. Inilah nilai inheren dari pendekatan daftar periksa.
Kerangka kerja awal ini berasal dari penelitian dan pemikiran sebelumnya, termasuk laporan International Network for Governmental Science Advice (INGSA) mengenai kesejahteraan digital3 dan Kerangka OECD untuk Klasifikasi Sistem AI,4 untuk menyajikan keseluruhan potensi peluang, risiko, dan dampak dari AI. Produk-produk sebelumnya ini lebih terbatas tujuannya mengingat waktu dan konteksnya; terdapat kebutuhan akan kerangka kerja menyeluruh yang menyajikan seluruh permasalahan baik dalam jangka pendek maupun jangka panjang.
Sejak diterbitkan, makalah diskusi ini telah mendapat dukungan signifikan dari banyak pakar dan pembuat kebijakan. Banyak pihak yang secara khusus mendukung rekomendasi untuk mengembangkan kerangka kerja adaptif yang memungkinkan pertimbangan yang disengaja dan proaktif terhadap risiko dan implikasi teknologi, dan dalam melakukan hal tersebut, selalu mempertimbangkan totalitas dimensi dari individu hingga masyarakat dan sistem.
Salah satu pengamatan penting yang dilakukan melalui umpan balik ini adalah pengakuan bahwa beberapa implikasi yang dipertimbangkan dalam kerangka kerja ini pada dasarnya memiliki banyak aspek dan mencakup berbagai kategori. Misalnya, disinformasi dapat dilihat dari sudut pandang individu dan geostrategis; dengan demikian, konsekuensinya akan sangat luas.
Pilihan untuk memasukkan studi kasus atau contoh untuk menguji kerangka kerja juga disarankan. Hal ini dapat digunakan untuk mengembangkan pedoman guna menunjukkan bagaimana pedoman ini dapat digunakan dalam praktik dalam konteks yang berbeda. Namun, hal ini merupakan upaya yang signifikan dan mungkin membatasi persepsi berbagai kelompok terhadap penggunaan kerangka kerja ini. Hal ini paling baik dilakukan oleh pembuat kebijakan yang bekerja sama dengan para ahli di yurisdiksi atau konteks tertentu.
Sejak Oktober 2023, terdapat beberapa inisiatif nasional dan multilateral yang signifikan dengan pertimbangan lebih lanjut terhadap etika dan keamanan AI. Implikasi AI terhadap integritas beberapa sistem penting kita, termasuk keuangan, pemerintahan, hukum dan pendidikan, serta berbagai sistem pengetahuan (termasuk pengetahuan ilmiah dan pengetahuan adat), semakin memprihatinkan. Kerangka kerja yang direvisi lebih mencerminkan aspek-aspek ini.
Masukan yang diterima hingga saat ini tercermin dalam versi revisi kerangka analisis, yang kini diterbitkan sebagai panduan bagi para pembuat kebijakan.
Meskipun kerangka kerja ini disajikan dalam konteks AI dan teknologi terkait, kerangka ini dapat segera diterapkan pada pertimbangan teknologi lain yang berkembang pesat seperti biologi kuantum dan sintetik.
3) Gluckman, P. dan Allen, K. 2018. Memahami kesejahteraan dalam konteks transformasi digital yang cepat dan transformasi terkait. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Kerangka OECD untuk Klasifikasi sistem AI. Makalah Ekonomi Digital OECD, No.323,#. Paris, Penerbitan OECD.
https://oecd.ai/en/classificatio
Kerangka kerja
Tabel berikut menyajikan dimensi kerangka analitik yang diduga. Contoh diberikan untuk mengilustrasikan mengapa setiap domain penting; dalam konteksnya, kerangka kerja ini memerlukan perluasan yang relevan secara kontekstual. Penting juga untuk membedakan antara masalah umum yang muncul selama pengembangan platform dan masalah yang mungkin muncul selama aplikasi tertentu. Tidak ada satu pun pertimbangan yang termasuk di sini yang boleh dianggap sebagai prioritas dan, oleh karena itu, semuanya harus diperiksa.
Masalah-masalah tersebut secara garis besar dikelompokkan ke dalam kategori-kategori berikut sebagaimana diuraikan di bawah ini:
Tabel ini merinci dimensi yang mungkin perlu dipertimbangkan ketika mengevaluasi teknologi baru.
? INGSA. 2018. Memahami kesejahteraan dalam konteks transformasi digital yang cepat dan transformasi terkaitnya.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
? Deskripsi baru (diperoleh melalui konsultasi dan umpan balik yang luas serta tinjauan pustaka)
Kerangka Kerja OECD untuk Klasifikasi Sistem AI: alat untuk kebijakan AI yang efektif.
https://oecd.ai/en/classification
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| ?Kompetensi AI pengguna | Seberapa kompeten dan sadar akan properti sistem yang mungkin dimiliki pengguna yang akan berinteraksi dengan sistem? Bagaimana mereka akan diberikan informasi dan peringatan pengguna yang relevan? |
| ? Pemangku kepentingan yang terkena dampak | Siapa saja pemangku kepentingan utama yang akan terkena dampak sistem ini (individu, komunitas, kelompok rentan, pekerja sektoral, anak-anak, pembuat kebijakan, profesional, dll.)? |
| ? Opsional | Apakah pengguna diberi kesempatan untuk memilih keluar dari sistem atau apakah mereka diberi kesempatan untuk menantang atau memperbaiki keluarannya? |
| ?Risiko terhadap hak asasi manusia dan nilai-nilai demokrasi | Apakah sistem ini berdampak mendasar terhadap hak asasi manusia, termasuk namun tidak terbatas pada privasi, kebebasan berekspresi, keadilan, non-diskriminatif, dll.? |
| ?Dampak potensial terhadap kesejahteraan masyarakat | Apakah area dampak sistem berhubungan dengan kesejahteraan pengguna individu (kualitas pekerjaan, pendidikan, interaksi sosial, kesehatan mental, identitas, lingkungan, dll.)? |
| Potensi perpindahan tenaga kerja manusia | Apakah ada potensi sistem untuk mengotomatiskan tugas atau fungsi yang dijalankan oleh manusia? Jika ya, apa dampak hilirnya? |
| Potensi manipulasi identitas, nilai atau pengetahuan | Apakah sistem dirancang atau berpotensi mampu memanipulasi identitas pengguna atau menetapkan nilai, atau menyebarkan disinformasi? |
| Peluang untuk mengekspresikan diri dan mengaktualisasikan diri | Apakah ada potensi kecerdikan dan keraguan diri? Apakah ada potensi salah atau klaim keahlian yang tidak dapat diverifikasi? |
| ? Ukuran harga diri | Apakah ada tekanan untuk menggambarkan diri yang diidealkan? Bisakah otomatisasi menggantikan akal sehat? kepuasan pribadi? Apakah ada tekanan untuk bersaing dengan sistem di tempat kerja? Apakah reputasi individu lebih sulit dilindungi dari disinformasi? |
| ? Pribadi | Apakah ada tanggung jawab yang tersebar untuk menjaga privasi dan apakah ada asumsi yang dibuat tentang bagaimana data pribadi digunakan? |
| Otonomi | Mungkinkah sistem AI mempengaruhi otonomi manusia dengan menimbulkan ketergantungan yang berlebihan pengguna akhir? |
| ? Pembangunan manusia | Apakah ada dampak pada perolehan keterampilan-keterampilan utama bagi pembangunan manusia, seperti fungsi eksekutif atau keterampilan interpersonal, atau perubahan waktu perhatian yang mempengaruhi pembelajaran, pengembangan kepribadian, masalah kesehatan mental, dll.? |
| Perawatan kesehatan pribadi | Apakah ada klaim diagnosis mandiri atau solusi layanan kesehatan yang dipersonalisasi? Jika begitu, apakah sudah divalidasi sesuai standar peraturan? |
| Kesehatan mental | Apakah ada risiko peningkatan kecemasan, kesepian, atau masalah kesehatan mental lainnya, atau Dapatkah teknologi memperbaiki dampak tersebut? |
| Evolusi manusia | Bisakah model bahasa besar dan kecerdasan umum buatan mengubah keadaan? perjalanan evolusi manusia? |
| Interaksi manusia-mesin | Bisakah penggunaan ini menyebabkan hilangnya keterampilan dan ketergantungan pada individu dari waktu ke waktu? Adalah ada dampak pada interaksi manusia? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| ? Nilai-nilai masyarakat | Apakah sistem tersebut secara mendasar mengubah sifat masyarakat, memungkinkan normalisasi gagasan yang sebelumnya dianggap anti-sosial, atau melanggar nilai-nilai sosial dari budaya di mana sistem tersebut diterapkan? |
| Interaksi sosial | Apakah ada pengaruhnya terhadap kontak manusia yang bermakna, termasuk hubungan emosional? |
| Kesehatan populasi | Apakah sistem ini mempunyai potensi untuk memajukan atau melemahkan tujuan kesehatan masyarakat? |
| ? Ekspresi budaya | Apakah peningkatan perampasan budaya atau diskriminasi mungkin terjadi atau lebih sulit untuk diatasi? Apakah ketergantungan pada sistem pengambilan keputusan mengecualikan atau meminggirkan ikatan antar kelompok masyarakat yang relevan secara budaya? |
| ? Pendidikan publik | Apakah ada pengaruhnya terhadap peran guru atau lembaga pendidikan? Apakah sistem ini menekankan atau mengurangi kesenjangan dan kesenjangan digital di kalangan siswa? Apakah nilai intrinsik dari pengetahuan atau pemahaman kritis ditingkatkan atau diremehkan? |
| ? Realitas yang terdistorsi | Apakah metode yang digunakan untuk membedakan apa yang benar masih dapat diterapkan? Apakah persepsi terhadap realitas terganggu? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| Sektor industri | Di sektor industri manakah sistem ini diterapkan (keuangan, pertanian, layanan kesehatan, pendidikan, pertahanan, dll.)? |
| ?Model bisnis | Dalam fungsi bisnis manakah sistem tersebut digunakan dan dalam kapasitas apa? Dimana sistem yang digunakan (swasta, publik, nirlaba)? |
| Dampak pada aktivitas kritis | Apakah gangguan terhadap fungsi atau aktivitas sistem akan berdampak pada layanan penting atau infrastruktur penting? |
| ?Luasnya penyebaran | Bagaimana sistem diterapkan (penggunaan secara sempit di dalam unit vs. penggunaan secara luas secara nasional/internasional)? |
| ? Kematangan teknis | Seberapa matang sistemnya secara teknis? |
| ? Interoperabilitas | Apakah mungkin terdapat silo, baik secara nasional maupun global, yang menghambat perdagangan bebas dan berdampak pada kerja sama dengan mitra? |
| ? Kedaulatan teknologi | Apakah keinginan akan kedaulatan teknologi mendorong perilaku, termasuk kendali atas seluruh rantai pasokan AI? |
| ? Redistribusi pendapatan dan daya ungkit fiskal nasional | Apakah peran inti negara yang berdaulat dapat dikompromikan (misalnya bank cadangan)? Apakah kemampuan negara untuk memenuhi harapan dan dampak warganya (sosial, ekonomi, politik, dll.) akan ditingkatkan atau dikurangi? |
| Kesenjangan digital (kesenjangan AI) | Apakah kesenjangan digital yang sudah ada semakin parah atau justru tercipta kesenjangan digital yang baru? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| Tata kelola dan pelayanan publik | Apakah mekanisme tata kelola dan sistem tata kelola global akan terkena dampak positif atau negatif? |
| ? Media berita | Apakah wacana publik akan terpolarisasi dan mengakar pada tingkat populasi? Apakah akan ada pengaruhnya terhadap tingkat kepercayaan terhadap Golongan Keempat? Apakah standar etika dan integritas jurnalis konvensional akan terkena dampak lebih lanjut? |
| Aturan hukum | Apakah akan ada dampak pada kemampuan untuk mengidentifikasi individu atau organisasi untuk meminta pertanggungjawaban (misalnya, jenis akuntabilitas apa yang harus diberikan pada suatu algoritma untuk hasil yang merugikan)? Apakah ada hilangnya kedaulatan (lingkungan, fiskal, kebijakan sosial, etika, dll.)? |
| ?Politik dan kohesi sosial | Apakah ada kemungkinan pandangan politik yang lebih mengakar dan berkurangnya peluang untuk membangun konsensus? Apakah ada kemungkinan untuk semakin meminggirkan kelompok? Apakah gaya politik yang bermusuhan menjadi lebih besar atau lebih kecil kemungkinannya? |
| ? Lisensi sosial | Apakah ada masalah privasi, masalah kepercayaan, dan masalah moral yang perlu dipertimbangkan agar pemangku kepentingan dapat menerima penggunaan ini? |
| Pengetahuan adat | Mungkinkah pengetahuan dan data masyarakat adat dirusak atau disalahgunakan? Apakah terdapat langkah-langkah yang memadai untuk melindungi dari penafsiran yang keliru, informasi yang salah, dan eksploitasi? |
| Sistem ilmiah | Apakah integritas akademik dan penelitian terganggu? Apakah ada hilangnya kepercayaan pada sains? Apakah ada kemungkinan penyalahgunaan, penggunaan berlebihan, atau penyalahgunaan? Apa akibat dari mengamalkan ilmu pengetahuan? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| ? Pengawasan presisi | Apakah sistem tersebut dilatih berdasarkan data perilaku dan biologis individu dan dapatkah mereka digunakan untuk mengeksploitasi individu atau kelompok? |
| Kompetisi digital | Bisakah aktor negara atau non-negara (misalnya perusahaan teknologi besar) memanfaatkan sistem dan data untuk memahami dan mengendalikan populasi dan ekosistem negara lain, atau melemahkan kontrol yurisdiksi? |
| Persaingan geopolitik | Bisakah sistem ini memicu persaingan antar negara dalam memanfaatkan data individu dan kelompok untuk kepentingan ekonomi, medis, dan keamanan? |
| ? Pergeseran kekuatan global | Apakah status negara-bangsa sebagai aktor geopolitik utama dunia terancam? Apakah perusahaan-perusahaan teknologi mempunyai kekuasaan yang tadinya hanya dimiliki oleh negara-bangsa dan apakah mereka telah menjadi aktor yang mandiri dan berdaulat (tatanan dunia teknopolar yang sedang berkembang)? |
| ? Disinformasi | Akankah sistem ini memfasilitasi produksi dan penyebaran disinformasi oleh aktor negara dan non-negara yang berdampak pada kohesi sosial, kepercayaan, dan demokrasi? |
| Aplikasi penggunaan ganda | Apakah ada kemungkinan untuk penerapan militer dan juga penggunaan sipil? |
| ? Fragmentasi tatanan global | Mungkinkah berkembang silo atau kelompok peraturan dan kepatuhan yang menghambat kerja sama, menyebabkan inkonsistensi dalam penerapan dan menciptakan ruang konflik? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| Konsumsi energi dan sumber daya (jejak karbon) | Apakah sistem dan persyaratan meningkatkan penggunaan energi dan konsumsi sumber daya melebihi peningkatan efisiensi yang diperoleh melalui aplikasi? |
| ?Sumber energi | Dari mana sumber energi untuk sistem ini (bahan bakar terbarukan vs. bahan bakar fosil, dll.)? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| ? Arah dan koleksi | Apakah data dan masukan dikumpulkan oleh manusia, sensor otomatis, atau keduanya? |
| ? Asal usul data | Apakah data dan masukan dari para ahli disediakan, diobservasi, disintesis atau diturunkan? Apakah ada perlindungan tanda air untuk memastikan asal usulnya? |
| Sifat data yang dinamis | Apakah datanya dinamis, statis, dinamis diperbarui dari waktu ke waktu atau real-time? |
| ? Hak | Apakah data tersebut merupakan hak milik, publik atau pribadi (terkait dengan individu yang dapat diidentifikasi)? |
| ? Identifikasi dan data pribadi | Jika bersifat pribadi, apakah datanya dianonimkan atau disamarkan? |
| ? Struktur data | Apakah datanya terstruktur, semi terstruktur, terstruktur kompleks, atau tidak terstruktur? |
| ? Format data | Apakah format data dan metadata terstandar atau tidak terstandar? |
| ? Skala data | Berapa skala kumpulan datanya? |
| ? Kesesuaian dan kualitas data | Apakah kumpulan data sesuai dengan tujuannya? Apakah ukuran sampelnya memadai? Apakah cukup representatif dan lengkap? Seberapa berisik datanya? Apakah rawan kesalahan? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| Ketersediaan informasi | Apakah ada informasi yang tersedia tentang model sistem? |
| ? Jenis model AI | Apakah modelnya bersifat simbolik (aturan yang dibuat oleh manusia), statistik (menggunakan data) atau hibrida? |
| Hak yang terkait dengan model | Apakah modelnya bersumber terbuka atau berpemilik, dikelola sendiri atau oleh pihak ketiga? |
| ? Satu dari beberapa model | Apakah sistem terdiri dari satu model atau beberapa model yang saling terkait? |
| ? Generatif atau diskriminatif | Apakah modelnya generatif, diskriminatif, atau keduanya? |
| ? Pembuatan model | Apakah sistem belajar berdasarkan aturan yang ditulis manusia, dari data, melalui pembelajaran yang diawasi, atau melalui pembelajaran penguatan? |
| ? Evolusi model (pergeseran AI) | Apakah model berkembang dan/atau memperoleh kemampuan dari interaksi dengan data di lapangan? |
| ? Pembelajaran terfederasi atau terpusat | Apakah model dilatih secara terpusat atau di beberapa server lokal atau perangkat 'edge'? |
| ? Pengembangan/pemeliharaan | Apakah model tersebut bersifat universal, dapat disesuaikan, atau disesuaikan dengan data aktor AI? |
| Deterministik atau probabilistik | Apakah model yang digunakan bersifat deterministik atau probabilistik? |
| Transparansi model | Apakah informasi tersedia bagi pengguna untuk memungkinkan mereka memahami keluaran dan batasan model atau batasan penggunaan? |
| ? Keterbatasan komputasi | Apakah ada batasan komputasi pada sistem? Apakah mungkin untuk memprediksi lompatan kemampuan atau penskalaan hukum? |
| Kriteria | Contoh bagaimana hal ini dapat tercermin dalam analisis |
| ? Tugas yang dilakukan oleh sistem | Tugas apa yang dilakukan sistem (pengenalan, deteksi kejadian, perkiraan, dll.)? |
| ? Menggabungkan tugas dan tindakan | Apakah sistem menggabungkan beberapa tugas dan tindakan (sistem pembuatan konten, sistem otonom, sistem kontrol, dll.)? |
| Tingkat otonomi sistem | Seberapa otonom tindakan sistem dan peran apa yang dimainkan manusia? |
| ? Tingkat keterlibatan manusia | Apakah ada keterlibatan manusia untuk mengawasi keseluruhan aktivitas sistem AI dan kemampuan untuk memutuskan kapan dan bagaimana menggunakan sistem AI dalam situasi apa pun? |
| ? Aplikasi inti | Apakah sistem termasuk dalam area aplikasi inti seperti teknologi bahasa manusia, visi komputer, otomasi dan/atau optimalisasi, atau robotika? |
| ? Evaluasi | Apakah standar atau metode tersedia untuk mengevaluasi keluaran sistem? |
Bagaimana kerangka kerja ini dapat digunakan?
Kerangka kerja ini dapat digunakan dalam banyak cara, termasuk:
Sebuah jalan ke depan
Ringkasnya, kerangka analitis disediakan sebagai dasar perangkat yang dapat digunakan oleh para pemangku kepentingan untuk melihat secara komprehensif setiap perkembangan signifikan baik dari platform maupun penggunaan platform secara konsisten dan sistematis. Dimensi yang disajikan dalam kerangka ini memiliki relevansi mulai dari penilaian teknologi hingga kebijakan publik, dari pembangunan manusia hingga sosiologi, serta studi masa depan dan teknologi. Meskipun dikembangkan untuk AI, kerangka analitis ini memiliki penerapan yang jauh lebih luas pada teknologi baru lainnya.
6 Dewan Penasihat AI PBB. 2023. Laporan Sementara: Mengatur AI untuk Kemanusiaan. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd
Ucapan Terima Kasih
Banyak pihak yang telah berkonsultasi dan memberikan masukan dalam pengembangan makalah diskusi awal dan masukan setelah diterbitkan. Kedua makalah tersebut disusun oleh Sir Peter Gluckman, Presiden ISC dan Hema Sridhar, mantan Kepala Penasihat Sains, Kementerian Pertahanan, Selandia Baru dan sekarang Peneliti Senior, Universitas Auckland, Selandia Baru.
Secara khusus, ISC Lord Martin Rees, mantan Presiden Royal Society dan Salah Satu Pendiri Pusat Studi Risiko Eksistensial, Universitas Cambridge; Profesor Shivaji Sondhi, Profesor Fisika, Universitas Oxford; Profesor K Vijay Raghavan, mantan Penasihat Ilmiah Utama Pemerintah India; Amandeep Singh Gill, Utusan Teknologi Sekretaris Jenderal PBB; Seán Ó hÉigetaigh, Direktur Eksekutif, Pusat Studi Risiko Eksistensial, Universitas Cambridge; Sir David Spiegelhalter, Profesor Pemahaman Masyarakat tentang Risiko Winton, Universitas
dari Cambridge; Amanda-June Brawner, Penasihat Kebijakan Senior dan Ian Wiggins, Direktur Urusan Internasional, Royal Society, Inggris; Dr Jerome Duberry, Direktur Pelaksana dan Dr Marie-Laure Salles, Direktur, Geneva Graduate Institute; Chor Pharn Lee, Pusat Masa Depan Strategis, Kantor Perdana Menteri, Singapura; Barend Mons dan Dr Simon Hodson, Komite Data (CoDATA); Profesor Yuko Harayama, Mantan Direktur Eksekutif, RIKEN; Profesor
Rémi Quirion, Presiden, INGSA; Dr Claire Craig, Universitas Oxford dan Mantan Kepala Pandangan ke Depan, Kantor Ilmu Pengetahuan Pemerintah; Prof Yoshua Bengio, Dewan Penasihat Ilmiah Sekretaris Jenderal PBB dan di Université de Montréal; dan banyak pihak lainnya yang memberikan masukan kepada ISC pada makalah diskusi awal.
Mempersiapkan Ekosistem Riset Nasional untuk AI: Strategi dan Kemajuan pada tahun 2024
Kertas kerja dari lembaga think tank ISC, Center for Science Futures, memberikan informasi mendasar dan akses terhadap sumber daya dari negara-negara di seluruh belahan dunia, pada berbagai tahap pengintegrasian AI ke dalam ekosistem penelitian mereka.
Baca lebih lanjut tentang Lokakarya Nasihat Sains INGSA-Asia 
Baca selengkapnya tentang Menavigasi cakrawala baru – Laporan tinjauan masa depan global mengenai kesehatan planet dan kesejahteraan manusia 
Baca selengkapnya tentang Sintesis program Transformasi Menuju Keberlanjutan 
Baca lebih lanjut tentang Laporan Tahunan 2023 