Mendaftarlah

Menjelang AI Safety Summit 2023, ISC merilis makalah diskusi tentang kerangka kerja evaluasi AI dan teknologi digital yang berkembang pesat

Peneliti ilmiah dan praktisi AI diundang untuk menanggapi makalah diskusi ISC dan usulan kerangka kerja AI.

Telah diusulkan oleh sejumlah akademisi dan pakar kebijakan agar Dewan Sains Internasional – dengan keanggotaan pluralistiknya yang terdiri dari ilmu-ilmu sosial dan alam – menetapkan suatu proses untuk menghasilkan dan memelihara kerangka kerja/daftar risiko, manfaat, ancaman dan peluang yang dijelaskan. terkait dengan teknologi digital yang bergerak cepat, termasuk – namun tidak terbatas pada – AI. Tujuan dari daftar periksa ini adalah untuk memberikan informasi kepada seluruh pemangku kepentingan – termasuk pemerintah, negosiator perdagangan, regulator, masyarakat sipil dan industri – mengenai kemungkinan skenario masa depan, dan akan menyusun bagaimana mereka dapat mempertimbangkan peluang, manfaat, risiko dan isu-isu lainnya.


Makalah diskusi ISC

Kerangka kerja untuk mengevaluasi teknologi digital dan teknologi terkait yang berkembang pesat: AI, model bahasa besar, dan lainnya

Makalah diskusi ini memberikan garis besar kerangka kerja awal untuk menginformasikan berbagai diskusi global dan nasional yang terkait dengan AI.


Bergabunglah dalam diskusi

Kami mendorong Anda untuk bergabung dalam diskusi mengenai ide-ide yang disajikan dalam makalah ini, dan kerangka kerjanya dengan menggunakan formulir di bagian bawah halaman.


ISC dengan bangga menyajikan makalah diskusi tentang evaluasi teknologi digital dan teknologi terkait yang berkembang pesat. Kecerdasan Buatan, biologi sintetik, dan teknologi kuantum adalah contoh utama inovasi, yang didasari oleh ilmu pengetahuan, dan muncul dengan kecepatan yang belum pernah terjadi sebelumnya. Mungkin sulit untuk mengantisipasi secara sistematis tidak hanya penerapannya, namun juga implikasinya.

Mengevaluasi aspek sosial dari AI generatif seperti model bahasa besar, yang diperkirakan mewakili sebagian besar makalah diskusi ini, merupakan jembatan yang diperlukan dalam wacana saat ini – terkadang didorong oleh rasa panik, terkadang tidak cukup mendalam pemikirannya – dan kursus yang diperlukan untuk mengatasi hal tersebut. tindakan yang bisa kita ambil. ISC yakin bahwa kerangka analitis antara penerimaan sosial terhadap teknologi baru dan kemungkinan regulasinya diperlukan untuk memfasilitasi diskusi multipihak yang diperlukan untuk mengambil keputusan yang tepat dan bertanggung jawab mengenai cara mengoptimalkan manfaat sosial dari teknologi yang berkembang pesat ini.

ISC terbuka terhadap reaksi komunitas kami melalui makalah diskusi ini untuk menilai cara terbaik untuk terus menjadi bagian dan berkontribusi dalam perdebatan seputar teknologi.

Salvatore Aricò, CEO

Kontributor makalah ini:

Banyak orang telah dimintai pendapatnya dalam pengembangan makalah ini, yang disusun oleh Sir Peter Gluckman, Presiden, ISC dan Hema Sridhar, mantan Kepala Ilmuwan, Kementerian Pertahanan, dan sekarang menjadi peneliti senior, Universitas Auckland, Selandia Baru. 

Secara khusus kami berterima kasih kepada:

  • Lord Martin Rees, mantan Presiden Royal Society dan salah satu pendiri Pusat Studi Risiko Eksistensial, Universitas Cambridge;
  • Profesor Shivaji Sondhi, Profesor Fisika, Universitas Oxford;
  • Profesor K Vijay Raghavan, mantan penasihat ilmiah utama Pemerintah India;
  • Amandeep Singh Gill, Utusan Teknologi Sekretaris Jenderal PBB;
  • Dr Seán Óh Éigeartaigh, Direktur Eksekutif, Pusat Studi Risiko Eksistensial, Universitas Cambridge;
  • Amanda-June Brawner, Penasihat Kebijakan Senior dan Ian Wiggins, Direktur Urusan Internasional, Royal Society UK;
  • Dr Jerome Duberry, Dr Marie-Laure Salles, Direktur, Institut Pascasarjana Jenewa;
  • Mr Chor Pharn Lee, Pusat Masa Depan Strategis, Kantor Perdana Menteri, Singapura;
  • Barend Mons dan Dr Simon Hodson, Komite Data (CoDATA);
  • Prof Yuko Harayama, Jepang;
  • Profesor Rémi Quirion, Presiden, INGSA;
  • Dr Claire Craig, Universitas Oxford dan Mantan Kepala Pandangan ke Depan, Kantor Ilmu Pengetahuan Pemerintah; Dan
  • Prof Yoshua Bengio, Dewan Penasihat Ilmiah Sekretaris Jenderal PBB dan di Université de Montréal.

Apa lagi yang terjadi pada AI di ISC?

Lembaga pemikir ISC, Center for Science Futures, akan menerbitkan makalah kerja tentang “Mempersiapkan Ekosistem Sains untuk AI” pada awal tahun 2024. Makalah ini akan mencakup tinjauan literatur, peta permasalahan, dan serangkaian studi kasus singkat di suatu negara. Harapannya, makalah ini akan berkontribusi dalam mendorong diskusi di antara para pembuat kebijakan, pemimpin industri, dan peneliti saat mereka mengembangkan peta jalan untuk memanfaatkan potensi AI demi kemajuan ilmu pengetahuan dan penelitian.

Pameran Dunia

AI untuk sains: Wawasan dari Asia-Pasifik 

Pada awal bulan Oktober, Pusat Masa Depan Sains ISC menandai momen penting dalam inisiatif terbarunya mengenai Kecerdasan Buatan (AI) untuk Sains, ketika 14 delegasi dan pakar terhormat yang mewakili 12 negara, sebagian besar dari Asia-Pasifik, berkumpul untuk pertemuan tepat waktu di Kuala Lumpur, Malaysia dengan dukungan Australian Academy of Science. ➡️Rlebih banyak

AI Mengubah Ilmu Pengetahuan – Bagaimana caranya? Siapa yang Harus Mengganggu?

Tinjauan kritis terhadap dampak Kecerdasan Buatan (AI) terhadap ilmu pengetahuan dari berbagai sudut pandang dan pelaku – mulai dari penyandang dana publik hingga lembaga-lembaga teknologi tinggi swasta – mengungkapkan keprihatinan bersama atas kurangnya transparansi dan kerja sama dalam menciptakan pendekatan yang lebih berpusat pada manusia yang akan berdampak pada sains. mewujudkan janji ilmu pengetahuan sebagai barang publik global. ➡️Rlebih banyak


Umpan Balik AI

Nama
Gender
Perlindungan data: Responden harus menyadari bahwa ISC akan menyimpan informasi yang diserahkan selama inisiatif berlangsung (lihat: https://council.science/privacy-policy)
Kami mengundang Anda untuk berlangganan Buletin ISC.

Gambar: adamichi di iStock