Para ilmuwan dan peneliti semakin menghargai fiksi ilmiah atas kontribusinya dalam mengantisipasi skenario masa depan. Sebagai bagian dari misinya untuk mengeksplorasi arah perubahan ilmu pengetahuan dan sistem ilmu pengetahuan, the Pusat Ilmu Masa Depan duduk bersama enam penulis fiksi ilmiah terkemuka untuk mengumpulkan perspektif mereka tentang bagaimana sains dapat menjawab berbagai tantangan sosial yang akan kita hadapi dalam beberapa dekade mendatang. Podcast ini bermitra dengan Alam.
Dalam episode kelima, Qiufan Chen bergabung dengan kami untuk mendiskusikan hak pilihan dan tanggung jawab sosial dalam sains sebagai upaya manusia. Bagi Chen, hal ini terutama berlaku pada kecerdasan buatan. Dalam podcast tersebut, beliau memandu kita mengenai dampak AI terhadap masa depan penelitian ilmiah dan bagaimana perkembangan AI dapat lebih diatur sehingga menjadi lebih etis.
Qiufan Chen
Qiufan Chen adalah penulis fiksi spekulatif Tiongkok pemenang penghargaan, penulis Gelombang Limbah dan co-penulis AI 2041: Sepuluh Visi untuk Masa Depan Kita. Ia juga seorang peneliti di Universitas Yale dan anggota Berggruen Institute, AS. Diskusi utama kami berpusat pada kecerdasan buatan, bagaimana kita dapat memanfaatkan kekuatan teknologi ini sambil menghindari bahaya yang ditimbulkannya.
Paul Shrivastava (00:04):
Hai, saya Paul Shrivastava dari Universitas Negeri Pennsylvania. Dan, dalam seri podcast ini saya berbicara dengan beberapa penulis fiksi ilmiah terkemuka saat ini. Saya ingin mendengar pandangan mereka mengenai masa depan ilmu pengetahuan dan bagaimana ilmu pengetahuan harus bertransformasi untuk menghadapi tantangan yang kita hadapi di tahun-tahun mendatang.
Qiufan Chen (00:24):
AI di masa depan, mungkin bisa digunakan untuk membantu kita merefleksikan diri kita sebagai cermin, menjadikan kita manusia yang lebih baik.
Paul Shrivastava (00:33):
Hari ini, saya berbicara dengan Qiufan Stanley Chen, seorang penulis Tiongkok pemenang penghargaan. aku membaca novelnya, Gelombang Limbah bertahun-tahun yang lalu, dan terkesan dengan penggambarannya tentang kesulitan limbah elektronik. Buku terbarunya yang ditulis bersama AI 2041: 10 Visi Masa Depan Kita, dengan jelas menggabungkan cerita imajinatif dengan ramalan ilmiah. Kami berbicara banyak tentang kecerdasan buatan dan bagaimana kita dapat memanfaatkan kekuatan teknologi luar biasa ini, sekaligus menghindari beberapa bahaya yang ditimbulkannya.
Terima kasih banyak telah bergabung dengan kami, Stan. Selamat datang. Sungguh menakjubkan bahwa cakupan topik ilmiah yang Anda kuasai sungguh luar biasa. Bagaimana Anda bisa tertarik dengan topik ilmiah tersebut?
Qiufan Chen (01:28):
Jadi, sebagai penggemar sci-fi, harus saya akui bahwa saya memulai dari semua itu star Wars, Star Trek, Taman jurassic, film dan buku fiksi ilmiah klasik, animasi di masa lalu. Setiap kali itu memberi saya banyak inspirasi dan ide baru. Jadi, saya selalu terpesona dengan semua tanda-tanda ini, imajinasi masa depan dan luar angkasa dan bahkan spesies jutaan tahun yang lalu. Jadi, bagaimana kami menghidupkannya kembali.
Paul Shrivastava (02:02):
Jadi ilmu pengetahuan sudah ada sejak lama. Apa pandangan umum Anda tentang sains sebagai usaha manusia?
Qiufan Chen (02:13):
Bagi saya, ini jelas merupakan pencapaian yang luar biasa. Dan tentunya membuat kita menjalani kehidupan yang lebih baik sebagai manusia. Dan, jika kita melihat kembali sejarah, saya harus mengakui bahwa ada banyak tantangan, karena menurut saya lembaga ini tidak sepenuhnya berada di tangan manusia. Kadang-kadang saya merasa bahwa mungkin ilmu pengetahuan dan teknologi, seperti halnya beberapa spesies, seperti beberapa jenis makhluk biologis, memiliki tujuannya masing-masing. Ia memiliki siklus hidup kelahirannya sendiri. Ia ingin menjadi dan berkembang bersama manusia. Jadi kita ibarat tuan rumah, mereka ibarat virusnya. Kita bisa melihatnya dengan cara itu atau sebaliknya. Jadi, saya selalu merasa ada keterikatan yang sangat mendalam antara sains dan manusia. Jadi, kadang saya merasa kita sudah banyak berubah dengan segala perkembangan ilmu pengetahuan dan teknologi ini, tapi kita tidak pernah tahu arah ke depan seperti apa.
Paul Shrivastava (03:24):
Baiklah, mari kita buat lebih konkrit dan fokus pada apa yang menjadi perhatian utama saat ini, yaitu kecerdasan buatan. Bagaimana kita dapat memastikan bahwa pengembangan AI membawa keadilan sosial serta pertimbangan etika dan moral?
Qiufan Chen (03:40):
Masalahnya adalah kita tidak sepenuhnya berinvestasi untuk membangun peraturan dan kerangka kerja etis yang secara etis mencegah terjadinya hal negatif. Saya pikir kita memerlukan lebih banyak keragaman dalam AI, dan terutama pada model bahasa besar, karena kita berbicara tentang penyelarasan secara khusus. Jadi, bahkan di antara umat manusia yang berbeda negara, budaya, bahasa, kita tidak memiliki keselarasan bersama sebagai standar tunggal. Jadi, bagaimana kita bisa mengajarkan mesin, AI, untuk diselaraskan dengan sistem nilai kemanusiaan atau standar sebagai satu kesatuan yang tidak terpisahkan? Jadi menurut saya ini adalah sesuatu yang sangat awal. Namun, menurut saya masukan utamanya tidak hanya datang dari perusahaan teknologi, dari para insinyur, dari semua orang yang melakukan pekerjaan di industri ini, namun juga dari dunia interdisipliner, seperti antropologi dan psikologi, sosiologi, misalnya. Kita memerlukan perspektif yang lebih beragam dari bidang kemanusiaan, karena AI seharusnya dibangun untuk masyarakat, untuk melayani masyarakat. Tapi, faktor manusianya saat ini, saya rasa ada yang kurang.
Paul Shrivastava (05:11):
Jadi menurut Anda, bagaimana kemajuan teknologi ini akan mengubah cara pandang ilmu pengetahuan di masa depan?
Qiufan Chen (05:19):
Bagi saya, ini adalah perubahan paradigma baru di mana para ilmuwan dapat menggunakan AI untuk mencari pola baru, memprediksi struktur protein, dan menemukan korelasi dalam sejumlah besar data. Saya pikir ini akan menjadi sesuatu yang revolusioner. Namun ada banyak kekhawatiran dalam proses ini. Sebagai contoh, saat ini kita dapat memprediksi jutaan struktur protein, namun masalahnya adalah, berapa persentase dari semua prediksi struktur protein tersebut yang valid dan efektif terhadap penyakit sebenarnya dan tubuh manusia sebenarnya? Dan satu hal lagi adalah, seluruh area yang mengalami revolusi ini sangat fokus pada pengumpulan kumpulan data dalam jumlah besar. Apakah data ini dikumpulkan dari kelompok apa? Populasi seperti apa? Dan apakah mereka membagikan data ini dengan pemberitahuan, semuanya telah digunakan? Dan apakah kita berbagi data di antara kelompok ilmuwan atau peneliti yang berbeda? Jadi menurut saya ini adalah tentang bagaimana kita dapat membangun sistem penyeimbang untuk meminimalkan risiko dan tantangan, sekaligus benar-benar memenuhi permintaan pasar dan memberikan manfaat terbaik bagi masyarakat.
Paul Shrivastava (06:56):
Ya, menurut saya membangun sistem checks and balances adalah bagian penting dari pengembangan AI. Namun dampak kecerdasan buatan terhadap lingkungan jarang disebutkan dalam narasi sains publik.
Qiufan Chen (07:13):
Ini adalah sesuatu yang sangat paradoks, karena AI membutuhkan kekuatan yang sangat besar. Dan itu membutuhkan komputasi real-time. Dibutuhkan begitu banyak ekstraksi dari lingkungan. Namun sementara itu, kita bisa menggunakannya untuk mendeteksi kebakaran hutan dari satelit. Kita dapat menggunakannya untuk melindungi keanekaragaman hayati. Kita dapat menggunakannya untuk menemukan solusi baru sebagai penyimpan energi baterai, dan jaringan pintar dan bahkan mungkin teknologi fusi nuklir di masa depan. Jadi jika kita menggunakannya dengan cara yang benar, hal ini pasti dapat melindungi kita dan melawan perubahan iklim.
Paul Shrivastava (08:03):
Pada suatu saat di masa depan, apakah menurut Anda AI akan memahami lebih dari apa yang dapat dipahami manusia?
Qiufan Chen (08:13):
Jadi, apa yang saya pikirkan adalah suatu model, seperti model besar yang melampaui manusia. Misalnya data dari hewan, tumbuhan, jamur, bahkan dari mikro dan seluruh lingkungan. Jadi, kita sedang membicarakan model Bumi secara keseluruhan. Kita perlu menerapkan lapisan sensor semacam ini di seluruh dunia. Jadi, mungkin kita bisa menggunakan smart dust, yang disebutkan dalam novel The Invincible karya Lem. Jadi, yang Anda bicarakan tentang segerombolan debu kecil ini, pada dasarnya ini adalah kecerdasan kolektif. Dan, manusia dapat belajar banyak dari model besar semacam ini, karena model ini membantu kita memahami sesuatu di luar sistem indra kita dan di luar kemampuan manusia. Dengan begitu, kita bisa mengurangi rasa kemanusiaan dan lebih berbelas kasih terhadap spesies lain. Dan, mungkin itu bisa menjadi solusi untuk melawan perubahan iklim, karena kita bisa merasakan apa yang dirasakan spesies lain dan semua penderitaan ini, semua penderitaan ini, semua pengorbanan ini bisa menjadi sesuatu yang nyata dan nyata.
Paul Shrivastava (09:36):
Luar biasa. Membayangkan kecerdasan buatan dalam model manusia sebenarnya adalah cara berpikir yang lebih rendah dibandingkan dengan kecerdasan buatan… Cara yang lebih unggul, yang Anda sebut model seluruh dunia adalah cara untuk berkembang.
Qiufan Chen (09:54):
Ya. Jadi, hal ini mengingatkan saya pada agama Buddha, karena dalam agama Buddha, semua makhluk hidup adalah sederajat, dan tidak ada manusia yang dianggap lebih utama daripada makhluk lain. Jadi, saya selalu berpikir kita perlu menemukan cara untuk menanamkan semua filosofi dan nilai-nilai Budha dan Taoisme ke dalam mesin.
Paul Shrivastava (10:27):
Jadi, saya ingin tahu, Anda memahami elemen teknis AI. Bisakah AI dilatih dalam agama Buddha, dalam Taoisme? Karena semua kitab dan nilai-nilai sudah dikodifikasikan. Mungkinkah menemukan AI yang melatih mereka dan menciptakan agama dunia sintetik, jika Anda mau?
Qiufan Chen (10:50):
Ia pasti bisa, dan bisa melakukan pekerjaan yang lebih baik daripada pendeta mana pun, biksu mana pun, guru mana pun di dunia, karena ia sangat berpengetahuan. Namun, sebagai seorang praktisi Taoisme, ada sesuatu di luar pemahaman sintetik dari semua ini, sebut saja pengalaman religius atau spiritual, yaitu sesuatu yang ada di dalam tubuh. Jadi, Anda harus mengerjakan semua pekerjaan rumah fisik ini. Jadi, menurut saya ini adalah sesuatu yang masih kurang dari AI. Ia tidak memiliki tubuh, tidak memiliki sistem sensorik yang kompleks, tidak memiliki kesadaran diri, misalnya. Dan, menurut saya semua bagian itulah yang menjadikan manusia, manusia. AI di masa depan, mungkin bisa digunakan untuk membantu kita merefleksikan diri kita sebagai cermin, menjadikan kita manusia yang lebih baik.
Paul Shrivastava (11:49):
Dalam imajinasi Anda, bisakah AI memiliki jiwa?
Qiufan Chen (11:54):
Munculnya kesadaran pada dasarnya merupakan misteri dalam sains saat ini. Jadi menurut saya pasti ada hubungan antara kemampuan kemunculan model bahasa besar dengan semua fenomena kemunculan dalam sistem kompleksitas fisika klasik atau kuantum. Jadi menurut saya secara matematis, mungkin suatu hari nanti kita bisa membuktikan keberadaan kesadaran. Tapi ini bukan status nol atau satu, tapi seperti spektrum status yang berkelanjutan. Artinya, mungkin batu, pohon, sungai, atau gunung pun punya tingkat kesadaran tertentu, tapi kita tidak mengenalinya karena kita terlalu berpusat pada manusia. Tapi ini semua tentang perhitungan. Ini semua tentang kompresi ruang waktu. Ini semua tentang pelestarian informasi. Jadi ini semua tentang pengurangan entropi. Jadi ini bukan pertanyaan epistemologi, tapi menurut saya ini pertanyaan ontologis. Jadi ini tentang keberadaan.
Paul Shrivastava (13:14):
Terima kasih telah mendengarkan podcast dari Center for Science Futures milik Dewan Sains Internasional yang dilakukan dalam kemitraan dengan Pusat Imajinasi Manusia Arthur C. Clarke di UC San Diego. Kunjungi futures.council.science untuk menemukan lebih banyak karya dari Center for Science Futures. Hal ini berfokus pada tren yang muncul dalam ilmu pengetahuan dan sistem penelitian serta memberikan pilihan dan alat untuk membuat keputusan yang lebih baik.
Paul Shrivastava, Profesor Manajemen dan Organisasi di Pennsylvania State University, menjadi pembawa acara seri podcast. Ia berspesialisasi dalam implementasi Tujuan Pembangunan Berkelanjutan. Podcast ini juga dibuat bekerja sama dengan Pusat Imajinasi Manusia Arthur C. Clarke di Universitas California, San Diego.
Proyek ini diawasi oleh Mathieu Denis dan dibawa oleh Dong Liu, Dari Pusat Ilmu Masa Depan, wadah pemikir ISC.
Penolakan tanggung jawab
Informasi, opini, dan rekomendasi yang disajikan dalam blog tamu kami merupakan pendapat masing-masing kontributor, dan belum tentu mencerminkan nilai dan keyakinan Dewan Sains Internasional.
Baca selengkapnya tentang Podcast The Science Diplomat: Sir Peter Gluckman tentang nasihat ilmiah, kepercayaan, dan batasan bukti Baca selengkapnya tentang Sains tanpa batas: Kolaborasi internasional untuk generasi peneliti berikutnya Baca selengkapnya tentang Memikirkan kembali pertumbuhan dan ketahanan dalam ekosistem penelitian 