Tentang Penulis: Amy Brand adalah Direktur dan Penerbit MIT Press, peran yang telah dijabatnya sejak 2015. Sebagai ilmuwan kognitif yang terlatih, ia meraih gelar PhD dari MIT dan telah memegang peran kepemimpinan di CrossRef, Harvard, dan Digital Science. Ia adalah salah satu pencipta taksonomi CRediT, anggota pendiri Dewan ORCID, dan produser film dokumenter Picture a Scientist. Brand dikenal luas atas kontribusinya terhadap infrastruktur penelitian, komunikasi ilmiah, dan kesetaraan dalam sains. Penghargaan yang pernah diterimanya antara lain Council of Science Editors Award dan AAAS Kavli Science Journalism Gold Award.
Sains sangat penting bagi kemajuan manusia. Yang juga penting, meskipun kurang kentara, adalah bagaimana kita menyebarluaskan sains. Sebagai sistem yang memungkinkan pengetahuan ditemukan dan dipercaya, penerbitan merupakan komponen inti dari infrastruktur penelitian.
Bagaimana seharusnya dunia penerbitan beradaptasi untuk melayani kebutuhan komunitas riset yang menghadapi penyensoran, berkurangnya pendanaan, dan pesatnya perkembangan sistem AI generatif yang menyedot pengetahuan sekaligus mengikis integritasnya? Sebagai seseorang yang telah berpuluh-puluh tahun berkecimpung di bidang riset, administrasi universitas, dan penerbitan, saya belum pernah melihat taruhan setinggi ini bagi masa depan sains. ke komunikasi sains.
Dengan runtuhnya sistem sosial-politik di sekitar kita, kita tergoda untuk memandang AI generatif sebagai solusi alkimia untuk permasalahan dunia. Model bahasa besar (LLM) telah muncul sebagai portal yang menggoda menuju penemuan, menyediakan jawaban instan, sintesis yang mulus, dan demokratisasi pengetahuan yang nyata. Namun, daya tariknya menyembunyikan potensinya sebagai sistem yang juga mempercepat misinformasi, penipuan, dan propaganda. Secara desain, mereka menghasilkan konten yang tampak sangat masuk akal tetapi seringkali menyesatkan atau bahkan salah. Hal ini berbahaya bagi sains ketika validasi sulit dan mahal, sementara "kebenaran" murah dan menguntungkan, terutama mengingat betapa mudahnya mengelabui pikiran manusia.
Ya, kita ingin mempercepat penemuan dan penyelesaian masalah dalam menghadapi tantangan global yang berat. Kita ingin percaya pada mesin yang dapat memecahkan masalah lebih cepat daripada arsitektur kognitif manusia atau institusi kita yang disfungsional. Namun, ketika para pendukung pelatihan AI tanpa batas berpendapat bahwa menyediakan semua konten dan data ilmiah untuk mempercepat inovasi merupakan keharusan moral, sejarah justru menasihati kita untuk berhati-hati.
Kita telah melihat hal ini sebelumnya. Internet di masa awal dipuji sebagai kekuatan demokratisasi bagi ekspresi dan pengetahuan universal. Pada akhirnya, kurangnya regulasi memungkinkan platform komersial besar mendominasi ruang tersebut, mengikis kepercayaan dan meruntuhkan model ekonomi untuk konten berita dan riset. Kita juga kini tahu bahwa kebijakan akses terbuka yang kurang matang mempercepat konsolidasi dalam dunia penerbitan dan menciptakan insentif ekonomi untuk menerbitkan lebih banyak dengan kontrol kualitas yang lebih rendah.
Mari kita berhenti sejenak dan pertimbangkan apa yang terbaik bagi pemahaman, pembelajaran, dan kemajuan ilmu pengetahuan manusia. Ketika pencarian hanya mengarah pada ringkasan AI dan pengguna tidak mengeklik sumber asli, dan ketika kegiatan membaca untuk kesenangan menurun drastis, bagaimana kita dapat menghindari masa depan di mana kita menulis dan menerbitkan konten hanya untuk konsumsi mesin?
Saya percaya peran penting penerbit dalam mendukung dampak dan integritas penelitian layak untuk dipertahankan dan dilindungi, terutama sekarang. Saya memahami rasa frustrasi dengan biaya penerbitan yang tinggi dan dinding pembayaran berlangganan, terutama dari penerbit besar yang telah memanfaatkan pasar prestise akademis yang sebelumnya tidak sensitif terhadap harga. Namun, industri kami bukanlah entitas monolitik yang mencari keuntungan. Penerbit nirlaba, seperti MIT Press dan banyak perkumpulan ilmiah lainnya, beroperasi dengan nilai yang berbeda dan margin yang lebih tipis.
Memang, kita lebih terancam oleh perampasan lahan oleh AI dan terkadang bahkan oleh gerakan sains terbuka yang telah lama kita dukung. Oleh karena itu, kita harus melawan postur moral yang mengabaikan dinamika kekuasaan yang sedang berlangsung. Ada lingkaran cahaya di sekitar gagasan "keterbukaan" yang dapat mengaburkan kompleksitas dunia nyata seperti ekonomi dan insentif. Pada akhirnya, tidak semua keterbukaan itu berbudi luhur; tidak semua penolakan terhadap keterbukaan bersifat obstruksi.
Kesalahpahaman lainnya adalah bahwa kepentingan penerbit tidak selaras dengan kepentingan peneliti. Kami baru-baru ini melakukan survei besar penulis di berbagai bidang STEM terkait penggunaan karya mereka tanpa izin untuk pelatihan LLM. Sebagian besar menolak praktik ini meskipun meyakini AI menjanjikan jalur transformatif untuk penemuan dan pembelajaran. Mereka berharap dapat menyetujui, atau tidak, penggunaan tersebut dan mengharapkan atribusi ketika karya mereka memengaruhi keluaran LLM. Mereka tidak menyamakan terbuka untuk dibaca dengan terbuka untuk dilatih.
Begitu pula, banyak yang skeptis terhadap integritas perusahaan AI besar, dan khawatir tentang bagaimana LLM akan memengaruhi penerbitan, membaca, menulis, berpikir kritis, dan kreativitas; melemahkan beragam sudut pandang; dan memperkuat bias dan hegemoni budaya. Mereka sangat khawatir tentang apa yang hilang ketika kita memecah karya manusia menjadi data pelatihan yang ditokenisasi dan memasukkannya ke dalam model yang tidak dapat mempertahankan konteks atau argumennya.
Pertanyaan tentang bagaimana, dan dalam kondisi apa, ilmu pengetahuan yang dipublikasikan digunakan untuk melatih LLM bukan hanya tentang hak cipta. Ini tentang siapa yang mengendalikan masa depan pengetahuan. Apakah kita menyerahkan wewenang kepada industri ekstraktif yang tidak transparan dengan sedikit akuntabilitas kepada komunitas riset? Atau apakah kita membangun sistem yang menjaga atribusi, integritas, dan keberlanjutan? Jika kita serius tentang kemajuan manusia, tentang ilmu pengetahuan berbasis bukti, dan tentang melindungi kondisi di mana pengetahuan tumbuh, maka komunitas riset dan lembaga-lembaganya harus melanjutkan dengan penuh pertimbangan.
Siapa yang diuntungkan dengan memberikan ilmu pengetahuan dan beasiswa yang telah diterbitkan kepada sektor teknologi yang sangat ekstraktif dan tidak transparan? Ikuti logikanya: semua nilai dalam biaya penerbitan terbuka yang dibayarkan oleh penulis, institusi, dan penyandang dana pada akhirnya diberikan kepada perusahaan seperti OpenAI dan Anthropic. Dalam hal industri ekstraktif, mari kita juga jujur dalam menilai bagaimana nilai sektor AI dibandingkan dengan nilai penerbit akademis.
Saya sendiri tetap optimis bahwa, dengan perencanaan yang matang dan kebijakan berbasis bukti, kita akan memanfaatkan AI untuk meningkatkan tinjauan sejawat, meningkatkan reproduktifitas, dan menyederhanakan alur kerja serta biaya penerbitan. Kita bahkan mungkin dapat membangun solusi yang membantu mempertahankan aspek-aspek positif dari penerbitan ilmiah.
Namun, paradigma saat ini, di mana catatan yang dipublikasikan ditambang tanpa izin dan dimonetisasi oleh raksasa teknologi swasta, tidak etis dan merusak sains dan keilmuan. Paradigma ini juga mencerminkan pemikiran magis tentang bagaimana dunia kita yang kompleks ini bekerja dan bagaimana kita akan mencapai kemajuan nyata dalam memecahkan masalah-masalah eksistensial yang kita hadapi.
Penolakan tanggung jawab
Informasi, opini, dan rekomendasi yang disajikan dalam blog tamu kami merupakan pendapat masing-masing kontributor, dan belum tentu mencerminkan nilai dan keyakinan Dewan Sains Internasional.
Terima rangkuman sains terbuka masa depan langsung ke kotak masuk Anda – berlangganan sekarang.
Foto oleh Martin Adams on Unsplash
Baca selengkapnya tentang Forum ISC tentang Penerbitan dan Penilaian Penelitian Baca selengkapnya tentang rangkuman Sains Terbuka: infrastruktur tersembunyi di balik reformasi penelitian. Baca selengkapnya tentang Apakah kita membangun infrastruktur pengetahuan global untuk dunia yang kita miliki atau untuk dunia yang ingin kita ciptakan? Baca selengkapnya tentang rangkuman Sains Terbuka: Memanfaatkan preprint sebaik mungkin 
