Sebuah cerita pendek berusia 83 tahun karya Jorge Luis Borges meramalkan masa depan suram bagi internet
JAKARTA, GESAHKITA COM—-Sebuah cerita pendek berusia 83 tahun karya Jorge Luis Borges meramalkan masa depan yang suram bagi internet
Dalam pustaka konten Borges yang imajiner dan luas tanpa akhir, menemukan sesuatu yang bermakna ibarat mencari jarum dalam tumpukan jerami.
Roger J Kreuz mengurai nya berikut ini dialihkan bahasa nya oleh gesahkita.
Sebuah cerita pendek berusia 83 tahun karya Jorge Luis Borges meramalkan masa depan yang suram bagi internet
Jorge Luis Borges teks Creative Commons.
Bagaimana internet akan berkembang dalam beberapa dekade mendatang?
Penulis fiksi telah mengeksplorasi beberapa kemungkinan.
Dalam novelnya Fall yang terbit tahun 2019, penulis fiksi ilmiah Neal Stephenson membayangkan masa depan yang dekat di mana internet masih ada.
Namun, internet telah tercemar oleh misinformasi, disinformasi, dan iklan sehingga sebagian besar tidak dapat digunakan.
Tokoh-tokoh dalam novel Stephenson mengatasi masalah ini dengan berlangganan “edit stream” berita dan informasi pilihan manusia yang dapat dianggap dapat dipercaya.
Kekurangannya adalah hanya orang kaya yang mampu membeli layanan khusus seperti itu, yang menyebabkan sebagian besar umat manusia mengonsumsi konten daring berkualitas rendah dan tidak dikurasi.
Sampai batas tertentu, hal ini sudah terjadi: Banyak organisasi berita, seperti The New York Times dan The Wall Street Journal, telah menempatkan konten yang dikurasi di balik tembok berbayar. Sementara itu, misinformasi menyebar di platform media sosial seperti X dan TikTok.
Rekam jejak Stephenson sebagai seorang peramal sungguh mengesankan dan ia mengantisipasi metaverse dalam novelnya tahun 1992 Snow Crash, dan elemen plot utama dalam Diamond Age -nya, yang dirilis tahun 1995, adalah primer interaktif yang berfungsi seperti chatbot .
Di permukaan, chatbot tampaknya memberikan solusi terhadap epidemi misinformasi. Dengan memberikan konten faktual, chatbot dapat menyediakan sumber alternatif informasi berkualitas tinggi yang tidak dibatasi oleh batasan pembayaran.
Namun ironisnya, hasil dari chatbot ini mungkin mewakili bahaya terbesar bagi masa depan web bahaya yang telah disinggung beberapa dekade sebelumnya oleh penulis Argentina Jorge Luis Borges.
Munculnya chatbot
Saat ini, sebagian besar internet masih berisi konten yang bersifat faktual dan tampak benar, seperti artikel dan buku yang telah melalui proses peninjauan sejawat, pengecekan fakta, atau pemeriksaan verifikasi dengan cara tertentu.
Pengembang model bahasa besar, atau LLM mesin yang menggerakkan bot seperti ChatGPT, Copilot, dan Gemini telah memanfaatkan sumber daya ini.
Namun, untuk menjalankan sihirnya, model-model ini harus menyerap sejumlah besar teks berkualitas tinggi untuk tujuan pelatihan. Sejumlah besar kata-kata telah diambil dari sumber-sumber daring dan diberikan kepada LLM yang masih baru.
Masalahnya adalah bahwa web, betapapun besarnya, merupakan sumber daya yang terbatas. Teks berkualitas tinggi yang belum dieksploitasi menjadi langka, yang mengarah pada apa yang The New York Times sebut sebagai ” krisis konten yang muncul .”
Hal ini telah memaksa perusahaan seperti OpenAI untuk mengadakan perjanjian dengan penerbit untuk mendapatkan lebih banyak bahan baku bagi bot mereka yang rakus. Namun menurut salah satu prediksi, kekurangan data pelatihan berkualitas tinggi tambahan mungkin akan terjadi paling cepat pada tahun 2026.
Saat output chatbot berakhir secara daring, teks generasi kedua ini lengkap dengan informasi yang dibuat-buat yang disebut “ halusinasi ,” dan juga kesalahan langsung, seperti saran untuk menempelkan lem pada pizza Anda akan semakin mencemari web.
Dan jika chatbot bergaul dengan orang-orang yang salah secara daring, chatbot dapat menangkap pandangan-pandangan mereka yang tidak menyenangkan. Microsoft menemukan hal ini dengan cara yang sulit pada tahun 2016 ketika harus menghentikan Tay, bot yang mulai mengulang konten rasis dan seksis .
Seiring berjalannya waktu, semua masalah ini dapat membuat konten daring menjadi kurang dapat dipercaya dan kurang bermanfaat dibandingkan saat ini. Selain itu, LLM yang diberi asupan konten rendah kalori dapat menghasilkan keluaran yang lebih bermasalah yang juga berakhir di web.
Sebuah makalah pada bulan Juli 2024 yang diterbitkan di Nature meneliti konsekuensi dari pelatihan model AI pada data yang dihasilkan secara rekursif. Makalah tersebut menunjukkan bahwa “cacat yang tidak dapat dipulihkan” dapat menyebabkan ” keruntuhan model ” untuk sistem yang dilatih dengan cara ini seperti salinan gambar dan salinan salinan tersebut, dan salinan salinan tersebut, akan kehilangan kesetiaan terhadap gambar asli.
Seberapa buruk kah hal ini?
Coba perhatikan cerita pendek Borges tahun 1941, “ The Library of Babel .” Lima puluh tahun sebelum ilmuwan komputer Tim Berners-Lee menciptakan arsitektur untuk web, Borges sudah membayangkan padanan analognya.
Dalam ceritanya yang terdiri dari 3.000 kata, penulis membayangkan sebuah dunia yang terdiri dari ruangan heksagonal yang sangat besar dan mungkin tak terbatas jumlahnya. Rak-rak buku di setiap ruangan berisi buku-buku seragam yang, menurut intuisi penghuninya, pasti berisi setiap kemungkinan permutasi huruf dalam alfabet mereka.
Dalam pustaka konten imajiner Borges yang tak terbatas luasnya, menemukan sesuatu yang bermakna ibarat mencari jarum dalam tumpukan jerami.
Awalnya, realisasi ini memicu kegembiraan: Menurut definisi, pasti ada buku yang merinci masa depan umat manusia dan makna kehidupan.
Penduduk mencari buku-buku semacam itu, hanya untuk menemukan bahwa sebagian besar isinya hanya kombinasi huruf yang tidak berarti. Kebenaran ada di luar sana – tetapi begitu juga dengan semua kepalsuan yang mungkin ada. Dan semuanya tertanam dalam omong kosong yang jumlahnya tak terbayangkan banyaknya.
Bahkan setelah berabad-abad pencarian, hanya beberapa fragmen bermakna yang ditemukan. Dan bahkan setelah itu, tidak ada cara untuk menentukan apakah teks-teks yang koheren ini adalah kebenaran atau kebohongan. Harapan berubah menjadi keputusasaan.
Akankah web menjadi begitu tercemar sehingga hanya orang kaya yang mampu membeli informasi yang akurat dan dapat diandalkan? Atau akankah chatbot yang jumlahnya tak terbatas menghasilkan begitu banyak kata-kata yang tidak jelas sehingga menemukan informasi yang akurat secara daring menjadi seperti mencari jarum dalam tumpukan jerami?
Internet sering digambarkan sebagai salah satu pencapaian besar umat manusia. Namun, seperti sumber daya lainnya, penting untuk memikirkan secara serius bagaimana cara memelihara dan mengelolanya agar kita tidak berakhir berhadapan dengan visi distopia yang dibayangkan oleh Borges.
Roger J Kreuz adalah Dekan Asosiasi dan Profesor Psikologi di Universitas Memphis.
