Teori Konspirasi Miliki Sahabat Baru
JAKARTA, GESAHKITA COM—Sejarah telah lama menjadi teater perang, masa lalu berfungsi sebagai proksi dalam konflik di masa sekarang. Ron DeSantis mengubah sejarah dengan melarang buku-buku tentang rasisme dari sekolah-sekolah Florida; orang-orang tetap terpecah tentang pendekatan yang tepat untuk memulangkan benda dan jenazah Pribumi ; Makalah Pentagonadalah upaya untuk memutarbalikkan narasi tentang Perang Vietnam.
Nazi merebut kekuasaan sebagian dengan memanipulasi masa lalu mereka menggunakan propaganda tentang pembakaran Reichstag, gedung parlemen Jerman, untuk membenarkan penganiayaan lawan politik dan mengambil alih otoritas diktator.
Matteo Wong mengungkap lebih akan hal tersebut di laman atlantic dan gesahkita alih bahasa nya, lengkapnya dibawah ini;
Contoh spesifik itu membebani Eric Horvitz, kepala ilmuwan Microsoft dan peneliti AI terkemuka, yang memberi tahu saya bahwa revolusi AI yang nyata tidak hanya dapat memberikan senjata baru bagi para propagandis, seperti yang dilakukan media sosial awal abad ini, tetapi juga sepenuhnya mengubah medan historiografi. , mungkin meletakkan dasar untuk kebakaran Reichstag zaman modern.
Kemajuan yang dimaksud, termasuk model bahasa seperti ChatGPT dan generator gambar seperti DALL-E 2, umumnya berada di bawah payung “AI generatif”.
Hal ini adalah program yang kuat dan mudah digunakan yang menghasilkan teks, gambar, video, dan audio sintetik, yang semuanya dapat digunakan oleh aktor jahat untuk mengarang acara, orang, pidato, dan laporan berita untuk menyebarkan disinformasi.
Anda mungkin pernah melihat salah satu contoh dari jenis media ini: video palsu Presiden Ukraina Volodymyr Zelensky yang menyerah kepada Rusia; cuplikan tiruan dari Joe Rogan dan Ben Shapiro berdebat tentang film Ratatouille .
Seiring kemajuan teknologi ini, fabrikasi sedikit demi sedikit dapat memberi jalan bagi kampanye yang terkoordinasi bukan hanya media sintetik tetapi seluruh sejarah sintetik, sebagaimana Horvitz menyebut mereka di koran akhir tahun lalu.
Dan generasi baru mesin pencari bertenaga AI , yang dipimpin oleh Microsoft dan Google, dapat membuat sejarah seperti itu lebih mudah ditemukan dan hampir tidak mungkin dideteksi oleh pengguna.
Meskipun ketakutan serupa tentang media sosial, TV, dan radio terbukti agak mengkhawatirkan, ada alasan untuk percaya bahwa AI benar-benar bisa menjadi varian baru dari disinformasi yang membuat kebohongan tentang pemilu, protes, atau penembakan massal di masa mendatang menjadi lebih menular dan kebal terhadap kekebalan.
Perhatikan, misalnya, wabah flu burung yang merajalela , yang belum menyebar dari manusia ke manusia. Seorang agen politik—atau seorang konspirasis sederhana dapat menggunakan program yang mirip dengan ChatGPT dan DALL-E 2 untuk dengan mudah membuat dan menerbitkan sejumlah besar cerita tentang laboratorium China, Organisasi Kesehatan Dunia, atau Pentagon yang mengotak-atik virus, yang sudah ada sejak dulu ke berbagai titik di masa lalu dan lengkap dengan “bocoran” palsu dokumen, rekaman audio dan video, dan komentar ahli. Sebuah sejarah sintetik di mana flu burung yang dipersenjatai pemerintah akan siap untuk pergi jika flu burung mulai beredar di antara manusia.
Seorang propagandis dapat dengan mudah menghubungkan berita dengan latar belakang mereka yang sepenuhnya dibuat-buat tetapi sepenuhnya terbentuk dan tampaknya terdokumentasi dengan baik yang diunggulkan di internet, menyebarkan fiksi yang dapat menghabiskan politik negara.dan respons kesehatan masyarakat. Kekuatan sejarah yang dihasilkan AI, kata Horvitz kepada saya, terletak pada “deepfake pada garis waktu yang bercampur dengan peristiwa nyata untuk membangun sebuah cerita”.
Mungkin juga sejarah sintetik akan mengubah jenisnya , tetapi bukan tingkat keparahannya, dari disinformasi online yang sudah merajalela. Orang-orang senang mempercayai cerita palsu yang mereka lihat di Facebook, Rumble, Truth Social, YouTube, di mana saja.
Sebelum web, propaganda dan kebohongan tentang orang asing, musuh masa perang, alien, dan Bigfoot berlimpah ruah. Dan jika menyangkut media sintetik atau “deepfake”, penelitian yang ada menunjukkan bahwa mereka menawarkan manfaat yang sangat kecil dibandingkan dengan manipulasi yang lebih sederhana, seperti salah memberi label rekaman atau menulis laporan berita palsu.
Anda tidak membutuhkan teknologi canggih agar orang percaya teori konspirasi. Tetap saja, Horvitz yakin kita berada di jurang: Kecepatan AI menghasilkan disinformasi berkualitas tinggi akan luar biasa.
Disinformasi otomatis yang diproduksi dengan kecepatan dan skala yang tinggi dapat memungkinkan apa yang dia sebut sebagai “penjelasan generatif yang bermusuhan”.
Sejalan dengan konten yang ditargetkan yang Anda sajikan di media sosial, yang diuji dan dioptimalkan sesuai dengan apa yang orang terlibat, propagandis dapat menjalankan tes kecil untuk menentukan bagian mana dari narasi yang diciptakan yang lebih atau kurang meyakinkan, dan menggunakan umpan balik itu bersama dengan penelitian sosial-psikologi untuk secara berulang meningkatkan sejarah sintetik itu.
Misalnya, sebuah program dapat merevisi dan memodulasi kredensial dan kutipan ahli palsu agar sesuai dengan demografi tertentu. Model bahasa seperti ChatGPT, juga, mengancam untuk menenggelamkan internet dalam teks Potemkin yang serupa konspirasi dan disesuaikan bukan iklan bertarget, tetapi konspirasi bertarget.
Rencana Big Tech untuk mengganti pencarian internet tradisional dengan chatbots dapat meningkatkan risiko ini secara substansial. Model bahasa AI yang diintegrasikan ke dalam Bing dan Google terkenal buruk dalam pemeriksaan fakta dan rentan terhadap kesalahan, yang mungkin membuatnya rentan terhadap penyebaran sejarah palsu.
Meskipun banyak dari versi awal pencarian berbasis chatbot memberikan tanggapan gaya Wikipedia dengan catatan kaki, inti dari sejarah sintetik adalah untuk memberikan serangkaian sumber alternatif dan meyakinkan. Dan seluruh premis chatbots adalah kemudahan—agar orang memercayai mereka tanpa memeriksa.
Jika disinformasi kiamat ini terdengar familiar, itu karena memang begitu. “Klaim tentang teknologi [AI] adalah klaim yang sama yang dibuat orang kemarin tentang internet,” kata Joseph Uscinski, seorang ilmuwan politik di University of Miami yang mempelajari teori konspirasi. “Ya Tuhan, kebohongan berjalan lebih jauh dan lebih cepat dari sebelumnya, dan semua orang akan percaya semua yang mereka lihat.”
Tetapi dia tidak menemukan bukti bahwa kepercayaan pada teori konspirasi telah meningkat bersamaan dengan penggunaan media sosial , atau bahkan selama pandemi virus corona ; penelitian tentang narasi umum seperti ruang gema juga goyah .
Orang-orang membeli sejarah alternatif bukan karena teknologi baru membuatnya lebih meyakinkan, kata Uscinski, tetapi karena alasan yang sama mereka mempercayai hal lain mungkin konspirasi tersebut menegaskan keyakinan mereka yang ada, sesuai dengan persuasi politik mereka, atau berasal dari sumber yang mereka percayai.
Dia merujuk perubahan iklim sebagai contoh: Orang-orang yang percaya pada pemanasan antropogenik, sebagian besar, “tidak menyelidiki datanya sendiri. Yang mereka lakukan hanyalah mendengarkan sumber tepercaya mereka, yang juga dilakukan oleh para penyangkal perubahan iklim. Mekanismenya persis sama; hanya saja dalam kasus ini para elit Republik kebetulan salah.”
Tentu saja, media sosial memang mengubah cara orang memproduksi, menyebarkan, dan mengkonsumsi informasi. AI generatif dapat melakukan hal yang sama, tetapi dengan taruhan baru. “Di masa lalu, orang akan mencoba berbagai hal dengan intuisi,” kata Horvitz kepada saya.
“Tetapi gagasan untuk mengulangi lebih cepat, dengan presisi yang lebih tinggi dalam memanipulasi pikiran, adalah hal baru. Kesetiaan konten, kemudahan pembuatannya, kemudahan Anda memposting banyak acara ke garis waktu”—semua adalah alasan substantif untuk khawatir. Sudah, menjelang pemilu 2020, Donald Trump menanamkan keraguan tentang penipuan pemungutan suara yang mendukung kampanye “Hentikan Pencurian” begitu dia kalah. Menjelang November 2024, agen politik yang berpikiran sama dapat menggunakan AI untuk membuat persona palsu dan petugas pemilu, membuat video manipulasi mesin pemungutan suara dan mengisi surat suara, serta menulis berita palsu, yang semuanya akan menyatu menjadi sejarah sintetik yang kedap udara. di mana pemilu dicuri.
Kampanye deepfake dapat membawa kita lebih jauh ke “dunia pasca-epistemik, di mana Anda tidak tahu mana yang asli atau palsu,” kata Horvitz. Seorang pebisnis yang dituduh melakukan kesalahan dapat menyebut bukti memberatkan yang dibuat oleh AI; seorang politisi dapat menanam pembunuhan karakter saingan yang terdokumentasi tetapi sepenuhnya salah. Atau mungkin, dengan cara yang sama seperti Truth Social dan Rumble memberikan alternatif konservatif untuk Twitter dan YouTube, alternatif paling kanan untuk pencarian bertenaga AI, yang terlatih dalam banyak konspirasi dan sejarah sintetik, akan muncul sebagai tanggapan atas ketakutan tentang Google, Bing , dan ” WokeGPT ” terlalu progresif. “Tidak ada dalam pikiran saya yang akan menghentikan hal itu terjadi dalam kapasitas pencarian,” Renée DiResta, manajer riset dari Stanford Internet Observatory, yang baru-baru ini menulis sebuahmakalah tentang model bahasa dan disinformasi, kata.
“Ini akan dilihat sebagai peluang pasar yang fantastis bagi seseorang.” RightWingGPT dan AI Kristen-konservatif sudah dalam diskusi, dan Elon Musk dilaporkan merekrut bakat untuk membangun saingan konservatif OpenAI.
Mempersiapkan kampanye deepfake seperti itu, kata Horvitz, akan membutuhkan berbagai strategi, termasuk upaya melek media, metode deteksi yang ditingkatkan, dan regulasi.
Yang paling menjanjikan mungkin adalah membuat standar untuk menetapkan asal usul media apa pun log tempat foto diambil dan semua cara pengeditannya dilampirkan ke file sebagai metadata, seperti lacak balak untuk bukti forensik yang Adobe, Microsoft, dan beberapa perusahaan lain sedang mengerjakannya.
Tetapi orang masih perlu memahami dan mempercayai log itu. “Anda memiliki momen proliferasi konten dan kekeruhan tentang bagaimana hal-hal yang akan terjadi,” kata Rachel Kuo, seorang profesor studi media di University of Illinois di Urbana-Champaign.
Pembuktian, deteksi, atau metode sanggahan lainnya mungkin masih sangat bergantung pada orang yang mendengarkan para ahli, baik itu jurnalis, pejabat pemerintah, atau bot obrolan AI, yang memberi tahu mereka apa yang sah dan tidak. Dan bahkan dengan rantai pengawasan silikon seperti itu, bentuk kebohongan yang lebih sederhana melalui berita kabel, di lantai Kongres, di media cetak akan terus berlanjut.
Membingkai teknologi sebagai kekuatan pendorong di balik disinformasi dan konspirasi menyiratkan bahwa teknologi adalah solusi yang cukup, atau setidaknya perlu.
Tapi menekankan AI bisa menjadi kesalahan. Jika kita terutama khawatir “bahwa seseorang akan memalsukan Joe Biden, mengatakan bahwa dia adalah seorang pedofil, maka kita mengabaikan alasan mengapa informasi seperti itu beresonansi,” Alice Marwick, seorang media- profesor studi di University of North Carolina di Chapel Hill, memberi tahu saya.
Dan untuk berargumen bahwa teknologi baru, apakah media sosial atau AI, terutama atau semata-mata bertanggung jawab untuk membengkokkan kebenaran berisiko mengubah kekuatan iklan, algoritme, dan umpan Big Tech untuk menentukan pikiran dan perasaan kita.
Seperti yang ditulis reporter Joseph Bernstein: “Ini adalah model sebab dan akibat di mana informasi yang diedarkan oleh beberapa perusahaan memiliki kekuatan total untuk membenarkan keyakinan dan perilaku para demo. Di satu sisi, dunia ini adalah semacam kenyamanan. Mudah dijelaskan, mudah diubah, dan mudah dijual.”
Kisah yang lebih berantakan mungkin bertentangan dengan bagaimana manusia, dan mungkin mesin, tidak selalu sangat rasional; dengan apa yang mungkin perlu dilakukan agar penulisan sejarah tidak lagi menjadi perang. Sejarawan Jill Lepore mengatakan bahwa ” catatan kaki menyelamatkan Wikipedia ,” menunjukkan bahwa sumber transparan membantu situs web menjadi, atau setidaknya tampak, sumber utama untuk informasi yang cukup andal. Tapi mungkin sekarang catatan kaki, dorongan dan dorongan untuk memverifikasi itu, akan menenggelamkan internet jika belum melakukannya.
Matteo Wong adalah asisten editor di The Atlantic .
