AI dan Demokrasi: hubungan yang rumit

Hubungan antara kecerdasan buatan dan demokrasi tidak bersifat linier atau searah, melainkan mewakili jalinan kekuatan yang saling bertentangan yang secara bersamaan meningkatkan dan merusak fondasi proses demokrasi.

Transformasi agora publik

AI telah mengubah ruang publik secara mendalam di mana perdebatan demokratis terjadi. Perubahan ini jauh melampaui masalah disinformasi yang sederhana. Kita menyaksikan fragmentasi pengalaman informasi kolektif yang secara historis telah menjadi prasyarat mendasar bagi demokrasi modern.

Ketika warga negara yang berbeda hidup dalam realitas informasi yang sangat berbeda yang terstruktur oleh algoritme rekomendasi, landasan bersama yang diperlukan untuk dialog demokratis akan hilang.

Paradoksnya, meskipun AI telah melipatgandakan sumber informasi yang tersedia, AI juga mengikis kemampuan masyarakat demokratis untuk mencapai konsensus tentang apa yang disebut sebagai 'fakta'. Erosi epistemik ini menimbulkan tantangan yang lebih dalam dan lebih berbahaya daripada sekadar menyebarkan berita palsu.

Dilema antara kekuasaan dan kompetensi

Negara-negara demokrasi dihadapkan pada dilema mendasar: keputusan tentang AI membutuhkan keahlian teknis yang sangat spesifik, tetapi mempercayakan keputusan ini secara eksklusif kepada para ahli berarti menyingkirkannya dari proses demokrasi. Dengan demikian, ada ketegangan yang belum terselesaikan antara prinsip demokrasi (keputusan yang dibuat oleh dan untuk warga negara) dan kebutuhan akan keahlian spesialis.

Ketegangan ini diperparah dengan fakta bahwa sistem AI yang semakin kompleks tidak hanya tidak dapat dipahami oleh masyarakat awam, tapi juga oleh para ahli yang mengembangkannya. Bagaimana kontrol demokratis dapat berfungsi ketika instrumen yang seharusnya diatur melebihi kemampuan manusia untuk memahaminya?

Penargetan mikro politik dan proses pemilu

Mikrotargeting politik melalui AI menjadi semakin canggih dalam kampanye kontemporer. Sistem AI menganalisis dataset pemilih yang luas untuk menciptakan pesan politik yang sangat dipersonalisasi. Just Security

Penelitian menunjukkan bahwa iklan politik yang ditargetkan berdasarkan kepribadian dan dihasilkan oleh AI secara signifikan lebih persuasif dibandingkan konten generik. PubMedNih

Skala dan efisiensi AI memungkinkan kampanye untuk menghasilkan konten personal bagi jutaan pemilih secara simultan, membuat mikrotargeting jauh lebih mudah dilakukan dan lebih murah dibandingkan sebelumnya. PoliticalmarketerCSET

Studi terbaru menunjukkan bahwa alat kampanye yang didukung AI dapat mengidentifikasi kerentanan psikologis pada pemilih dan menciptakan pesan yang mengeksploitasi karakteristik tersebut. OUP AcademicTechInformed

Kekhawatiran demokratisnya cukup besar:

• Potensi manipulasi ditunjukkan oleh penelitian yang menunjukkan bagaimana mikrotargeting dapat mengeksploitasi kerentanan psikologis OUP AcademicTechInformed
• AI dapat berkontribusi pada polarisasi dengan memaparkan pemilih terutama pada konten yang selaras dengan pandangan mereka yang sudah ada Lse
• Pemilih biasanya tetap tidak menyadari bahwa mereka menerima konten politik yang dipersonalisasi SF GateTechInformed
• Kampanye yang memiliki dana besar dapat menggunakan alat AI yang lebih canggih, sehingga berpotensi menciptakan kesenjangan pengaruh politik SF GateBrennancenter

Sistem pemungutan suara dan infrastruktur pemilu juga dipengaruhi oleh AI, baik secara positif maupun negatif:

• AI dapat meningkatkan keamanan pemilu melalui deteksi anomali dan pemantauan infrastruktur terhadap potensi gangguan R Street InstituteBrookings
• Administrasi pemilu dapat menjadi lebih efisien berkat AI yang menyederhanakan proses seperti verifikasi pendaftaran pemilih CisaBrookings
• Namun, AI juga memperkenalkan risiko seperti serangan phishing yang lebih canggih, deepfake disinformasi pemilu, dan kampanye disinformasi otomatis dalam skala besar Sophos News + 3

Partisipasi demokratis dan keterlibatan sipil

AI menawarkan peluang dan tantangan bagi partisipasi demokratis:

Dampak Positif

• Akses yang lebih baik ke informasi sipil: alat AI dapat menyederhanakan informasi pemerintah yang kompleks IeeeBrookings
• Penyediaan layanan publik yang lebih baik: sistem yang didukung AI dapat menganalisis data sipil untuk membantu pemerintah merespons kebutuhan warga secara lebih efisien Nextcity + 2
• Alat partisipatif yang diperluas: platform seperti Pol.is menggunakan AI untuk menganalisis masukan publik dalam skala besar ECNLBrookings
• Pengurangan hambatan partisipasi: layanan terjemahan AI dapat memungkinkan partisipasi sipil multibahasa ECNLBrookings

Dampak Negatif

• Manipulasi informasi: konten yang dihasilkan oleh AI dapat digunakan untuk menyebarkan disinformasi BrennancenterBrookings
• Amplifikasi bias yang sudah ada: sistem AI yang dilatih pada data yang bias dapat melanggengkan dan memperkuat ketidaksetaraan dalam partisipasi sipil BrennancenterBrookings
• Berkurangnya agensi manusia: ketergantungan berlebihan pada pengambilan keputusan algoritmik dalam tata kelola dapat mengurangi penilaian dan akuntabilitas manusia
• Memperburuk kesenjangan digital: akses yang tidak setara terhadap teknologi sipil yang didukung AI dapat memperdalam kesenjangan partisipasi yang sudah ada Aiworldtoday + 2

Restrukturisasi hubungan kekuasaan

AI tidak hanya mengubah mode debat demokratis, tetapi juga merestrukturisasi hubungan kekuasaan di dalam masyarakat. Kontrol atas infrastruktur AI sekarang mewakili bentuk kekuasaan yang sebanding, jika tidak lebih unggul, dari yang secara tradisional dilakukan oleh lembaga-lembaga demokratis seperti parlemen.

Kita menyaksikan pergeseran kekuasaan pengambilan keputusan dari lembaga-lembaga publik yang tunduk pada kontrol demokratis ke entitas-entitas swasta yang beroperasi menurut logika yang berbeda. Migrasi kekuasaan ini sering kali terjadi secara tidak terlihat, melalui pendelegasian keputusan secara progresif kepada sistem otomatis yang beroperasi sesuai dengan parameter yang tidak selalu transparan atau ditetapkan secara demokratis.

Pendefinisian ulang partisipasi demokratis

AI mengubah konsep partisipasi demokratis. Di satu sisi, AI menawarkan alat untuk bentuk demokrasi yang lebih langsung dan partisipatif, di sisi lain, AI memperkenalkan hambatan kognitif dan teknologi baru untuk mengaksesnya. Dalam proses ini, nilai dari opini individu juga sedang didefinisikan ulang: dalam konteks personalisasi algoritmik yang semakin meningkat, bagaimana seseorang dapat membedakan antara preferensi pribadi yang otentik dan preferensi yang disebabkan oleh sistem rekomendasi?

Ambivalensi ini juga muncul dalam sistem musyawarah dengan bantuan AI: sistem ini dapat membuat proses pengambilan keputusan yang kompleks menjadi lebih mudah diakses, tetapi juga berisiko menyederhanakan isu-isu yang membutuhkan refleksi publik yang lebih mendalam.

Metamorfosis lembaga-lembaga demokrasi

Lembaga-lembaga demokrasi tradisional, yang dibangun pada era pra-digital, berjuang untuk beradaptasi dengan kecepatan yang dipaksakan oleh inovasi teknologi. Ketidaksinkronan sementara antara evolusi AI yang cepat dan proses demokrasi yang lebih lambat menciptakan kekosongan tata kelola yang berisiko diisi oleh mekanisme pengambilan keputusan yang tidak demokratis.

Tantangannya bukan sekadar mengatur AI melalui institusi yang sudah ada, tetapi juga memikirkan kembali institusi-institusi tersebut agar sesuai dengan era di mana kecerdasan buatan menjadi semakin penting dalam proses sosial, ekonomi, dan politik.

Konsep baru kewarganegaraan di era AI

Untuk mengatasi tantangan-tantangan ini, konsepsi baru tentang kewarganegaraan demokratis harus dikembangkan yang menggabungkan kesadaran akan peran AI. Hal ini berarti mengatasi optimisme tekno-optimisme naif yang melihat AI hanya sebagai peluang untuk perbaikan demokrasi dan pesimisme yang melihatnya hanya sebagai ancaman.

Sebaliknya, hal ini membutuhkan pengembangan literasi kewarganegaraan yang mencakup kemampuan untuk mengevaluasi secara kritis pengaruh algoritme, berpartisipasi secara sadar dalam debat tentang masalah teknologi yang kompleks, dan menuntut transparansi dan akuntabilitas dari pihak-pihak yang mengembangkan dan mengimplementasikan sistem AI yang memiliki dampak sosial yang signifikan.

Pada analisis terakhir, hubungan antara AI dan demokrasi tidak ditentukan oleh teknologi itu sendiri, tetapi akan bergantung pada kemampuan kolektif kita untuk membayangkan dan membangun institusi, norma, dan praktik yang memungkinkan pengembangan teknologi diarahkan pada penguatan, bukan pengikisan nilai-nilai demokrasi yang mendasar.

Tanya Jawab tentang kecerdasan buatan dan demokrasi

Bagaimana AI dapat memperkuat partisipasi demokratis?

AI dapat meningkatkan partisipasi demokratis dengan membuat informasi pemerintah lebih mudah diakses, memungkinkan partisipasi multibahasa, menganalisis masukan publik dalam skala besar, dan mempersonalisasi pengalaman keterlibatan sipil. IeeeOECD events Misalnya, layanan terjemahan yang didukung AI dapat memungkinkan minoritas bahasa untuk berpartisipasi lebih penuh dalam proses demokratis, ECNL sementara alat analisis data dapat membantu pemerintah mengidentifikasi dan mengatasi ketidaksetaraan dalam penyediaan layanan publik. Nextcity + 2

Apa risiko AI yang paling mengkhawatirkan bagi sistem demokrasi?

Risiko paling signifikan meliputi: proliferasi disinformasi yang meyakinkan dan deepfake yang mengikis fakta bersama; manipulasi melalui konten politik yang dimikrotargetkan; OUP AcademicMediaengagement bias algoritmik yang mengecualikan kelompok tertentu dari proses demokratis; dan kerentanan keamanan pada infrastruktur pemilu. Sage Journals + 5 Penelitian menunjukkan bahwa risiko-risiko ini bukan sekadar teoretis—studi mendokumentasikan kekuatan persuasif dari konten politik yang dihasilkan AI yang dipersonalisasi berdasarkan profil psikologis individu. PubMed + 2

Bagaimana pemerintah dapat mengatur AI dalam kampanye politik?

Pendekatan regulasi yang efektif meliputi: persyaratan pengungkapan wajib untuk konten politik yang dihasilkan AI; batasan pada jenis data pribadi yang dapat digunakan untuk mikrotargeting politik; mekanisme pengawasan independen untuk memeriksa sistem AI kampanye; dan inisiatif edukasi publik untuk meningkatkan kesadaran pemilih tentang teknik persuasi yang didukung AI. PBS + 4 EU AI Act memberikan contoh kerangka regulasi berbasis risiko yang secara khusus membahas penggunaan AI dalam proses demokratis. Europa + 2

Peran apa yang harus dimainkan oleh warga negara dalam tata kelola AI?

Warga negara seharusnya memiliki peluang yang berarti untuk membentuk tata kelola AI melalui mekanisme partisipatif seperti majelis warga, konsultasi publik, dan proses keterlibatan pemangku kepentingan yang berkelanjutan. Brookings Penelitian menunjukkan bahwa melibatkan pemangku kepentingan yang beragam sepanjang siklus hidup AI menghasilkan sistem yang lebih andal dan lebih mencerminkan nilai-nilai sosial. Adalovelaceinstitute + 13 Model-model sukses seperti Camden Data Charter menunjukkan bagaimana partisipasi warga dapat menetapkan kerangka etika untuk penggunaan AI dalam layanan publik. Oecd

Bagaimana kita dapat melindungi infrastruktur pemilu dari ancaman yang diaktifkan oleh AI?

Strategi perlindungan meliputi: menerapkan langkah-langkah keamanan siber yang kuat seperti autentikasi multi-faktor; melatih petugas pemilu untuk mengenali upaya phishing yang didukung AI; mengembangkan sistem untuk mengidentifikasi dan melawan disinformasi tentang pemungutan suara yang dihasilkan oleh AI; Sophos News menetapkan proses verifikasi untuk komunikasi pemilu resmi; dan menciptakan sistem redundan untuk infrastruktur pemilu yang kritis. ABC News + 2 Cybersecurity and Infrastructure Security Agency (CISA) menyediakan panduan khusus bagi petugas pemilu tentang mitigasi risiko AI. CisaCisa

Bagaimana AI dapat mengubah hubungan antara warga negara dan pemerintah?

AI berpotensi mengubah hubungan warga-pemerintah dengan memungkinkan layanan publik yang lebih personal, menciptakan saluran baru untuk partisipasi sipil, Nextcity mengotomatisasi fungsi-fungsi pemerintahan tertentu, dan berpotensi menggeser dinamika kekuasaan dalam sistem demokrasi. EffOECD Arah transformasi ini sangat bergantung pada pilihan tata kelola—apakah AI diterapkan dengan cara yang meningkatkan akuntabilitas demokratis atau justru memusatkan kekuasaan dalam sistem teknis dengan pengawasan yang terbatas. ScienceDirect + 2

Kerja sama internasional apa yang diperlukan untuk tata kelola IA dalam konteks demokrasi?

Kerja sama internasional sangat penting untuk menetapkan standar bersama, mencegah fragmentasi regulasi, mengatasi dampak lintas batas AI, dan mendorong keselarasan seputar nilai-nilai demokratis dalam pengembangan AI. Oecd + 2 Prinsip-Prinsip AI OECD merupakan contoh koordinasi internasional, memberikan kerangka bersama yang diadopsi oleh 47 yurisdiksi di seluruh dunia sambil tetap memberikan fleksibilitas untuk penerapan di tingkat nasional. OecdBrookings

Bagaimana kita dapat memastikan bahwa AI bermanfaat bagi demokrasi dan bukannya merusaknya?

Memastikan AI memberi manfaat bagi demokrasi memerlukan: kerangka tata kelola proaktif yang berbasis nilai; persyaratan transparansi dan keterjelasan yang berarti; pendekatan partisipatif terhadap pengembangan dan regulasi AI; investasi dalam literasi digital; perlindungan hak-hak fundamental dalam penerapan AI; dan mekanisme untuk meminta pertanggungjawaban sistem AI beserta pengembangnya. Eff + 4

Bukti menunjukkan bahwa pendekatan tata kelola antisipatif lebih efektif dibandingkan regulasi reaktif. OecdBrookings

Kesimpulan

AI menghadirkan peluang dan tantangan yang signifikan bagi sistem demokrasi global. Tinjauan komprehensif kami menunjukkan beberapa kesimpulan utama:

1. Evolusi teknologi terus berlanjut: alat-alat AI untuk menciptakan dan menyebarkan disinformasi menjadi semakin canggih dan mudah diakses, sehingga membutuhkan kewaspadaan berkelanjutan dan respons yang adaptif. Dialogopolitico
2. Dampaknya bersifat kontekstual: dampak disinformasi yang didukung AI sangat bervariasi tergantung pada konteks sosial, politik, dan media, dengan beberapa masyarakat terbukti lebih tangguh dibandingkan yang lain. The Washington Post + 2
3. Solusi membutuhkan kolaborasi: respons yang efektif terhadap disinformasi AI memerlukan kerja sama multi-pemangku kepentingan antara perusahaan teknologi, pemerintah, masyarakat sipil, dan warga negara. Acigjournal + 4
4. Penilaian manusia tetap penting: meskipun ada kemajuan dalam sistem deteksi AI, pemikiran kritis manusia dan literasi media tetap menjadi pertahanan terakhir melawan disinformasi yang canggih. VtAARP
5. Diperlukan pemahaman yang mendalam: selain solusi teknologi, mengatasi disinformasi yang didukung AI memerlukan penanganan polarisasi sosial yang mendasarinya, tantangan ekosistem media, dan kesenjangan dalam pendidikan kewarganegaraan. Taylor & FrancisNature