AI và nền dân chủ: Mối quan hệ phức tạp

Mối quan hệ giữa trí tuệ nhân tạo và nền dân chủ không phải là tuyến tính hay một chiều, mà là một mạng lưới các lực lượng xung đột vừa củng cố vừa đe dọa nền tảng của tiến trình dân chủ.

Sự chuyển đổi của agora công cộng

Trí tuệ nhân tạo (AI) đã thay đổi sâu sắc không gian công cộng, nơi diễn ra các cuộc tranh luận dân chủ. Sự thay đổi này vượt xa vấn đề thông tin sai lệch đơn thuần. Chúng ta đang chứng kiến sự phân mảnh của trải nghiệm thông tin tập thể, vốn từ lâu đã là điều kiện tiên quyết cơ bản cho các nền dân chủ hiện đại.

Khi những công dân khác nhau sống trong những thực tế thông tin hoàn toàn khác nhau, được cấu trúc bởi các thuật toán đề xuất, thì nền tảng chung cần thiết cho đối thoại dân chủ sẽ bị mất đi.

Nghịch lý thay, trong khi AI đã nhân lên các nguồn thông tin có sẵn, nó cũng làm xói mòn khả năng của các xã hội dân chủ trong việc đạt được sự đồng thuận về những gì cấu thành nên "sự thật". Sự xói mòn nhận thức này đại diện cho một thách thức sâu sắc và nguy hiểm hơn so với việc phát tán tin giả.

Sự tiến thoái lưỡng nan của quyền lực và năng lực

Các nền dân chủ đang đối mặt với một tình thế tiến thoái lưỡng nan cơ bản: các quyết định về AI đòi hỏi chuyên môn kỹ thuật cực kỳ cụ thể, nhưng việc giao phó những quyết định này cho các chuyên gia sẽ loại bỏ họ khỏi quy trình dân chủ. Điều này cho thấy sự căng thẳng chưa được giải quyết giữa nguyên tắc dân chủ (các quyết định do công dân đưa ra và vì công dân) và nhu cầu về chuyên môn chuyên sâu.

Sự căng thẳng này càng trầm trọng hơn bởi thực tế là các hệ thống AI ngày càng phức tạp lại không chỉ khó hiểu đối với người dân thường, mà đôi khi ngay cả với chính những chuyên gia phát triển chúng. Làm sao sự kiểm soát dân chủ có thể hoạt động khi những công cụ mà chúng được cho là để quản lý lại vượt quá khả năng hiểu biết của con người?

Nhắm mục tiêu chính trị và quy trình bầu cử

Hoạt động nhắm mục tiêu vi mô chính trị thông qua AI ngày càng trở nên tinh vi hơn trong các chiến dịch đương đại. Các hệ thống AI phân tích tập dữ liệu khổng lồ về cử tri để tạo ra các thông điệp chính trị được cá nhân hóa cao độ. Just Security

Nghiên cứu cho thấy các quảng cáo chính trị nhắm vào tính cách và được tạo ra bởi AI có sức thuyết phục cao hơn đáng kể so với nội dung chung chung. PubMedNih

Quy mô và hiệu quả của AI cho phép các chiến dịch tạo ra nội dung cá nhân hóa cho hàng triệu cử tri cùng một lúc, khiến việc nhắm mục tiêu vi mô trở nên khả thi và tiết kiệm chi phí hơn bao giờ hết. PoliticalmarketerCSET

Các nghiên cứu gần đây cho thấy các công cụ chiến dịch được hỗ trợ bởi AI có thể xác định các điểm yếu tâm lý của cử tri và tạo ra các thông điệp khai thác những đặc điểm này. OUP AcademicTechInformed

Những lo ngại của đảng Dân chủ là rất đáng kể:

• Nguy cơ thao túng được chứng minh bởi các nghiên cứu chỉ ra rằng việc nhắm mục tiêu vi mô có thể khai thác các điểm yếu tâm lý OUP AcademicTechInformed
• AI có thể góp phần vào sự phân cực bằng cách khiến cử tri chủ yếu tiếp xúc với nội dung phù hợp với quan điểm hiện có của họ Lse
• Cử tri thường không nhận thức được rằng họ đang nhận nội dung chính trị được cá nhân hóa SF GateTechInformed
• Các chiến dịch có nguồn tài chính dồi dào có thể sử dụng các công cụ AI tinh vi hơn, có khả năng tạo ra sự chênh lệch về ảnh hưởng chính trị SF GateBrennancenter

Hệ thống bỏ phiếu và cơ sở hạ tầng bầu cử cũng đang bị AI tác động theo cả hướng tích cực và tiêu cực:

• AI có thể cải thiện an ninh bầu cử thông qua việc phát hiện bất thường và giám sát cơ sở hạ tầng để phòng ngừa các can thiệp tiềm ẩn R Street InstituteBrookings
• Việc quản lý bầu cử có thể trở nên hiệu quả hơn nhờ AI giúp đơn giản hóa các quy trình như xác minh đăng ký cử tri CisaBrookings
• Tuy nhiên, AI cũng mang lại các rủi ro như các cuộc tấn công phishing tinh vi hơn, deepfake gây nhiễu loạn thông tin bầu cử, và các chiến dịch thông tin sai lệch tự động trên quy mô lớn Sophos News + 3

Sự tham gia dân chủ và sự tham gia của công dân

AI mang đến cả cơ hội và thách thức cho sự tham gia dân chủ:

Tác động tích cực

• Cải thiện khả năng tiếp cận thông tin công dân: các công cụ AI có thể đơn giản hóa thông tin phức tạp của chính phủ IeeeBrookings
• Cải thiện việc cung cấp dịch vụ công: các hệ thống được hỗ trợ bởi AI có thể phân tích dữ liệu công dân để giúp chính phủ đáp ứng nhu cầu của người dân hiệu quả hơn Nextcity + 2
• Mở rộng các công cụ tham gia: các nền tảng như Pol.is sử dụng AI để phân tích ý kiến công chúng trên quy mô lớn ECNLBrookings
• Giảm rào cản tham gia: các dịch vụ dịch thuật AI có thể cho phép sự tham gia công dân đa ngôn ngữ ECNLBrookings

Tác động tiêu cực

• Thao túng thông tin: nội dung do AI tạo ra có thể được sử dụng để phát tán thông tin sai lệch BrennancenterBrookings
• Khuếch đại các thành kiến hiện có: các hệ thống AI được huấn luyện trên dữ liệu bị thiên lệch có thể duy trì và khuếch đại sự bất bình đẳng trong tham gia công dân BrennancenterBrookings
• Giảm quyền tự chủ của con người: sự phụ thuộc quá mức vào quá trình ra quyết định thuật toán trong quản trị có thể làm suy giảm khả năng phán đoán và trách nhiệm của con người
• Làm trầm trọng thêm khoảng cách số: việc tiếp cận không đồng đều với các công nghệ công dân được hỗ trợ bởi AI có thể làm sâu sắc thêm các khoảng cách tham gia hiện có Aiworldtoday + 2

Việc tái cấu trúc các mối quan hệ quyền lực

AI không chỉ đơn thuần thay đổi phương thức tranh luận dân chủ; nó còn tái cấu trúc sâu sắc các mối quan hệ quyền lực trong xã hội. Việc kiểm soát cơ sở hạ tầng AI giờ đây đại diện cho một hình thức quyền lực tương đương, nếu không muốn nói là vượt trội, so với quyền lực truyền thống được thực thi bởi các thể chế dân chủ như quốc hội.

Chúng ta đang chứng kiến sự chuyển dịch quyền lực ra quyết định từ các thể chế công chịu sự kiểm soát dân chủ sang các thực thể tư nhân hoạt động theo những logic khác nhau. Sự chuyển dịch quyền lực này thường diễn ra một cách vô hình, thông qua việc ủy thác dần dần các quyết định cho các hệ thống tự động hoạt động theo các thông số không phải lúc nào cũng minh bạch hoặc được thiết lập một cách dân chủ.

Định nghĩa lại sự tham gia dân chủ

AI đang biến đổi chính khái niệm về sự tham gia dân chủ. Một mặt, nó cung cấp các công cụ cho các hình thức dân chủ trực tiếp và có sự tham gia hơn; mặt khác, nó tạo ra những rào cản mới về nhận thức và công nghệ trong việc tiếp cận. Trong quá trình này, giá trị của ý kiến cá nhân cũng đang được định nghĩa lại: trong bối cảnh cá nhân hóa thuật toán ngày càng gia tăng, làm thế nào chúng ta có thể phân biệt giữa sở thích cá nhân đích thực và sở thích do hệ thống khuyến nghị tạo ra?

Sự mâu thuẫn này cũng thể hiện rõ trong các hệ thống thảo luận được hỗ trợ bởi AI: chúng có thể giúp các quá trình ra quyết định phức tạp dễ tiếp cận hơn, nhưng cũng có nguy cơ đơn giản hóa quá mức các vấn đề đòi hỏi sự suy ngẫm sâu sắc hơn của công chúng.

Sự biến đổi của các thể chế dân chủ

Các thể chế dân chủ truyền thống, được hình thành trong thời kỳ tiền kỹ thuật số, đang chật vật thích ứng với tốc độ phát triển chóng mặt của công nghệ. Sự bất đồng bộ về mặt thời gian giữa sự phát triển nhanh chóng của AI và tốc độ chậm hơn của các quy trình dân chủ tạo ra một khoảng trống quản trị có nguy cơ bị lấp đầy bởi các cơ chế ra quyết định phi dân chủ.

Thách thức không chỉ đơn thuần là điều chỉnh AI thông qua các thể chế hiện có mà còn phải xem xét lại các thể chế này để phù hợp với thời đại mà AI ngày càng đóng vai trò trung tâm trong các quá trình xã hội, kinh tế và chính trị.

Một khái niệm mới về quyền công dân trong thời đại AI

Để giải quyết những thách thức này, chúng ta cần xây dựng một quan niệm mới về quyền công dân dân chủ, trong đó lồng ghép nhận thức về vai trò của AI. Điều này đòi hỏi phải vượt qua cả sự lạc quan ngây thơ về công nghệ, vốn chỉ coi AI là cơ hội để cải thiện nền dân chủ, lẫn sự bi quan vốn chỉ coi nó là một mối đe dọa.

Thay vào đó, nó đòi hỏi phải phát triển khả năng hiểu biết công dân bao gồm khả năng đánh giá một cách phê phán ảnh hưởng của các thuật toán, tham gia một cách có ý nghĩa vào các cuộc tranh luận về các vấn đề công nghệ phức tạp và yêu cầu sự minh bạch và trách nhiệm giải trình từ những người phát triển và triển khai các hệ thống AI có tác động xã hội đáng kể.

Cuối cùng, mối quan hệ giữa AI và nền dân chủ không được xác định trước bởi chính công nghệ, mà sẽ phụ thuộc vào năng lực chung của chúng ta trong việc tưởng tượng và xây dựng các thể chế, chuẩn mực và thực tiễn cho phép phát triển công nghệ hướng tới việc củng cố chứ không phải làm xói mòn các giá trị dân chủ cơ bản.

Câu hỏi thường gặp về Trí tuệ nhân tạo và Dân chủ

AI có thể tăng cường sự tham gia dân chủ như thế nào?

AI có thể cải thiện sự tham gia dân chủ bằng cách làm cho thông tin của chính phủ dễ tiếp cận hơn, cho phép sự tham gia đa ngôn ngữ, phân tích ý kiến công chúng trên quy mô lớn và cá nhân hóa trải nghiệm tham gia công dân. IeeeOECD events Ví dụ, các dịch vụ dịch thuật được hỗ trợ bởi AI có thể cho phép các nhóm thiểu số ngôn ngữ tham gia đầy đủ hơn vào các quy trình dân chủ, ECNL trong khi các công cụ phân tích dữ liệu có thể giúp chính phủ xác định và giải quyết sự bất bình đẳng trong việc cung cấp dịch vụ công. Nextcity + 2

Những rủi ro đáng lo ngại nhất của AI đối với hệ thống dân chủ là gì?

Những rủi ro quan trọng nhất bao gồm: sự lan tràn của thông tin sai lệch thuyết phục và deepfake làm suy yếu các sự thật chung; thao túng thông qua nội dung chính trị nhắm mục tiêu vi mô; OUP AcademicMediaengagement các thành kiến thuật toán loại trừ một số nhóm khỏi các quy trình dân chủ; và các lỗ hổng an ninh trong cơ sở hạ tầng bầu cử. Sage Journals + 5 Nghiên cứu cho thấy những rủi ro này không chỉ đơn thuần là lý thuyết—các nghiên cứu ghi nhận sức mạnh thuyết phục của nội dung chính trị do AI tạo ra được cá nhân hóa dựa trên hồ sơ tâm lý cá nhân. PubMed + 2

Chính phủ có thể quản lý AI trong các chiến dịch chính trị như thế nào?

Các phương pháp quản lý hiệu quả bao gồm: yêu cầu công bố bắt buộc đối với nội dung chính trị do AI tạo ra; giới hạn về các loại dữ liệu cá nhân có thể được sử dụng cho việc nhắm mục tiêu vi mô chính trị; các cơ chế giám sát độc lập để kiểm soát các hệ thống AI của chiến dịch; và các sáng kiến giáo dục công chúng để nâng cao nhận thức của cử tri về các kỹ thuật thuyết phục được hỗ trợ bởi AI. PBS + 4 Đạo luật AI của EU cung cấp một ví dụ về khung pháp lý dựa trên rủi ro, giải quyết cụ thể việc sử dụng AI trong các quy trình dân chủ. Europa + 2

Người dân nên có vai trò gì trong việc quản lý AI?

Người dân nên có những cơ hội thực chất để định hình việc quản trị AI thông qua các cơ chế tham gia như hội đồng công dân, tham vấn cộng đồng và các quy trình gắn kết liên tục với các bên liên quan. Brookings Nghiên cứu cho thấy việc thu hút các bên liên quan đa dạng trong suốt vòng đời của AI dẫn đến các hệ thống đáng tin cậy hơn, phản ánh tốt hơn các giá trị xã hội. Adalovelaceinstitute + 13 Các mô hình thành công như Camden Data Charter cho thấy sự tham gia của người dân có thể thiết lập các khuôn khổ đạo đức cho việc sử dụng AI trong dịch vụ công như thế nào. Oecd

Làm thế nào chúng ta có thể bảo vệ cơ sở hạ tầng bầu cử khỏi các mối đe dọa do AI gây ra?

Các chiến lược bảo vệ bao gồm: triển khai các biện pháp an ninh mạng vững chắc như xác thực đa yếu tố; đào tạo các cán bộ bầu cử nhận diện các nỗ lực lừa đảo (phishing) được AI tăng cường; phát triển các hệ thống để xác định và ứng phó với thông tin sai lệch về bầu cử do AI tạo ra; Sophos News thiết lập các quy trình xác minh cho các thông tin bầu cử chính thức; và tạo ra các hệ thống dự phòng cho cơ sở hạ tầng bầu cử trọng yếu. ABC News + 2 Cơ quan An ninh mạng và Cơ sở hạ tầng (CISA) cung cấp các hướng dẫn cụ thể cho cán bộ bầu cử về việc giảm thiểu rủi ro từ AI. CisaCisa

AI có thể thay đổi mối quan hệ giữa công dân và chính phủ như thế nào?

AI có thể biến đổi mối quan hệ giữa người dân và chính phủ bằng cách cho phép các dịch vụ công được cá nhân hóa hơn, tạo ra các kênh mới cho sự tham gia của công dân, Nextcity tự động hóa một số chức năng của chính phủ và có khả năng làm thay đổi các động lực quyền lực trong các hệ thống dân chủ. EffOECD Hướng đi của sự chuyển đổi này phần lớn phụ thuộc vào các lựa chọn quản trị—liệu AI có được triển khai theo cách tăng cường trách nhiệm giải trình dân chủ hay tập trung quyền lực vào các hệ thống kỹ thuật với sự giám sát hạn chế. ScienceDirect + 2

Cần có sự hợp tác quốc tế nào cho việc quản trị AI trong bối cảnh dân chủ?

Hợp tác quốc tế là điều thiết yếu để thiết lập các tiêu chuẩn chung, ngăn ngừa sự phân mảnh về quy định, giải quyết các tác động xuyên biên giới của AI và thúc đẩy sự đồng thuận xoay quanh các giá trị dân chủ trong quá trình phát triển AI. Oecd + 2 Các Nguyên tắc AI của OECD là một hình mẫu về sự phối hợp quốc tế, cung cấp một khuôn khổ chung được 47 khu vực pháp lý trên toàn cầu áp dụng, đồng thời vẫn cho phép linh hoạt trong việc triển khai ở cấp quốc gia. OecdBrookings

Làm thế nào chúng ta có thể đảm bảo rằng AI có lợi cho nền dân chủ thay vì làm suy yếu nó?

Để đảm bảo AI mang lại lợi ích cho nền dân chủ cần có: các khuôn khổ quản trị chủ động dựa trên giá trị; các yêu cầu thực chất về tính minh bạch và khả năng giải thích; các phương pháp tiếp cận có sự tham gia trong việc phát triển và quản lý AI; đầu tư vào năng lực số; bảo vệ các quyền cơ bản trong các ứng dụng AI; và các cơ chế để quy trách nhiệm cho các hệ thống AI và những người phát triển chúng. Eff + 4

Bằng chứng cho thấy các phương pháp quản trị mang tính chủ động dự báo hiệu quả hơn so với việc quản lý mang tính phản ứng. OecdBrookings

Phần kết luận

Trí tuệ nhân tạo (AI) mang đến cả cơ hội lẫn thách thức đáng kể cho các hệ thống dân chủ toàn cầu. Bài đánh giá toàn diện của chúng tôi đưa ra một số kết luận chính:

1. Sự phát triển công nghệ vẫn tiếp diễn: các công cụ AI để tạo ra và phát tán thông tin sai lệch đang ngày càng tinh vi và dễ tiếp cận hơn, đòi hỏi sự cảnh giác liên tục và các phản ứng thích ứng. Dialogopolitico
2. Tác động phụ thuộc vào bối cảnh: tác động của thông tin sai lệch được AI tăng cường thay đổi đáng kể tùy theo bối cảnh xã hội, chính trị và truyền thông, với một số xã hội tỏ ra kiên cường hơn những xã hội khác. The Washington Post + 2
3. Các giải pháp đòi hỏi sự hợp tác: các phản ứng hiệu quả đối với thông tin sai lệch do AI tạo ra đòi hỏi sự hợp tác đa bên giữa các công ty công nghệ, chính phủ, xã hội dân sự và người dân. Acigjournal + 4
4. Phán đoán của con người vẫn là điều thiết yếu: bất chấp những tiến bộ trong các hệ thống phát hiện bằng AI, tư duy phản biện và năng lực truyền thông của con người vẫn tiếp tục là tuyến phòng thủ cuối cùng chống lại thông tin sai lệch tinh vi. VtAARP
5. Cần một sự hiểu biết sâu sắc và toàn diện: bên cạnh các giải pháp công nghệ, việc giải quyết thông tin sai lệch được AI tăng cường đòi hỏi phải giải quyết sự phân cực xã hội tiềm ẩn, các thách thức của hệ sinh thái truyền thông và những khoảng trống trong giáo dục công dân. Taylor & FrancisNature