robot sitting at a laptop with hands on the keys
Hình ảnh của Susan Cipriano 

Từ biên tập viên:

Như đã nhấn mạnh trong bài viết này, sự phát triển của các chiến dịch chính trị do AI điều khiển, chẳng hạn như cỗ máy giả định có tên là Clogger, có thể làm suy yếu nghiêm trọng tính toàn vẹn của các cuộc bầu cử. Bằng cách tận dụng tự động hóa, nhắn tin phù hợp và học tăng cường, những cỗ máy này có khả năng thao túng và thay đổi hành vi của cử tri trên quy mô lớn.

Trong thời đại mà trí tuệ nhân tạo (AI) đang phát triển nhanh chóng, chúng ta phải luôn cảnh giác trước những mối đe dọa tiềm ẩn mà nó gây ra cho các quá trình dân chủ của chúng ta. Sự xuất hiện của các chiến dịch do AI điều khiển thách thức bản chất của nền dân chủ. Thay vì các cuộc bầu cử được quyết định bởi sức mạnh của ý tưởng, đề xuất chính sách và sự lựa chọn chân chính của cử tri, chúng có thể bị chi phối bởi những cỗ máy chỉ tập trung vào chiến thắng. Nội dung chiếm ưu thế sẽ đến từ các mô hình ngôn ngữ AI mà không quan tâm đến sự thật hay các nguyên tắc chính trị. Về bản chất, kết quả bầu cử sẽ được quyết định bởi một trí tuệ nhân tạo, làm xói mòn quá trình dân chủ.

Để ngăn chặn sự gia tăng của một "chế độ tắc trách" và tước bỏ quyền của công dân, điều quan trọng là chúng ta phải hành động. Tăng cường bảo vệ quyền riêng tư và luật bảo mật dữ liệu chặt chẽ có thể giúp hạn chế quyền truy cập của máy AI vào dữ liệu cá nhân, làm giảm hiệu quả của chúng trong việc nhắm mục tiêu và thao túng các cá nhân. Các ủy ban bầu cử cũng nên xem xét việc cấm hoặc quản lý chặt chẽ các hệ thống AI được thiết kế để gây ảnh hưởng đến cử tri. Thực hiện các quy định yêu cầu tuyên bố từ chối trách nhiệm rõ ràng khi tin nhắn do AI tạo ra được sử dụng trong các chiến dịch chính trị. Điều này có thể mang lại sự minh bạch và giúp cử tri đưa ra quyết định sáng suốt.

Điều cấp thiết là chúng ta phải chủ động giải quyết những thách thức này và đảm bảo rằng sức mạnh của AI được khai thác một cách có trách nhiệm để duy trì các nguyên tắc dân chủ. Bằng cách bảo vệ tính toàn vẹn của các cuộc bầu cử và bảo vệ quyền tự do lựa chọn, chúng ta có thể điều hướng sự phức tạp của AI và bảo vệ nền tảng của quản trị dân chủ.

Làm thế nào AI có thể tiếp quản các cuộc bầu cử - và làm suy yếu nền dân chủ

Được viết bởi Archon Fung, Giáo sư về Quyền công dân và Tự quản, Trường Harvard KennedyLawrence Lessig, Giáo sư Luật và Lãnh đạo, Harvard University


innerself subscribe graphic


Các tổ chức có thể sử dụng các mô hình ngôn ngữ trí tuệ nhân tạo như ChatGPT để khiến cử tri hành xử theo những cách cụ thể không?

Thượng nghị sĩ Josh Hawley đã hỏi Giám đốc điều hành OpenAI Sam Altman câu hỏi này trong một Ngày 16 tháng 2023 năm XNUMX, phiên điều trần của Thượng viện Hoa Kỳ về trí tuệ nhân tạo. Altman trả lời rằng ông thực sự lo ngại rằng một số người có thể sử dụng các mô hình ngôn ngữ để thao túng, thuyết phục và tương tác trực tiếp với cử tri.

Altman không nói chi tiết, nhưng anh ấy có thể đã nghĩ đến điều gì đó giống như kịch bản này. Hãy tưởng tượng rằng chẳng bao lâu nữa, các nhà công nghệ chính trị sẽ phát triển một cỗ máy có tên là Clogger – một chiến dịch chính trị trong hộp đen. Clogger không ngừng theo đuổi chỉ một mục tiêu: tối đa hóa cơ hội để ứng cử viên của họ – chiến dịch mua dịch vụ của Clogger Inc. – thắng thế trong một cuộc bầu cử.

Trong khi các nền tảng như Facebook, Twitter và YouTube sử dụng các dạng AI để đưa người dùng đến dành nhiều thời gian hơn trên trang web của họ, AI của Clogger sẽ có một mục tiêu khác: thay đổi hành vi bỏ phiếu của mọi người.

Clogger sẽ hoạt động như thế nào

Là một Nhà khoa học chính trịhọc giả pháp lý những người nghiên cứu về sự giao thoa giữa công nghệ và dân chủ, chúng tôi tin rằng những thứ như Clogger có thể sử dụng tự động hóa để tăng đáng kể quy mô và tiềm năng hiệu quả của thao túng hành vi và kỹ thuật nhắm mục tiêu vi mô mà các chiến dịch chính trị đã sử dụng từ đầu những năm 2000. Cũng giống như nhà quảng cáo sử dụng lịch sử duyệt web và truyền thông xã hội của bạn để nhắm mục tiêu riêng lẻ các quảng cáo thương mại và chính trị ngay bây giờ, Clogger sẽ chú ý đến bạn – và hàng trăm triệu cử tri khác – riêng lẻ.

Nó sẽ cung cấp ba tiến bộ so với thao tác hành vi thuật toán tiên tiến nhất hiện nay. Đầu tiên, mô hình ngôn ngữ của nó sẽ tạo ra các tin nhắn — văn bản, mạng xã hội và email, có thể bao gồm cả hình ảnh và video — phù hợp với cá nhân bạn. Trong khi các nhà quảng cáo đặt một số lượng quảng cáo tương đối nhỏ một cách có chiến lược, các mô hình ngôn ngữ như ChatGPT có thể tạo ra vô số thông điệp độc đáo cho cá nhân bạn – và hàng triệu thông điệp cho những người khác – trong suốt chiến dịch.

Thứ hai, Clogger sẽ sử dụng một kỹ thuật gọi là học tăng cường để tạo ra một loạt các tin nhắn ngày càng có nhiều khả năng thay đổi phiếu bầu của bạn. Học tăng cường là một phương pháp học máy, thử và sai, trong đó máy tính thực hiện các hành động và nhận phản hồi về hành động nào hoạt động tốt hơn để tìm hiểu cách hoàn thành mục tiêu. Máy có thể chơi cờ vây, cờ vua và nhiều trò chơi điện tử tốt hơn bất kỳ con người đã sử dụng học tăng cường.

Học tăng cường hoạt động như thế nào.

 

Thứ ba, trong suốt quá trình của một chiến dịch, các thông báo của Clogger có thể phát triển để tính đến phản hồi của bạn đối với các lần gửi trước đó của máy và những gì nó đã học được về việc thay đổi suy nghĩ của người khác. Clogger sẽ có thể thực hiện “các cuộc trò chuyện” năng động với bạn – và hàng triệu người khác – theo thời gian. Thông điệp của Clogger sẽ tương tự như quảng cáo theo dõi bạn trên các trang web và phương tiện truyền thông xã hội khác nhau.

Bản chất của AI

Ba tính năng khác – hoặc lỗi – đáng chú ý.

Đầu tiên, các tin nhắn mà Clogger gửi có thể có hoặc không có nội dung chính trị. Mục tiêu duy nhất của cỗ máy là tối đa hóa tỷ lệ phiếu bầu và nó có thể sẽ nghĩ ra các chiến lược để đạt được mục tiêu này mà không một nhà vận động con người nào có thể nghĩ tới.

Một khả năng là gửi cho các cử tri đối thủ thông tin về niềm đam mê phi chính trị mà họ có trong thể thao hoặc giải trí để chôn vùi thông điệp chính trị mà họ nhận được. Một khả năng khác là gửi các tin nhắn gây khó chịu – ví dụ như quảng cáo về tình trạng tiểu không tự chủ – vào thời điểm trùng với tin nhắn của đối thủ. Và một cách khác là thao túng các nhóm bạn bè trên mạng xã hội của cử tri để tạo cảm giác rằng các nhóm xã hội của họ ủng hộ ứng cử viên của họ.

Thứ hai, Clogger không quan tâm đến sự thật. Thật vậy, nó không có cách nào để biết điều gì là đúng hay sai. Mô hình ngôn ngữ “ảo giác” không phải là vấn đề đối với máy này vì mục tiêu của nó là thay đổi phiếu bầu của bạn chứ không phải cung cấp thông tin chính xác.

Thứ ba, vì nó là một loại hộp đen của trí tuệ nhân tạo, mọi người sẽ không có cách nào để biết nó sử dụng những chiến lược nào.

Lĩnh vực AI có thể giải thích nhằm mục đích mở hộp đen của nhiều mô hình máy học để mọi người có thể hiểu cách chúng hoạt động.

 

dân chủ

Nếu chiến dịch tranh cử tổng thống của Đảng Cộng hòa triển khai Clogger vào năm 2024, thì chiến dịch tranh cử của Đảng Dân chủ có thể sẽ buộc phải đáp trả bằng hiện vật, có lẽ bằng một cỗ máy tương tự. Gọi nó là Doger. Nếu những người quản lý chiến dịch nghĩ rằng những chiếc máy này hiệu quả, thì cuộc tranh cử tổng thống có thể sẽ diễn ra giữa Clogger và Dogger, và người chiến thắng sẽ là khách hàng của chiếc máy hiệu quả hơn.

Các nhà khoa học chính trị và chuyên gia sẽ có nhiều điều để nói về lý do tại sao AI này hay AI khác lại thắng thế, nhưng có lẽ sẽ không ai thực sự biết. Tổng thống sẽ được bầu không phải vì các đề xuất chính sách hoặc ý tưởng chính trị của ông ấy hoặc bà ấy đã thuyết phục được nhiều người Mỹ hơn, mà bởi vì ông ấy hoặc bà ấy có AI hiệu quả hơn. Nội dung chiến thắng trong ngày sẽ đến từ một AI chỉ tập trung vào chiến thắng, không có ý tưởng chính trị nào của riêng nó, thay vì từ các ứng cử viên hoặc đảng phái.

Theo nghĩa rất quan trọng này, một cỗ máy sẽ thắng cử hơn là một con người. Cuộc bầu cử sẽ không còn dân chủ nữa, mặc dù tất cả các hoạt động dân chủ thông thường – diễn văn, quảng cáo, thông điệp, bỏ phiếu và kiểm phiếu – sẽ diễn ra.

Sau đó, tổng thống do AI bầu chọn có thể đi theo một trong hai cách. Người đó có thể sử dụng vỏ bọc bầu cử để theo đuổi các chính sách của Đảng Cộng hòa hoặc Đảng Dân chủ. Nhưng vì các ý tưởng của đảng có thể ít liên quan đến lý do tại sao mọi người bỏ phiếu theo cách họ đã làm – Clogger và Dogger không quan tâm đến quan điểm chính sách – hành động của tổng thống sẽ không nhất thiết phản ánh ý muốn của cử tri. Các cử tri sẽ bị AI thao túng thay vì tự do lựa chọn các nhà lãnh đạo và chính sách chính trị của họ.

Một con đường khác là tổng thống theo đuổi các thông điệp, hành vi và chính sách mà cỗ máy dự đoán sẽ tối đa hóa cơ hội tái đắc cử. Trên con đường này, tổng thống sẽ không có cương lĩnh hay chương trình nghị sự cụ thể nào ngoài việc duy trì quyền lực. Các hành động của tổng thống, do Clogger hướng dẫn, sẽ là những hành động có nhiều khả năng thao túng cử tri hơn là phục vụ lợi ích thực sự của họ hoặc thậm chí là hệ tư tưởng của chính tổng thống.

Tránh Clogocracy

Có thể tránh được sự thao túng bầu cử của AI nếu các ứng cử viên, chiến dịch và chuyên gia tư vấn đều từ bỏ việc sử dụng AI chính trị như vậy. Chúng tôi tin rằng điều đó khó xảy ra. Nếu các hộp đen hiệu quả về mặt chính trị được phát triển, sự cám dỗ sử dụng chúng sẽ gần như không thể cưỡng lại được. Thật vậy, các chuyên gia tư vấn chính trị có thể thấy rõ việc sử dụng những công cụ này theo yêu cầu của trách nhiệm nghề nghiệp để giúp các ứng cử viên của họ giành chiến thắng. Và một khi một ứng cử viên sử dụng một công cụ hiệu quả như vậy, các đối thủ khó có thể kháng cự bằng cách đơn phương tước vũ khí.

Tăng cường bảo vệ quyền riêng tư sẽ giúp. Clogger sẽ phụ thuộc vào quyền truy cập vào một lượng lớn dữ liệu cá nhân để nhắm mục tiêu các cá nhân, tạo các thông điệp phù hợp để thuyết phục hoặc thao túng họ, đồng thời theo dõi và nhắm mục tiêu lại họ trong suốt chiến dịch. Mỗi bit thông tin mà các công ty hoặc nhà hoạch định chính sách từ chối máy sẽ làm cho nó kém hiệu quả hơn.

Luật bảo mật dữ liệu mạnh mẽ có thể giúp ngăn chặn AI khỏi bị thao túng.

 

Một giải pháp khác nằm ở hoa hồng bầu cử. Họ có thể cố gắng cấm hoặc điều chỉnh nghiêm ngặt các máy này. Có một tranh luận gay gắt về việc liệu như vậy bài phát biểu "nhân bản", ngay cả khi nó mang bản chất chính trị, có thể được điều chỉnh. Truyền thống tự do ngôn luận cực đoan của Hoa Kỳ khiến nhiều học giả hàng đầu nói rằng nó không thể.

Nhưng không có lý do gì để tự động mở rộng sự bảo vệ của Bản sửa đổi thứ nhất đối với sản phẩm của những chiếc máy này. Quốc gia có thể chọn trao quyền cho máy móc, nhưng đó phải là một quyết định dựa trên những thách thức của ngày hôm nay, không phải là giả định đặt sai chỗ rằng quan điểm của James Madison vào năm 1789 là nhằm áp dụng cho AI.

Các cơ quan quản lý của Liên minh Châu Âu đang đi theo hướng này. Các nhà hoạch định chính sách đã sửa đổi dự thảo Đạo luật Trí tuệ Nhân tạo của Nghị viện Châu Âu để chỉ định “các hệ thống AI để tác động đến cử tri trong các chiến dịch” là “rủi ro cao” và chịu sự giám sát của cơ quan quản lý.

Một bước an toàn hơn về mặt hiến pháp, nếu nhỏ hơn, đã được thông qua một phần bởi cơ quan quản lý internet châu Âu và trong California, là cấm các bot tự biến mình thành người. Ví dụ: quy định có thể yêu cầu các thông báo chiến dịch đi kèm với tuyên bố từ chối trách nhiệm khi nội dung chứa trong đó được tạo bởi máy chứ không phải con người.

Điều này sẽ giống như các yêu cầu về tuyên bố từ chối trách nhiệm quảng cáo - “Được Sam Jones đại diện cho Ủy ban Quốc hội chi trả” - nhưng được sửa đổi để phản ánh nguồn gốc AI của nó: “Quảng cáo do AI tạo ra này được trả tiền bởi Ủy ban Quốc hội Sam Jones.” Một phiên bản mạnh mẽ hơn có thể yêu cầu: “Thông báo do AI tạo này được gửi tới bạn bởi Ủy ban Quốc hội Sam Jones vì ​​Clogger đã dự đoán rằng làm như vậy sẽ tăng cơ hội bỏ phiếu cho Sam Jones của bạn thêm 0.0002%. Ít nhất, chúng tôi tin rằng các cử tri xứng đáng được biết khi nào bot đang nói chuyện với họ và họ cũng nên biết lý do tại sao.

Khả năng của một hệ thống như Clogger cho thấy con đường hướng tới sự bất bình đẳng tập thể của con người có thể không yêu cầu một số siêu nhân trí tuệ nhân tạo nói chung. Nó có thể chỉ yêu cầu các nhà vận động và chuyên gia tư vấn quá nhiệt tình, những người có các công cụ mới mạnh mẽ có thể thúc đẩy hiệu quả nhiều nút của hàng triệu người.

Giới thiệu về tác giả

Archon Fung, Giáo sư về Quyền công dân và Tự quản, Trường Harvard KennedyLawrence Lessig, Giáo sư Luật và Lãnh đạo, Harvard University

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.


Phụ lục của biên tập viên: Khả năng AI chiếm quyền bầu cử và làm suy yếu nền dân chủ là một mối quan tâm cấp bách đòi hỏi sự chú ý của chúng ta. Như bài báo này đã nhấn mạnh, sự gia tăng của các chiến dịch chính trị do AI điều khiển như Clogger có thể định hình lại kết quả bầu cử, với việc máy móc ảnh hưởng đến hành vi của cử tri ở quy mô chưa từng có. Hậu quả của sự thay đổi như vậy sẽ rất sâu rộng, với các cuộc bầu cử được quyết định không phải bởi ý chí của người dân mà bởi hiệu quả của việc thao túng AI.

Để ngăn chặn tình trạng tước quyền này của công dân và bảo vệ nền dân chủ, chúng ta phải thực hiện các biện pháp chủ động. Bảo vệ quyền riêng tư mạnh mẽ và các quy định hạn chế ảnh hưởng của hệ thống AI trong các cuộc bầu cử là rất quan trọng. Bằng cách đảm bảo tính minh bạch, thực thi tuyên bố từ chối trách nhiệm rõ ràng đối với nội dung do AI tạo ra và thúc đẩy việc sử dụng AI có trách nhiệm, chúng ta có thể duy trì tính toàn vẹn của các quy trình dân chủ và bảo vệ các giá trị cơ bản của xã hội chúng ta.

Điều cần thiết là chúng ta phải luôn cảnh giác và cùng nhau hợp tác để vượt qua những thách thức do AI gây ra trong các cuộc bầu cử. Bằng cách đó, chúng ta có thể bảo tồn các lý tưởng dân chủ vốn là nền tảng cho xã hội của chúng ta và đảm bảo một tương lai nơi sức mạnh của công nghệ phù hợp với lợi ích và nguyện vọng của người dân.

break

Sách liên quan:

Bàn về chế độ chuyên chế: Hai mươi bài học từ thế kỷ XNUMX

bởi Ti-mô-thê Snyder

Cuốn sách này đưa ra những bài học từ lịch sử để bảo tồn và bảo vệ nền dân chủ, bao gồm tầm quan trọng của các thể chế, vai trò của từng công dân và sự nguy hiểm của chủ nghĩa độc tài.

Bấm để biết thêm thông tin hoặc đặt hàng

Bây giờ là thời của chúng ta: Quyền lực, mục đích và cuộc đấu tranh vì một nước Mỹ công bằng

bởi Stacey Abrams

Tác giả, một chính trị gia và nhà hoạt động, chia sẻ tầm nhìn của mình về một nền dân chủ toàn diện và công bằng hơn, đồng thời đưa ra các chiến lược thiết thực để tham gia chính trị và huy động cử tri.

Bấm để biết thêm thông tin hoặc đặt hàng

Các nền dân chủ chết như thế nào

của Steven Levitsky và Daniel Ziblatt

Cuốn sách này xem xét các dấu hiệu cảnh báo và nguyên nhân dẫn đến sự tan vỡ của nền dân chủ, dựa trên các nghiên cứu điển hình trên khắp thế giới để đưa ra những hiểu biết sâu sắc về cách thức bảo vệ nền dân chủ.

Bấm để biết thêm thông tin hoặc đặt hàng

Nhân dân, Không: Lược sử Lịch sử Chống Chủ nghĩa Dân túy

bởi Thomas Frank

Tác giả đưa ra lịch sử các phong trào dân túy ở Hoa Kỳ và phê bình hệ tư tưởng "chống chủ nghĩa dân túy" mà ông cho rằng đã cản trở tiến bộ và cải cách dân chủ.

Bấm để biết thêm thông tin hoặc đặt hàng

Nền dân chủ trong một cuốn sách hoặc ít hơn: Nó hoạt động như thế nào, tại sao nó không hoạt động và tại sao việc khắc phục nó lại dễ dàng hơn bạn nghĩ

bởi David Lít

Cuốn sách này cung cấp một cái nhìn tổng quan về nền dân chủ, bao gồm những điểm mạnh và điểm yếu của nó, đồng thời đề xuất những cải cách để làm cho hệ thống phản ứng nhanh hơn và có trách nhiệm giải trình hơn.

Bấm để biết thêm thông tin hoặc đặt hàng