Làm thế nào các hệ thống trí tuệ nhân tạo có thể đe dọa nền dân chủ

riêng tư

Người khổng lồ công nghệ Mỹ Microsoft đã hợp tác với một trường đại học quân sự Trung Quốc phát triển hệ thống trí tuệ nhân tạo điều đó có khả năng tăng cường khả năng giám sát và kiểm duyệt của chính phủ. Hai Thượng nghị sĩ Hoa Kỳ lên án công khai quan hệ đối tác, nhưng những gì Đại học Công nghệ Quốc phòng Trung Quốc muốn từ Microsoft không phải là mối quan tâm duy nhất.

As nghiên cứu của tôi cho thấy, sự ra đời của đàn áp kỹ thuật số đang ảnh hưởng sâu sắc mối quan hệ giữa công dân và nhà nước. Các công nghệ mới đang vũ trang các chính phủ với khả năng chưa từng có để giám sát, theo dõi và giám sát từng người. Ngay cả các chính phủ trong các nền dân chủ có truyền thống mạnh mẽ về quy định của pháp luật thấy mình bị cám dỗ lạm dụng những khả năng mới.

Ở các tiểu bang với thể chế không thể đếm được và vi phạm nhân quyền thường xuyên, Hệ thống AI rất có thể sẽ gây ra thiệt hại lớn hơn. Trung Quốc là một ví dụ nổi bật. Lãnh đạo của nó đã nhiệt tình nắm lấy các công nghệ AI và đã thiết lập thế giới tinh vi nhất nhà nước giám sát in Tỉnh Tân Cương, theo dõi các phong trào hàng ngày của người dân và sử dụng điện thoại thông minh.

Khai thác các công nghệ này trình bày một mô hình lạnh cho những người chuyên quyền và đặt ra mối đe dọa trực tiếp cho các xã hội dân chủ mở. Mặc dù không có bằng chứng cho thấy các chính phủ khác đã sao chép mức độ giám sát AI này, các công ty Trung Quốc đang tích cực xuất khẩu các công nghệ cơ bản tương tự trên khắp thế giới.

Tăng sự phụ thuộc vào các công cụ AI ở Mỹ

Hệ thống trí tuệ nhân tạo có mặt ở khắp mọi nơi trong thế giới hiện đại, giúp chạy điện thoại thông minh, công cụ tìm kiếm internet, trợ lý giọng nói kỹ thuật số và hàng đợi phim Netflix. Nhiều người không nhận ra AI đang mở rộng nhanh như thế nào, nhờ lượng dữ liệu ngày càng tăng để được phân tích, cải thiện thuật toán và chip máy tính tiên tiến.

Bất cứ khi nào có thêm thông tin và phân tích trở nên dễ dàng hơn, các chính phủ quan tâm - và không chỉ những người độc đoán. Ví dụ, ở Mỹ, các 1970 đã thấy những tiết lộ mà các cơ quan chính phủ - như FBI, CIA và NSA - đã thiết lập mạng lưới giám sát trong nước mở rộng để theo dõi và quấy rối những người biểu tình dân quyền, các nhà hoạt động chính trị và các nhóm người Mỹ bản địa. Những vấn đề này chưa biến mất: Công nghệ kỹ thuật số ngày nay đã tăng cường khả năng thậm chí nhiều cơ quan hơn thực hiện giám sát thậm chí còn xâm phạm hơn.

riêng tư Làm thế nào công bằng các thuật toán dự đoán nơi cảnh sát nên tập trung nhất? Arnout de Vries


Nhận thông tin mới nhất từ ​​Nội tâm


Chẳng hạn, cảnh sát Mỹ đã háo hức đón nhận các công nghệ AI. Họ đã bắt đầu sử dụng phần mềm có nghĩa là để dự đoán nơi tội phạm sẽ xảy ra để quyết định nơi gửi các sĩ quan đi tuần tra. Họ cũng đang sử dụng nhận dạng khuôn mặtPhân tích DNA trong điều tra hình sự. Nhưng phân tích của các hệ thống này cho thấy dữ liệu mà các hệ thống đó được đào tạo thường thiên vị, dẫn đến kết quả không công bằng, Chẳng hạn như xác định sai rằng người Mỹ gốc Phi có nhiều khả năng phạm tội hơn các nhóm khác.

Giám sát AI trên toàn thế giới

Ở các nước độc tài, các hệ thống AI có thể trực tiếp hủy bỏ sự kiểm soát và giám sát trong nước, giúp đỡ lực lượng an ninh nội bộ xử lý một lượng lớn thông tin - bao gồm các bài đăng trên phương tiện truyền thông xã hội, tin nhắn văn bản, email và các cuộc gọi điện thoại - nhanh chóng và hiệu quả hơn. Cảnh sát có thể xác định xu hướng xã hội và người cụ thể ai có thể đe dọa chế độ dựa trên thông tin được phát hiện bởi các hệ thống này.

Chẳng hạn, chính phủ Trung Quốc đã sử dụng AI trong các cuộc đàn áp quy mô rộng ở các khu vực là nơi sinh sống của các dân tộc thiểu số ở Trung Quốc. Các hệ thống giám sát ở Tân Cương và Tây Tạng đã được mô tả như làOrwellian. Những nỗ lực này đã bao gồm mẫu DNA bắt buộc, Giám sát mạng Wi-Fi và camera nhận dạng khuôn mặt rộng rãi, tất cả được kết nối với các nền tảng phân tích dữ liệu tích hợp. Với sự trợ giúp của các hệ thống này, chính quyền Trung Quốc, theo Bộ Ngoại giao Hoa Kỳ, đã tự ý bắt giữ tù giữa 1 và 2 triệu người.

My nghiên cứu tại các nước 90 trên thế giới với các loại chính phủ khác nhau, từ chế độ độc đoán khép kín đến các nền dân chủ thiếu sót, bao gồm Thái Lan, Thổ Nhĩ Kỳ, Bangladesh và Kenya. Tôi thấy rằng các công ty Trung Quốc xuất khẩu công nghệ giám sát AI ít nhất là 54 của các quốc gia này. Thông thường, công nghệ này được đóng gói như một phần của flagship của Trung Quốc Sáng kiến ​​Vành đai và Đường bộ, nơi đang tài trợ cho một mạng lưới rộng lớn gồm đường bộ, đường sắt, đường ống năng lượng và mạng viễn thông phục vụ 60% dân số thế giới và các nền kinh tế tạo ra 40% GDP toàn cầu.

Ví dụ, các công ty Trung Quốc thích Huawei và ZTE đang xây dựng thành phố thông minh của thành phố Pakistan, PhilippinesKenya, với công nghệ giám sát tích hợp rộng rãi. Ví dụ, Huawei đã trang bị Thành phố toàn cầu Bonifacio ở Philippines có camera kết nối internet độ nét cao cung cấp choGiám sát an ninh thông minh 24 / 7 với các phân tích dữ liệu để phát hiện tội phạm và giúp quản lý lưu lượng.

riêng tư Thành phố toàn cầu Bonifacio ở Philippines có rất nhiều thiết bị giám sát nhúng. đất alveo / Wikimedia Commons

Hikvision, Thành phầnSenseTime đang cung cấp máy ảnh nhận dạng khuôn mặt tiên tiến để sử dụng ở những nơi như Singapore - trong đó tuyên bố thành lập một chương trình giám sát với Máy ảnh 110,000 gắn trên cột đèn xung quanh nhà nước thành phố. Zimbabwe đang tạo ra một cơ sở dữ liệu hình ảnh quốc gia có thể được sử dụng để nhận dạng khuôn mặt.

Tuy nhiên, bán thiết bị tiên tiến để kiếm lợi nhuận khác với chia sẻ công nghệ với mục đích địa chính trị rõ ràng. Những khả năng mới này có thể gieo mầm cho sự giám sát toàn cầu: Khi các chính phủ ngày càng phụ thuộc vào công nghệ Trung Quốc để quản lý dân số và duy trì quyền lực, họ sẽ phải đối mặt với áp lực lớn hơn để phù hợp với chương trình nghị sự của Trung Quốc. Nhưng hiện tại, có vẻ như động lực chính của Trung Quốc là chiếm lĩnh thị trường cho các công nghệ mới và kiếm được nhiều tiền trong quá trình này.

AI và thông tin sai lệch

Ngoài việc cung cấp các khả năng giám sát vừa quét vừa chi tiết, AI có thể giúp các chính phủ đàn áp thao túng thông tin có sẵn và truyền bá thông tin sai lệch. Các chiến dịch này có thể được tự động hóa hoặc hỗ trợ tự động hóa và triển khai tin nhắn siêu cá nhân hướng vào - hoặc chống lại - người cụ thể hoặc nhóm.

AI cũng là nền tảng cho công nghệ thường được gọi làsâu sắc, Trong đó thuật toán tạo ra giả mạo video và âm thanh thực tế. Làm vấy bẩn vùng nước giữa sự thật và hư cấu có thể trở nên hữu ích trong một cuộc bầu cử chặt chẽ, khi một ứng cử viên có thể tạo ra các video giả mạo cho thấy một đối thủ đang làm và nói những điều chưa bao giờ thực sự xảy ra.

Một video deepfake sớm cho thấy một số nguy cơ của công nghệ tiên tiến.

Theo quan điểm của tôi, các nhà hoạch định chính sách trong các nền dân chủ nên suy nghĩ cẩn thận về những rủi ro của hệ thống AI đối với xã hội của chính họ và cho những người sống dưới chế độ độc tài trên toàn thế giới. Một câu hỏi quan trọng là có bao nhiêu quốc gia sẽ áp dụng mô hình giám sát kỹ thuật số của Trung Quốc. Nhưng đó không chỉ là các quốc gia độc tài cảm thấy níu kéo. Và đó cũng không chỉ là các công ty Trung Quốc truyền bá công nghệ: Nhiều công ty Mỹ, bao gồm Microsoft, nhưng IBM, Cisco và Thermo Fisher quá, đã cung cấp khả năng tinh vi cho các chính phủ khó chịu. Việc lạm dụng AI không chỉ giới hạn ở các quốc gia chuyên quyền.Conversation

Giới thiệu về Tác giả

Steven Feldstein, Frank và Bethine Church Chủ tịch về các vấn đề công cộng & Phó giáo sư, Trường Dịch vụ công cộng, Đại học Bang Boise

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.

Sách liên quan

{amazonWS: searchindex = Books; Keywords = AI giám sát; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

theo dõi Nội bộ trên

facebook-iconbiểu tượng twitterbiểu tượng rss

Nhận tin mới nhất qua email

{Emailcloak = off}