Sự phân chia kỹ thuật số mới là giữa những người từ chối thuật toán và những người không tham gia Bạn có biết những gì xảy ra khi bạn chia sẻ dữ liệu của bạn? mt Khang / shutstock.com

Mọi khía cạnh của cuộc sống đều có thể được hướng dẫn bởi các thuật toán trí tuệ nhân tạo - từ việc chọn tuyến đường nào để đi làm buổi sáng, đến quyết định ai sẽ hẹn hò, đến các vấn đề pháp lý và tư pháp phức tạp như chính sách dự đoán.

Các công ty công nghệ lớn như Google và Facebook sử dụng AI để có được những hiểu biết sâu sắc về kho dữ liệu khách hàng chi tiết của họ. Điều này cho phép họ kiếm tiền từ sở thích tập thể của người dùng thông qua các thực tiễn như nhắm mục tiêu vi mô, một chiến lược được các nhà quảng cáo sử dụng để nhắm mục tiêu hẹp các nhóm người dùng cụ thể.

Song song, nhiều người hiện tin tưởng các nền tảng và thuật toán hơn chính phủ và xã hội công dân của họ. Một nghiên cứu 2018 tháng 10 cho thấy mọi người chứng minh đượcđánh giá cao thuật toán, Chỉ đến mức họ sẽ dựa vào lời khuyên nhiều hơn khi họ nghĩ rằng đó là từ một thuật toán hơn là từ một con người.

Trong quá khứ, các chuyên gia công nghệ đã lo lắng về một "thiết bị số" giữa những người có thể truy cập máy tính và internet và những người không thể. Các hộ gia đình ít tiếp cận với các công nghệ kỹ thuật số gặp bất lợi về khả năng kiếm tiền và tích lũy kỹ năng.


đồ họa đăng ký nội tâm


Nhưng, khi các thiết bị kỹ thuật số sinh sôi nảy nở, sự phân chia không còn chỉ là về quyền truy cập. Làm thế nào để mọi người đối phó với tình trạng quá tải thông tin và vô số các quyết định thuật toán thấm vào mọi khía cạnh của cuộc sống của họ?

Những người dùng thông thái đang điều hướng khỏi các thiết bị và nhận thức được các thuật toán ảnh hưởng đến cuộc sống của họ như thế nào. Trong khi đó, người tiêu dùng có ít thông tin thậm chí còn dựa nhiều hơn vào thuật toán để hướng dẫn quyết định của họ.

Bạn nên duy trì kết nối - hoặc rút phích cắm? pryzmat / shutstock.com

Nước sốt bí mật đằng sau trí tuệ nhân tạo

Lý do chính cho sự phân chia kỹ thuật số mới, theo tôi là một người nghiên cứu các hệ thống thông tin, là vì rất ít người hiểu thuật toán hoạt động như thế nào. Đối với đa số người dùng, các thuật toán được xem như một hộp đen.

Các thuật toán AI lấy dữ liệu, điều chỉnh chúng theo mô hình toán học và đưa ra dự đoán, từ những bài hát bạn có thể thưởng thức đến ai đó nên ở tù bao nhiêu năm. Những mô hình này được phát triển và điều chỉnh dựa trên dữ liệu trong quá khứ và sự thành công của các mô hình trước đó. Hầu hết mọi người - thậm chí đôi khi chính các nhà thiết kế thuật toán - không thực sự biết những gì bên trong mô hình.

Các nhà nghiên cứu từ lâu đã được quan tâm về sự công bằng thuật toán. Chẳng hạn, công cụ tuyển dụng dựa trên AI của Amazon hóa ra cách chức ứng viên nữ. Hệ thống của Amazon được trích xuất có chọn lọc ngầm giới - những từ mà đàn ông có nhiều khả năng sử dụng trong lời nói hàng ngày, chẳng hạn như đã bị xử tử và bị bắt.

Môn học khác đã chỉ ra rằng các thuật toán tư pháp là thiên kiến ​​chủng tộc, kết án các bị cáo da đen nghèo lâu hơn các thuật toán khác.

Là một phần của Quy định bảo vệ dữ liệu chung được phê duyệt gần đây tại Liên minh châu Âu, mọi người đã Một quyền giải thích về các tiêu chí mà thuật toán sử dụng trong các quyết định của họ. Luật này đối xử với quá trình ra quyết định thuật toán như một cuốn sách công thức. Suy nghĩ rằng nếu bạn hiểu công thức, bạn có thể hiểu thuật toán ảnh hưởng đến cuộc sống của bạn như thế nào.

Trong khi đó, một số nhà nghiên cứu AI đã thúc đẩy các thuật toán công bằng, có trách nhiệm và minh bạch, Cũng như có thể giải thích, có nghĩa là họ nên đi đến quyết định của mình thông qua các quá trình mà con người có thể hiểu và tin tưởng.

Sự minh bạch sẽ có ảnh hưởng gì? Trong một nghiên cứu, học sinh được xếp loại bằng thuật toán và đưa ra các mức độ giải thích khác nhau về cách điểm số của các bạn cùng lứa được điều chỉnh để đạt điểm cuối. Các sinh viên với các giải thích minh bạch hơn thực sự tin tưởng thuật toán ít hơn. Điều này, một lần nữa, cho thấy một sự phân chia kỹ thuật số: Nhận thức về thuật toán không dẫn đến sự tự tin hơn trong hệ thống.

Nhưng minh bạch không phải là thuốc chữa bách bệnh. Ngay cả khi quy trình tổng thể của thuật toán được phác thảo, các chi tiết có thể vẫn còn quá phức tạp để người dùng hiểu. Tính minh bạch sẽ giúp chỉ những người dùng đủ tinh vi để nắm bắt được sự phức tạp của các thuật toán.

Ví dụ, trong 2014, Ben Bernanke, cựu chủ tịch của Cục Dự trữ Liên bang, ban đầu từ chối một khoản tái cấp vốn thế chấp bởi một hệ thống tự động. Hầu hết các cá nhân đang nộp đơn xin tái cấp vốn thế chấp như vậy sẽ không hiểu làm thế nào các thuật toán có thể xác định uy tín tín dụng của họ.

Thuật toán nói gì để làm ngày hôm nay? Maria Savenko / màn trập

Từ chối hệ sinh thái thông tin mới

Trong khi các thuật toán ảnh hưởng rất nhiều đến cuộc sống của mọi người, chỉ một phần nhỏ người tham gia đủ tinh vi để tham gia đầy đủ vào thuật toán ảnh hưởng đến cuộc sống của họ như thế nào.

Không có nhiều số liệu thống kê về số lượng người biết thuật toán. Các nghiên cứu đã tìm thấy bằng chứng về lo lắng thuật toán, dẫn đến sự mất cân bằng quyền lực sâu sắc giữa các nền tảng triển khai thuật toán và người dùng phụ thuộc vào họ.

Một nghiên cứu về việc sử dụng Facebook nhận thấy rằng khi những người tham gia nhận thức được thuật toán của Facebook để quản lý nguồn cấp tin tức, khoảng 83% người tham gia đã sửa đổi hành vi của họ để cố gắng tận dụng thuật toán, trong khi khoảng 10% giảm việc sử dụng Facebook.

Một báo cáo 2018 tháng 11 từ Trung tâm nghiên cứu Pew nhận thấy rằng phần lớn công chúng có mối quan tâm đáng kể về việc sử dụng thuật toán cho các mục đích sử dụng cụ thể. Nó phát hiện ra rằng 66% nghĩ rằng sẽ không công bằng cho các thuật toán để tính điểm tài chính cá nhân, trong khi 57% cũng nói như vậy về sàng lọc sơ yếu lý lịch tự động.

Một phần nhỏ các cá nhân thực hiện một số kiểm soát về cách thuật toán sử dụng dữ liệu cá nhân của họ. Ví dụ: nền tảng Hu-Manity cho phép người dùng một tùy chọn để kiểm soát lượng dữ liệu của họ được thu thập. Bách khoa toàn thư trực tuyến Everipedia cung cấp cho người dùng khả năng trở thành một bên liên quan trong quá trình giám tuyển, điều đó có nghĩa là người dùng cũng có thể kiểm soát cách thông tin được tổng hợp và trình bày cho họ.

Tuy nhiên, phần lớn các nền tảng không cung cấp tính linh hoạt như vậy cho người dùng cuối của họ hoặc quyền chọn cách thuật toán sử dụng tùy chọn của họ trong việc quản lý nguồn cấp tin tức của họ hoặc giới thiệu nội dung cho họ. Nếu có tùy chọn, người dùng có thể không biết về chúng. Khoảng 74% người dùng Facebook cho biết trong một cuộc khảo sát rằng họ không biết làm thế nào nền tảng đặc trưng cho lợi ích cá nhân của họ.

Theo quan điểm của tôi, kiến ​​thức kỹ thuật số mới không sử dụng máy tính hoặc truy cập internet, mà là hiểu và đánh giá hậu quả của lối sống luôn luôn gắn bó.

Lối sống này có tác động có ý nghĩa đối với cách mọi người tương tác với người khác; về khả năng của họ để chú ý đến thông tin mới; và hơn thế nữa sự phức tạp của quá trình ra quyết định của họ.

Sự lo lắng về thuật toán ngày càng tăng cũng có thể được nhân đôi bởi những thay đổi song song trong nền kinh tế. Một nhóm nhỏ các cá nhân là nắm bắt lợi ích từ tự động hóa, trong khi nhiều công nhân đang ở trong một vị trí bấp bênh.

Từ chối tuyển chọn thuật toán là một điều xa xỉ - và một ngày nào đó có thể là biểu tượng của sự sung túc chỉ dành cho một số người được chọn. Câu hỏi đặt ra là những tác hại có thể đo lường được sẽ là gì đối với những người ở phía sai của sự phân chia kỹ thuật số.

Giới thiệu về Tác giả

Anjana Susarla, Phó Giáo sư Hệ thống Thông tin, Đại học Bang Michigan

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.

Sách liên quan

at Thị trường InnerSelf và Amazon