Tại sao chúng ta phải phát triển trí tuệ công nghệ để ngăn chặn công nghệ tiêu thụ chúng ta

Nhận thức thực sự đầu tiên của tôi về thái độ tâm lý của chúng ta đối với công nghệ đến từ một nguồn bất thường: diễn viên hài người Anh Eddie Izzard. Izzard mô tả hai thái độ trái ngược nhau đối với công nghệ: sợ công nghệ và niềm vui công nghệ.

Những người mắc chứng sợ công nghệ đang do dự, ngớ ngẩn và lo lắng rằng công nghệ sẽ gây ra sự kết thúc của thế giới. Những người có niềm vui kỹ thuật là lạc quan mù quáng về những gì công nghệ có thể làm. Izzard giải thích niềm vui kỹ thuật của riêng mình:

Khi tôi nhận được một máy mới, tôi nghĩ, Có Có! Cỗ máy này sẽ cứu mạng tôi, tôi sẽ không bao giờ làm việc nữa! Hồi trọng Và điều đầu tiên bạn làm nếu bạn có niềm vui kỹ thuật là bạn nhận được hướng dẫn và ném chúng ra ngoài cửa sổ!

Một trong những thách thức đạo đức lớn của thời đại chúng ta sẽ là tìm ra thứ gì đó giữa các phạm trù công nghệ và niềm sợ công nghệ. Chúng ta cần tìm một cái gì đó tương tự như kỹ thuật-trí thông minh (mặc dù tôi nghi ngờ nó sẽ làm cho hài kịch tốt).

Sẽ cần rất nhiều người làm việc cùng nhau để vạch ra chính xác trí tuệ công nghệ này trông như thế nào. Hạnh phúc, rất nhiều học giả và tổ chức khác nhau đã làm việc trên các phiên bản này trong một thời gian.

Chủ đề tranh luận

Hầu hết các tranh luận về trung tâm công nghệ xung quanh ba chủ đề riêng biệt:


đồ họa đăng ký nội tâm


  • vượt qua công nghệ: công nghệ sẽ cứu thế giới bằng cách vượt qua những thách thức lớn nhất của chúng ta hoặc nó sẽ vượt qua chúng ta. Một ví dụ là cuộc tranh luận xung quanh hệ thống vũ khí tự trị gây chết người

  • ảnh hưởng của công nghệ: công nghệ sẽ giải phóng chúng ta để tập trung vào những gì quan trọng hoặc nó sẽ khiến chúng ta phân tâm khỏi những gì quan trọng. Các ví dụ tiêu cực xuất hiện chỉ trong mỗi tập phim truyền hình Black Mirror. Các phiên bản lạc quan hơn có thể được tìm thấy trong cuộc tranh luận về việckhỏa thân đạo đức".

  • công nghệ khuếch đại: với công nghệ, chúng ta sẽ có thể làm những điều tuyệt vời một cách nhanh chóng, hiệu quả và ở quy mô hoặc chúng ta sẽ có thể làm những điều khủng khiếp theo cùng một cách.

Các thông số của cuộc tranh luận được đặt ra và dường như không ai có thể nảy sinh ý kiến. Nhưng chính sự bế tắc này tạo ra những thách thức về đạo đức. Các cơ hội là quá lớn để bỏ qua công nghệ, nhưng rủi ro là quá cao để cho phép nó tiến hành không bị hạn chế.

Hiểu công nghệ là rất quan trọng

Trong bộ phim hài của Izzard, sự thiếu hiểu biết và thiếu hiểu biết thúc đẩy những người sợ công nghệ. Thật thú vị, anh ta vẽ những người có niềm vui kỹ thuật theo cách tương tự. Không hiểu công nghệ. Đây là nơi trí tuệ kỹ thuật của chúng ta nên bắt đầu: hiểu công nghệ là gì và nó hoạt động như thế nào.

Các triết gia công nghệ như Martin Heidegger, Jacques EllulAlbert Borgmann đã lập luận rằng công nghệ phản ánh một cách nhìn đặc biệt về thế giới xung quanh chúng ta. Nó có xu hướng giảm thế giới xuống một loạt các vấn đề kỹ thuật để giải quyết và phân loại các thứ để sử dụng, đo lường, lưu trữ và kiểm soát.

Theo cách hiểu này, công nghệ không phải là giá trị trung lập. Nó khuyến khích chúng ta tìm kiếm sự kiểm soát, giá trị hiệu quả và hiệu quả so với các cân nhắc khác và giảm mọi thứ xuống một đơn vị đo lường.

Có vô số ví dụ để chứng minh điểm này. Công nghệ trực tuyến đang thách thức các giá trị báo chí truyền thống ủng hộ tốc độ và tầm với. Các ứng dụng hẹn hò giúp hàng hóa các đối tác lãng mạn tiềm năng của chúng tôi và cố gắng hẹn hò miễn phí khỏi những nguy cơ từ chối hoặc những tiến bộ không mong muốn. Phim khiêu dâm do máy tính tạo ra cho phép bạn khiến người nổi tiếng yêu thích của mình làm bất cứ điều gì bạn muốn. Cô ấy không phải đồng ý. Cô ấy thậm chí không cần phải biết.

Nếu đây là hệ thống giá trị đằng sau công nghệ, chúng ta có thoải mái với nó không, ngay cả khi nó làm cho cuộc sống thuận tiện đến không ngờ? Nếu không, chúng ta nên làm gì về nó?

Tập trung vào phương tiện

Mặc dù là hai thái cực đối lập, sợ hãi kỹ thuật và niềm vui kỹ thuật có một chủ đề đạo đức chung: tập trung vào kết quả. Mỗi bên đồng ý rằng công nghệ đạo đức phải dẫn đến thay đổi tích cực trên thế giới (hoặc ít nhất, không tạo ra nhiều vấn đề hơn). Họ không đồng ý về việc liệu công nghệ sẽ trở thành một lực lượng tốt hay xấu.

Tuy nhiên, việc tập trung vào kết quả khiến chúng ta mù quáng sang một khía cạnh khác của đạo đức công nghệ: phương tiện đạt được những kết quả đó.

Nhiều người đang nghĩ về các quy trình công nghệ và ý nghĩa đạo đức của họ, nhưng thường họ tập trung vào chúng vì chúng đã mang lại kết quả xấu. Cuộc thảo luận trở thành một chiến trường khác để tranh luận về kết quả.

Chẳng hạn, tranh luận về COMPAS - thuật toán kết nối dữ liệu là chủ đề của một bài đọc rộng rãi Điều tra chuyên nghiệp - tập trung vào thực tế là nó có xu hướng tạo ra kết quả phân biệt chủng tộc. Đó là quan trọng. Nhưng điều quan trọng là phải hiểu cách thức hoạt động của COMPAS, ngay cả khi kết quả không rõ ràng có vấn đề.

Chúng ta hãy tưởng tượng rằng chúng ta đã biết một thuật toán như COMPAS có hiệu quả 100% trong việc dự đoán khả năng tái phạm của người phạm tội. Chúng ta cũng hãy tưởng tượng rằng lý do nó rất chính xác là vì tập dữ liệu của nó rất toàn diện. Nó bao gồm mọi thông tin liên lạc riêng tư mà một kẻ phạm tội đã tạo ra trong mười năm qua. Mọi tin nhắn văn bản, bài đăng trên Facebook, email, cuộc gọi điện thoại, xem trang web - tất cả đều như vậy. Dữ liệu này cho phép một hồ sơ tâm lý rõ ràng về người phạm tội và dự đoán cực kỳ chính xác về việc tái phạm.

Vẫn có lý do để phản đối công nghệ này, không phải vì nó đạt được kết quả khủng khiếp, mà bởi vì nó đạt được kết quả tốt theo cách làm suy yếu các nguyên tắc thường thấy của chúng ta về quyền riêng tư và tự do dân sự. Đó là nơi mà một triết lý độc quyền hướng đến kết quả trở thành một vấn đề thực sự.

Con người đầu tiên

Công nghệ có thể là một phần của giải pháp cho hầu hết các thách thức đạo đức lớn của chúng ta. Nhưng không cô đơn. Một trong những chức năng của công nghệ là khuếch đại hoạt động của con người. Điều này có nghĩa là con người cần có được ngôi nhà của mình theo thứ tự trước khi công nghệ có thể hữu ích.

ConversationChúng ta cũng cần có được quy trình công nghệ ngay. Chúng ta cần thay đổi tiêu chuẩn của chúng ta về những gì được coi là công nghệ xuất sắc của Martin khỏi logic của tốc độ, hiệu quả và kiểm soát. Nếu chúng ta không, công nghệ có thể trở thành thách thức đạo đức lớn tiếp theo của chúng ta. Đáng lo ngại hơn, đến lúc đó chúng ta có thể đã cung cấp quá nhiều năng lượng cho các máy móc để có thể làm bất cứ điều gì về nó.

Giới thiệu về Tác giả

Matthew Beard, Phó Giảng viên, Đại học Đức Bà Úc

Bài viết này ban đầu được xuất bản vào Conversation. Đọc ban đầu bài viết.

Sách liên quan

at Thị trường InnerSelf và Amazon