Trọng tâm của sự phát triển của AI dường như là tìm kiếm sự hoàn hảo. Và nó cũng có thể nguy hiểm đối với nhân loại giống như thứ xuất phát từ những ý tưởng triết học và giả khoa học của thế kỷ 19 và đầu thế kỷ 20, đồng thời dẫn đến sự khủng khiếp của chủ nghĩa thực dân, chiến tranh thế giới và thảm họa Holocaust. Thay vì con người cai trị "chủng tộc chủ", chúng ta có thể kết thúc với một cỗ máy.

Nếu điều này có vẻ cực đoan, hãy xem xét chủ nghĩa hoàn hảo chống con người vốn đã là trung tâm của thị trường lao động. Ở đây, công nghệ AI là bước tiếp theo trong tiền đề của năng suất tối đa thay thế tay nghề thủ công cá nhân bằng dây chuyền sản xuất của nhà máy. Những thay đổi lớn này về năng suất và cách chúng tôi làm việc đã tạo ra các cơ hội và mối đe dọa mà giờ đây được thiết lập để được kết hợp bởi một “cuộc cách mạng công nghiệp lần thứ tư”Trong đó AI tiếp tục thay thế nhân công của con người.

Một số tài liệu nghiên cứu gần đây dự đoán rằng, trong vòng một thập kỷ nữa, tự động hóa sẽ thay thế một nửa số công việc hiện tại. Vì vậy, ít nhất là trong quá trình chuyển đổi sang một nền kinh tế số hóa mới, nhiều người sẽ mất kế sinh nhai. Ngay cả khi chúng ta giả định rằng cuộc cách mạng công nghiệp mới này sẽ tạo ra một lực lượng lao động mới có thể điều hướng và chỉ huy thế giới thống trị bằng dữ liệu này, chúng ta vẫn sẽ phải đối mặt với những vấn đề kinh tế xã hội lớn. Sự gián đoạn sẽ rất lớn và cần được xem xét kỹ lưỡng.

Mục đích cuối cùng của AI, thậm chí là AI hẹp, xử lý các nhiệm vụ rất cụ thể, là vượt qua và hoàn thiện mọi chức năng nhận thức của con người. Cuối cùng, các hệ thống học máy cũng có thể được lập trình để tốt hơn con người về mọi thứ.

Tuy nhiên, những gì chúng có thể không bao giờ phát triển là sự tiếp xúc của con người - sự đồng cảm, tình yêu, sự ghét bỏ hoặc bất kỳ cảm xúc tự ý thức nào khác tạo nên con người chúng ta. Đó là trừ khi chúng tôi ghi lại những tình cảm này với họ, đó là điều một số người trong chúng ta đã làm với “Alexas” và “Siris” của chúng tôi.

Năng suất so với liên lạc của con người

Nỗi ám ảnh về sự hoàn hảo và “siêu hiệu quả” đã có tác động sâu sắc đến các mối quan hệ của con người, thậm chí cả sự tái tạo của con người, khi con người sống cuộc đời của họ trong những thực tại ảo, đông đúc do chính họ tạo ra. Ví dụ, một số công ty có trụ sở tại Hoa Kỳ và Trung Quốc đã sản xuất búp bê robot bán hết nhanh như các đối tác thay thế.

Một người đàn ông ở Trung Quốc thậm chí kết hôn với búp bê mạng của anh ấy, trong khi một phụ nữ ở Pháp "Kết hôn" với một "người máy", quảng cáo câu chuyện tình yêu của cô ấy như một dạng "tình dục người máy" và vận động để hợp pháp hóa hôn nhân của mình. “Tôi thực sự và hoàn toàn hạnh phúc,” cô nói. “Mối quan hệ của chúng ta sẽ ngày càng tốt hơn khi công nghệ phát triển”. Đó có vẻ như nhu cầu cao về người vợ và người chồng robot trên toàn thế giới.

Trong thế giới sản xuất hoàn hảo, con người sẽ bị coi là vô giá trị, chắc chắn là về năng suất nhưng cũng là về con người yếu ớt của chúng ta. Trừ khi chúng ta loại bỏ thái độ cầu toàn này đối với cuộc sống đặt năng suất và “tăng trưởng vật chất” lên trên tính bền vững và hạnh phúc cá nhân, nghiên cứu AI có thể là một chuỗi khác trong lịch sử tự đánh bại các phát minh của con người.

Chúng ta đang chứng kiến ​​sự phân biệt đối xử trong các phép tính thuật toán. Gần đây, một Chatbot của Hàn Quốc có tên Lee Luda đã được đưa vào ngoại tuyến. “Cô ấy” được mô phỏng theo nhân vật của một nữ sinh viên đại học 20 tuổi và đã bị xóa khỏi Facebook messenger sau khi sử dụng lời nói căm thù đối với người LGBT.

Trong khi đó, vũ khí tự động được lập trình để tiêu diệt đang mang những châm ngôn như “năng suất” và “hiệu quả” vào trận chiến. Kết quả là chiến tranh trở nên bền vững hơn. Sự gia tăng của chiến tranh bằng máy bay không người lái là một ví dụ rất sinh động cho những hình thức xung đột mới này. Chúng tạo ra một thực tế ảo mà chúng ta hầu như không có.

Nhưng sẽ thật hài hước nếu miêu tả AI như một cơn ác mộng không thể tránh khỏi của Orwellian về một đội quân “Kẻ hủy diệt” siêu thông minh có sứ mệnh xóa sổ loài người. Những dự đoán lỗi thời như vậy là quá thô thiển để có thể nắm bắt được mức độ sâu sắc của trí tuệ nhân tạo và tác động của nó đối với sự tồn tại hàng ngày của chúng ta.

Các xã hội có thể hưởng lợi từ AI nếu nó được phát triển với sự phát triển kinh tế bền vững và an ninh con người. Ví dụ, sự hợp nhất của quyền lực và AI đang theo đuổi, hệ thống kiểm soát và giám sát, không nên thay thế cho lời hứa về một AI được nhân văn hóa sẽ đưa công nghệ máy học vào phục vụ con người chứ không phải ngược lại.

Để đạt được mục tiêu đó, các giao diện AI-con người đang nhanh chóng mở ra trong các nhà tù, y tế, chính phủ, an ninh xã hội và kiểm soát biên giới, chẳng hạn, phải được quy định để ưu tiên đạo đức và an ninh con người hơn hiệu quả thể chế. Khoa học xã hội và nhân văn có nhiều điều để nói về những vấn đề như vậy.

Một điều đáng vui mừng là khả năng AI sẽ không bao giờ thay thế được triết học và trí tuệ của con người. Rốt cuộc, để trở thành một triết gia, cần có sự đồng cảm, hiểu biết về con người, cũng như những cảm xúc và động cơ bẩm sinh của chúng ta. Nếu chúng ta có thể lập trình máy móc của mình để hiểu được các tiêu chuẩn đạo đức như vậy, thì nghiên cứu AI có khả năng cải thiện cuộc sống của chúng ta, đây phải là mục đích cuối cùng của bất kỳ tiến bộ công nghệ nào.

Nhưng nếu nghiên cứu AI tạo ra một hệ tư tưởng mới xoay quanh khái niệm chủ nghĩa hoàn hảo và năng suất tối đa, thì nó sẽ là một sức mạnh hủy diệt dẫn đến nhiều cuộc chiến hơn, nhiều nạn đói hơn và nhiều hơn nữa về kinh tế và xã hội, đặc biệt là đối với người nghèo. Vào thời điểm này của lịch sử toàn cầu, sự lựa chọn này vẫn là của chúng tôi.

Giới thiệu về Tác giả

Arshin Adib-Moghaddam, Giáo sư về Tư tưởng Toàn cầu và Triết học So sánh, SOAS, Đại học Luân Đôn

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.