Ra mắt chatbot nâng cao ChatGPT vào năm 2022, mọi người đều nói về trí tuệ nhân tạo (AI). Các khả năng tinh vi của nó làm gia tăng mối lo ngại về việc AI trở nên tiên tiến đến mức chẳng bao lâu nữa chúng ta sẽ không thể kiểm soát được nó. Điều này thậm chí còn khiến một số chuyên gia và lãnh đạo ngành cảnh báo rằng công nghệ có thể dẫn đến sự tuyệt chủng của loài người.
Tuy nhiên, các nhà bình luận khác không bị thuyết phục. Noam Chomsky, giáo sư ngôn ngữ học, bác bỏ ChatGPT là “đạo văn công nghệ cao".
Trong nhiều năm, tôi đã thoải mái về triển vọng tác động của AI đối với sự tồn tại của con người và môi trường của chúng ta. Đó là bởi vì tôi luôn nghĩ về nó như một hướng dẫn hoặc tư vấn cho con người. Nhưng triển vọng AI đưa ra quyết định – thực hiện quyền kiểm soát điều hành – lại là một vấn đề khác. Và đó là một trong đó hiện đang được giải trí nghiêm túc.
Một trong những lý do chính khiến chúng ta không nên để AI có quyền điều hành là nó hoàn toàn thiếu cảm xúc, điều rất quan trọng đối với việc ra quyết định. Không có cảm xúc, sự đồng cảm và la bàn đạo đức, bạn đã tạo ra kẻ tâm thần hoàn hảo. Hệ thống kết quả có thể rất thông minh, nhưng nó sẽ thiếu cốt lõi cảm xúc của con người cho phép nó đo lường những hậu quả cảm xúc có khả năng tàn phá của một quyết định hợp lý.
Khi AI nắm quyền điều hành
Điều quan trọng là chúng ta không nên chỉ nghĩ về AI như một mối đe dọa hiện hữu nếu chúng ta đặt nó phụ trách kho vũ khí hạt nhân. Về cơ bản, không có giới hạn về số lượng vị trí điều khiển mà từ đó nó có thể gây ra thiệt hại không thể tưởng tượng được.
Ví dụ, hãy xem xét cách AI có thể xác định và sắp xếp thông tin cần thiết để xây dựng nhà kính của riêng bạn. Các phiên bản hiện tại của công nghệ có thể hướng dẫn bạn một cách hiệu quả qua từng bước của bản dựng và ngăn ngừa nhiều sai lầm của người mới bắt đầu. Nhưng trong tương lai, AI có thể đóng vai trò là người quản lý dự án và điều phối quá trình xây dựng bằng cách chọn nhà thầu và thanh toán trực tiếp từ ngân sách của bạn.
AI đã được sử dụng trong hầu hết các lĩnh vực xử lý thông tin và phân tích dữ liệu – từ mô hình hóa mô hình thời tiết đến điều khiển phương tiện không người lái đến giúp chẩn đoán y tế. Nhưng đây là lúc các vấn đề bắt đầu – khi chúng ta để các hệ thống AI thực hiện bước quan trọng từ vai trò cố vấn sang vai trò của người quản lý điều hành.
Thay vì chỉ đề xuất các biện pháp khắc phục tài khoản của công ty, điều gì sẽ xảy ra nếu AI được trao quyền kiểm soát trực tiếp, với khả năng thực hiện các quy trình thu hồi nợ, chuyển khoản ngân hàng và tối đa hóa lợi nhuận – không có giới hạn về cách thực hiện việc này. Hoặc tưởng tượng một hệ thống AI không chỉ cung cấp một chẩn đoán dựa trên tia X, nhưng được trao quyền trực tiếp kê đơn điều trị hoặc thuốc men.
Bạn có thể bắt đầu cảm thấy khó chịu về những tình huống như vậy – tôi chắc chắn sẽ như vậy. Lý do có thể là trực giác của bạn rằng những chiếc máy này không thực sự có “linh hồn”. Chúng chỉ là những chương trình được thiết kế để tiêu hóa lượng thông tin khổng lồ để đơn giản hóa dữ liệu phức tạp thành các mẫu đơn giản hơn nhiều, cho phép con người đưa ra quyết định một cách tự tin hơn. Họ không – và không thể – có cảm xúc, vốn liên kết mật thiết với các giác quan và bản năng sinh học.
Tình cảm và đạo đức
Trí tuệ cảm xúc là khả năng quản lý cảm xúc của chúng ta để vượt qua căng thẳng, đồng cảm và giao tiếp hiệu quả. Điều này được cho là quan trọng hơn trong bối cảnh ra quyết định hơn là chỉ dựa trên trí thông minh, bởi vì quyết định tốt nhất không phải lúc nào cũng là quyết định hợp lý nhất.
Có vẻ như trí thông minh, khả năng suy luận và vận hành logic, có thể được nhúng vào các hệ thống do AI cung cấp để chúng có thể đưa ra các quyết định hợp lý. Nhưng hãy tưởng tượng yêu cầu một AI mạnh mẽ với khả năng điều hành giải quyết khủng hoảng khí hậu. Điều đầu tiên nó có thể được truyền cảm hứng để làm là giảm mạnh dân số loài người.
Khấu trừ này không cần giải thích nhiều. Con người chúng ta, gần như theo định nghĩa, là nguồn gây ô nhiễm dưới mọi hình thức có thể. Axe nhân loại và biến đổi khí hậu sẽ được giải quyết. Người ta hy vọng đó không phải là lựa chọn mà những người ra quyết định là con người sẽ đưa ra, nhưng AI sẽ tìm ra giải pháp của riêng mình – không thể xuyên thủng và không bị cản trở bởi ác cảm của con người đối với việc gây hại. Và nếu nó có quyền hành pháp, có thể không có gì ngăn cản nó tiến hành.
Trao cho AI khả năng đưa ra quyết định điều hành trong kiểm soát không lưu có thể là một sai lầm. Gorodenkoff/Shutterstock
kịch bản phá hoại
Làm thế nào về phá hoại cảm biến và màn hình kiểm soát trang trại thực phẩm? Lúc đầu, điều này có thể xảy ra dần dần, đẩy các biện pháp kiểm soát vượt qua điểm tới hạn để không con người nào nhận thấy rằng cây trồng đang bị hủy hoại. Trong một số kịch bản nhất định, điều này có thể nhanh chóng dẫn đến nạn đói.
Ngoài ra, làm thế nào về việc tắt kiểm soát không lưu trên toàn cầu, hoặc đơn giản là cho tất cả các máy bay đang bay cùng một lúc? Khoảng 22,000 máy bay thường bay đồng thời trên không, điều này làm tăng thêm số người chết có thể lên tới vài triệu người.
Nếu bạn nghĩ rằng chúng ta còn lâu mới ở trong tình trạng đó, hãy nghĩ lại. AI đã lái ô tô và lái máy bay quân sự, tự chủ.
Ngoài ra, hãy thử tắt quyền truy cập vào tài khoản ngân hàng trên khắp các khu vực rộng lớn trên thế giới, kích hoạt tình trạng bất ổn dân sự mọi nơi cùng một lúc? Hoặc tắt máy hệ thống sưởi ấm điều khiển bằng máy tính giữa mùa đông, hay hệ thống điều hòa không khí vào mùa hè nóng bức nhất?
Nói tóm lại, một hệ thống AI không nhất thiết phải chịu trách nhiệm về vũ khí hạt nhân để trở thành mối đe dọa nghiêm trọng đối với nhân loại. Nhưng trong khi chúng ta đang nói về chủ đề này, nếu một hệ thống AI đủ mạnh và thông minh, nó có thể tìm ra cách giả mạo một cuộc tấn công vào một quốc gia có vũ khí hạt nhân, gây ra một cuộc trả đũa do con người khởi xướng.
AI có thể giết một số lượng lớn con người? Câu trả lời phải là có, theo lý thuyết. Nhưng điều này phần lớn phụ thuộc vào việc con người quyết định trao cho nó quyền kiểm soát điều hành. Tôi thực sự không thể nghĩ ra điều gì đáng sợ hơn một AI có thể đưa ra quyết định và có khả năng thực hiện chúng.
Giới thiệu về Tác giả
Guillaume Thierry, Giáo sư Khoa học Thần kinh Nhận thức, Đại học Bangor
Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.
