Ảnh: Norbert Aepli, Thụy Sĩ (Người dùng: Noebu)

Trong 2016, những chiếc xe tự lái đã trở thành xu hướng. Xe tự hành của Uber trở nên phổ biến trong những khu phố nơi tôi sống ở Pittsburgh và một thời gian ngắn ở San Francisco. Bộ Giao thông vận tải Hoa Kỳ ban hành hướng dẫn quy định mới cho họ. Vô số giấy tờ và cột thảo luận về cách xe tự lái nên giải quyết tình trạng khó khăn về đạo đức khi mọi việc không như mong muốn. Và thật không may, 2016 cũng đã thấy tử vong đầu tiên liên quan đến một chiếc xe tự trị.

Các công nghệ tự trị đang nhanh chóng lan rộng ra khỏi lĩnh vực giao thông, vào chăm sóc sức khỏe, nâng cao không gian mạng và thậm chí cả vũ khí tự trị. Trong 2017, chúng tôi sẽ phải quyết định xem chúng tôi có thể tin tưởng các công nghệ này hay không. Điều đó sẽ khó hơn nhiều so với chúng ta mong đợi.

Lòng tin rất phức tạp và đa dạng, nhưng cũng là một phần quan trọng trong cuộc sống của chúng ta. Chúng ta thường tin tưởng vào công nghệ dựa trên dự đoán: Tôi tin tưởng một cái gì đó nếu tôi biết nó sẽ làm gì trong một tình huống cụ thể, ngay cả khi tôi không biết tại sao. Ví dụ, tôi tin tưởng máy tính của mình vì tôi biết nó sẽ hoạt động như thế nào, kể cả khi nó bị hỏng. Tôi ngừng tin tưởng nếu nó bắt đầu cư xử khác biệt hoặc đáng ngạc nhiên.

Ngược lại, niềm tin của tôi vào vợ tôi dựa trên hiểu niềm tin, giá trị và tính cách của cô ấy. Nói chung, niềm tin giữa các cá nhân không liên quan đến việc biết chính xác những gì người kia sẽ làm - vợ tôi đôi khi làm tôi ngạc nhiên! - nhưng đúng hơn là tại sao họ hành động như họ làm. Và tất nhiên, chúng ta có thể tin tưởng ai đó (hoặc một cái gì đó) theo cả hai cách, nếu chúng ta biết cả những gì họ sẽ làm và tại sao.

Tôi đã khám phá những cơ sở khả thi cho niềm tin của chúng tôi vào những chiếc xe tự lái và công nghệ tự trị khác từ cả hai khía cạnh đạo đức và tâm lý. Đây là những thiết bị, vì vậy khả năng dự đoán có vẻ giống như chìa khóa. Tuy nhiên, vì sự tự chủ của họ, chúng ta cần xem xét tầm quan trọng và giá trị - và thách thức - của việc học cách tin tưởng họ theo cách chúng ta tin tưởng vào con người khác.

Tự chủ và dự đoán

Chúng tôi muốn các công nghệ của chúng tôi, bao gồm cả xe tự lái, hoạt động theo cách chúng tôi có thể dự đoán và mong đợi. Tất nhiên, các hệ thống này có thể khá nhạy cảm với bối cảnh, bao gồm các phương tiện khác, người đi bộ, điều kiện thời tiết và vv. Tuy nhiên, nhìn chung, chúng ta có thể mong đợi rằng một chiếc xe tự lái liên tục được đặt trong cùng một môi trường có lẽ sẽ hoạt động tương tự nhau mỗi lần. Nhưng theo nghĩa nào thì những chiếc xe rất dễ đoán này sẽ tự trị, thay vì chỉ tự động?

Ở đây có được nhiều khác nhau nỗ lực đến định nghĩa quyền tự trị, nhưng tất cả đều có điểm chung: Các hệ thống tự trị có thể tự đưa ra quyết định và kế hoạch (thực chất) và do đó có thể hành động khác với dự kiến.

Trên thực tế, một lý do để sử dụng quyền tự chủ (khác với tự động hóa) chính xác là các hệ thống đó có thể theo đuổi các khóa học hành động bất ngờ và đáng ngạc nhiên, mặc dù có thể chứng minh được. Ví dụ, AlphaM của DeepMind chiến thắng trong trò chơi thứ hai của loạt game Go gần đây trước Lee Sedol một phần vì một động thái mà không một người chơi nào có thể thực hiện, nhưng dù sao đó cũng là một nước đi đúng đắn. Nhưng những bất ngờ tương tự làm cho việc thiết lập niềm tin dựa trên dự đoán trở nên khó khăn. Sự tin tưởng mạnh mẽ chỉ dựa trên khả năng dự đoán chỉ có thể được áp dụng cho các hệ thống tự động hoặc tự động, chính xác bởi vì chúng có thể dự đoán được (giả sử các chức năng của hệ thống hoạt động bình thường).

Ôm những điều bất ngờ

Tất nhiên, những người khác thường làm chúng ta ngạc nhiên, nhưng chúng ta có thể tin tưởng họ ở một mức độ đáng chú ý, thậm chí còn cho họ sức mạnh sinh tử đối với chính chúng ta. Những người lính tin tưởng đồng đội của họ trong những môi trường phức tạp, thù địch; một bệnh nhân tin tưởng bác sĩ phẫu thuật của mình để cắt bỏ khối u; và trong một mạch máu trần tục hơn, vợ tôi tin tưởng tôi lái xe an toàn. Sự tin tưởng giữa các cá nhân này cho phép chúng ta nắm lấy những điều bất ngờ, vì vậy có lẽ chúng ta có thể phát triển một cái gì đó như niềm tin giữa các cá nhân trong những chiếc xe tự lái?

Nói chung, niềm tin giữa các cá nhân đòi hỏi sự hiểu biết về lý do tại sao một người nào đó hành động theo một cách cụ thể, ngay cả khi bạn không thể dự đoán quyết định chính xác. Vợ tôi có thể không biết chính xác tôi sẽ lái xe như thế nào, nhưng cô ấy biết những lý do tôi sử dụng khi lái xe. Và thực sự tương đối dễ hiểu tại sao người khác làm điều gì đó, chính xác là bởi vì tất cả chúng ta đều nghĩ và suy luận gần giống nhau, mặc dù với các thành phần thô khác nhau của LINE - niềm tin, mong muốn và kinh nghiệm của chúng tôi.

Trên thực tế, chúng ta liên tục và vô thức đưa ra những suy luận về niềm tin và mong muốn của người khác dựa trên hành động của họ, phần lớn bằng cách cho rằng họ nghĩ, suy luận và quyết định đại khái như chúng ta. Tất cả những suy luận và lý luận dựa trên nhận thức chung (con người) của chúng tôi cho phép chúng tôi hiểu lý do của người khác, và do đó xây dựng niềm tin giữa các cá nhân theo thời gian.

Suy nghĩ như mọi người?

Công nghệ tự trị - đặc biệt là xe tự lái - không suy nghĩ và quyết định như mọi người. Đã có những nỗ lực, cả hai qua và gần đây, để phát triển hệ thống máy tính có suy nghĩ và lý trí như con người. Tuy nhiên, một chủ đề nhất quán của học máy trong hai thập kỷ qua là những lợi ích to lớn được tạo ra một cách chính xác bằng cách không yêu cầu các hệ thống trí tuệ nhân tạo của chúng ta vận hành theo cách giống như con người. Thay vào đó, các thuật toán và hệ thống máy học như AlphaGo thường có thể vượt trội so với các chuyên gia về con người bằng cách tập trung vào các vấn đề cụ thể, cục bộ, và sau đó giải quyết chúng hoàn toàn khác với con người.

Kết quả là, những nỗ lực để giải thích một công nghệ tự trị theo niềm tin và mong muốn giống như con người có thể trở nên tồi tệ một cách ngoạn mục. Khi một người lái xe nhìn thấy một quả bóng trên đường, hầu hết chúng ta sẽ tự động giảm tốc độ đáng kể, để tránh đánh một đứa trẻ có thể đang đuổi theo nó. Nếu chúng ta đang lái một chiếc xe tự hành và thấy một quả bóng lăn ra đường, chúng ta mong đợi chiếc xe sẽ nhận ra nó, và chuẩn bị dừng lại để chạy cho trẻ em. Chiếc xe có thể, tuy nhiên, chỉ thấy một trở ngại cần tránh. Nếu nó bay mà không chậm lại, những người trên tàu có thể bị báo động - và một đứa trẻ có thể gặp nguy hiểm.

Những suy luận của chúng tôi về niềm tin của người Hồi giáo và người khao khát về một chiếc xe tự lái gần như chắc chắn sẽ sai lầm theo những cách quan trọng, chính xác là vì chiếc xe không có bất kỳ niềm tin hay mong muốn nào giống con người. Chúng ta không thể phát triển niềm tin giữa các cá nhân trong một chiếc xe tự lái chỉ bằng cách xem nó lái xe, vì chúng ta sẽ không suy luận chính xác những lý do đằng sau hành động của nó.

Tất nhiên, khách hàng trong xã hội hoặc thị trường có thể khăng khăng rằng những chiếc xe tự lái có những đặc điểm giống như con người, chính xác để chúng ta có thể hiểu và phát triển niềm tin giữa các cá nhân với họ. Chiến lược này sẽ mang đến một ý nghĩa hoàn toàn mới cho Giathiết kế lấy con người làm trung tâm, Vì các hệ thống sẽ được thiết kế đặc biệt để hành động của chúng có thể hiểu được bởi con người. Nhưng nó cũng đòi hỏi phải có tiểu thuyết thuật toán và kỹ thuật trong xe tự lái, tất cả sẽ thể hiện một sự thay đổi lớn từ các chiến lược nghiên cứu và phát triển hiện tại cho xe tự lái và các công nghệ tự trị khác.

Xe tự lái có khả năng định hình lại cơ sở hạ tầng giao thông của chúng ta theo nhiều cách có lợi, nhưng chỉ khi chúng ta có thể tin tưởng chúng đủ để thực sự sử dụng chúng. Và trớ trêu thay, chính tính năng làm cho những chiếc xe tự lái trở nên có giá trị - khả năng ra quyết định linh hoạt, tự chủ của chúng trong các tình huống khác nhau - chính xác là điều khiến chúng ta khó tin tưởng chúng.

tự động

David Danks, Giáo sư Triết học và Tâm lý học, Đại học Carnegie Mellon

Bài viết này ban đầu được xuất bản vào Conversation. Đọc ban đầu bài viết.

Sách liên quan:

at Thị trường InnerSelf và Amazon