Khi mọi thứ trở nên sai lầm trong một thế giới tự động, chúng ta vẫn sẽ biết phải làm gì?

Khi mọi thứ trở nên sai lầm trong một thế giới tự động, chúng ta vẫn sẽ biết phải làm gì?

Chúng ta sống trong một thế giới ngày càng phức tạp và tự động. Vì vậy, giống như chúng ta đang phải đối phó với các vấn đề phức tạp hơn, tự động hóa dẫn đến sự teo đi các kỹ năng của con người có thể khiến chúng ta dễ bị tổn thương hơn khi ứng phó với các tình huống bất ngờ hoặc khi gặp sự cố. Conversation

Xem xét Những phút cuối của chuyến bay Air France 447, đã rơi xuống Đại Tây Dương vào tháng 5 2009 sau khi rời Rio de Janeiro, Brazil, tới Paris, Pháp.

Ghi lại chuyến bay của nó tiết lộ sự nhầm lẫn hoàn toàn trong buồng lái. Chiếc máy bay trở nên nghiêng lên ở 15º với giọng nói tự động lặp đi lặp lại khi gọi gian hàng của Gian, gian hàng. Tuy nhiên, các phi công đã quay cuồng, một người thốt lên: V [[]] chúng tôi không hiểu gì cả.

Đây không phải là nơi để đi vào và ra khỏi chuyến bay xấu số đó, ngoài việc lưu ý rằng bất kỳ hệ thống nào được thiết kế để tự động xử lý các tình huống, phần lớn thời gian để lại một cơ sở kỹ năng xuống cấp cho thiểu số các tình huống mà các nhà thiết kế không thể không thấy trước.

Phát biểu với vanity Fair, Nadine Sarter, một kỹ sư công nghiệp tại Đại học Michigan, nhớ lại cuộc trò chuyện với năm kỹ sư tham gia chế tạo một chiếc máy bay cụ thể.

Tôi bắt đầu hỏi, 'Chà, cái này hay cái đó hoạt động thế nào?' Và họ không thể đồng ý về câu trả lời. Vì vậy, tôi đã suy nghĩ, nếu năm kỹ sư này không thể đồng ý, thì phi công tội nghiệp, nếu anh ta gặp phải tình huống đặc biệt đó, chúc may mắn.

Trong thực tế, sự phức tạp của việc bay một cách thận trọng các máy bay công nghệ cao rất phức tạp đã được gia công cho một robot, với kỹ sư máy bay đến tất cả ý định và mục đích đã biến mất từ buồng lái. Chỉ những phi công lớn tuổi và phi công cũ của không quân mới giữ được những kỹ năng chi tiết đó.


Nhận thông tin mới nhất từ ​​Nội tâm


Trở lại terra Firma, trong một thế giới lái xe tự trị, có thể có toàn bộ thế hệ tương lai không có kinh nghiệm thực tế nào trong lái xe và điều hướng một chiếc xe

Chúng tôi đã thấy một dấu hiệu của cái mà có thể sai lầm khi con người rời khỏi tầm kiểm soát hệ thống tự trị.

Một cuộc điều tra về tai nạn chết người của Tesla Model S với chế độ lái tự động lưu ý rằng công ty đã cung cấp thông tin về các hạn chế của hệ thống trên mạng đối với các trình điều khiển. Trong trường hợp đó, vẫn cần các tài xế chú ý.

Nhưng cơ hội nào một người có thể nắm quyền kiểm soát sẽ khiến mọi thứ bắt đầu sai trong tương lai của họ xe tự hành hoàn toàn. Họ thậm chí sẽ biết làm thế nào để phát hiện những dấu hiệu sớm của thảm họa sắp xảy ra?

Mất đường?

Thúc đẩy điều này là một chủ nghĩa quyết định công nghệ tin rằng bất kỳ và tất cả sự đổi mới về bản chất là tốt. Mặc dù các công nghệ mới nổi có thể chưa xác định được con người là gì, nhưng thách thức là nhận ra rủi ro và phải làm gì để đảm bảo mọi thứ không đi sai.

Điều đó trở nên khó khăn hơn khi chúng tôi đã thêm vào sự phức tạp, đặc biệt là với việc lái xe tự trị xe lửa ngoại thành, taxi không khímáy bay không người lái.

Các nhà thiết kế hệ thống đã và đang xây dựng các hệ thống lớn hơn và đan xen hơn để chia sẻ tải xử lý máy tính mặc dù điều này làm cho sự sáng tạo của họ trở thành ứng cử viên chính cho sự cố. Họ đang nhìn vào thực tế rằng một khi mọi thứ được kết nối, các vấn đề có thể lan truyền dễ dàng như các giải pháp, đôi khi còn hơn thế.

Sự phức tạp ngày càng lớn mạnh của một thế giới tự động đặt ra những rủi ro tương tự.

Điểm nguy hiểm

Nhìn nhận lại, điều cần thiết là khả năng cắt mạng miễn phí khi có các điểm lỗi hoặc ít nhất là bịt kín các phần của một mạng khi có các điểm lỗi ở nơi khác.

Đây là một tính năng của lưới điện thông minh cung cấp phạm vi để phân chia mạng thành các mảnh có khả năng tự duy trì nhu cầu năng lượng nội bộ của họ. Mô hình đã chỉ ra rằng Ít kết nối hơn có thể dẫn đến bảo mật hơn.

Khoa học phức tạp mới nổi có thể giúp xác định chính xác nơi các điểm nguy hiểm có thể nằm trong các mạng liên kết cao? Marten Scheffer và các đồng nghiệp cũng nghĩ vậy. Ông đã nhìn thấy sự tương đồng giữa hành vi của (hệ thống tự nhiên) của mình và hệ thống kinh tế và tài chính.

Của mình làm việc sớm hơn trên hồ, rạn san hô, biển, rừng và đồng cỏ, thấy rằng môi trường chịu sự thay đổi dần dần như khí hậu, tải chất dinh dưỡng và mất môi trường sống có thể chạm tới các điểm lật khiến chúng rơi vào trạng thái thấp hơn đôi khi không thể đảo ngược.

Các chủ ngân hàng và các nhà kinh tế có thể vật lộn với sự ổn định của thị trường tài chính học hỏi từ các nhà nghiên cứu về sinh thái học, dịch tễ học và khí hậu để phát triển các dấu hiệu của sự gần gũi với các ngưỡng quan trọng và sự cố hệ thống?

Trong tháng 2 2016, tất cả đã kết hợp với nhau dưới dạng một bài viết về lý thuyết phức tạp và quy định tài chính đồng tác giả bởi một loạt các chuyên gia bao gồm một nhà kinh tế, ngân hàng, nhà vật lý, nhà khí hậu học, nhà sinh thái học, nhà động vật học, bác sĩ thú y và nhà dịch tễ học.

Họ đề nghị tích hợp trực tuyến dữ liệu, phương pháp và chỉ số, đưa vào các bài kiểm tra căng thẳng cho các hệ thống tài chính và kinh tế xã hội toàn cầu trong thời gian gần. Cái trước tương tự như những gì đã đạt được khi đối phó với các hệ thống phức tạp khác như thời tiết.

Chúng ta có thể bắt đầu thấy ví dụ của chúng ta về một thế giới lái xe tự trị như thế nào trong các câu hỏi về sự ổn định của mạng. Hãy tưởng tượng một mạng lưới liên kết cao của các phương tiện tự trị.

Có một nhu cầu rõ ràng để biết cách phát hiện và cô lập bất kỳ điểm thất bại tiềm năng nào trong một mạng như vậy, trước khi mọi thứ trở nên sai lầm với những hậu quả bi thảm tiềm ẩn. Điều này không chỉ đơn thuần là bảo vệ người lái và hành khách khỏi mọi lỗi hệ thống trong một chiếc xe tự trị duy nhất.

Đã đến lúc nghĩ làm thế nào chúng ta có thể sử dụng những tiến bộ đa ngành đó để hiểu được sự ổn định của các mạng quy mô lớn như vậy để tránh hậu quả nghiêm trọng.

Giới thiệu về Tác giả

Peter Fisher, giáo sư phụ trợ, nghiên cứu toàn cầu, đô thị và xã hội, Đại học RMIT

Bài viết này ban đầu được xuất bản vào Conversation. Đọc ban đầu bài viết.

Sách liên quan

{amazonWS: searchindex = Books; Keywords = tự động hóa sai; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

theo dõi Nội bộ trên

facebook-iconbiểu tượng twitterbiểu tượng rss

Nhận tin mới nhất qua email

{Emailcloak = off}

ĐỌC MOST