Napoléon có thể đã học được từ quá khứ. tranh của Adolph Northen/wikipedia

Việc không biết lịch sử khiến người ta lặp lại nó là một điều sáo rỗng. Như nhiều người cũng đã chỉ ra, điều duy nhất chúng ta học được từ lịch sử là chúng ta hiếm khi học được gì từ lịch sử. Mọi người tham gia vào chiến tranh trên bộ ở châu Á hết lần này đến lần khác. Họ cũng lặp đi lặp lại những lỗi hẹn hò giống nhau. Nhưng tại sao điều này lại xảy ra? Và liệu công nghệ có đặt dấu chấm hết cho nó?

Một vấn đề là hay quên và “cận thị”: chúng tôi không thấy các sự kiện trong quá khứ có liên quan như thế nào đến các sự kiện hiện tại, nhìn ra mô hình đang diễn ra. Napoléon lẽ ra phải nhận thấy những điểm tương đồng giữa cuộc hành quân của ông tới Moscow và nhà vua Thụy Điển nỗ lực thất bại của Charles XII để làm như vậy khoảng một thế kỷ trước ông.

Chúng tôi cũng vậy học kém khi mọi việc không như mong muốn. Thay vì xác định lý do tại sao một quyết định là sai lầm và làm thế nào để tránh nó tái diễn, chúng ta thường cố gắng phớt lờ bước ngoặt đáng xấu hổ của các sự kiện. Điều đó có nghĩa là lần sau khi một tình huống tương tự xảy ra, chúng ta không thấy sự tương đồng – và lặp lại sai lầm.

Cả hai đều tiết lộ vấn đề với thông tin. Trong trường hợp đầu tiên, chúng tôi không nhớ thông tin cá nhân hoặc lịch sử. Trong trường hợp thứ hai, chúng tôi không thể mã hóa thông tin khi có sẵn.

Điều đó nói rằng, chúng tôi cũng phạm sai lầm khi chúng tôi không thể suy luận một cách hiệu quả những gì sẽ xảy ra. Có lẽ tình huống quá phức tạp hoặc quá tốn thời gian để suy nghĩ. Hoặc chúng ta thiên vị để giải thích sai những gì đang xảy ra.

Sức mạnh khó chịu của công nghệ

Nhưng chắc chắn công nghệ có thể giúp chúng ta? Bây giờ chúng ta có thể lưu trữ thông tin bên ngoài bộ não của mình và sử dụng máy tính để truy xuất thông tin đó. Điều đó sẽ làm cho việc học và ghi nhớ trở nên dễ dàng, phải không?

Lưu trữ thông tin hữu ích khi nó có thể được truy xuất tốt. Nhưng ghi nhớ không giống như truy xuất tệp từ một vị trí hoặc ngày đã biết. Ghi nhớ liên quan đến việc phát hiện ra những điểm tương đồng và ghi nhớ mọi thứ.

Trí tuệ nhân tạo (AI) cũng cần có khả năng mang lại những điểm tương đồng trong tâm trí chúng ta một cách tự nhiên – thường là những điểm tương đồng không mong muốn. Nhưng nếu nó giỏi nhận thấy những điểm tương đồng có thể xảy ra (xét cho cùng, nó có thể tìm kiếm tất cả internet và tất cả dữ liệu cá nhân của chúng ta) thì nó cũng sẽ thường xuyên nhận ra những điểm sai.

Đối với những ngày thất bại, có thể lưu ý rằng tất cả chúng đều liên quan đến bữa tối. Nhưng nó chưa bao giờ là vấn đề ăn uống. Và hoàn toàn là một sự trùng hợp ngẫu nhiên khi có hoa tulip trên bàn - không có lý do gì để tránh chúng. Chúng ta thường lặp lại những sai lầm khi hẹn hò. 

Điều đó có nghĩa là nó sẽ cảnh báo chúng ta về những thứ mà chúng ta không quan tâm, có thể theo một cách khó chịu. Điều chỉnh độ nhạy của nó xuống đồng nghĩa với việc tăng nguy cơ không nhận được cảnh báo khi cần thiết.

Đây là một vấn đề cơ bản và cũng đúng với bất kỳ cố vấn nào: cố vấn thận trọng sẽ khóc sói quá thường xuyên, cố vấn lạc quan sẽ bỏ lỡ rủi ro.

Một cố vấn tốt là người mà chúng ta tin tưởng. Họ có cùng mức độ thận trọng như chúng tôi, và chúng tôi biết họ biết những gì chúng tôi muốn. Điều này rất khó tìm thấy ở một cố vấn con người, và thậm chí còn khó tìm thấy ở AI.

Công nghệ dừng sai lầm ở đâu? Công việc chống ngu ngốc. Máy cắt yêu cầu bạn phải giữ các nút, không để tay chạm vào lưỡi dao. “Công tắc của người chết” sẽ dừng máy nếu người vận hành mất khả năng.

Lò vi sóng tắt bức xạ khi cửa được mở. Để phóng tên lửa, hai người cần xoay chìa khóa đồng thời qua một căn phòng. Ở đây, thiết kế cẩn thận sẽ khó mắc lỗi. Nhưng chúng ta không quan tâm đầy đủ đến những tình huống ít quan trọng hơn, khiến cho thiết kế ở đó kém hiệu quả hơn nhiều.

Khi công nghệ hoạt động tốt, chúng ta thường quá tin tưởng vào nó. Ngày nay, phi công của các hãng hàng không có số giờ bay thực sự ít hơn so với trước đây do hiệu quả đáng kinh ngạc của các hệ thống lái tự động. Đây là tin xấu khi chế độ lái tự động bị lỗi và phi công có ít kinh nghiệm hơn để tiếp tục khắc phục tình hình.

đầu tiên của một giàn khoan dầu mới (Sleipnir A) bị chìm bởi vì các kỹ sư đã tin tưởng vào phần mềm tính toán lực tác dụng lên nó. Mô hình này đã sai, nhưng nó đã trình bày các kết quả theo một cách hấp dẫn đến mức trông chúng có vẻ đáng tin cậy.

Phần lớn công nghệ của chúng tôi đáng tin cậy một cách đáng kinh ngạc. Ví dụ: chúng tôi không nhận thấy các gói dữ liệu bị mất trên Internet liên tục được tìm thấy đằng sau hậu trường như thế nào, cách các mã sửa lỗi loại bỏ tiếng ồn hoặc cách cầu chì và dự phòng giúp các thiết bị an toàn.

Nhưng khi chúng ta chồng chất hết cấp độ này đến cấp độ phức tạp khác, nó trông rất không đáng tin cậy. Chúng tôi nhận thấy khi video Thu phóng bị trễ, chương trình AI trả lời sai hoặc máy tính gặp sự cố. Tuy nhiên, hãy hỏi bất kỳ ai đã sử dụng máy tính hoặc ô tô cách đây 50 năm xem chúng thực sự hoạt động như thế nào, và bạn sẽ nhận thấy rằng chúng vừa kém hiệu quả vừa kém tin cậy hơn.

Chúng tôi làm cho công nghệ trở nên phức tạp hơn cho đến khi nó trở nên quá khó chịu hoặc không an toàn khi sử dụng. Khi các bộ phận trở nên tốt hơn và đáng tin cậy hơn, chúng tôi thường chọn thêm các tính năng mới thú vị và hữu ích hơn là gắn bó với những gì hoạt động. Điều này cuối cùng làm cho công nghệ kém tin cậy hơn mức có thể.

sai lầm sẽ được thực hiện

Đây cũng là lý do tại sao AI là con dao hai lưỡi để tránh sai lầm. Tự động hóa thường làm cho mọi thứ an toàn hơn và hiệu quả hơn khi nó hoạt động, nhưng khi nó gặp sự cố, nó sẽ khiến rắc rối lớn hơn rất nhiều. Quyền tự chủ có nghĩa là phần mềm thông minh có thể bổ sung cho suy nghĩ của chúng ta và giảm bớt gánh nặng cho chúng ta, nhưng khi nó không suy nghĩ như chúng ta muốn, nó có thể hoạt động sai.

Nó càng phức tạp, những sai lầm có thể càng tuyệt vời. Bất kỳ ai từng làm việc với các học giả cực kỳ thông minh đều biết họ có thể làm mọi thứ rối tung lên như thế nào với sự khéo léo tuyệt vời khi ý thức chung của họ làm họ thất vọng – và AI có rất ít ý thức chung của con người.

Đây cũng là một lý do sâu xa để lo lắng về việc AI hướng dẫn việc ra quyết định: họ phạm những loại sai lầm mới. Con người chúng ta biết những lỗi lầm của con người, nghĩa là chúng ta có thể coi chừng chúng. Nhưng máy thông minh có thể phạm sai lầm mà chúng ta không bao giờ có thể tưởng tượng được.

Hơn nữa, các hệ thống AI được lập trình và đào tạo bởi con người. Và có rất nhiều ví dụ về các hệ thống như vậy trở nên thiên vị và thậm chí mù quáng. Họ bắt chước những thành kiến ​​và lặp lại những sai lầm từ thế giới loài người, ngay cả khi những người liên quan cố gắng tránh chúng một cách rõ ràng.

Cuối cùng, sai lầm sẽ tiếp tục xảy ra. Có những lý do cơ bản khiến chúng ta hiểu sai về thế giới, tại sao chúng ta không nhớ mọi thứ chúng ta nên nhớ và tại sao công nghệ của chúng ta không thể giúp chúng ta tránh khỏi rắc rối một cách hoàn hảo.

Nhưng chúng ta có thể làm việc để giảm hậu quả của những sai lầm. Nút hoàn tác và lưu tự động đã lưu vô số tài liệu trên máy tính của chúng tôi. Tượng đài ở Luân Đôn, đá sóng thần ở Nhật Bản và các tượng đài khác có tác dụng nhắc nhở chúng ta về những rủi ro nhất định. Thực hành thiết kế tốt làm cho cuộc sống của chúng ta an toàn hơn.

Cuối cùng, có thể học được điều gì đó từ lịch sử. Mục tiêu của chúng ta là tồn tại và học hỏi từ những sai lầm của mình, chứ không phải ngăn chặn chúng xảy ra. Công nghệ có thể giúp chúng ta điều này, nhưng chúng ta cần suy nghĩ cẩn thận về những gì chúng ta thực sự muốn từ nó – và thiết kế cho phù hợp.

Giới thiệu về Tác giả

Anders Sandberg, Nghiên cứu viên James Martin, Viện Tương lai Nhân loại & Trường Oxford Martin, Đại học Oxford

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.