Ahmet Misirligul / Shutterstock

Bộ phim ngắn Sl tàn sát mô tả một tương lai gần, trong đó những người máy bay không người lái siêu nhỏ ám sát hàng ngàn người vì niềm tin chính trị của họ. Được phát hành vào tháng 11 2017 bởi các học giả và các nhà hoạt động cảnh báo về sự nguy hiểm của trí tuệ nhân tạo tiên tiến (AI), nó đã nhanh chóng lan truyền, thu hút các lượt xem 3m cho đến nay. Nó giúp châm ngòi cuộc tranh luận công cộng về tương lai của vũ khí tự trị và gây áp lực lên cuộc họp của các nhà ngoại giao tại Liên Hợp Quốc Công ước về vũ khí thông thường.

Nhưng kiểu kể chuyện khoa học viễn tưởng đầu cơ này không chỉ hữu ích trong việc thu hút sự chú ý. Những người thiết kế và xây dựng công nghệ tiên tiến có thể sử dụng các câu chuyện để xem xét hậu quả của công việc của họ và đảm bảo nó được sử dụng cho tốt. Và chúng tôi nghĩ rằng thể loại giả tưởng khoa học viễn tưởng này, hay kiểu thiết kế viễn tưởng, có thể giúp ngăn chặn sự thiên vị của con người tiến vào công nghệ mới, tiếp tục làm dấy lên những định kiến ​​và bất công của xã hội.

{vembed Y = 9CO6M2HsoIA}

Một sự thiên vị có thể dẫn đến sự ưu tiên tùy ý của một số loại (kết quả, con người hoặc ý tưởng) so với các loại khác. Ví dụ, một số người có thể thiên vị việc thuê phụ nữ làm công việc điều hành, cho dù họ có ý thức về điều đó hay không.

Công nghệ được xây dựng xung quanh dữ liệu ghi lại sự thiên vị như vậy có thể kết thúc nhân rộng vấn đề. Ví dụ, phần mềm tuyển dụng được thiết kế để chọn CV tốt nhất cho một công việc cụ thể có thể được lập trình để tìm kiếm các đặc điểm phản ánh sự thiên vị vô thức đối với nam giới. Trong trường hợp đó, thuật toán sẽ kết thúc ủng hộ CV của nam giới. Và đây không phải là lý thuyết - nó thực sự đã xảy ra với Amazon.

Thiết kế các thuật toán mà không xem xét các tác động tiêu cực có thể có đã được so sánh để các bác sĩ viết về những lợi ích của một phương pháp điều trị nhất định và hoàn toàn bỏ qua các tác dụng phụ, bất kể họ nghiêm trọng đến mức nào.

Một số công ty công nghệ và các nhà nghiên cứu đang cố gắng giải quyết vấn đề. Ví dụ: Google đã vẽ ra một bộ nguyên tắc đạo đức để hướng dẫn sự phát triển của AI. Và các học giả Vương quốc Anh đã đưa ra một sáng kiến ​​được gọi là Không công bằng nhằm mục đích khuyến khích sự công bằng và công bằng hơn trong thiết kế và sử dụng công nghệ.

Vấn đề là, công khai, các công ty có xu hướng chỉ cung cấp một tầm nhìn tích cực về hậu quả tiềm tàng của các công nghệ trong tương lai gần. Ví dụ, xe ô tô không người lái thường được mô tả là giải quyết tất cả các vấn đề vận chuyển của chúng tôi từ chi phí đến an toàn, bỏ qua sự gia tăng sự nguy hiểm của các cuộc tấn công mạng hoặc thực tế họ có thể khuyến khích mọi người đi bộ hoặc đạp xe ít.

Khó khăn trong việc hiểu làm thế nào các công nghệ kỹ thuật số hoạt động, đặc biệt là những công nghệ bị chi phối nhiều bởi các thuật toán tối nghĩa, cũng khiến mọi người khó có cái nhìn phức tạp và toàn diện hơn về các vấn đề. Tình huống này tạo ra một sự căng thẳng giữa một câu chuyện tích cực trấn an và sự nghi ngờ mơ hồ rằng những thành kiến ​​được đưa vào một mức độ nào đó trong các công nghệ xung quanh chúng ta. Đây là nơi chúng tôi nghĩ rằng kể chuyện thông qua tiểu thuyết thiết kế có thể đi vào.

Câu chuyện là một phương pháp tự nhiên để suy nghĩ về các khả năng và các tình huống phức tạp, và chúng ta đã được nghe chúng suốt cuộc đời. Khoa học viễn tưởng có thể giúp chúng ta suy đoán về tác động của các công nghệ trong tương lai gần đối với xã hội, giống như Sl tàn sát. Điều này thậm chí có thể bao gồm các vấn đề về công bằng xã hội, như cách các nhóm nhất định, chẳng hạn như người tị nạn và người di cư, có thể loại trừ khỏi đổi mới kỹ thuật số.

Tiết lộ về tương lai (có thể)

Thiết kế truyện viễn tưởng cung cấp một cách mới cho các nhà thiết kế, kỹ sư và nhà tương lai học (trong số những người khác) suy nghĩ về tác động của công nghệ từ quan điểm của con người và liên kết điều này với các nhu cầu có thể trong tương lai. Với sự pha trộn giữa logic và trí tưởng tượng, tiểu thuyết thiết kế có thể tiết lộ các khía cạnh về cách công nghệ có thể được chấp nhận và sử dụng, bắt đầu các cuộc trò chuyện về nó phân nhánh trong tương lai.

Chẳng hạn, truyện ngắnTìm nguồn cung ứng tội phạmMột người khám phá những gì có thể xảy ra nếu AI sử dụng thông tin cộng đồng và cơ sở dữ liệu tội phạm để dự đoán ai có thể phạm tội giết người. Các nhà nghiên cứu nhận thấy rằng vì cơ sở dữ liệu có đầy đủ người dân trong các nhóm dân tộc thiểu số, vì lý do xã hội, có khả năng tái cung cấp nhiều hơn về mặt thống kê, nên mô hình cung cấp dịch vụ tội phạm của Cap có nhiều khả năng nghi ngờ sai thiểu số hơn người da trắng.

Bạn không cần phải là một nhà văn tài năng hoặc làm một bộ phim hấp dẫn để sản xuất tiểu thuyết thiết kế. Các hoạt động động não liên quan đến thẻ và bảng phân cảnh đã được sử dụng để phát triển tiểu thuyết thiết kế và giúp phát triển quá trình kể chuyện. Làm cho các hội thảo sử dụng các loại công cụ này phổ biến hơn sẽ cho phép nhiều kỹ sư, doanh nhân và nhà hoạch định chính sách sử dụng phương pháp đánh giá này. Và làm cho công việc kết quả có sẵn công khai sẽ giúp phơi bày những thành kiến ​​tiềm năng trong công nghệ trước khi chúng ảnh hưởng đến xã hội.

Việc khuyến khích các nhà thiết kế tạo ra và chia sẻ nhiều câu chuyện theo cách này sẽ đảm bảo câu chuyện kể rằng công nghệ mới sẽ không chỉ đưa ra một bức tranh tích cực, cũng không phải là một câu chuyện cực kỳ tiêu cực hoặc dystopian. Thay vào đó, mọi người sẽ có thể đánh giá cao cả hai khía cạnh của những gì đang xảy ra xung quanh chúng ta.

Về các tác giả

Alessio Malizia, Giáo sư Thiết kế Trải nghiệm Người dùng, Đại học Hertfordshire và Silvio Carta, Trưởng phòng Nghệ thuật và Thiết kế và Chủ tịch Nhóm Nghiên cứu Thiết kế, Đại học Hertfordshire

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.