Nhóm nghiên cứu đã thử nghiệm ba chiến lược phản công nghệ khác nhau trên twitter để giảm ngôn từ kích động thù địch.  (Đồ họa: liên minh F)

Một giải pháp thay thế cho việc xóa các bình luận có vấn đề là sử dụng công nghệ phản gián có mục tiêu, mà nhiều tổ chức sử dụng để giải quyết lời nói căm thù trực tuyến.

Nghiên cứu về “countererspeech” cho thấy, có thể hạn chế lời nói căm thù trực tuyến bằng cách tạo sự đồng cảm cho những người bị ảnh hưởng.

Các nhà nghiên cứu cho biết: Ngược lại, việc sử dụng sự hài hước hoặc cảnh báo về những hậu quả có thể xảy ra lại có rất ít tác dụng.

Để kiểm soát các bình luận mang tính kích động thù địch, nhiều nền tảng mạng xã hội đã phát triển các bộ lọc tinh vi. Tuy nhiên, chỉ những điều này là không đủ để khắc phục sự cố. Ví dụ, Facebook ước tính (theo các tài liệu nội bộ bị rò rỉ vào tháng 2021 năm 5) rằng họ không thể xóa hơn XNUMX% các bình luận thù địch mà người dùng đăng lên. Ngoài ra, các bộ lọc tự động được không chính xác và có thể làm tổn hại đến quyền tự do ngôn luận.

Thay thế để xóa nhận xét bằng lời nói căm thù

Một giải pháp thay thế cho việc xóa các bình luận có vấn đề là sử dụng công nghệ phản gián có mục tiêu, mà nhiều tổ chức sử dụng để giải quyết lời nói căm thù trực tuyến. Tuy nhiên, cho đến nay vẫn còn ít người biết về chiến lược phản công nghệ nào hiệu quả nhất trong việc giải quyết sự thù địch trực tuyến.

Một nhóm các nhà nghiên cứu do Dominik Hangartner, giáo sư chính sách công tại ETH Zurich dẫn đầu, đã hợp tác với các đồng nghiệp tại Đại học Zurich để điều tra xem loại thông điệp nào có thể khuyến khích các tác giả của lời nói căm thù loại bỏ nó.

Sử dụng phương pháp học máy, các nhà nghiên cứu đã xác định được 1,350 người nói tiếng Anh Twitter người dùng đã xuất bản nội dung phân biệt chủng tộc hoặc bài ngoại. Họ chỉ định ngẫu nhiên các tài khoản này cho một nhóm kiểm soát hoặc một trong ba chiến lược phản công nghệ thường được sử dụng sau đây: thông điệp khơi gợi sự đồng cảm với nhóm được nhắm mục tiêu bởi phân biệt chủng tộc, hài hước hoặc cảnh báo về những hậu quả có thể xảy ra.

Các kết quả, xuất hiện trong Kỷ yếu của Viện Hàn lâm Khoa học Quốc gia, rõ ràng: chỉ những thông điệp phản bác gây được sự đồng cảm cho những người bị ảnh hưởng bởi lời nói căm thù mới có khả năng thuyết phục người gửi thay đổi hành vi của họ.

Đáp lại lời nói căm thù

Một ví dụ về phản ứng như vậy có thể là: “Bài đăng của bạn rất đau đớn đối với người Do Thái khi đọc…” ​​So với nhóm đối chứng, tác giả của các tweet căm thù đã đăng khoảng một phần ba bình luận phân biệt chủng tộc hoặc bài ngoại sau một can thiệp gây đồng cảm như vậy . Ngoài ra, xác suất người dùng xóa tweet thù địch của họ tăng lên đáng kể.

Ngược lại, tác giả của những dòng tweet căm thù hầu như không phản ứng với những phản bác hài hước. Ngay cả một tin nhắn nhắc nhở người gửi rằng gia đình, bạn bè và đồng nghiệp của họ cũng có thể nhìn thấy những bình luận ghét bỏ của họ, cũng không hiệu quả. Điều này rất đáng chú ý vì hai chiến lược này thường được sử dụng bởi các tổ chức cam kết chống lại lời nói căm thù.

Hangartner nói: “Chúng tôi chắc chắn không tìm ra thuốc chữa bách bệnh chống lại lời nói căm thù trên internet, nhưng chúng tôi đã phát hiện ra những manh mối quan trọng về chiến lược nào có thể hiệu quả và chiến lược nào thì không. Điều còn phải nghiên cứu là liệu tất cả các phản hồi dựa trên sự đồng cảm có hoạt động tốt như nhau hay không, hay liệu các thông điệp cụ thể có hiệu quả hơn hay không. Ví dụ: các tác giả có lời lẽ căm thù có thể được khuyến khích đặt mình vào vị trí của nạn nhân hoặc được yêu cầu áp dụng một quan điểm tương tự (“Bạn sẽ cảm thấy thế nào nếu mọi người nói về bạn như vậy?”).

Nghiên cứu này là một phần của dự án toàn diện hơn nhằm phát triển các thuật toán phát hiện lời nói căm thù, đồng thời kiểm tra và tinh chỉnh các chiến lược chống công nghệ phản đối. Để đạt được mục tiêu này, nhóm nghiên cứu đang cộng tác với liên minh F của tổ chức bảo trợ phụ nữ Thụy Sĩ, tổ chức đã khởi xướng dự án xã hội dân sự Ngừng lời nói căm thù. Thông qua sự hợp tác này, các nhà khoa học có thể cung cấp cơ sở thực nghiệm cho liên minh F để tối ưu hóa thiết kế và nội dung của các thông điệp công nghệ thông tin của họ.

“Kết quả nghiên cứu khiến tôi rất lạc quan. Sophie Achermann, giám đốc điều hành của liên minh F và là người đồng khởi xướng của Stop Hate Speech, cho biết lần đầu tiên, giờ đây chúng tôi có bằng chứng thực nghiệm cho thấy hiệu quả của lời nói ngược trong điều kiện thực tế.

Cơ quan đổi mới của Thụy Sĩ Innosuisse đã tài trợ cho công việc này, cũng có sự tham gia của các công ty truyền thông Ringier và TX Group thông qua các tờ báo của họ lần lượt là Blick và 20 Minuten.

nguồn: ETH Zurich, Nghiên cứu ban đầu

Sách liên quan:

Công cụ trò chuyện quan trọng để nói chuyện khi cổ phần cao, Phiên bản thứ hai

bởi Kerry Patterson, Joseph Grenny, et al.

Bấm để biết thêm thông tin hoặc đặt hàng

Đừng bao giờ chia rẽ sự khác biệt: Đàm phán như thể cuộc sống của bạn phụ thuộc vào nó

bởi Chris Voss và Tahl Raz

Bấm để biết thêm thông tin hoặc đặt hàng

Cuộc trò chuyện quan trọng: Công cụ để trò chuyện khi tiền đặt cọc cao

bởi Kerry Patterson, Joseph Grenny, et al.

Bấm để biết thêm thông tin hoặc đặt hàng

Nói chuyện với người lạ: Những gì chúng ta nên biết về những người chúng ta không biết

bởi Malcolm Gladwell

Bấm để biết thêm thông tin hoặc đặt hàng

Cuộc trò chuyện khó khăn: Cách thảo luận về vấn đề quan trọng nhất

của Douglas Stone, Bruce Patton, et al.

Bấm để biết thêm thông tin hoặc đặt hàng