Ảnh chụp màn hình của trò chơi Fakey. Mihai Avram và Filippo Menczer

Phương tiện truyền thông xã hội là một trong những nguồn tin tức chính ở Mỹ và trên toàn thế giới. Tuy nhiên, người dùng được tiếp xúc với nội dung có độ chính xác đáng ngờ, bao gồm các thuyết âm mưu, clickbait, nội dung siêu đảng, khoa học giả và thậm chí cả chế tạo tin tức giả mạo.

Không có gì đáng ngạc nhiên khi có quá nhiều thông tin được công bố: Spam và lừa đảo trực tuyến là sinh lợi cho tội phạm, và năng suất tuyên truyền của chính phủ và chính trị cả lợi ích đảng phái và tài chính. Nhưng thực tế là nội dung có độ tin cậy thấp lan truyền rất nhanh và dễ dàng cho thấy mọi người và các thuật toán đằng sau các nền tảng truyền thông xã hội dễ bị thao túng.

Nghiên cứu của chúng tôi đã xác định ba loại sai lệch làm cho hệ sinh thái truyền thông xã hội dễ bị tổn thương bởi cả thông tin sai lệch có chủ ý và vô tình. Đó là lý do tại sao của chúng tôi Đài quan sát trên phương tiện truyền thông xã hội tại Đại học Indiana đang xây dựng công cụ để giúp mọi người nhận thức được những thành kiến ​​này và bảo vệ bản thân khỏi những ảnh hưởng bên ngoài được thiết kế để khai thác chúng.

Giải thích các công cụ được phát triển tại Đài quan sát trên phương tiện truyền thông xã hội:

{youtube}https://youtu.be/BIv9054dBBI{/youtube}

Xu hướng trong não

Xu hướng nhận thức bắt nguồn từ cách não xử lý thông tin mà mỗi người gặp phải mỗi ngày. Bộ não chỉ có thể xử lý một lượng thông tin hữu hạn và quá nhiều kích thích đến có thể gây ra quá tải thông tin. Điều đó tự nó có ý nghĩa nghiêm trọng đối với chất lượng thông tin trên phương tiện truyền thông xã hội. Chúng tôi đã phát hiện ra rằng sự cạnh tranh mạnh mẽ đối với sự chú ý hạn chế của người dùng có nghĩa là Một số ý tưởng lan truyền mặc dù chất lượng thấp – ngay cả khi mọi người thích chia sẻ nội dung chất lượng cao.

Để tránh bị choáng ngợp, não sử dụng một số lượng các thủ thuật. Những phương pháp này thường hiệu quả, nhưng cũng có thể trở thành thiên vị khi áp dụng trong bối cảnh sai.

Một lối tắt nhận thức xảy ra khi một người quyết định có nên chia sẻ một câu chuyện xuất hiện trên nguồn cấp dữ liệu truyền thông xã hội của họ hay không. Mọi người rất bị ảnh hưởng bởi ý nghĩa cảm xúc của một tiêu đề, mặc dù đó không phải là một chỉ số tốt về độ chính xác của bài viết. Quan trọng hơn nhiều là ai đã viết tác phẩm.

Để chống lại sự thiên vị này và giúp mọi người chú ý hơn đến nguồn gốc của khiếu nại trước khi chia sẻ nó, chúng tôi đã phát triển Giả, một trò chơi biết chữ trên điện thoại di động (miễn phí trên Android và iOS) mô phỏng một nguồn cấp tin tức truyền thông xã hội điển hình, với sự kết hợp của các bài báo từ các nguồn chính thống và độ tin cậy thấp. Người chơi nhận được nhiều điểm hơn để chia sẻ tin tức từ các nguồn đáng tin cậy và gắn cờ nội dung đáng ngờ để kiểm tra thực tế. Trong quá trình này, họ học cách nhận ra các tín hiệu về độ tin cậy của nguồn, chẳng hạn như tuyên bố của đảng phái và các tiêu đề mang tính cảm xúc.

Xu hướng trong xã hội

Một nguồn thiên vị khác đến từ xã hội. Khi mọi người kết nối trực tiếp với các đồng nghiệp của họ, các thành kiến ​​xã hội hướng dẫn lựa chọn bạn bè của họ sẽ ảnh hưởng đến thông tin họ nhìn thấy.

Trong thực tế, trong nghiên cứu của chúng tôi, chúng tôi đã tìm thấy rằng có thể xác định khuynh hướng chính trị của người dùng Twitter bằng cách đơn giản nhìn vào sở thích đảng phái của bạn bè của họ. Phân tích của chúng tôi về cấu trúc của những mạng lưới truyền thông đảng phái tìm thấy các mạng xã hội đặc biệt hiệu quả trong việc phổ biến thông tin - chính xác hay không - khi họ gắn bó chặt chẽ với nhau và mất kết nối với các thành phần khác trong xã hội.

Xu hướng đánh giá thông tin thuận lợi hơn nếu xuất phát từ trong giới xã hội của chính họ tạo rabuồng vangMùi đã chín muồi để thao túng, có ý thức hoặc vô ý. Điều này giúp giải thích lý do tại sao rất nhiều cuộc trò chuyện trực tuyến chuyển thành Đối đầu với chúng tôi.

Để nghiên cứu cách cấu trúc của các mạng xã hội trực tuyến khiến người dùng dễ bị mất thông tin, chúng tôi đã xây dựng Hoa sáp, một hệ thống theo dõi và trực quan hóa sự lan truyền nội dung từ các nguồn có độ tin cậy thấp và cách nó cạnh tranh với nội dung kiểm tra thực tế. Phân tích của chúng tôi về dữ liệu được thu thập bởi Ho Wax trong cuộc bầu cử tổng thống Mỹ tại Mỹ cho thấy các tài khoản Twitter chia sẻ thông tin sai lệch là gần như cắt đứt hoàn toàn từ các sửa chữa được thực hiện bởi các kiểm tra thực tế.

Khi chúng tôi tìm hiểu về các tài khoản truyền bá thông tin sai lệch, chúng tôi đã tìm thấy một nhóm các tài khoản cốt lõi rất dày đặc rạn nứt lẫn nhau gần như độc quyền - bao gồm một số bot. Lần duy nhất mà các tổ chức kiểm tra thực tế từng được trích dẫn hoặc đề cập bởi người dùng trong nhóm thông tin sai là khi đặt câu hỏi về tính hợp pháp của họ hoặc tuyên bố ngược lại với những gì họ viết.

Xu hướng trong máy

Nhóm thiên vị thứ ba phát sinh trực tiếp từ các thuật toán được sử dụng để xác định những gì mọi người nhìn thấy trực tuyến. Cả nền tảng truyền thông xã hội và công cụ tìm kiếm đều sử dụng chúng. Các công nghệ cá nhân hóa này được thiết kế để chỉ chọn nội dung hấp dẫn và phù hợp nhất cho từng người dùng. Nhưng khi làm như vậy, nó có thể sẽ củng cố sự thiên vị về nhận thức và xã hội của người dùng, do đó khiến họ dễ bị thao túng hơn.

Ví dụ, chi tiết công cụ quảng cáo được tích hợp trên nhiều nền tảng truyền thông xã hội hãy để thông tin của các nhà vận động khai thác thiên vị xác nhận by may tin nhắn cho những người đã có xu hướng tin họ.

Ngoài ra, nếu người dùng thường nhấp vào liên kết Facebook từ một nguồn tin tức cụ thể, Facebook sẽ có xu hướng hiển thị cho người đó nhiều hơn nội dung của trang web đó. Cái gọi là nàylọc bong bóngHiệu ứng của người có thể cách ly mọi người khỏi những quan điểm đa dạng, củng cố sự thiên vị xác nhận.

Nghiên cứu của chúng tôi cho thấy các nền tảng truyền thông xã hội đưa người dùng đến một tập hợp các nguồn ít đa dạng hơn so với các trang web truyền thông phi xã hội như Wikipedia. Bởi vì đây là cấp độ của toàn bộ nền tảng, không phải của một người dùng, chúng tôi gọi đây là thiên vị đồng nhất.

Một thành phần quan trọng khác của phương tiện truyền thông xã hội là thông tin đang là xu hướng trên nền tảng, theo những gì nhận được nhiều nhấp chuột nhất. Chúng tôi gọi đây là xu hướng phổ biến, bởi vì chúng tôi đã phát hiện ra rằng một thuật toán được thiết kế để quảng bá nội dung phổ biến có thể ảnh hưởng tiêu cực đến chất lượng thông tin chung trên nền tảng. Điều này cũng ăn vào xu hướng nhận thức hiện có, củng cố những gì dường như là phổ biến bất kể chất lượng của nó.

Tất cả các thiên vị thuật toán có thể được thao tác bởi bots xã hội, các chương trình máy tính tương tác với con người thông qua các tài khoản truyền thông xã hội. Hầu hết các bot xã hội, như Twitter Big Ben, là vô hại. Tuy nhiên, một số che giấu bản chất thực sự của chúng và được sử dụng cho mục đích xấu, chẳng hạn như thúc đẩy sự không thông tin hoặc giả tạo ra sự xuất hiện của một phong trào ở cơ sở, còn được gọi là Astroturfing. bằng chứng của loại thao tác này sắp diễn ra cuộc bầu cử giữa nhiệm kỳ 2010 của Mỹ.

Để nghiên cứu các chiến lược thao túng này, chúng tôi đã phát triển một công cụ để phát hiện các bot xã hội được gọi là Máy đo tốc độ. Botometer sử dụng học máy để phát hiện các tài khoản bot, bằng cách kiểm tra hàng ngàn tính năng khác nhau của tài khoản Twitter, như thời gian đăng bài, tần suất đăng và các tài khoản mà nó theo dõi và đăng lại. Nó không hoàn hảo, nhưng nó đã tiết lộ rằng nhiều như Phần trăm 15 của tài khoản Twitter có dấu hiệu là bot.

Sử dụng Botometer kết hợp với Ho Wax, chúng tôi đã phân tích cốt lõi của mạng lưới thông tin sai lệch trong chiến dịch tranh cử tổng thống của Mỹ. Chúng tôi đã tìm thấy nhiều bot khai thác cả xu hướng nhận thức, xác nhận và phổ biến của nạn nhân và xu hướng thuật toán của Twitter.

Những bot này có thể tạo bong bóng bộ lọc xung quanh người dùng dễ bị tổn thương, cung cấp cho họ khiếu nại sai và thông tin sai lệch. Đầu tiên, họ có thể thu hút sự chú ý của người dùng hỗ trợ một ứng cử viên cụ thể bằng cách tweet các hashtag của ứng viên đó hoặc bằng cách đề cập và chuyển tiếp tin nhắn của người đó. Sau đó, các bot có thể khuếch đại các tuyên bố sai lầm bôi nhọ đối thủ bằng cách chuyển tiếp các bài viết từ các nguồn có độ tin cậy thấp phù hợp với các từ khóa nhất định. Hoạt động này cũng làm nổi bật thuật toán cho những người dùng khác đang bị chia sẻ rộng rãi.

Hiểu các lỗ hổng phức tạp

Ngay cả khi nghiên cứu của chúng tôi và của những người khác cho thấy cách các cá nhân, tổ chức và thậm chí toàn bộ xã hội có thể bị thao túng trên phương tiện truyền thông xã hội, vẫn có nhiều câu hỏi còn lại để trả lời. Điều đặc biệt quan trọng là khám phá cách các thành kiến ​​khác nhau tương tác với nhau, có khả năng tạo ra các lỗ hổng phức tạp hơn.

Các công cụ như của chúng tôi cung cấp cho người dùng internet nhiều thông tin hơn về thông tin sai lệch và do đó mức độ bảo vệ khỏi tác hại của nó. Các giải pháp sẽ không chỉ là công nghệ, mặc dù có thể sẽ có một số khía cạnh kỹ thuật cho họ. Nhưng họ phải tính đến các khía cạnh nhận thức và xã hội của vấn đề.

Giới thiệu về tác giả

Giovanni Luca Ciampaglia, Trợ lý nhà khoa học nghiên cứu, Viện Khoa học Mạng Đại học Indiana, Đại học Indiana và Filippo Menczer, Giáo sư Khoa học Máy tính và Tin học; Giám đốc Trung tâm Nghiên cứu Hệ thống và Mạng phức tạp, Đại học Indiana

Bài viết này ban đầu được xuất bản vào Conversation. Đọc ban đầu bài viết.

Sách liên quan

at

Cảm ơn đã ghé thăm Nội địa.com, ở đâu có 20,000 + những bài báo thay đổi cuộc sống quảng bá "Thái độ mới và những khả năng mới". Tất cả các bài viết được dịch sang Hơn 30 ngôn ngữ. Theo dõi đến Tạp chí Nội tâm, xuất bản hàng tuần và Cảm hứng hàng ngày của Marie T Russell. Tạp chí InsideSelf đã được xuất bản từ năm 1985.