Một tài khoản bot xã hội điển hình. CC B

Các nền tảng truyền thông xã hội đã trở thành nhiều hơn một công cụ giao tiếp đơn thuần. Họ đã phát triển thành những đấu trường nhộn nhịp nơi sự thật và sự giả dối va chạm. Trong số các nền tảng này, X nổi bật là một chiến trường nổi bật. Đó là nơi mà các chiến dịch đưa thông tin sai lệch phát triển mạnh mẽ, được duy trì bởi đội quân robot hỗ trợ AI được lập trình để gây ảnh hưởng đến dư luận và thao túng các câu chuyện.

Các bot được hỗ trợ bởi AI là các tài khoản tự động được thiết kế để bắt chước hành vi của con người. Bot trên mạng xã hội, nền tảng trò chuyện và AI đàm thoại là những phần không thể thiếu trong cuộc sống hiện đại. Ví dụ, chúng cần thiết để làm cho các ứng dụng AI hoạt động hiệu quả.

Nhưng một số bot được tạo ra với mục đích xấu. Điều đáng kinh ngạc là bot chiếm một phần đáng kể trong cơ sở người dùng của X. Năm 2017 nó đã được ước tính rằng có khoảng 23 triệu bot xã hội, chiếm 8.5% tổng số người dùng. Hơn hai phần ba số tweet bắt nguồn từ những tài khoản tự động này, khuếch đại phạm vi tiếp cận của thông tin sai lệch và làm xáo trộn dòng chảy diễn ngôn của công chúng.

Cách thức hoạt động của bot

Ảnh hưởng xã hội hiện là một mặt hàng có thể có được bằng cách mua bot. Các công ty bán người theo dõi giả để tăng mức độ phổ biến của tài khoản một cách giả tạo. Những người theo dõi này có sẵn với mức giá thấp đáng kể, với nhiều người nổi tiếng trong số những người mua hàng.

Ví dụ, trong quá trình nghiên cứu của chúng tôi, tôi và các đồng nghiệp đã phát hiện ra một bot đã đăng 100 tweet chào bán người theo dõi.

Sử dụng các phương pháp AI và cách tiếp cận lý thuyết được gọi là lý thuyết tác nhân-mạng, tôi và các đồng nghiệp đã mổ xẻ cách các bot xã hội độc hại thao túng mạng xã hội, ảnh hưởng đến suy nghĩ và cách họ hành động của mọi người với hiệu quả đáng báo động. Chúng ta có thể biết tin giả được tạo ra bởi con người hay bot với tỷ lệ chính xác là 79.7%. Điều quan trọng là phải hiểu cách cả con người và AI phổ biến thông tin sai lệch để nắm bắt những cách con người tận dụng AI để truyền bá thông tin sai lệch.

Lấy một ví dụ, chúng tôi đã kiểm tra hoạt động của một tài khoản có tên “True Trumpers” trên Twitter.

Tài khoản này được thành lập vào tháng 2017 năm 4,423, không có người theo dõi và không có ảnh đại diện, nhưng tại thời điểm nghiên cứu đã đăng XNUMX tweet. Chúng bao gồm một loạt các câu chuyện hoàn toàn bịa đặt. Điều đáng chú ý là bot này có nguồn gốc từ một quốc gia Đông Âu.

Một luồng tin giả từ tài khoản bot. Buzzfeed, CC BY

Nghiên cứu như thế này đã ảnh hưởng đến X để hạn chế hoạt động của các bot xã hội. Để đối phó với mối đe dọa thao túng trên mạng xã hội, X đã triển khai các giới hạn đọc tạm thời để hạn chế việc thao túng và thu thập dữ liệu. Các tài khoản đã được xác minh bị giới hạn đọc 6,000 bài đăng mỗi ngày, trong khi các tài khoản chưa được xác minh có thể đọc 600 bài mỗi ngày. Đây là bản cập nhật mới nên chúng tôi chưa biết liệu nó có hiệu quả hay không.

Chúng ta có thể tự bảo vệ mình không?

Tuy nhiên, trách nhiệm cuối cùng thuộc về người dùng là phải thận trọng và phân biệt sự thật với sự giả dối, đặc biệt là trong thời gian bầu cử. Bằng cách đánh giá nghiêm túc thông tin và kiểm tra các nguồn, người dùng có thể góp phần bảo vệ tính toàn vẹn của các quy trình dân chủ khỏi sự tấn công dữ dội của bot và các chiến dịch thông tin sai lệch trên X. Trên thực tế, mọi người dùng đều là người bảo vệ tuyến đầu cho sự thật và dân chủ. Cảnh giác, tư duy phản biện và thái độ hoài nghi lành mạnh là những áo giáp thiết yếu.

Với phương tiện truyền thông xã hội, điều quan trọng là người dùng phải hiểu các chiến lược mà các tài khoản độc hại sử dụng.

Những kẻ độc hại thường sử dụng mạng bot để khuếch đại những câu chuyện sai sự thật, thao túng xu hướng và nhanh chóng phổ biến thông tin sai lệch. Người dùng nên thận trọng khi gặp các tài khoản có hành vi đáng ngờ, chẳng hạn như đăng quá nhiều hoặc nhắn tin lặp đi lặp lại.

Thông tin sai lệch cũng thường xuyên được truyền bá thông qua các trang web tin tức giả mạo chuyên dụng. Chúng được thiết kế để bắt chước các nguồn tin tức đáng tin cậy. Người dùng nên xác minh tính xác thực của các nguồn tin tức bằng cách tham khảo chéo thông tin với các nguồn có uy tín và tham khảo ý kiến ​​của các tổ chức xác minh thực tế.

Nhận thức về bản thân là một hình thức bảo vệ khác, đặc biệt là khỏi các chiến thuật lừa đảo xã hội. Thao túng tâm lý thường được triển khai để đánh lừa người dùng tin vào những điều sai trái hoặc tham gia vào một số hành động nhất định. Người dùng nên duy trì cảnh giác và đánh giá nghiêm túc nội dung họ gặp phải, đặc biệt là trong thời kỳ nhạy cảm cao như bầu cử.

Bằng cách cập nhật thông tin, tham gia vào các cuộc thảo luận dân sự và ủng hộ tính minh bạch và trách nhiệm giải trình, chúng ta có thể cùng nhau định hình một hệ sinh thái kỹ thuật số nhằm thúc đẩy sự tin cậy, minh bạch và đưa ra quyết định sáng suốt.

Nick Hajli, Nhà chiến lược AI và Giáo sư về chiến lược kỹ thuật số, Đại học Loughborough

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.

Sách liên quan:

Bàn về chế độ chuyên chế: Hai mươi bài học từ thế kỷ XNUMX

bởi Ti-mô-thê Snyder

Cuốn sách này đưa ra những bài học từ lịch sử để bảo tồn và bảo vệ nền dân chủ, bao gồm tầm quan trọng của các thể chế, vai trò của từng công dân và sự nguy hiểm của chủ nghĩa độc tài.

Bấm để biết thêm thông tin hoặc đặt hàng

Bây giờ là thời của chúng ta: Quyền lực, mục đích và cuộc đấu tranh vì một nước Mỹ công bằng

bởi Stacey Abrams

Tác giả, một chính trị gia và nhà hoạt động, chia sẻ tầm nhìn của mình về một nền dân chủ toàn diện và công bằng hơn, đồng thời đưa ra các chiến lược thiết thực để tham gia chính trị và huy động cử tri.

Bấm để biết thêm thông tin hoặc đặt hàng

Các nền dân chủ chết như thế nào

của Steven Levitsky và Daniel Ziblatt

Cuốn sách này xem xét các dấu hiệu cảnh báo và nguyên nhân dẫn đến sự tan vỡ của nền dân chủ, dựa trên các nghiên cứu điển hình trên khắp thế giới để đưa ra những hiểu biết sâu sắc về cách thức bảo vệ nền dân chủ.

Bấm để biết thêm thông tin hoặc đặt hàng

Nhân dân, Không: Lược sử Lịch sử Chống Chủ nghĩa Dân túy

bởi Thomas Frank

Tác giả đưa ra lịch sử các phong trào dân túy ở Hoa Kỳ và phê bình hệ tư tưởng "chống chủ nghĩa dân túy" mà ông cho rằng đã cản trở tiến bộ và cải cách dân chủ.

Bấm để biết thêm thông tin hoặc đặt hàng

Nền dân chủ trong một cuốn sách hoặc ít hơn: Nó hoạt động như thế nào, tại sao nó không hoạt động và tại sao việc khắc phục nó lại dễ dàng hơn bạn nghĩ

bởi David Lít

Cuốn sách này cung cấp một cái nhìn tổng quan về nền dân chủ, bao gồm những điểm mạnh và điểm yếu của nó, đồng thời đề xuất những cải cách để làm cho hệ thống phản ứng nhanh hơn và có trách nhiệm giải trình hơn.

Bấm để biết thêm thông tin hoặc đặt hàng