Sự pha trộn không ổn định giữa deepfakes và các chiến dịch chính trị là một lý do chính đáng để cảnh giác. Sean Anthony Eddy Sáng tạo/E+ qua Getty Images
Hãy tưởng tượng một bất ngờ tháng XNUMX không giống ai: Chỉ một tuần trước ngày 5 tháng 2024 năm XNUMX, một đoạn video ghi lại cuộc gặp bí mật giữa Joe Biden và Volodymyr Zelenskyy. Tổng thống Mỹ và Ukraine đồng ý ngay lập tức đưa Ukraine gia nhập NATO theo “nghi thức thành viên khẩn cấp đặc biệt” và chuẩn bị cho một cuộc tấn công bằng vũ khí hạt nhân chống lại Nga. Đột nhiên, thế giới đang ở đỉnh điểm của Ha-ma-ghê-đôn.
Trong khi các nhà báo có thể chỉ ra rằng không có giao thức như vậy tồn tại và người dùng phương tiện truyền thông xã hội có thể nhận thấy chất lượng giống trò chơi điện tử kỳ lạ của video, những người khác có thể cảm thấy rằng nỗi sợ hãi tồi tệ nhất của họ đã được xác nhận. Khi Ngày bầu cử đến, những công dân có liên quan này có thể để video ảnh hưởng đến phiếu bầu của họ mà không biết rằng họ vừa bị thao túng bởi một tình huống giả sâu – một sự kiện chưa bao giờ thực sự xảy ra.
Deepfakes tình huống đại diện cho giai đoạn tiếp theo của công nghệ rồi làm rung chuyển nhận thức của khán giả về thực tại. Trong nghiên cứu của chúng tôi tại Dự án DeFake, các đồng nghiệp của tôi tại Học viện Công nghệ Rochester , Các Đại học Mississippi, Đại học Bang Michigan và tôi nghiên cứu cách thực hiện deepfakes và cử tri có thể thực hiện những biện pháp nào để tự bảo vệ mình khỏi chúng.
Tưởng tượng những sự kiện chưa bao giờ xảy ra
Deepfake được tạo ra khi ai đó sử dụng công cụ trí tuệ nhân tạo, đặc biệt là học kĩ càng, để thao tác hoặc tạo ra một đối mặt, Một giọng nói hoặc - với sự gia tăng của mô hình ngôn ngữ lớn Lượt thích ChatGPT – ngôn ngữ giao tiếp. Chúng có thể được kết hợp để tạo thành “tình huống giả sâu”.
Ý tưởng cơ bản và công nghệ của một tình huống deepfake cũng giống như bất kỳ deepfake nào khác, nhưng với tham vọng táo bạo hơn: thao túng một sự kiện có thật hoặc phát minh ra một sự kiện từ hư không. Ví dụ bao gồm các mô tả về Bước đi perp của Donald Trump và Trump ôm Anthony Fauci, cả hai đều không xảy ra. Ảnh ôm được quảng bá bởi một Twitter Tài khoản liên quan đến chiến dịch tranh cử tổng thống của đối thủ Trump Ron DeSantis. MỘT quảng cáo tấn công nhắm mục tiêu chiến dịch năm 2024 của Joe Biden do Ủy ban Quốc gia Đảng Cộng hòa công bố là làm hoàn toàn bằng AI.
Tại Dự án DeFake, Chúng tôi nghiên cứu đã tìm thấy rằng deepfakes, bao gồm cả các tình huống, thường được tạo ra bởi một số hỗn hợp thêm một phần phương tiện với một phần khác; sử dụng video để làm động một hình ảnh hoặc thay đổi một video khác, được mệnh danh là múa rối; kết hợp một phần của phương tiện truyền thông vào sự tồn tại, thường sử dụng trí tuệ nhân tạo; hoặc một số kết hợp của các kỹ thuật này.
Rõ ràng, nhiều tình huống deepfakes được thực hiện cho các mục đích vô tội. Ví dụ, Tạp chí Infinite Odyssey tạo ảnh tĩnh giả từ những bộ phim không bao giờ được sản xuất or không bao giờ có thể tồn tại. Nhưng ngay cả những tác phẩm sâu vô tội cũng đưa ra lý do để tạm dừng, như trong trường hợp những bức ảnh giả gần như đáng tin cậy mô tả Apollo Moon hạ cánh dưới dạng sản xuất phim.
Làm giả một cuộc bầu cử
Bây giờ hãy đặt mình vào vị trí của một người đang cố gắng gây ảnh hưởng đến cuộc bầu cử sắp tới. Các tình huống có thể xảy ra mà bạn có thể muốn tạo ra là gì?
Đối với những người mới bắt đầu, việc bạn muốn nghiêng về việc bỏ phiếu theo hướng nào hay không cho một kết quả cụ thể là rất quan trọng. Có thể bạn sẽ miêu tả một ứng viên hành động anh hùng bằng cách kéo một người đi bộ ra khỏi đường của một chiếc ô tô đang chạy quá tốc độ hoặc ngược lại, làm điều gì đó xúc phạm hoặc phạm tội. Định dạng của deepfake tình huống cũng sẽ quan trọng. Thay vì một video, nó có thể là một bức ảnh, có thể với độ mờ và các góc mô phỏng camera của điện thoại thông minh hoặc logo giả mạo của một hãng thông tấn.
Đối tượng mục tiêu của bạn sẽ là chìa khóa. Thay vì nhắm vào khu vực bầu cử chung hoặc cơ sở của đảng, bạn có thể nhắm mục tiêu những người theo thuyết âm mưu ở các khu vực bỏ phiếu quan trọng. Bạn có thể miêu tả ứng viên hoặc các thành viên gia đình của họ đang tham gia vào một nghi lễ satanic, tham gia lễ hội tại độc quyền và gây tranh cãi Grove Grove, hoặc có một cuộc gặp bí mật với người ngoài hành tinh.
Nếu bạn có tham vọng và khả năng cho nó, bạn thậm chí có thể cố gắng giả mạo chính cuộc bầu cử. Vào tháng 2023 năm XNUMX, các đài phát thanh và truyền hình của Nga đã bị tấn công và phát lệnh tổng động viên bởi một deepfake của Tổng thống Nga Vladimir Putin. Mặc dù điều này sẽ khó thực hiện hơn trong một cuộc bầu cử ở Hoa Kỳ, nhưng về nguyên tắc, bất kỳ cơ quan báo chí nào cũng có thể bị tấn công để phát đi các bản tin sâu về người dẫn chương trình của họ thông báo kết quả sai hoặc một ứng cử viên nhượng bộ.
Bảo vệ thực tế
Có nhiều cách công nghệ và tâm lý khác nhau để phát hiện và bảo vệ chống lại tình huống deepfakes.
Về mặt công nghệ, tất cả các deepfake đều chứa một số bằng chứng về bản chất thực sự của chúng. Một số dấu hiệu trong số này có thể được nhìn thấy bằng mắt người – chẳng hạn như làn da quá mịn hoặc ánh sáng hoặc kiến trúc kỳ quặc – trong khi những dấu hiệu khác có thể chỉ có thể được phát hiện bởi AI chuyên săn deepfake.
Chúng tôi đang xây dựng giả mạomáy dò của chúng tôi sử dụng AI để nắm bắt các dấu hiệu nhận biết sâu và chúng tôi đang nỗ lực để cố gắng chuẩn bị sẵn sàng cho cuộc bầu cử năm 2024. Nhưng ngay cả khi một công cụ phát hiện deepfake đủ mạnh như của chúng tôi không thể được triển khai trước Ngày bầu cử, thì vẫn có những công cụ tâm lý mà bạn, với tư cách là cử tri, có thể sử dụng để xác định deepfake: kiến thức cơ bản, sự tò mò và thái độ hoài nghi lành mạnh.
Nếu bạn gặp nội dung truyền thông về một người, địa điểm hoặc sự kiện có vẻ không bình thường, hãy tin tưởng vào kiến thức nền tảng của bạn. Ví dụ, trong một trò lừa bịp gần đây về vụ hỏa hoạn tại Lầu năm góc, tòa nhà được hiển thị trông vuông vắn hơn hình ngũ giác, đây có thể là một quà tặng.
Tuy nhiên, cố gắng không dựa hoàn toàn vào kiến thức nền tảng của bạn, điều này có thể bị nhầm lẫn hoặc chắp vá. Đừng bao giờ ngại tìm hiểu thêm từ các nguồn đáng tin cậy, chẳng hạn như các báo cáo tin tức đã được kiểm chứng thực tế, các bài báo học thuật được đánh giá ngang hàng hoặc các cuộc phỏng vấn với các chuyên gia có uy tín.
Ngoài ra, hãy lưu ý rằng deepfakes có thể được sử dụng để tận dụng những gì bạn đang có. có xu hướng tin tưởng về một người, địa điểm hoặc sự kiện. Một trong những cách tốt nhất để giải quyết vấn đề này là đơn giản nhận thức được những thành kiến của bạn và cẩn thận một chút về bất kỳ nội dung phương tiện nào có vẻ xác nhận chúng.
Ngay cả khi có thể tạo ra các tình huống diễn sâu hoàn hảo, chủ đề của họ đáng tin đến mức nào, có khả năng vẫn là gót chân Achilles của họ. Vì vậy, dù có hay không có giải pháp công nghệ, bạn vẫn có quyền bảo vệ cuộc bầu cử khỏi ảnh hưởng của các sự kiện giả mạo.
Giới thiệu về Tác giả
Christopher Schwartz, Cộng tác viên nghiên cứu sau tiến sĩ về bảo mật máy tính, Học viện Công nghệ Rochester
Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.
Sách liên quan:
Bàn về chế độ chuyên chế: Hai mươi bài học từ thế kỷ XNUMX
bởi Ti-mô-thê Snyder
Cuốn sách này đưa ra những bài học từ lịch sử để bảo tồn và bảo vệ nền dân chủ, bao gồm tầm quan trọng của các thể chế, vai trò của từng công dân và sự nguy hiểm của chủ nghĩa độc tài.
Bấm để biết thêm thông tin hoặc đặt hàng
Bây giờ là thời của chúng ta: Quyền lực, mục đích và cuộc đấu tranh vì một nước Mỹ công bằng
bởi Stacey Abrams
Tác giả, một chính trị gia và nhà hoạt động, chia sẻ tầm nhìn của mình về một nền dân chủ toàn diện và công bằng hơn, đồng thời đưa ra các chiến lược thiết thực để tham gia chính trị và huy động cử tri.
Bấm để biết thêm thông tin hoặc đặt hàng
Các nền dân chủ chết như thế nào
của Steven Levitsky và Daniel Ziblatt
Cuốn sách này xem xét các dấu hiệu cảnh báo và nguyên nhân dẫn đến sự tan vỡ của nền dân chủ, dựa trên các nghiên cứu điển hình trên khắp thế giới để đưa ra những hiểu biết sâu sắc về cách thức bảo vệ nền dân chủ.
Bấm để biết thêm thông tin hoặc đặt hàng
Nhân dân, Không: Lược sử Lịch sử Chống Chủ nghĩa Dân túy
bởi Thomas Frank
Tác giả đưa ra lịch sử các phong trào dân túy ở Hoa Kỳ và phê bình hệ tư tưởng "chống chủ nghĩa dân túy" mà ông cho rằng đã cản trở tiến bộ và cải cách dân chủ.
Bấm để biết thêm thông tin hoặc đặt hàng
Nền dân chủ trong một cuốn sách hoặc ít hơn: Nó hoạt động như thế nào, tại sao nó không hoạt động và tại sao việc khắc phục nó lại dễ dàng hơn bạn nghĩ
bởi David Lít
Cuốn sách này cung cấp một cái nhìn tổng quan về nền dân chủ, bao gồm những điểm mạnh và điểm yếu của nó, đồng thời đề xuất những cải cách để làm cho hệ thống phản ứng nhanh hơn và có trách nhiệm giải trình hơn.
