"the social dilemma" -site:facebook.com -site:youtube.com -site:twitter.com

Hình ảnh trong The Social Dilemma - Ảnh: EXPOSURE LAB

Các dịch vụ công nghệ này đang giết người và khiến mọi người muốn tự tử”

Tim Kendall, cựu chủ tịch Pinterest

The Social Dilemma (Sự tiến thoái lưỡng nan của xã hội) của đạo diễn Jeff Orlowski là phim tài liệu chiếu mạng đang được chú ý vì chủ đề thời sự: Mạng xã hội thao túng chúng ta như thế nào?

Khi xem phim, có lẽ khán giả nào cũng sẽ có trải nghiệm trớ trêu như người viết: chúng ta xem một bộ phim cảnh báo chính mình về sự nguy hiểm của mạng xã hội, nhưng vừa xem vừa không thể ngừng kiểm tra Facebook, Messenger, Gmail và để mạng xã hội không ngừng thao túng chúng ta.

Lời cảnh báo từ chính những kẻ từng thao túng

Điểm đặc biệt của bộ phim này là nó đưa ra tiếng nói cảnh báo từ chính những người trong cuộc, những người từng thao túng chúng ta.

Họ là cựu giám đốc điều hành, chủ tịch, nhà đầu tư, quản lý, nhà phát triển sản phẩm, nhà đạo đức thiết kế ở các công ty công nghệ hàng đầu thung lũng Silicon: Facebook, Google, Twitter, Instagram, Pinterest, Snapchat...

Tristan Harris - từng là nhà đạo đức thiết kế ở Google (phải) và Tim Kendall - cựu chủ tịch Pinterest - xuất hiện trong phim The Social Dilemma - Ảnh: EXPOSURE LAB

Một trong số họ là Tristan Harris - chủ tịch kiêm đồng sáng lập Trung tâm Công nghệ nhân đạo và từng là nhà đạo đức thiết kế ở Google.

Harris từng lên tiếng về vấn đề đạo đức ở Google, kêu gọi giải pháp để giải thoát con người khỏi sự thao túng của công nghệ. Bài thuyết trình của anh gây tiếng vang khắp công ty, đến tai nhà đồng sáng lập quyền lực Larry Page.

"Và sau đó, chẳng có gì xảy ra cả" - Harris nói trong bộ phim. Đề xuất của anh rơi vào thinh không. Google vẫn tiếp tục thao túng người dùng.

Trailer phim The Social Dilemma

Bộ phim đưa ra nhiều phát ngôn dõng dạc về mối quan hệ giữa công nghệ và con người hiện nay. "Chỉ có hai ngành công nghiệp gọi khách hàng là "người dùng": buôn ma túy bất hợp pháp và phần mềm" - Edward Tufte, nhà thống kê tiên phong về trực quan hóa dữ liệu.

Chỉ có hai ngành công nghiệp gọi khách hàng là "người dùng": buôn ma túy bất hợp pháp và phần mềm”

Edward Tufte, nhà thống kê tiên phong về trực quan hóa dữ liệu

Còn Tim Kendall, cựu chủ tịch Pinterest và cựu giám đốc kiếm tiền Facebook - một trong những nhà quản lý cấp cao nhất xuất hiện trong bộ phim, nhận định: "Các dịch vụ công nghệ này đang giết người và khiến mọi người muốn tự tử".

"Giết người" là một từ nặng, nhưng không thiếu căn cứ. Bộ phim đưa ra những ví dụ thời sự như các phát ngôn sai lệch vô tội vạ về COVID-19 khiến nhiều người tin theo và nhiễm bệnh; những tin giả gây kích động trên mạng xã hội và khiến người ta phản ứng bằng bạo lực, bạo động ngoài đời thực, bê bối xâm nhập dữ liệu liên quan đến Cambridge Analytica và Facebook năm 2018...

Phim dựng lên cảnh những kẻ đứng sau mạng xã hội (do diễn viên đóng) thao túng tâm trí một thiếu niên Mỹ để kiếm tiền từ sự bất an của cậu ta - Ảnh: EXPOSURE LAB

Tiến sĩ Jonathan Haid của NYU, nhà nghiên cứu tâm lý xã hội, cho biết có sự gia tăng mạnh mẽ về trầm cảm và lo âu trong thanh thiếu niên Mỹ bắt đầu từ 2011. "Tỉ lệ tự tử còn kinh khủng hơn. Trong nhóm nữ giới từ 15 đến 19 tuổi, tỉ lệ tự tử tăng 70 trong thập niên 2010" - ông nói.

Và Tristan Harris hình dung: "Tôi không quen bậc cha mẹ nào lại nói: "Tôi muốn con tôi lớn lên bị các nhà thiết kế công nghệ điều khiển, thao túng sự chú ý, khiến chúng không làm bài tập về nhà, khiến chúng so sánh mình với tiêu chuẩn cái đẹp phi thực tế". Chả ai muốn thế cả".

Từng có một quan niệm phổ biến rằng con người rồi sẽ thích nghi với công nghệ mới, chúng ta sẽ học được cách sống chung với các thiết bị này như cách đã sống chung với những tiến bộ công nghệ khác. Nhưng The Social Dilemma nhắc họ một điều: thứ chúng ta đang đối mặt là hoàn toàn mới, hoàn toàn khác biệt, chưa từng có trong lịch sử.

"Trí tuệ nhân tạo đã cai trị thế giới rồi"

Theo Randima Fernando - một chuyên gia phát triển sản phẩm, năng lực xử lý của máy tính đã tăng khoảng 1.000 tỉ lần từ thập niên 1960 đến nay.

"Điều nguy hiểm nhất trong tất cả là nó được công nghệ thúc đẩy, đang tiến bộ theo cấp số nhân. Không một ngành nào khác có tỉ lệ tiến bộ gần đạt mức đó" - ông nói.

Đáng chú ý là bộ não con người hầu như không hề tiến hóa trong khoảng thời gian đó.

Những cô bé tuổi teen là đối tượng dễ thao túng của mạng xã hội - Ảnh: EXPOSURE LAB

"Khi nói đến trí tuệ nhân tạo, ta nghĩ nó sẽ hủy hoại thế giới. Nhưng họ không hiểu một điều: trí tuệ nhân tạo đã cai trị thế giới rồi" - Tristan Harris nhận định.

Điều bộ phim khẳng định chắc nịch là không ai đủ thông minh để thoát khỏi sự cai trị đó, vì cựu chủ tịch Pinterest cũng nghiện mạng xã hội, đến nhà đạo đức thiết kế Facebook cũng không thể rời mắt khỏi những thứ thao túng mình.

Dù trình bày một vấn đề rất cũ, điều The Social Dilemma gây ấn tượng bằng cảm giác đáng sợ mà bộ phim tạo ra. Đúng, lâu nay chúng ta biết mình bị thao túng và cố lờ đi để tận hưởng tiện ích mạng xã hội mang lại. Còn bộ phim lại phơi bày hết nỗi sợ và nguy cơ khiến chúng ta không thể ngoảnh mặt, bịt tai.

Con người có thể ngắt kết nối và tự cứu bản thân mình? - Ảnh: EXPOSURE LAB

The Social Dilemma được ví là phiên bản phim tài liệu của The Social Network, bộ phim điện ảnh xuất sắc năm 2010 về cách Mark Zuckerberg tạo ra Facebook.

Mặc dù vậy, với sự phát triển như cuồng phong của công nghệ, The Social Dilemma - bất chấp nhiều thông tin từ người trong cuộc và nỗ lực trực quan hóa - vẫn gây cảm giác cũ, lạc hậu.

Bộ phim gặp vấn đề với thứ nó đang cố nhìn nhận: với mạng xã hội, dường như không một diễn ngôn nào là nguyên gốc nữa. Những lời vừa nói ra cũng là những lời đã được nói ra hàng tỉ lần trước đó.

Xem xong phim, chúng ta có thể đe dọa xóa Facebook, hoặc thực sự xóa nó, nhưng Facebook có đủ quyền lực để bắt chúng ta phải quay trở lại, lần thứ n.

MI LY

A recent Netflix documentary titled The Social Dilemma interviews several engineers who had helped build social media platforms, but who are now sounding the alarm on their creations. The film features prominent designers from Google, Facebook, and Twitter, including the engineer who created the pervasive “like” button and the inventor of the “infinite scroll.” The impact of the documentary comes from hearing the very people who created the technology behind social networks expressing regret and repenting of what they helped to build.

The documentary provides a clear explanation of the issues arising from social networking, whose business models depend on keeping people’s attention fixated on screens. These products employ sophisticated tracking and profiling in order to customize content that will further engage and influence users. The end result is that users are manipulated unconsciously through positive, intermittent behavior reinforcement (similar to playing a slot machine) for the purpose of attracting advertisers.

The design of social media results in many negative side effects which have become increasingly clear. There are documented declines in mental health related to social media use and growing addiction to smartphones. There has been an increase in political disinformation campaigns (doubling in the last two years), and remarkable growth in extremist groups due to algorithms steering people toward them.

Between interviews with former social media engineers, the film weaves dramatic vignettes of a family whose members are impacted and influenced by social media. A young man named Ben tries to shake his smartphone addiction but is drawn back into binging on his social media feed. Gradually, manipulative algorithms target him, nudging him to behaviors that cause conflict within his family. Later, he is steered toward a rabbit hole of online conspiracies, leading him to participate in a demonstration that turns violent. In another vignette, a teenage girl is portrayed wrestling with body image and depression as social media perpetuates unrealistic standards of beauty.

The interviews with social media designers alongside the dramatic sketches are effective at illustrating the issues arising from social media driven by commercial interests. Although one can try to push back, social media algorithms “tilt the floor” of human behavior in a way that is difficult to resist. The end result is greater polarization, outrage, and misinformation. The recent presidential elections in the United States have only served to underscore this point.

The movie opens with the filmmaker posing the question, “What is the problem?” The computer scientists and engineers in the film seem at a loss for words. The big answer to “What is the problem” is the reality of sin, which impacts not only human hearts but also technology. Technology is not a neutral activity of designing artifacts, but profoundly reflects a particular view of the world and the kind of people we desire to be, whether this is done consciously or not. Likewise, social media are not just neutral platforms to connect people, but include significant cultural, ethical, societal, economic, and political aspects. Clearly, the design decisions related to social media platforms ought to be informed by more than just technical or economic considerations.

What is missing from this documentary are conversations with social scientists who have been sounding these alarms for many years. Even so, there is something redemptive to hear social media engineers themselves voice remorse for their creations. Several of these engineers are now part of the Center for Humane Technology, an organization focused on the ethics of consumer technology.

I wonder how things might have unfolded differently if more computer science programs included the liberal arts. Computer science programs that focus only on technical content can produce computer scientists who develop a sort of tunnel vision. The Dutch statesman and theologian Abraham Kuyper compares this kind of education to “[touring] the country in a hooded carriage” and reaching the destination knowing “nothing about the countryside.”

In contrast, computer science programs taught at most Christian universities include not only liberal arts courses, but also emphasize how faith ought to inform our technical creations. How do we responsibly unfold the technical possibilities in creation while answering the call to love our neighbor in our work as computer scientists? It turns out that we live coram Deo [in the presence of God], and all of life is religious.  

Kuyper describes the perils of a utilitarian education simply to “acquire a steady position and a guaranteed salary.” He concludes that such a utilitarian education condemns oneself to become a “hewer of wood and drawer of water” rather than a “nurseryman in a consecrated garden.”  What the world of social media needs are more computer scientists trained not as just “hewers of code” but thoughtful caretakers in the garden of digital possibilities.

An earlier version of this article was originally published in Christian Courier.