TL;DR

  • Facebook hứa hẹn kết nối thế giới, nhưng thiếu governance biến nó thành công cụ khuếch đại bạo lực - tiêu biểu là thảm kịch Rohingya ở Myanmar.
  • Amnesty International xác nhận Meta không chỉ thất bại trong moderation mà còn chủ động phân phối nội dung kích động từ 2012, trong khi không có nhân viên nào tại Myanmar.
  • "Move fast and break things" là công thức thành công cho product - nhưng là thảm họa khi áp dụng vào quản trị những vấn đề xã hội.
  • Google, OpenAI đều lặp lại cùng một pattern: lời hứa đẹp về mục tiêu công ích, sau đó bị áp lực thương mại và quyền lực bào mòn dần.

Khi lý tưởng gặp thực tế

Facebook được xây dựng trên một niềm tin đơn giản: kết nối con người sẽ tự động làm cho thế giới tốt hơn. Đó là tầm nhìn đẹp nhưng ngây thơ - nó bỏ qua những thực tế phức tạp của hành vi con người. Kết nối hàng tỷ người không chỉ là bài toán kỹ thuật mà còn là bài toán xã hội và chính trị. Không có sự chuẩn bị đúng đắn, các nền tảng chia sẻ ý tưởng cũng có thể lan truyền thù hận, dối trá và bạo lực.

Myanmar: Bài học của sự thiếu trách nhiệm

Ví dụ rõ ràng nhất đến từ Myanmar. Tại đây, Facebook gần như là "internet" với phần lớn dân số - và nó đã bị dùng để lan truyền hate speech dẫn đến bạo lực thực sự nhằm vào người Rohingya. Theo báo cáo của Amnesty International, Meta không chỉ thất bại trong việc kiểm soát nội dung độc hại mà còn chủ động khuếch đại và phân phối những nội dung kích động từ năm 2012. via PBS NewsHour

Đáng chú ý hơn: Meta không có một nhân viên nào tại Myanmar khi khủng hoảng xảy ra. Công ty thuê outsource công việc kiểm duyệt cho một đơn vị bên ngoài. Khi lý thuyết về "nhiều phát ngôn tốt sẽ thắng phát ngôn xấu" đối mặt với thực tế tàn nhẫn của xã hội loài người, kết quả không thể rõ ràng hơn.

"Move Fast" và những hậu quả không thể vá

Motto nổi tiếng của Facebook - "Move fast and break things" - khuyến khích ra mắt tính năng nhanh, sửa sau. Cách tiếp cận này hiệu quả khi xây dựng phần mềm, nhưng là thảm họa khi đối mặt với những vấn đề như hate speech, can thiệp bầu cử hay quấy rối trực tuyến.

Khi Facebook Live ra mắt, nó nhanh chóng trở thành công cụ để chia sẻ khoảnh khắc đẹp - nhưng cũng là nơi phát trực tiếp những hành vi bạo lực. Quản trị về an toàn, quyền riêng tư và tự do ngôn luận đòi hỏi sự cân nhắc kỹ lưỡng, không thể là những quyết định vội vàng.

Khi News Feed được điều chỉnh để ưu tiên "meaningful interactions" - tương tác có ý nghĩa - mục tiêu ban đầu là thúc đẩy những cuộc trò chuyện sâu sắc hơn. Nhưng nghiên cứu sau đó trên 208 triệu người dùng Mỹ cho thấy tác động phức tạp hơn nhiều: Pages và Groups trở thành nơi phân cực chính trị tập trung, nơi nội dung partisan được khuếch đại và tái phân phối có hệ thống. via Stanford GSB

Văn hóa và cấu trúc quyền lực

Văn hóa nội bộ cũng là vấn đề: Facebook ăn mừng tăng trưởng hoành tráng trong khi lo ngại về an toàn bị gạt sang một bên, quyết định đưa ra dựa nhiều vào bản năng lãnh đạo hơn tranh luận kỹ lưỡng. Quan trọng hơn, một sai lầm nguy hiểm là tin rằng đặt quy tắc nội dung là việc trung lập, thuần kỹ thuật. Không bao giờ như vậy. Mọi quyết định về điều gì là hate speech, điều gì bị gỡ hay được giữ, đều mang tính chính trị - và mỗi nền văn hóa có chuẩn mực khác nhau. Facebook áp dụng một bộ quy tắc toàn cầu từ Silicon Valley, bỏ qua những khác biệt quan trọng này.

Góc nhìn khác: Không chỉ là lỗi của thuật toán

Cần nhìn nhận công bằng hơn: không phải mọi vấn đề đều do thuật toán. Nghiên cứu 2023 trên dữ liệu bầu cử Mỹ 2020 cho thấy thuật toán ranking của Facebook không trực tiếp làm tăng đáng kể sự phân cực về ý thức hệ. Thực ra, khi thay bằng feed chronological, lượng misinformation người dùng nhìn thấy còn tăng lên. Phân cực xuất phát phần lớn từ cách Pages và Groups hoạt động - không phải từ News Feed đơn thuần. via Science

Điều này không có nghĩa Facebook vô can. Nó có nghĩa rằng vấn đề phức tạp hơn một thuật toán đơn lẻ - và đòi hỏi giải pháp tinh tế hơn là chỉ "thay đổi feed".

Pattern lặp lại trên toàn Big Tech

Câu chuyện của Facebook không phải ngoại lệ. Google từng tự hào với motto "Don't be evil", nhưng sau đó đối mặt với chỉ trích vì theo dõi người dùng và hợp tác với các chính phủ độc tài. Năm 2019, Google giải tán ATEAC - hội đồng tư vấn về đạo đức AI - chỉ sau một tuần hoạt động do áp lực nội bộ và bên ngoài.

OpenAI bắt đầu với tuyên ngôn mạnh mẽ về AI mở và an toàn cho nhân loại, nhưng chuyển sang mô hình capped-profit vào 2019 và liên tục giảm transparency về quá trình training. Một nhóm nhân viên hiện tại và cựu nhân viên OpenAI và Google DeepMind gần đây còn công bố thư ngỏ cảnh báo về việc các công ty đang ưu tiên lợi nhuận và né tránh giám sát bên ngoài. via TIME

Lại và lại, cùng một câu chuyện: những lời hứa táo bạo ban đầu, từ từ bị bào mòn bởi áp lực tiền bạc và quyền lực.

Đường đi phía trước

Các công ty công nghệ phải ngừng giả vờ họ chỉ là nền tảng trung lập. Ethics cần tích hợp từ đầu, không phải bổ sung sau. Các đội ngũ safety cần thẩm quyền thực sự để thay đổi sản phẩm. Cần nhiều hơn những lời hứa tự điều chỉnh: Facebook Oversight Board thành lập năm 2020 là bước đi đúng hướng, nhưng cần quyền trên cả chính sách thuật toán và quảng cáo - không công ty tư nhân nào nên kiểm soát những gì hàng tỷ người thấy mà không có giám sát độc lập.

Đo lường thành công không chỉ bằng số người dùng hay lợi nhuận, mà còn bằng niềm tin, an toàn và tác động xã hội. Công nghệ định hình cách chúng ta sống, cách chúng ta nghĩ và kết nối với nhau. Move fast là cần thiết - nhưng phải kèm với sự khiêm tốn và dũng khí đặt lợi ích công cộng dài hạn lên trước lợi nhuận ngắn hạn. Công nghệ phải phục vụ con người, không phải ngược lại.