Mật vụ Trung Cộng kiểm tra một người Ngô Duy Nhĩ
Cuộc cạnh tranh sắp tới giữa chủ nghĩa độc tài kỹ thuật số và dân chủ tự do. Bằng cách cho phép các chính phủ giám sát, hiểu và kiểm soát công dân của họ chặt chẽ hơn bao giờ hết, AI sẽ cung cấp cho các quốc gia độc tài một sự thay thế hợp lý cho nền dân chủ tự do, lần đầu tiên kể từ khi kết thúc Chiến tranh Lạnh. Điều đó sẽ châm ngòi cho sự cạnh tranh quốc tế giữa các hệ thống xã hội.
Foreign Affairs May 2019
(Vũ Quốc Ngữ dịch)
Cuộc tranh luận về tác dụng của trí tuệ nhân tạo (Artificial intelligence- AI) đã bị chi phối bởi hai chủ đề. Một là nỗi sợ hãi về một điểm dị biệt, một sự kiện trong đó AI vượt quá trí thông minh của con người và thoát khỏi sự kiểm soát của con người, với những hậu quả có thể là thảm họa. Một điều nữa là mối lo ngại rằng một cuộc cách mạng công nghiệp mới sẽ cho phép máy móc phá vỡ và thay thế con người ở mọi lĩnh vực hay gần như mọi khu vực của xã hội, từ vận chuyển đến quân đội đến chăm sóc sức khỏe.
Ngoài ra còn có một cách thứ ba mà AI hứa hẹn sẽ định hình lại thế giới. Bằng cách cho phép các chính phủ giám sát, hiểu và kiểm soát công dân của họ chặt chẽ hơn bao giờ hết, AI sẽ cung cấp cho các quốc gia độc tài một sự thay thế hợp lý cho nền dân chủ tự do, lần đầu tiên kể từ khi kết thúc Chiến tranh Lạnh. Điều đó sẽ châm ngòi cho sự cạnh tranh quốc tế giữa các hệ thống xã hội.
Trong nhiều thập kỷ, hầu hết các nhà lý luận chính trị đã tin rằng nền dân chủ tự do đưa ra con đường duy nhất để mang lại thành công kinh tế bền vững. Hoặc chính phủ có thể đàn áp người dân của họ và quốc gia vẫn nghèo đói hoặc giải phóng họ và gặt hái những lợi ích kinh tế. Một số quốc gia toàn trị đã cố gắng phát triển nền kinh tế của họ trong một thời gian, nhưng về lâu dài chủ nghĩa độc tài luôn có nghĩa là trì trệ. AI hứa hẹn sẽ xoá bỏ sự phân đôi đó. Nó mang lại phương cách cho những nước lớn với nền kinh tế phát triển có thể cho công dân của họ làm giàu trong khi duy trì sự kiểm soát của chính quyền đối với họ.
Một số quốc gia đã đi theo hướng này. Trung Quốc đã bắt đầu xây dựng một nhà nước độc tài kỹ thuật số bằng cách sử dụng các công cụ giám sát và hệ thống máy theo dõi để kiểm soát dân số, và bằng cách tạo ra một hệ thống tính điểm tín nhiệm xã hội. Một số quốc gia toàn trị đã bắt đầu mua hoặc mô phỏng các hệ thống của Trung Quốc. Giống như sự cạnh tranh giữa các hệ thống xã hội dân chủ tự do, phát xít và cộng sản đã xảy ra ở phần lớn của thế kỷ 20, vì vậy cuộc đấu tranh giữa dân chủ tự do và chủ nghĩa độc tài kỹ thuật số xảy ra ở thế kỷ 21.
Độc tài toàn trị kỹ thuật số (digital authoritarism)
Các công nghệ mới sẽ cho phép kiểm soát xã hội ở mức chặt chẽ với chi phí hợp lý. Chính phủ sẽ có thể kiểm duyệt có chọn lọc các chủ đề và hành vi để cho phép thông tin cho các hoạt động kinh tế có hiệu quả được lưu chuyển tự do, đồng thời hạn chế các cuộc thảo luận chính trị có thể gây tổn hại cho chế độ. Bức tưởng lửa vĩ đại của Trung Quốc là một minh chứng sớm cho loại kiểm duyệt chọn lọc này.
Cũng như kiểm duyệt lời nói hồi tố, AI và dữ liệu lớn sẽ cho phép kiểm soát phòng ngừa những người chống đối tiềm năng. Điều này sẽ giống với điều tra sở thích của người tiêu dùng Amazon hoặc Google, nhưng sẽ hiệu quả hơn nhiều, vì các chính phủ độc tài sẽ có thể rút ra dữ liệu theo những cách không được phép trong các nền dân chủ tự do. Amazon và Google chỉ có quyền truy cập vào dữ liệu từ một số tài khoản và thiết bị; còn một hệ thống AI được thiết kế để kiểm soát xã hội sẽ lấy dữ liệu từ tính đa dạng của các thiết bị mà ai đó tương tác trong cuộc sống hàng ngày của họ. Và quan trọng hơn nữa, các chế độ độc đoán sẽ không có sự ràng buộc nào trong việc kết hợp dữ liệu đó với thông tin từ tờ khai thuế, hồ sơ y tế, hồ sơ tội phạm, phòng khám sức khỏe tình dục, báo cáo ngân hàng, sàng lọc di truyền, thông tin vật lý (như vị trí, sinh trắc học và giám sát camera quan sát sử dụng phần mềm nhận dạng khuôn mặt) và thông tin lượm lặt được từ gia đình và bạn bè. AI có hiệu quả như dữ liệu mà nó có quyền truy cập. Thật không may, lượng và chất của dữ liệu có sẵn của người dân cung cấp cho chính phủ sẽ chứng minh sự hiệu quả của việc sử dụng các hệ thống AI.
Ngay cả sự tồn tại đơn thuần của loại kiểm soát phòng ngừa này cũng sẽ giúp các chế độ toàn trị. Tự kiểm duyệt có lẽ là cơ chế kỷ luật quan trọng nhất của cơ quan mật vụ Đông Đức Stasi. AI sẽ làm cho chiến thuật hiệu quả hơn đáng kể. Mọi người sẽ biết rằng việc giám sát toàn diện các hoạt động thể chất và kỹ thuật số của họ sẽ được sử dụng để dự đoán hành vi không mong muốn, thậm chí các hành động mà họ chỉ đang dự tính. Từ góc độ kỹ thuật, những dự đoán như vậy không khác gì sử dụng các hệ thống AI trong chăm sóc sức khỏe để dự đoán bệnh ở những người có vẻ khỏe mạnh trước khi các triệu chứng xuất hiện nơi họ.
Để ngăn hệ thống đưa ra dự đoán tiêu cực, nhiều người sẽ bắt đầu bắt chước các hành vi của một thành viên có trách nhiệm trên mạng xã hội. Chúng có thể tinh vi bằng cách theo dõi thời gian mà mắt của một người nhìn vào từng ứng dụng khác nhau trên màn hình điện thoại. Điều này sẽ cải thiện sự kiểm soát xã hội không chỉ bằng cách buộc mọi người hành động theo những cách nhất định, mà còn bằng cách thay đổi cách họ nghĩ. Một phát hiện trung tâm trong khoa học nhận thức về ảnh hưởng là việc khiến mọi người thực hiện các hành vi có thể thay đổi thái độ của họ và dẫn đến thói quen tự kiểm duyệt. Dạng này khiến người bị kiểm duyệt có thái độ ủng hộ hệ thống, một kỹ thuật được người Trung Quốc sử dụng đối với các quân nhân Hoa Kỳ bị bắt trong Chiến tranh Triều Tiên. Nhân viên bán hàng biết rằng để khách hàng tiềm năng thực hiện các hành vi nhỏ có thể thay đổi thái độ đối với các yêu cầu lớn hơn sau này. Hơn 60 năm nghiên cứu trong phòng thí nghiệm và thực địa đã cho thấy con người có khả năng vượt trội để hợp lý hóa các hành vi của họ.
Cũng như kiểm soát hiệu quả hơn, AI cũng hứa hẹn giúp cho việc xây dựng kinh tế chỉ huy trung tâm tốt hơn. Như Jack Ma, người sáng lập Công ty công nghệ Trung Quốc Alibaba, lập luận rằng, nếu có đủ thông tin, chính quyền trung ương có thể điều hành nền kinh tế bằng cách lập kế hoạch và dự đoán sức mạnh của thị trường. Thay vì những kế hoạch chậm, không linh hoạt và đơn điệu, AI hứa hẹn đáp ứng nhanh chóng và chi tiết cácnhu cầu của khách hàng.
Không có gì đảm bảo rằng loại hình độc tài kỹ thuật số này sẽ hoạt động lâu dài, nhưng có thể không cần, miễn là nó là một mô hình hợp lý mà một số quốc gia có thể nhắm tới. Điều đó sẽ đủ để châm ngòi cho một cuộc cạnh tranh ý thức hệ mới. Nếu nhiều chính phủ bắt đầu coi chủ nghĩa độc tài kỹ thuật số như một sự thay thế khả thi cho nền dân chủ tự do, họ sẽ không cảm thấy áp lực phải tự do hóa. Ngay cả khi cuối cùng mô hình thất bại, các nỗ lực thực hiện nó có thể kéo dài trong một thời gian dài. Các mô hình cộng sản và phát xít sụp đổ sau khi thực hiện chúng thất bại trong thế giới thực cho dù có nhiều nỗ lực.
Tạo ra và xuất khẩu công nghệ theo dõi
Cho dù hệ thống kiểm soát xã hội có thể hữu ích đến mức nào đối với một chế độ, việc xây dựng một hệ thống như thế sẽ không dễ dàng. Nhiều dự án công nghệ thông tin lớn nổi tiếng là khó thực hiện. Chúng đòi hỏi mức độ phối hợp cao, nguồn tài chính dồi dào và nhiều chuyên môn. Để biết được liệu một hệ thống như vậy có khả thi hay không, nó đáng để tìm đến Trung Quốc, quốc gia quan trọng nhất không thuộc phương Tây có thể đã xây dựng một hệ thống như vậy.
Trung Quốc đã chứng minh rằng họ có thể cung cấp nhiều dự án công nghệ thông tin khổng lồ, có tính xã hội, như Bức tường lửa vĩ đại. Nó cũng có kinh phí để xây dựng các hệ thống lớn mới. Năm ngoái, quốc gia này dành ít nhất 196 tỷ USD ngân sách cho bảo mật nội bộ, tăng 12% so với năm 2016. Phần lớn chi tiêu tăng này có lẽ là do nhu cầu về các nền tảng dữ liệu lớn mới. Trung Quốc cũng có chuyên môn về AI. Nhiều công ty Trung Quốc là những đơn vị đứng đầu toàn cầu trong nghiên cứu AI và kỹ sư phần mềm Trung Quốc thường đánh bại các đối thủ Mỹ trong nhiều cuộc thi quốc tế. Cuối cùng, các công nghệ, chẳng hạn như điện thoại thông minh, đã phổ biến rộng rãi có thể tạo thành xương sống của hệ thống giám sát cá nhân. Tỷ lệ sở hữu điện thoại thông minh ở Trung Quốc đang đạt gần với phương Tây và trong một số lĩnh vực, chẳng hạn như thanh toán di động, Trung Quốc đứng đầu thế giới.
Trung Quốc đã xây dựng các thành phần cốt lõi của một hệ thống độc tài kỹ thuật số. Bức tường lửa vĩ đại rất tinh vi và được thiết lập tốt, và tăng cường kiểm soát trong năm qua. Freedom House, một nhóm chuyên gia tư duy, đánh giá Trung Quốc là kẻ vi phạm tự do Internet tồi tệ nhất thế giới. Trung Quốc cũng đang thực hiện giám sát rộng rãi trong thế giới vật chất. Vào năm 2014, nó đã công bố một chương trình tín nhiệm xã hội, tính toán một mức tích hợp phản ánh mọi hành vi của công dân, theo cách hiểu của chính phủ. Sự phát triển của nhà nước giám sát Trung Quốc đã đi xa nhất ở tỉnh Tân Cương, nơi nó đang được sử dụng để theo dõi và kiểm soát dân số người Duy Ngô Nhĩ theo đạo Hồi. Những người mà hệ thống cho là không an toàn sẽ bị loại khỏi cuộc sống hàng ngày; thậm chí nhiều người bị đưa đến các trung tâm cải tạo. Nếu Bắc Kinh muốn, họ có thể áp dụng hệ thống này trên toàn quốc.
Tuy nhiên, khả năng không giống như ý định. Nhưng Trung Quốc dường như đang tiến tới chủ nghĩa độc tài và tránh xa mọi khuyến cáo tự do hóa. Chính phủ rõ ràng tin rằng AI và dữ liệu lớn sẽ làm được nhiều điều để cho phép hướng đi mới này. Kế hoạch phát triển AI của Trung Quốc trong năm 2017 mô tả cách khả năng dự đoán và nắm bắt nhận thức của nhóm có nghĩa là “AI mang lại cơ hội mới cho xây dựng xã hội.”
Chế độ độc tài kỹ thuật số không giới hạn ở Trung Quốc. Bắc Kinh đang xuất khẩu mô hình của mình. Sử dụng tường lửa đối với Internet đã lan sang Thái Lan và Việt Nam. Theo các báo cáo tin tức, các chuyên gia Trung Quốc đã cung cấp hỗ trợ cho các cơ quan kiểm duyệt của chính phủ ở Sri Lanka và cung cấp thiết bị giám sát hoặc kiểm duyệt cho Ethiopia, Iran, Nga, Zambia và Zimbabwe. Đầu năm nay, Công ty trí tuệ nhân tạo Yitu của Trung Quốc đã bán máy ảnh với công nghệ nhận dạng khuôn mặt được hỗ trợ bởi AI cho các cơ quan thực thi pháp luật của Malaysia.
Rộng hơn, Trung Quốc và Nga đã lại chống lại quan niệm của Hoa Kỳ về Internet tự do, không biên giới và toàn cầu. Trung Quốc sử dụng sức mạnh ngoại giao và thị trường của mình để tác động lên các tiêu chuẩn kỹ thuật toàn cầu và bình thường hóa ý tưởng rằng các chính phủ nên kiểm soát Internet theo cách hạn chế mạnh mẽ quyền tự do cá nhân. Sau khi làm nóng cuộc cạnh tranh gay gắt về ảnh hưởng đối với một diễn đàn về thiết lập các tiêu chuẩn quốc tế về trí tuệ nhân tạo, Hoa Kỳ đã chiếm lĩnh ban thư ký, một thực thể giúp hướng dẫn các quyết định của nhóm, trong khi Bắc Kinh tổ chức cuộc họp đầu tiên vào tháng Tư này và Wael Diab, giám đốc cấp cao tại Huawei, chiếm vị trí chủ tịch của ủy ban. Đối với các chính phủ sử dụng chúng, những biện pháp này có vẻ cần thiết để đảm bảo kiểm soát trong nước, nhưng các chính phủ khác có thể coi chúng như là các cuộc tấn công vào lối sống của họ.
Phản ứng dân chủ
Sự trỗi dậy của một mô hình quản trị công nghệ độc tài, có lẽ, ngược lại, làm trẻ hóa các nền dân chủ tự do. Làm thế nào các nền dân chủ tự do phản ứng với những thách thức và cơ hội của AI phụ thuộc một phần vào cách các nền dân chủ đối phó chúngtrong nước và một phần vào cách họ đối phó với bên ngoài. Trong cả hai trường hợp, tồn tại nhiều căn cứ cho sự lạc quan.
Trong nội bộ, mặc dù các nền dân chủ được thành lập sẽ cần phải nỗ lực phối hợp để quản lý sự phát triển của các công nghệ mới, nhưng những thách thức đã trở nên lớn hơn những thách thức mà các nền dân chủ đã vượt qua trước đây. Một lý do lớn cho sự lạc quan là sự phụ thuộc vào con đường. Các quốc gia có truyền thống tự do cá nhân mạnh mẽ có thể sẽ đi theo một hướng với công nghệ mới mà nếu không có chúng họ có thể sẽ đi theo đường khác. Các lực lượng mạnh trong xã hội Hoa Kỳ từ lâu đã đẩy lùi các chương trình giám sát hàng loạt của chính phủ trong nước, mặc dù với thành công thay đổi. Chẳng hạn, trong những năm đầu của thế kỷ này, Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến đã bắt đầu xây dựng hệ thống giám sát trong nước với tên gọi Cảnh báo thông tin toàn diện (Total Information Awareness) để tập hợp các dữ liệu y tế, tài chính, vật lý và các dữ liệu khác. Sự phản đối từ các nhóm tự do truyền thông và dân sự đã khiến Quốc hội không tài trợ chương trình này, mặc dù nó đã để lại một số cách giải quyết khác với công chúng vào thời điểm đó. Hầu hết các công dân trong các nền dân chủ tự do thừa nhận sự cần thiết của hệt hống tình báo ở nước ngoài và giám sát chống khủng bố trong nước, nhưng cơ chế giám sát và cân bằng quyền lực mạnh mẽ hạn chế lạm dụng quyền hạn của bộ máy an ninh nhà nước. Những cơ chế này đang bị tấn công ngày hôm nay và cần được củng cố, nhưng điều này sẽ lặp lại nhiều nỗ lực trong quá khứ hơn là một thách thức mới về cơ bản.
Ở phương Tây, các chính phủ không phải là những người duy nhất đặt ra mối đe dọa đối với các quyền tự do cá nhân. Các công ty công nghệ độc quyền đang tập trung quyền lực bằng cách ngấu nghiến các đối thủ cạnh tranh và vận động chính phủ để ban hành các quy định có lợi cho chúng. Tuy nhiên, xã hội đã vượt qua thách thức này trước, sau các cuộc cách mạng công nghệ trong quá khứ. Hãy nghĩ về Tổng thống Hoa Kỳ Theodore Roosevelt, sự phá vỡ niềm tin, sự chia tay của AT & T, vào những năm 1980 và những giới hạn mà các cơ quan quản lý đặt ra cho Microsoft trong thời kỳ gia tăng Internet vào những năm 1990.
Các công ty khổng lồ trong lĩnh vực kỹ thuật số cũng đang làm tổn thương sự đa dạng truyền thông và hỗ trợ cho nội dung lợi ích công cộng cũng như tạo ra một miền Tây hoang dã trong quảng cáo chính trị. Nhưng các công nghệ mới triệt để trước đây, như đài phát thanh và truyền hình, đã đặt ra những vấn đề và xã hội tương tự đã đặt ra thách thức. Cuối cùng, quy định có thể sẽ bắt kịp với các định nghĩa mới về phương tiện truyền thông trực tuyến và các nhà xuất bản khác được tạo bởi Internet. Giám đốc điều hành Facebook Mark Zuckerberg đã chống lại việc dán nhãn quảng cáo chính trị theo cách tương tự như được yêu cầu trên truyền hình, cho đến khi áp lực chính trị buộc phải ra tay vào năm ngoái.
Các nền dân chủ tự do dường như không thể chiến thắng chủ nghĩa độc đoán kỹ thuật số. Các cuộc thăm dò gần đây cho thấy rằng một tỷ lệ giảm dần trong các xã hội phương Tây coi dân chủ là thiết yếu, nhưng đây là một chặng đường dài từ sự suy yếu thực sự của nền dân chủ phương Tây.
Thách thức bên ngoài của một đối thủ cạnh tranh độc đoán mới có lẽ có thể củng cố các nền dân chủ tự do. Xu hướng của con người đối với sự cạnh tranh trong chúng ta so với các điều khoản của họ có thể khiến các nước phương Tây xác định thái độ của họ đối với kiểm duyệt và giám sát ít nhất là một phần đối lập với cạnh tranh mới. Hầu hết mọi người nhận thấy sự nhàm chán của chính sách thu thập dữ liệu và ít chú ý đến các rủi ro của giám sát cá nhân. Nhưng khi những vấn đề này làm nền tảng cho một chế độ độc tài trong thế giới thực, chúng sẽ chứng minh không nhàm chán cũng không trừu tượng. Chính phủ và các công ty công nghệ trong các nền dân chủ tự do sẽ phải giải thích chúng khác nhau như thế nào.
Bài học cho Tây
Phương Tây có thể làm rất ít để thay đổi quỹ đạo của một đất nước có khả năng và tự tin như Trung Quốc. Các quốc gia độc đoán kỹ thuật số có thể sẽ xuất hiện trong một thời gian. Để cạnh tranh với họ, các nền dân chủ tự do sẽ cần các chiến lược rõ ràng. Đầu tiên, chính phủ và xã hội cần hạn chế nghiêm ngặt việc giám sát và thao túng trong nước. Những công ty công nghệ khổng lồ nên được chia nhỏ và được quản lý. Chính phủ cần đảm bảo một môi trường truyền thông đa dạng, lành mạnh, ví dụ bằng cách đảm bảo rằng những siêu công ty như Facebook không làm giảm sự đa dạng của truyền thông; tài trợ phát sóng dịch vụ công cộng; và cập nhật các quy định bao gồm quảng cáo chính trị để phù hợp với thế giới trực tuyến. Họ nên ban hành luật ngăn chặn các công ty công nghệ khai thác các nguồn dữ liệu cá nhân khác, chẳng hạn như hồ sơ y tế, về khách hàng của họ và không để thu thập dữ liệu từ nhiều nền tảng mà mọi người sử dụng. Ngay cả các chính phủ cũng nên bị cấm sử dụng dữ liệu đó trừ trongmột số trường hợp, chẳng hạn như các hoạt động chống khủng bố.
Thứ hai, các nước phương Tây nên làm việc để tác động đến việc các quốc gia không có nền dân chủ vững chắc hay không hẳn độc tài trong việc áp dụng AI và các hệ thống dữ liệu lớn. Họ nên cung cấp viện trợ để phát triển cơ sở hạ tầng vật lý và pháp luật của quốc gia và sử dụng quyền truy cập được cung cấp bởi viện trợ đó để ngăn chính phủ quốc gia này trong việc sử dụng dữ liệu tổ hợp. Họ nên thúc đẩy các chuẩn mực quốc tế tôn trọng quyền riêng tư cá nhân cũng như chủ quyền của nhà nước. Và họ nên phân định việc sử dụng AI và siêu dữ liệu cho các mục đích an ninh quốc gia hợp pháp với việc sử dụng nó trong việc đàn áp nhân quyền.
Cuối cùng, các nước phương Tây phải chuẩn bị để chống lại độc tài kỹ thuật số. Các hệ thống AI rộng lớn sẽ tỏ ra dễ bị phá vỡ, mặc dù khi các chế độ phụ thuộc nhiều hơn vào chúng để bảo mật, các chính phủ sẽ phải quan tâm cập nhật thường xuyên để không mất kiểm soát. Các hệ thống kiểm soát thông tin liên lạc có chọn lọc sẽ cho phép sáng tạo kinh tế nhưng chắc chắn cũng sẽ đóng cánh cửa với thế giới bên ngoài. Giành chiến thắng trong cuộc đối đầu với các chính phủ độc tài kỹ thuật số sẽ không trở thành hiện thực nếu các nền dân chủ tự do không nắm tay nhau để hợp tác trong cuộc đấu tranh này.
Nguồn: How Artificial Intelligence Will Reshape the Global Order
Height Insoles: Hi, I do believe this is an excellent site. I stumbledupon …
http://fishinglovers.net: Appreciate you sharing, great post.Thanks Again. Keep writi…
Achilles Pain causes: Every weekend i used to pay a quick visit this site, as i w…
June 19, 2019
Trí tuệ nhân tạo sẽ định hình lại trật tự toàn cầu như thế nào?
by Nhan Quyen • [Human Rights]
Mật vụ Trung Cộng kiểm tra một người Ngô Duy Nhĩ
Cuộc cạnh tranh sắp tới giữa chủ nghĩa độc tài kỹ thuật số và dân chủ tự do. Bằng cách cho phép các chính phủ giám sát, hiểu và kiểm soát công dân của họ chặt chẽ hơn bao giờ hết, AI sẽ cung cấp cho các quốc gia độc tài một sự thay thế hợp lý cho nền dân chủ tự do, lần đầu tiên kể từ khi kết thúc Chiến tranh Lạnh. Điều đó sẽ châm ngòi cho sự cạnh tranh quốc tế giữa các hệ thống xã hội.
Foreign Affairs May 2019
(Vũ Quốc Ngữ dịch)
Cuộc tranh luận về tác dụng của trí tuệ nhân tạo (Artificial intelligence- AI) đã bị chi phối bởi hai chủ đề. Một là nỗi sợ hãi về một điểm dị biệt, một sự kiện trong đó AI vượt quá trí thông minh của con người và thoát khỏi sự kiểm soát của con người, với những hậu quả có thể là thảm họa. Một điều nữa là mối lo ngại rằng một cuộc cách mạng công nghiệp mới sẽ cho phép máy móc phá vỡ và thay thế con người ở mọi lĩnh vực hay gần như mọi khu vực của xã hội, từ vận chuyển đến quân đội đến chăm sóc sức khỏe.
Ngoài ra còn có một cách thứ ba mà AI hứa hẹn sẽ định hình lại thế giới. Bằng cách cho phép các chính phủ giám sát, hiểu và kiểm soát công dân của họ chặt chẽ hơn bao giờ hết, AI sẽ cung cấp cho các quốc gia độc tài một sự thay thế hợp lý cho nền dân chủ tự do, lần đầu tiên kể từ khi kết thúc Chiến tranh Lạnh. Điều đó sẽ châm ngòi cho sự cạnh tranh quốc tế giữa các hệ thống xã hội.
Trong nhiều thập kỷ, hầu hết các nhà lý luận chính trị đã tin rằng nền dân chủ tự do đưa ra con đường duy nhất để mang lại thành công kinh tế bền vững. Hoặc chính phủ có thể đàn áp người dân của họ và quốc gia vẫn nghèo đói hoặc giải phóng họ và gặt hái những lợi ích kinh tế. Một số quốc gia toàn trị đã cố gắng phát triển nền kinh tế của họ trong một thời gian, nhưng về lâu dài chủ nghĩa độc tài luôn có nghĩa là trì trệ. AI hứa hẹn sẽ xoá bỏ sự phân đôi đó. Nó mang lại phương cách cho những nước lớn với nền kinh tế phát triển có thể cho công dân của họ làm giàu trong khi duy trì sự kiểm soát của chính quyền đối với họ.
Một số quốc gia đã đi theo hướng này. Trung Quốc đã bắt đầu xây dựng một nhà nước độc tài kỹ thuật số bằng cách sử dụng các công cụ giám sát và hệ thống máy theo dõi để kiểm soát dân số, và bằng cách tạo ra một hệ thống tính điểm tín nhiệm xã hội. Một số quốc gia toàn trị đã bắt đầu mua hoặc mô phỏng các hệ thống của Trung Quốc. Giống như sự cạnh tranh giữa các hệ thống xã hội dân chủ tự do, phát xít và cộng sản đã xảy ra ở phần lớn của thế kỷ 20, vì vậy cuộc đấu tranh giữa dân chủ tự do và chủ nghĩa độc tài kỹ thuật số xảy ra ở thế kỷ 21.
Độc tài toàn trị kỹ thuật số (digital authoritarism)
Các công nghệ mới sẽ cho phép kiểm soát xã hội ở mức chặt chẽ với chi phí hợp lý. Chính phủ sẽ có thể kiểm duyệt có chọn lọc các chủ đề và hành vi để cho phép thông tin cho các hoạt động kinh tế có hiệu quả được lưu chuyển tự do, đồng thời hạn chế các cuộc thảo luận chính trị có thể gây tổn hại cho chế độ. Bức tưởng lửa vĩ đại của Trung Quốc là một minh chứng sớm cho loại kiểm duyệt chọn lọc này.
Cũng như kiểm duyệt lời nói hồi tố, AI và dữ liệu lớn sẽ cho phép kiểm soát phòng ngừa những người chống đối tiềm năng. Điều này sẽ giống với điều tra sở thích của người tiêu dùng Amazon hoặc Google, nhưng sẽ hiệu quả hơn nhiều, vì các chính phủ độc tài sẽ có thể rút ra dữ liệu theo những cách không được phép trong các nền dân chủ tự do. Amazon và Google chỉ có quyền truy cập vào dữ liệu từ một số tài khoản và thiết bị; còn một hệ thống AI được thiết kế để kiểm soát xã hội sẽ lấy dữ liệu từ tính đa dạng của các thiết bị mà ai đó tương tác trong cuộc sống hàng ngày của họ. Và quan trọng hơn nữa, các chế độ độc đoán sẽ không có sự ràng buộc nào trong việc kết hợp dữ liệu đó với thông tin từ tờ khai thuế, hồ sơ y tế, hồ sơ tội phạm, phòng khám sức khỏe tình dục, báo cáo ngân hàng, sàng lọc di truyền, thông tin vật lý (như vị trí, sinh trắc học và giám sát camera quan sát sử dụng phần mềm nhận dạng khuôn mặt) và thông tin lượm lặt được từ gia đình và bạn bè. AI có hiệu quả như dữ liệu mà nó có quyền truy cập. Thật không may, lượng và chất của dữ liệu có sẵn của người dân cung cấp cho chính phủ sẽ chứng minh sự hiệu quả của việc sử dụng các hệ thống AI.
Ngay cả sự tồn tại đơn thuần của loại kiểm soát phòng ngừa này cũng sẽ giúp các chế độ toàn trị. Tự kiểm duyệt có lẽ là cơ chế kỷ luật quan trọng nhất của cơ quan mật vụ Đông Đức Stasi. AI sẽ làm cho chiến thuật hiệu quả hơn đáng kể. Mọi người sẽ biết rằng việc giám sát toàn diện các hoạt động thể chất và kỹ thuật số của họ sẽ được sử dụng để dự đoán hành vi không mong muốn, thậm chí các hành động mà họ chỉ đang dự tính. Từ góc độ kỹ thuật, những dự đoán như vậy không khác gì sử dụng các hệ thống AI trong chăm sóc sức khỏe để dự đoán bệnh ở những người có vẻ khỏe mạnh trước khi các triệu chứng xuất hiện nơi họ.
Để ngăn hệ thống đưa ra dự đoán tiêu cực, nhiều người sẽ bắt đầu bắt chước các hành vi của một thành viên có trách nhiệm trên mạng xã hội. Chúng có thể tinh vi bằng cách theo dõi thời gian mà mắt của một người nhìn vào từng ứng dụng khác nhau trên màn hình điện thoại. Điều này sẽ cải thiện sự kiểm soát xã hội không chỉ bằng cách buộc mọi người hành động theo những cách nhất định, mà còn bằng cách thay đổi cách họ nghĩ. Một phát hiện trung tâm trong khoa học nhận thức về ảnh hưởng là việc khiến mọi người thực hiện các hành vi có thể thay đổi thái độ của họ và dẫn đến thói quen tự kiểm duyệt. Dạng này khiến người bị kiểm duyệt có thái độ ủng hộ hệ thống, một kỹ thuật được người Trung Quốc sử dụng đối với các quân nhân Hoa Kỳ bị bắt trong Chiến tranh Triều Tiên. Nhân viên bán hàng biết rằng để khách hàng tiềm năng thực hiện các hành vi nhỏ có thể thay đổi thái độ đối với các yêu cầu lớn hơn sau này. Hơn 60 năm nghiên cứu trong phòng thí nghiệm và thực địa đã cho thấy con người có khả năng vượt trội để hợp lý hóa các hành vi của họ.
Cũng như kiểm soát hiệu quả hơn, AI cũng hứa hẹn giúp cho việc xây dựng kinh tế chỉ huy trung tâm tốt hơn. Như Jack Ma, người sáng lập Công ty công nghệ Trung Quốc Alibaba, lập luận rằng, nếu có đủ thông tin, chính quyền trung ương có thể điều hành nền kinh tế bằng cách lập kế hoạch và dự đoán sức mạnh của thị trường. Thay vì những kế hoạch chậm, không linh hoạt và đơn điệu, AI hứa hẹn đáp ứng nhanh chóng và chi tiết cácnhu cầu của khách hàng.
Không có gì đảm bảo rằng loại hình độc tài kỹ thuật số này sẽ hoạt động lâu dài, nhưng có thể không cần, miễn là nó là một mô hình hợp lý mà một số quốc gia có thể nhắm tới. Điều đó sẽ đủ để châm ngòi cho một cuộc cạnh tranh ý thức hệ mới. Nếu nhiều chính phủ bắt đầu coi chủ nghĩa độc tài kỹ thuật số như một sự thay thế khả thi cho nền dân chủ tự do, họ sẽ không cảm thấy áp lực phải tự do hóa. Ngay cả khi cuối cùng mô hình thất bại, các nỗ lực thực hiện nó có thể kéo dài trong một thời gian dài. Các mô hình cộng sản và phát xít sụp đổ sau khi thực hiện chúng thất bại trong thế giới thực cho dù có nhiều nỗ lực.
Tạo ra và xuất khẩu công nghệ theo dõi
Cho dù hệ thống kiểm soát xã hội có thể hữu ích đến mức nào đối với một chế độ, việc xây dựng một hệ thống như thế sẽ không dễ dàng. Nhiều dự án công nghệ thông tin lớn nổi tiếng là khó thực hiện. Chúng đòi hỏi mức độ phối hợp cao, nguồn tài chính dồi dào và nhiều chuyên môn. Để biết được liệu một hệ thống như vậy có khả thi hay không, nó đáng để tìm đến Trung Quốc, quốc gia quan trọng nhất không thuộc phương Tây có thể đã xây dựng một hệ thống như vậy.
Trung Quốc đã chứng minh rằng họ có thể cung cấp nhiều dự án công nghệ thông tin khổng lồ, có tính xã hội, như Bức tường lửa vĩ đại. Nó cũng có kinh phí để xây dựng các hệ thống lớn mới. Năm ngoái, quốc gia này dành ít nhất 196 tỷ USD ngân sách cho bảo mật nội bộ, tăng 12% so với năm 2016. Phần lớn chi tiêu tăng này có lẽ là do nhu cầu về các nền tảng dữ liệu lớn mới. Trung Quốc cũng có chuyên môn về AI. Nhiều công ty Trung Quốc là những đơn vị đứng đầu toàn cầu trong nghiên cứu AI và kỹ sư phần mềm Trung Quốc thường đánh bại các đối thủ Mỹ trong nhiều cuộc thi quốc tế. Cuối cùng, các công nghệ, chẳng hạn như điện thoại thông minh, đã phổ biến rộng rãi có thể tạo thành xương sống của hệ thống giám sát cá nhân. Tỷ lệ sở hữu điện thoại thông minh ở Trung Quốc đang đạt gần với phương Tây và trong một số lĩnh vực, chẳng hạn như thanh toán di động, Trung Quốc đứng đầu thế giới.
Trung Quốc đã xây dựng các thành phần cốt lõi của một hệ thống độc tài kỹ thuật số. Bức tường lửa vĩ đại rất tinh vi và được thiết lập tốt, và tăng cường kiểm soát trong năm qua. Freedom House, một nhóm chuyên gia tư duy, đánh giá Trung Quốc là kẻ vi phạm tự do Internet tồi tệ nhất thế giới. Trung Quốc cũng đang thực hiện giám sát rộng rãi trong thế giới vật chất. Vào năm 2014, nó đã công bố một chương trình tín nhiệm xã hội, tính toán một mức tích hợp phản ánh mọi hành vi của công dân, theo cách hiểu của chính phủ. Sự phát triển của nhà nước giám sát Trung Quốc đã đi xa nhất ở tỉnh Tân Cương, nơi nó đang được sử dụng để theo dõi và kiểm soát dân số người Duy Ngô Nhĩ theo đạo Hồi. Những người mà hệ thống cho là không an toàn sẽ bị loại khỏi cuộc sống hàng ngày; thậm chí nhiều người bị đưa đến các trung tâm cải tạo. Nếu Bắc Kinh muốn, họ có thể áp dụng hệ thống này trên toàn quốc.
Tuy nhiên, khả năng không giống như ý định. Nhưng Trung Quốc dường như đang tiến tới chủ nghĩa độc tài và tránh xa mọi khuyến cáo tự do hóa. Chính phủ rõ ràng tin rằng AI và dữ liệu lớn sẽ làm được nhiều điều để cho phép hướng đi mới này. Kế hoạch phát triển AI của Trung Quốc trong năm 2017 mô tả cách khả năng dự đoán và nắm bắt nhận thức của nhóm có nghĩa là “AI mang lại cơ hội mới cho xây dựng xã hội.”
Chế độ độc tài kỹ thuật số không giới hạn ở Trung Quốc. Bắc Kinh đang xuất khẩu mô hình của mình. Sử dụng tường lửa đối với Internet đã lan sang Thái Lan và Việt Nam. Theo các báo cáo tin tức, các chuyên gia Trung Quốc đã cung cấp hỗ trợ cho các cơ quan kiểm duyệt của chính phủ ở Sri Lanka và cung cấp thiết bị giám sát hoặc kiểm duyệt cho Ethiopia, Iran, Nga, Zambia và Zimbabwe. Đầu năm nay, Công ty trí tuệ nhân tạo Yitu của Trung Quốc đã bán máy ảnh với công nghệ nhận dạng khuôn mặt được hỗ trợ bởi AI cho các cơ quan thực thi pháp luật của Malaysia.
Rộng hơn, Trung Quốc và Nga đã lại chống lại quan niệm của Hoa Kỳ về Internet tự do, không biên giới và toàn cầu. Trung Quốc sử dụng sức mạnh ngoại giao và thị trường của mình để tác động lên các tiêu chuẩn kỹ thuật toàn cầu và bình thường hóa ý tưởng rằng các chính phủ nên kiểm soát Internet theo cách hạn chế mạnh mẽ quyền tự do cá nhân. Sau khi làm nóng cuộc cạnh tranh gay gắt về ảnh hưởng đối với một diễn đàn về thiết lập các tiêu chuẩn quốc tế về trí tuệ nhân tạo, Hoa Kỳ đã chiếm lĩnh ban thư ký, một thực thể giúp hướng dẫn các quyết định của nhóm, trong khi Bắc Kinh tổ chức cuộc họp đầu tiên vào tháng Tư này và Wael Diab, giám đốc cấp cao tại Huawei, chiếm vị trí chủ tịch của ủy ban. Đối với các chính phủ sử dụng chúng, những biện pháp này có vẻ cần thiết để đảm bảo kiểm soát trong nước, nhưng các chính phủ khác có thể coi chúng như là các cuộc tấn công vào lối sống của họ.
Phản ứng dân chủ
Sự trỗi dậy của một mô hình quản trị công nghệ độc tài, có lẽ, ngược lại, làm trẻ hóa các nền dân chủ tự do. Làm thế nào các nền dân chủ tự do phản ứng với những thách thức và cơ hội của AI phụ thuộc một phần vào cách các nền dân chủ đối phó chúngtrong nước và một phần vào cách họ đối phó với bên ngoài. Trong cả hai trường hợp, tồn tại nhiều căn cứ cho sự lạc quan.
Trong nội bộ, mặc dù các nền dân chủ được thành lập sẽ cần phải nỗ lực phối hợp để quản lý sự phát triển của các công nghệ mới, nhưng những thách thức đã trở nên lớn hơn những thách thức mà các nền dân chủ đã vượt qua trước đây. Một lý do lớn cho sự lạc quan là sự phụ thuộc vào con đường. Các quốc gia có truyền thống tự do cá nhân mạnh mẽ có thể sẽ đi theo một hướng với công nghệ mới mà nếu không có chúng họ có thể sẽ đi theo đường khác. Các lực lượng mạnh trong xã hội Hoa Kỳ từ lâu đã đẩy lùi các chương trình giám sát hàng loạt của chính phủ trong nước, mặc dù với thành công thay đổi. Chẳng hạn, trong những năm đầu của thế kỷ này, Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến đã bắt đầu xây dựng hệ thống giám sát trong nước với tên gọi Cảnh báo thông tin toàn diện (Total Information Awareness) để tập hợp các dữ liệu y tế, tài chính, vật lý và các dữ liệu khác. Sự phản đối từ các nhóm tự do truyền thông và dân sự đã khiến Quốc hội không tài trợ chương trình này, mặc dù nó đã để lại một số cách giải quyết khác với công chúng vào thời điểm đó. Hầu hết các công dân trong các nền dân chủ tự do thừa nhận sự cần thiết của hệt hống tình báo ở nước ngoài và giám sát chống khủng bố trong nước, nhưng cơ chế giám sát và cân bằng quyền lực mạnh mẽ hạn chế lạm dụng quyền hạn của bộ máy an ninh nhà nước. Những cơ chế này đang bị tấn công ngày hôm nay và cần được củng cố, nhưng điều này sẽ lặp lại nhiều nỗ lực trong quá khứ hơn là một thách thức mới về cơ bản.
Ở phương Tây, các chính phủ không phải là những người duy nhất đặt ra mối đe dọa đối với các quyền tự do cá nhân. Các công ty công nghệ độc quyền đang tập trung quyền lực bằng cách ngấu nghiến các đối thủ cạnh tranh và vận động chính phủ để ban hành các quy định có lợi cho chúng. Tuy nhiên, xã hội đã vượt qua thách thức này trước, sau các cuộc cách mạng công nghệ trong quá khứ. Hãy nghĩ về Tổng thống Hoa Kỳ Theodore Roosevelt, sự phá vỡ niềm tin, sự chia tay của AT & T, vào những năm 1980 và những giới hạn mà các cơ quan quản lý đặt ra cho Microsoft trong thời kỳ gia tăng Internet vào những năm 1990.
Các công ty khổng lồ trong lĩnh vực kỹ thuật số cũng đang làm tổn thương sự đa dạng truyền thông và hỗ trợ cho nội dung lợi ích công cộng cũng như tạo ra một miền Tây hoang dã trong quảng cáo chính trị. Nhưng các công nghệ mới triệt để trước đây, như đài phát thanh và truyền hình, đã đặt ra những vấn đề và xã hội tương tự đã đặt ra thách thức. Cuối cùng, quy định có thể sẽ bắt kịp với các định nghĩa mới về phương tiện truyền thông trực tuyến và các nhà xuất bản khác được tạo bởi Internet. Giám đốc điều hành Facebook Mark Zuckerberg đã chống lại việc dán nhãn quảng cáo chính trị theo cách tương tự như được yêu cầu trên truyền hình, cho đến khi áp lực chính trị buộc phải ra tay vào năm ngoái.
Các nền dân chủ tự do dường như không thể chiến thắng chủ nghĩa độc đoán kỹ thuật số. Các cuộc thăm dò gần đây cho thấy rằng một tỷ lệ giảm dần trong các xã hội phương Tây coi dân chủ là thiết yếu, nhưng đây là một chặng đường dài từ sự suy yếu thực sự của nền dân chủ phương Tây.
Thách thức bên ngoài của một đối thủ cạnh tranh độc đoán mới có lẽ có thể củng cố các nền dân chủ tự do. Xu hướng của con người đối với sự cạnh tranh trong chúng ta so với các điều khoản của họ có thể khiến các nước phương Tây xác định thái độ của họ đối với kiểm duyệt và giám sát ít nhất là một phần đối lập với cạnh tranh mới. Hầu hết mọi người nhận thấy sự nhàm chán của chính sách thu thập dữ liệu và ít chú ý đến các rủi ro của giám sát cá nhân. Nhưng khi những vấn đề này làm nền tảng cho một chế độ độc tài trong thế giới thực, chúng sẽ chứng minh không nhàm chán cũng không trừu tượng. Chính phủ và các công ty công nghệ trong các nền dân chủ tự do sẽ phải giải thích chúng khác nhau như thế nào.
Bài học cho Tây
Phương Tây có thể làm rất ít để thay đổi quỹ đạo của một đất nước có khả năng và tự tin như Trung Quốc. Các quốc gia độc đoán kỹ thuật số có thể sẽ xuất hiện trong một thời gian. Để cạnh tranh với họ, các nền dân chủ tự do sẽ cần các chiến lược rõ ràng. Đầu tiên, chính phủ và xã hội cần hạn chế nghiêm ngặt việc giám sát và thao túng trong nước. Những công ty công nghệ khổng lồ nên được chia nhỏ và được quản lý. Chính phủ cần đảm bảo một môi trường truyền thông đa dạng, lành mạnh, ví dụ bằng cách đảm bảo rằng những siêu công ty như Facebook không làm giảm sự đa dạng của truyền thông; tài trợ phát sóng dịch vụ công cộng; và cập nhật các quy định bao gồm quảng cáo chính trị để phù hợp với thế giới trực tuyến. Họ nên ban hành luật ngăn chặn các công ty công nghệ khai thác các nguồn dữ liệu cá nhân khác, chẳng hạn như hồ sơ y tế, về khách hàng của họ và không để thu thập dữ liệu từ nhiều nền tảng mà mọi người sử dụng. Ngay cả các chính phủ cũng nên bị cấm sử dụng dữ liệu đó trừ trongmột số trường hợp, chẳng hạn như các hoạt động chống khủng bố.
Thứ hai, các nước phương Tây nên làm việc để tác động đến việc các quốc gia không có nền dân chủ vững chắc hay không hẳn độc tài trong việc áp dụng AI và các hệ thống dữ liệu lớn. Họ nên cung cấp viện trợ để phát triển cơ sở hạ tầng vật lý và pháp luật của quốc gia và sử dụng quyền truy cập được cung cấp bởi viện trợ đó để ngăn chính phủ quốc gia này trong việc sử dụng dữ liệu tổ hợp. Họ nên thúc đẩy các chuẩn mực quốc tế tôn trọng quyền riêng tư cá nhân cũng như chủ quyền của nhà nước. Và họ nên phân định việc sử dụng AI và siêu dữ liệu cho các mục đích an ninh quốc gia hợp pháp với việc sử dụng nó trong việc đàn áp nhân quyền.
Cuối cùng, các nước phương Tây phải chuẩn bị để chống lại độc tài kỹ thuật số. Các hệ thống AI rộng lớn sẽ tỏ ra dễ bị phá vỡ, mặc dù khi các chế độ phụ thuộc nhiều hơn vào chúng để bảo mật, các chính phủ sẽ phải quan tâm cập nhật thường xuyên để không mất kiểm soát. Các hệ thống kiểm soát thông tin liên lạc có chọn lọc sẽ cho phép sáng tạo kinh tế nhưng chắc chắn cũng sẽ đóng cánh cửa với thế giới bên ngoài. Giành chiến thắng trong cuộc đối đầu với các chính phủ độc tài kỹ thuật số sẽ không trở thành hiện thực nếu các nền dân chủ tự do không nắm tay nhau để hợp tác trong cuộc đấu tranh này.
Nguồn: How Artificial Intelligence Will Reshape the Global Order