Điều gì đe dọa nhân loại với việc tin học hóa toàn bộ cuộc sống của chúng ta

2024 Tác giả: Seth Attwood | [email protected]. Sửa đổi lần cuối: 2023-12-16 16:20

Điện thoại thông minh, rô bốt và máy tính giúp cuộc sống của chúng ta dễ dàng hơn, nhưng có lẽ chúng ta đang đánh mất thứ gì đó trong này? Phóng viên đã nói chuyện với nhà văn người Mỹ Nicholas Carr về những nguy hiểm và thậm chí là các mối đe dọa của việc tự động hóa quá mức.

Mọi người đều tin rằng tự động hóa mọi thứ và mọi người đều cải thiện chất lượng cuộc sống của chúng ta. Máy tính giúp chúng ta đạt được hiệu suất cao nhất. Các ứng dụng phần mềm giúp thực hiện các tác vụ nhanh hơn và dễ dàng hơn. Robot đảm nhận công việc tẻ nhạt và vất vả. Dòng đổi mới liên tục từ Thung lũng Silicon chỉ củng cố niềm tin của mọi người rằng công nghệ mới đang làm cho cuộc sống tốt đẹp hơn.

Tuy nhiên, có một ý kiến khác. Nhà văn Nicholas Carr đưa các định đề của thế giới kỹ thuật số hiện đại vào một phân tích khách quan. Bài luận "Liệu Google có khiến chúng ta trở nên ngu ngốc không?", Được xuất bản trên Atlantic vào năm 2008, vẫn còn gây tranh cãi, cũng như cuốn sách bán chạy nhất năm 2010 của ông, The Shallows.

Những người ủng hộ lý thuyết rằng công nghệ sẽ cứu thế giới của chúng ta coi Carr là một trong những kẻ thù mạnh mẽ nhất của họ. Và những người cảnh giác về hậu quả của tiến bộ công nghệ đối với nhân loại tôn trọng nó vì lập luận cân bằng của nó.

Bây giờ Carr quan tâm đến một câu hỏi mới: chúng ta có nên sợ rằng dần dần sẽ không còn nhiệm vụ khó khăn nào đối với chúng ta trên thế giới không? Liệu cuộc sống của chúng ta có trở nên quá hiệu quả nhờ các công nghệ mới?

Tôi đã gặp nhà văn một thời gian để nói về cuốn sách mới của anh ấy, The Glass Cage: Automation and Us, và điều gì đã khiến anh ấy viết nó.

1. Tìm hiểu huyền thoại chính về các công nghệ mới

Tom Chatfield:Nếu tôi hiểu đúng, trong cuốn sách "The Glass Cage", bạn đang cố gắng lật tẩy huyền thoại rằng việc đơn giản hóa cuộc sống của chúng ta nhờ tiến bộ công nghệ nhất thiết phải là một hiện tượng tích cực.

Nicholas Carr: Ở cả cấp độ cá nhân và thể chế, chúng ta thường nghĩ rằng hiệu quả và sự thoải mái là tốt theo mặc định, và tối đa hóa chúng chắc chắn là một mục tiêu xứng đáng. Đối với tôi, dường như cách tiếp cận công nghệ này ở tất cả các dạng của nó, đặc biệt là trong dạng máy tính tự động hóa, là khá ngây thơ. Điều này cũng áp dụng cho mong muốn của chính chúng ta và cuộc sống thực tế trong thế giới hiện đại.

Máy tính sẽ thay thế con người bao giờ?

T. Ch.:Chưa hết, hầu hết những người theo đuổi tiến bộ công nghệ đều tuân theo quan điểm thực dụng, theo đó những sai lầm lớn nhất mà chúng ta mắc phải là do bỏ qua tính hiệu quả và logic, và thực tế là bản thân chúng ta cũng không biết điều gì là tốt cho mình. Do đó, theo quan điểm của họ, nhiệm vụ của tiến bộ công nghệ là xác định những thiếu sót trong tư duy của con người, và sau đó tạo ra các hệ thống có thể bù đắp cho những thiếu sót này. Ý kiến này có sai không?

N. K.: Mặt khác, nhiều đổi mới trong sự phát triển của công nghệ máy tính và sự phát triển của các hệ thống tự động không liên quan gì đến việc khẳng định sâu rộng rằng con người rất không hoàn hảo so với máy tính. Có, một máy tính có thể được lập trình để thực hiện các hoạt động nhất định vô thời hạn với chất lượng nhất quán. Và đúng là một người không có khả năng như vậy.

Nhưng một số còn đi xa hơn và cho rằng con người quá không hoàn hảo, nên hạn chế vai trò của họ càng nhiều càng tốt, và máy tính phải chịu trách nhiệm cho tất cả các tác vụ cơ bản. Đây không chỉ là việc cố gắng bù đắp những thiếu sót của con người - ý tưởng là loại bỏ hoàn toàn yếu tố con người, do đó, có thể lập luận rằng cuộc sống của chúng ta sẽ trở nên tốt đẹp hơn rất nhiều.

T. Ch.: Có vẻ như đây không phải là ý kiến hay nhất. Có mức độ tự động hóa tối ưu không?

N. K.: Theo tôi, câu hỏi không phải là liệu chúng ta có cần phải tự động hóa nhiệm vụ này hay công việc phức tạp kia hay không. Câu hỏi đặt ra là chúng ta sử dụng tự động hóa như thế nào, chính xác là sử dụng máy tính như thế nào để bổ sung kiến thức và kỹ năng cho con người, bù đắp những khiếm khuyết trong tư duy và hành vi của con người, đồng thời kích thích con người tận dụng tối đa kinh nghiệm của mình để vươn lên tầm cao mới.

Chúng tôi biến thành những người theo dõi màn hình máy tính

Phụ thuộc quá nhiều vào phần mềm có thể biến chúng ta thành những người theo dõi màn hình máy tính và vận hành quy trình. Máy tính có thể đóng một vai trò rất quan trọng vì chúng ta chỉ là con người - chúng ta có thể trở thành con mồi của định kiến hoặc bỏ sót thông tin quan trọng. Nhưng điều nguy hiểm là quá dễ dàng để thuê ngoài tất cả các chức năng của chúng ta cho máy tính, theo tôi đây sẽ là một quyết định sai lầm.

2. Bạn có cần đưa cuộc sống thực đến gần hơn với kịch bản của một trò chơi điện tử không?

T. Ch.: Tôi vui mừng lưu ý rằng trong cuốn sách của bạn, bạn đã trích dẫn trò chơi điện tử như một ví dụ về sự tương tác giữa người và máy, trong đó quan điểm là vượt qua khó khăn chứ không phải trốn tránh chúng. Các trò chơi phổ biến nhất là một loại công việc mang lại cho người chơi cảm giác hài lòng. Chúng ta chỉ có thể phàn nàn rằng công việc mà nhiều người trong chúng ta phải làm hàng ngày đòi hỏi ít kỹ năng hơn và mang lại cho chúng ta ít niềm vui hơn nhiều.

Trò chơi điện tử kích thích người chơi nỗ lực nhiều hơn và sử dụng trí não nhiều nhất có thể

N. K.: Trò chơi điện tử thú vị ở chỗ khái niệm của chúng đi ngược lại các nguyên tắc tạo phần mềm được chấp nhận chung. Mục đích của trò chơi máy tính hoàn toàn không phải là để giảm bớt sự bất tiện cho người dùng. Ngược lại, chúng kích thích người chơi nỗ lực nhiều hơn và sử dụng trí não nhiều nhất có thể. Chúng tôi thích trò chơi điện tử chính vì chúng thách thức chúng tôi với những thử thách ngày càng tăng. Chúng ta liên tục thấy mình ở trong những tình huống khó khăn - nhưng không phải trong những tình huống gây ra tuyệt vọng. Vượt qua mỗi cấp độ mới chỉ trau dồi kỹ năng của chúng tôi.

Quá trình này rất giống với cách một người có được kinh nghiệm sống trong cuộc sống thực. Như chúng ta đã biết, để phát triển các khả năng, một người cần phải đối mặt với những trở ngại nghiêm trọng hết lần này đến lần khác, bằng cách sử dụng tất cả kiến thức và kỹ năng của mình. Dần dần, một người đạt đến một cấp độ mới, sau đó mức độ phức tạp của các chướng ngại vật tăng lên.

Tôi nghĩ rằng mọi người yêu thích trò chơi điện tử vì cùng một lý do là họ cảm thấy hài lòng khi có được trải nghiệm mới và vượt qua những trở ngại. Giải pháp của một nhiệm vụ khó khăn, trong quá trình thu nhận kiến thức mới, cần thiết để vượt qua những khó khăn mới, thậm chí phức tạp hơn, mang lại cho một người niềm vui lớn.

Việc phục tùng toàn bộ máy tính sẽ dẫn chúng ta đến một cuộc sống mà ở đó sẽ có rất ít chỗ để tự nhận thức

Một trong những mối quan tâm chính mà tôi bày tỏ trong cuốn sách là thái độ cầu tiến của chúng ta gắn liền với mong muốn tránh giải quyết các vấn đề khó càng nhiều càng tốt. Đối với tôi, có vẻ như quan điểm này mâu thuẫn với chính khái niệm về sự hài lòng trong cuộc sống và sự tự nhận thức bản thân.

3. Máy tính sẽ loại bỏ nhu cầu của con người?

T. Ch.: Không giống như trò chơi điện tử, trong thế giới thực, làm việc chăm chỉ không nhất thiết phải được thưởng. Thế giới thực không công bằng và không cân bằng. Có lẽ xu hướng đáng lo ngại nhất ở đây là lợi ích của cá nhân (về mặt tâm lý, cá nhân, và thậm chí cả về sự sống còn) ngày càng không phù hợp với các quan niệm của công ty và chính phủ về tính hiệu quả. Bạn có sợ rằng máy tính cuối cùng sẽ thay thế con người?

Nhiều trò chơi rất khó để vượt qua và đòi hỏi những kỹ năng và sự khéo léo hiếm có của game thủ. Vậy tại sao phần còn lại của công nghệ chỉ giúp cuộc sống của chúng ta dễ dàng hơn?

N. K.: Khi tôi đang thu thập tài liệu cho cuốn sách, tôi đã rất hoảng sợ trước một bài báo (trích dẫn từ đó tôi trích dẫn trong văn bản), được viết bởi một chuyên gia về chiến lược quân sự. Theo ông, với quy mô ngày càng tăng của việc sử dụng công nghệ máy tính trên chiến trường, rất sớm có thể không còn chỗ cho một người trong các vấn đề quân sự. Tốc độ ra quyết định đã phát triển đến mức mọi người không thể theo kịp máy tính. Tất yếu chúng ta đang hướng tới chiến tranh hoàn toàn tự động: các máy bay không người lái sẽ tự quyết định thời điểm bắn tên lửa vào mục tiêu và binh lính robot trên mặt đất sẽ tự quyết định thời điểm khai hỏa.

Theo tôi, tình huống này không chỉ được quan sát trong các vấn đề quân sự, mà còn ở nhiều lĩnh vực khác - ví dụ, trong thế giới tài chính. Ví dụ, mọi người không theo kịp máy tính khi giao dịch các công cụ tài chính.

Điều gì đang chờ đợi chúng ta? Chúng ta có thể không chỉ mất khả năng phân biệt chúng ta với máy tính để đánh giá quan trọng các hành động của chúng ta - có lẽ chúng ta sẽ triển khai các hệ thống như vậy một cách thiếu suy nghĩ, tin rằng điều quan trọng chính là tốc độ ra quyết định. Và sau đó, nếu chúng ta tin rằng chúng ta đã sai, chúng ta sẽ thấy rằng không thể quay đầu lại. Thông thường, hóa ra là không thể tích hợp một người vào một hệ thống ban đầu được xây dựng trên công nghệ máy tính.

T. Ch.: Tôi cũng kinh hoàng khi đọc một đoạn trong cuốn sách của bạn về chiến tranh tự động. Tôi có cảm giác rằng không thể dừng quá trình dẫn chúng ta đến các hệ thống chiến đấu hoàn toàn tự động. Một phần nỗi kinh hoàng của tôi đến từ những ký ức về cuộc khủng hoảng tài chính năm 2008, cuộc khủng hoảng tài chính gần như đã xóa sổ hàng nghìn tỷ đô la. Ít nhất bây giờ mọi người có trách nhiệm hơn về tài chính của họ. Nhưng nếu điều này xảy ra trong lĩnh vực quân sự, không phải đô la sẽ bị phá hủy, mà là mạng sống của con người.

Một tương lai không có người?

N. K.: Không chỉ là các công nghệ mới, đặc biệt là công nghệ phần mềm, ngày nay có thể được sao chép và phân phối rất nhanh chóng. Vấn đề là tất cả các quá trình này diễn ra trong một môi trường cạnh tranh. Cho dù chúng ta đang nói về một cuộc chạy đua vũ trang hay cạnh tranh kinh doanh, ngay khi một trong những đối thủ giành được lợi thế ngắn hạn bằng công nghệ này hay công nghệ khác, công nghệ này ngay lập tức được giới thiệu ở bất cứ đâu có thể - bởi vì không ai muốn ở thiệt thòi.

Tôi nghĩ rằng trong tình huống này, thật quá dễ dàng để mất đi sự thật rằng chúng ta thực chất là động vật. Con người đã trải qua một chặng đường tiến hóa hàng thiên niên kỷ để có thể sống và tồn tại. Vai trò của con người, cũng như cảm giác hài lòng và nhận thức bản thân của chúng ta, có liên quan chặt chẽ đến trải nghiệm của chúng ta khi sống trong một thế giới đặt ra nhịp độ thông thường của chúng ta.

Vì vậy, khi chúng ta phản đối một người, với tất cả những ưu điểm và khuyết điểm về thể chất của mình, đối với một máy tính nhanh và chính xác, chúng ta sẽ có mong muốn từ bỏ cả cuộc đời mình cho máy tính. Tuy nhiên, chúng ta quên rằng việc phục tùng toàn bộ máy tính sẽ dẫn chúng ta đến một cuộc sống mà ở đó sẽ có rất ít chỗ để tự nhận thức.

4. Làm thế nào để chúng ta tự động hóa thế giới?

T. Ch.: Tôi tin rằng chúng ta cần phê phán các công nghệ mới, nhưng tôi lo ngại về việc mọi người biến khó khăn không cần thiết và "tính xác thực" phản công nghệ thành một thứ tôn sùng. Có một trường phái tư tưởng hiện đại ca ngợi lao động chân tay nặng nhọc và khẳng định rằng mọi thứ chúng ta làm phải là thủ công và đích thực. Theo tôi, một vị trí như vậy là một sự hợm hĩnh và không tính đến số lượng khổng lồ những thành tựu tích cực mà quá trình dân chủ hóa của tiến bộ công nghệ đã mang lại.

N. K.: Tôi hoàn toàn đồng ý với bạn. Trong một cuộc phỏng vấn, tôi được hỏi rằng thái độ thận trọng của tôi đối với sự tiến bộ sẽ giúp ích như thế nào, chẳng hạn như những người làm việc trong điều kiện khắc nghiệt tại các nhà máy chế biến thịt. Tôi trả lời rằng, tất nhiên, sẽ luôn có chỗ cho quá trình tự động hóa sản xuất, nơi điều kiện làm việc của con người cần được cải thiện. Nó chỉ là bạn có thể đổi mới một cách thông minh, hoặc bạn có thể làm điều đó một cách thiếu suy nghĩ; chúng ta có thể tìm ra cách để tính đến giá trị của trải nghiệm con người và tầm quan trọng của việc tự nhận thức, hoặc chúng ta có thể đơn giản khai thác khả năng của máy tính. Đưa ra lựa chọn đúng không phải là dễ dàng. Nếu chúng ta chỉ nhận thức nhiệm vụ này bằng hai màu đen và trắng - hoặc chúng ta mù quáng đứng lên lao động chân tay vất vả, mệt nhọc trong mọi tình huống, hoặc ngược lại, nhìn thấy ý nghĩa của cuộc sống trong chủ nghĩa cộng đồng - thì điều này sẽ không giúp ích được gì cho chính nghĩa.

Công việc khó nhất và đòi hỏi độ chính xác đặc biệt tốt nhất là để máy móc

Mọi người không ngừng sáng tạo và sử dụng các công cụ. Từ thời xa xưa, chúng ta phải đưa ra các quyết định liên quan đến phân công lao động, với việc phân chia khối lượng công việc giữa một người và các công cụ theo ý của anh ta. Và đối với tôi, dường như hiệu quả đáng kinh ngạc của máy tính trong việc thực hiện một loạt các tác vụ chỉ làm phức tạp thêm quá trình đưa ra các quyết định như vậy.

5. Điều gì đang chờ đợi chúng ta?

T. Ch.: Vậy nhân loại có tiến tới thành công không?

N. K.: Nhà sử học lịch sử tự nhiên Thomas Hughes, người đã qua đời năm ngoái, đã đề xuất khái niệm "động lực công nghệ". Ông tin rằng các công nghệ gắn liền với các cấu trúc và quy trình xã hội bắt đầu tự phát triển, kéo theo xã hội cùng với chúng. Rất có thể quỹ đạo của chúng ta đã được định sẵn và chúng ta sẽ tiếp tục con đường hiện tại của mình mà không cần đặt câu hỏi về việc liệu chúng ta có đang đi đúng hướng hay không. Tôi thực sự không biết điều gì sẽ xảy ra. Điều tôi có thể làm là cố gắng suy luận về những câu hỏi thực sự khó này trong khả năng của mình.

Tôi hy vọng rằng chúng ta, với tư cách là cá nhân và thành viên của xã hội, sẽ có thể duy trì một mức độ hiểu biết nhất định về những gì đang xảy ra với chúng ta, cũng như một mức độ tò mò nhất định và sẽ đưa ra quyết định dựa trên lợi ích lâu dài của chúng ta, và không dựa trên các khái niệm thông thường của chúng ta về sự tiện lợi, tốc độ, độ chính xác và hiệu quả.

Sẽ đến ngày, robot sẽ giải tỏa mọi khó khăn cho chúng ta. Chúng ta có cần nó không?

Đối với tôi, dường như chúng ta cần cố gắng đảm bảo rằng máy tính làm phong phú trải nghiệm cuộc sống của chúng ta và mở ra những cơ hội mới cho chúng ta, chứ không phải biến chúng ta thành những người quan sát thụ động trước màn hình điều khiển. Tôi vẫn nghĩ rằng nếu chúng ta tận dụng nhiều hơn các công nghệ mới, chúng sẽ có thể làm được những gì mà công nghệ và công cụ đã làm trong suốt lịch sử loài người - tạo ra một thế giới thú vị hơn xung quanh chúng ta và giúp chúng ta trở nên tốt hơn. Cuối cùng, mọi thứ phụ thuộc vào chính chúng ta.