Quan điểm của "iskin" trong quản lý nhân loại

2024 Tác giả: Seth Attwood | [email protected]. Sửa đổi lần cuối: 2023-12-16 16:20

Điều gì xảy ra nếu bạn tin tưởng vào trí tuệ nhân tạo để điều khiển mọi người? Trong luật pháp của chúng ta, 99% luật mâu thuẫn với nhau. Về mặt logic, cần có sự sụp đổ của quyền lực và sự ngừng hoạt động của hệ thống điều khiển …

Bây giờ chúng ta hãy nghĩ về nơi mà trí tuệ nhân tạo(sau đây gọi là - iskin) sẽ đi vào cuộc sống của chúng ta khi (nếu) nó được phát minh và áp dụng. Tôi đề nghị không tranh cãi về bản chất bên trong của nó. Hãy coi nó chỉ là một thuật toán rất tiên tiến có khả năng làm việc với Dữ liệu lớn và có thể sao chép tương tự các mẫu hành vi của người thật. Nhưng, nếu bạn muốn, hãy để những gì đang được thảo luận là một người đàn ông thực sự, như chính bạn hiểu điều đó.

Câu hỏi chính ở đây là điều này. Chúng ta áp dụng Hammer of Thor này ở đâu sau khi nhận được nó? Và về nguyên tắc, chắc chắn rằng nó có thể được thực hiện. Chúng tôi có thể làm máy mài kỹ thuật số, thuật toán tự học, tích lũy ngày tháng lớn - mọi thứ đều ở đó.

Ví dụ, trong quản lý hệ thống kỹ thuật, các đơn vị vận tải đơn lẻ? - Chà, kamon … Tại sao phải tạo ra một hệ thống thông minh và phức tạp để giao nó cho những gì con ngựa có thể xử lý? Sẽ có đủ và một thuật toán nguyên thủy trên một bộ xử lý với giá 10 đô la mỗi thùng, vấn đề với quản lý vận tải chỉ là thu thập dữ liệu và các vấn đề đạo đức. Sau đó là gì? Hãy suy nghĩ về mười lăm giây.

Theo tôi, chỉ có một điều thực sự của một iskin là quản lý con người … Chính xác hơn là các quá trình mà con người là một phần. Không có ích gì khi đổi lấy ít hơn vì một số lý do. Mọi người sẵn sàng quản lý mọi người mà không cần bất kỳ khóa đào tạo đặc biệt nào. Ví dụ, chúng tôi hoàn toàn tin tưởng để mọi người quản lý con cái của chính mình. Ngoài ra, hầu hết mọi người trong nhóm đều có ít nhất một số kinh nghiệm quản lý. Ít nhất là ở mức “ném thêm một cái xẻng vào cáng, và chúng tôi sẽ khiêng nó”. Nếu mọi người Về nguyên tắc một người có khả năng quản lý con người, thì AI phải có khả năng làm được điều này, nếu không thì đó là một người thiểu năng trí tuệ.

Tuy nhiên, kết quả của việc quản lý con người còn lâu mới lý tưởng. Bất kỳ sự kiểm soát thực sự nào cũng là một loạt sai lầm và không chính xác. Hơn nữa, số lỗi hầu như không phụ thuộc vào trình độ của người quản lý, nó là một hằng số nhất định. Chỉ là quản đốc của những người bốc vác mắc những lỗi nhỏ, còn quản đốc được trao quyền để mắc sai lầm dẫn đến hậu quả nghiêm trọng. Chúng tôi hiểu điều này. “Đáng lẽ chúng ta đã làm sai” là kết quả chính của việc phản ánh thế giới xung quanh, bao gồm cả bản thân chúng ta.

Và bây giờ, trong tay chúng ta là một AI được cho là "làm như vậy". Và chúng tôi sẽ ngay lập tức áp dụng nó, bởi vì vấn đề mà nó có thể giải quyết về mặt lý thuyết mới là vấn đề quan trọng nhất. Và Jamshut với ba lớp giáo dục cũng có thể lái xe tải.

Nếu bạn đồng ý với tôi về điều này, thì chúng ta hãy tiếp tục trình bày chức năng của da nhân tạo dự định quản lý. Anh ta nên thực hiện chức năng của ai, anh ta nên thay thế ai hoặc ít nhất là củng cố bằng các quyết định của mình?

Rõ ràng đây sẽ là những quan chức (cả trong lĩnh vực hành chính công và kinh doanh). Các quan chức đưa ra quyết định. Các quan chức được chấp nhận ở tất cả các cấp độ năng lực. Các quan chức là quan trọng và cần thiết ngày nay, bởi vì các quyết định sẽ không tự đưa ra quyết định. Nhưng có một điểm.

Chúng ta hãy xem xét mọi nhà quản lý (tức là mọi quan chức) từ quan điểm về nội dung nghĩa đen của các hoạt động thực tiễn của họ. Nhưng không phải theo nghĩa của động cơ thúc đẩy của anh ta - nguyên mẫu của động cơ, như nó vốn có, không nên như vậy. Một quan chức phê duyệt các giao dịch hoặc hủy bỏ các giao dịch được chấp thuận bởi một quan chức khác.

Trong một cỗ máy lý tưởng, tất cả các giao dịch phải được phê duyệt vô điều kiện và không có giao dịch nào có thể bị hủy bỏ vì chúng đã được phê duyệt trước đó một cách hợp pháp. Một yếu tố quan trọng trong hệ thống này là các giao dịch được gửi cho viên chức từ "hộp đen" để xem xét. Anh ta không được giải thích lý do tại sao một giao dịch như vậy nên được thực hiện hoặc tại sao nó được chấp thuận bởi một quan chức khác. Hệ thống điều khiển được xây dựng như sau. Trên đây là một lệnh dưới dạng một hướng dẫn để thực hiện một số giao dịch.

Lưu ý rằng cấu trúc tư tưởng của một hệ thống như vậy hoàn toàn không bao hàm khả năng hủy (không chấp thuận) một giao dịch nhận được từ phía trên, từ "hộp đen". Nhưng trong thực tế, một khả năng như vậy luôn tồn tại. Và chính cô ấy là người cung cấp hai thứ quan trọng nhất: quyền lực của bất kỳ quan chức nào và sự ngăn chặn của quyền lực đó.

Hãy để tôi giải thích rằng bất kỳ sai lầm nào (chúng tôi đã nói ở trên rằng chúng là không thể tránh khỏi và vĩnh viễn) có thể được giải thể trong sự phản đối của quần chúng quan liêu cơ bản, khi đó hậu quả của sai lầm có thể được giảm thiểu.

Tuy nhiên, trong một hệ thống quản lý lý tưởng về mặt lý thuyết không được có sai sót, vì lý do này, vai trò của một quan chức bị giảm xuống mức phê duyệt chính thức các giao dịch, điều mà anh ta không thể không phê duyệt, vì chúng đúng. Đó là, không cần phải có nó. Vì vậy, câu hỏi rút gọn xuống tín hiệu quản lý ban đầu. Nếu nó là chính xác, thì không có ý nghĩa trong tất cả các cấp dưới.

Vì vậy, về lý thuyết, ngân sách hợp nhất của nhà nước sẽ hoạt động. Khi nó được chấp nhận, có nghĩa là tất cả bản chất fractal của nó được bộc lộ. Mỗi mao mạch phải nhận được phần máu được chỉ định, và để đáp lại - kết quả dự kiến. Đúng, ở dưới đáy có ghi “nhưng chúng tôi đã không giao bê tông đúng thời hạn, và do đó…” Nhưng xin lỗi, đây là tầng dưới cùng, và bộ máy kiểm soát bao gồm nhiều cấp không chạm đến bê tông. ở tất cả, chúng hoạt động với các giao dịch. Tôi hiểu rằng ở các cấp độ trung bình, "bê tông không được chuyển giao" có vẻ khác, giống như "phó chủ tịch xây dựng vũ trụ đã lấy trộm 100 triệu, và do đó …" Tôi đang nói về một kế hoạch lý tưởng ở đây.

Hãy quay lại với làn da lý tưởng của chúng ta. Rốt cuộc, trong nhiệm vụ này, anh ta phải giải quyết các vấn đề tương tự - chấp thuận hoặc cấm giao dịch. Và anh ấy có thể làm được điều đó! Chỉ bây giờ một mình anh ta sẽ có thể thay thế tất cả các cấp quản lý cùng một lúc. Rốt cuộc, nếu thay thế bộ trưởng, ông ấy chấp thuận một giao dịch lớn cấp bộ, thì quyết định của ông ấy nên được công nhận là đúng. Và nó bao gồm việc phân tích toàn bộ phân bổ tiếp theo của một giao dịch lớn cho đến khoản thanh toán của IP Pupkin để sửa chữa mái hiên của bệnh viện tâm thần ở Kineshma.

Vì vậy, toàn bộ chuỗi các quan chức có nghĩa vụ phê duyệt các giao dịch của các cấp thấp hơn theo sau từ cấp đầu tiên có thể được thay thế một cách an toàn bằng cùng một thuật toán AI. Vấn đề đã được giải quyết, ở ngay dưới cùng. AI của chúng tôi thậm chí không cần phải được sử dụng để thay thế toàn bộ chuỗi, AI chỉ đơn giản là hủy bỏ nhu cầu về nó. Quyết định của anh ấy là đúng vì nó đúng. Và nó ngay lập tức bao gồm các giải pháp cho toàn bộ fractal.

Nhận xét. Bất kỳ quan chức cấp dưới nào trong thế giới thực của chúng ta đều có thể thông minh hơn cấp trên. Sau đó anh ta sẽ phá hoại các quyết định của ông chủ, và sau đó anh ta sẽ giúp anh ta. Điều này luôn luôn là trường hợp. Tất cả các quan chức hiện có đều thay thế vị trí của cấp trên cũ của họ, ngoại trừ cấp khởi đầu. Nhưng trong trường hợp này, sự cạnh tranh là điều không cần bàn cãi. Một iskin tự mình quyết định mọi thứ trong toàn bộ chuỗi, anh ta không thể mâu thuẫn với chính mình.

Hơn thế nữa. Trong hệ thống quản trị của chúng tôi, có các tòa án mà chúng tôi đã trao quyền để hủy bỏ bất kỳ giao dịch nào của chúng tôi và thực hiện các giao dịch của riêng họ, bất kể ý kiến của chúng tôi về chúng như thế nào. (Đưa kẻ giết người vào tù cũng là một giao dịch có quy tắc. Thẩm phán ở đây là một quan chức phê duyệt hoặc hủy bỏ một giao dịch đến với anh ta theo quy định từ hộp đen.) Nếu kẻ ngốc của chúng ta tốt, thì anh ta tốt hơn các quan chức, bởi vì chúng tôi đã giao cho anh ta việc phê duyệt hoặc hủy bỏ các giao dịch cho họ (cho chúng tôi). Vì vậy, sau đó anh ta tốt hơn so với các thẩm phán. Nếu không, nó chỉ ra rằng các quyết định của iskin có thể bị mọi người thách thức và hủy bỏ. Và nếu mọi người chấp nhận điều này, thì họ sẽ thừa nhận rằng AI kém hơn con người. Thế thì dựa trên cơ sở nào mà anh ta thay thế quan chức?

Sự kết luận. Iskin cũng sẽ không bị phán xét. Lần nữa. Nếu con người của bạn đã viết ra thuật toán tốt nhất của mình, nhận ra nó tốt đến mức bạn đã tự trao quyền cho nó, thì bạn không thể viết ra một thuật toán tốt hơn nữa để nó đánh giá các quyết định của người đầu tiên. Bạn sẽ đặt thuật toán tốt nhất của mình với tư cách là người quản lý và giám khảo. Chính xác hơn, các thẩm phán sẽ đơn giản biến mất. Bạn sẽ phải trao toàn quyền cho AI này.

Nhân tiện, hộp đen ban đầu, từ nơi dữ liệu ban đầu để kiểm soát đến ISK, cũng có thể được số hóa. Và thậm chí phải được số hóa. Ngân sách tổng hợp phải phù hợp nhất. Và anh ấy cũng vậy.

Một lúc khác. Hoặc có thể đặt một người lên trên người sẽ kiểm soát các quyết định của anh ta để những sai lầm có thể xảy ra do sự vô nhân đạo của anh ta, chẳng hạn, không xảy ra? - Khi đó tất cả các quan chức sẽ giữ được chức vụ và quyền lực của mình. Họ cũng sẽ có quyền hủy bỏ các giao dịch đã được ISK phê duyệt hoặc phê duyệt các giao dịch đã bị hủy. Than ôi, nó không giống thật. Iskin sẽ cung cấp một bản in lý do đằng sau quyết định của mình. Và một người sẽ không thể bác bỏ logic chính thức với cảm xúc hoặc sở thích của mình. Ngay cả trong trường hợp này, nếu một quan chức sống gắn bó với từng biểu hiện của một hành động (thực tế là một hành vi), họ sẽ không thể chống lại anh ta.

Xin lỗi vì sự nhầm lẫn, có rất nhiều suy nghĩ, và độ dài của văn bản đang tăng lên không thể sửa chữa được.

Khi ISK được bật, sự sụp đổ hoàn toàn sẽ xảy ra. Không, tôi hiểu rằng lúc đầu họ lái anh ta ở chế độ thử nghiệm. Nhưng đây sẽ là một sự xúc phạm, bởi vì sau đó sẽ cần phải mô phỏng toàn xã hội, với tất cả các kết nối của nó nói chung, không phải là một mô hình đơn giản hóa, nhưng các máy đập kỹ thuật số không thể làm được điều này.

Sau đó, nó sẽ được khởi chạy ở một chế độ hạn chế, trong Lãnh thổ Perm có điều kiện. Lỗi, gỡ lỗi, phát hành mới và sản xuất?

Nhưng sớm hay muộn, dải băng đỏ sẽ bị cắt và mọi người sẽ có thể điều khiển xe hết công suất (bằng một tay bật công tắc).

Và bạn có biết điều gì sẽ xảy ra không? Iskin sẽ chấm dứt tất cả các giao dịch hoàn toàn. Logic "nếu-thì" sẽ va chạm với hàng triệu quy chuẩn quy định trong pháp luật hiện hành, mâu thuẫn với nhau hàng chục nghìn lần. Finita. Các chuyến tàu của chúng ta sẽ dừng lại, việc thanh toán cho một lon cá thu đao trong siêu thị sẽ không có kết quả. Mọi người sẽ ngay lập tức bị buộc tội với một loạt tội danh và tội ác có thể bị đưa ra chính quyền, nhưng tất cả những người trong chính quyền sẽ phải chịu sự sa thải và xét xử ngay lập tức. Các phán quyết của tòa án sẽ đưa ra yêu cầu bồi thường ngay lập tức. Ngày trọng đại, mọi thứ đều được viết về bạn. Được rồi, đây là những điều nhỏ nhặt. Nhưng họ cũng sẽ không thể chuyển lương cho bạn, vì văn phòng còn nợ thuế, và tiền xe ngựa sẽ phạt bạn.

Phóng đại? Không. Lần khởi động đầu tiên (bằng tay bật công tắc) sẽ được điều khiển, thử nghiệm hai, thử nghiệm hai mươi hai … Và một ngày nào đó, nó sẽ được bật hoàn toàn, như thể nó đã vượt qua chu kỳ thử nghiệm đầy đủ. Và sau đó … Và chúng tôi sẽ cách chức các quan chức, tình nguyện viên sẽ cứu vãn tình hình.

Có tránh được hậu quả đáng buồn như vậy không? - Tất nhiên, bạn có thể thử. Để làm được điều này, một số điều phải được thực hiện. Phá hủy 99% quy định, tái chế 1% còn lại mà không cần đổ em bé ra ngoài bằng nước. (Những việc như vậy thường được thực hiện sau một cuộc cách mạng chính thức với một cuộc nội chiến toàn diện. Làm thế nào để làm điều đó trong thời bình - tôi không có ý kiến.) Ngoài ra, đạo đức nên được xốc lại. Trong điều kiện ăn cắp một gói giấy từ văn phòng (hoặc lừa dối vợ), nó hoàn toàn có thể chấp nhận được (đã được phản ánh trong luật), hoặc nó hoàn toàn có thời hạn. Đạo lý này phải được làm lại trong tâm trí của xã hội. Nếu không, nó sẽ bắt đầu cắt cáp quang, thứ rẻ, đơn giản và hiệu quả để chống lại AI. Một lựa chọn khác là ném nó cho một đối tác có khả năng, để anh ta tự cắt tay của mình. Và, tất nhiên, các tầng lớp trên không nên trở nên bất tiện. Nếu họ không thể, thì họ sẽ sử dụng nó như một cơ hội cuối cùng.

Tôi không cố thuyết phục bạn làm hỏng máy tính. Chúng tôi sẽ không đi bất cứ đâu từ iskin. Anh ta sẽ vượt qua chúng tôi, chúng tôi sẽ phải giao chiến với anh ta. Chúng ta hãy cố gắng hiểu những gì (với ai) chúng ta phải tham gia vào cuộc chiến với số phận của mình.