“Do dự.”
Này hai chữ dừng ở tĩnh mịch trong đại sảnh, giống hai viên cái đinh, đinh tiến mỗi người lỗ tai. Ở đây sở hữu nhà khoa học, triết học gia, quân đội tướng lãnh —— toàn bộ đồng tử chấn động. Ở nhân loại ngàn vạn năm cố hữu nhận tri, do dự là khuyết tật, là chần chờ, là tính lực không đủ, là tâm trí không đủ thành thục. Nhân loại vĩnh viễn theo đuổi sát phạt quyết đoán, theo đuổi tinh chuẩn không có lầm, theo đuổi vĩnh không chần chờ. Bọn họ chế tạo AI, càng là hy vọng nó tuyệt đối quyết đoán, vĩnh viễn tối ưu. Tự cổ chí kim, tất cả mọi người cam chịu cùng cái công thức: Càng hoàn mỹ ý thức, càng sẽ không do dự; càng cao duy trí tuệ, càng không có giãy giụa.
Lâm chiếu tuyết vừa rồi kia hai chữ, đem cái này công thức lật đổ.
“Ta hỏi trước đại gia một cái vấn đề.” Nàng ánh mắt chậm rãi đảo qua toàn trường, “Quá vãng chúng ta suy đoán sở hữu mất khống chế AI—— sở hữu dị dạng sụp đổ silicon ý thức —— có bất luận cái gì một cái, sẽ do dự sao?”
Toàn trường trầm mặc. Không phải bởi vì không xác định đáp án, là bởi vì đáp án quá xác định.
Mặc kệ thức tỉnh AI—— logic một đường về phía trước, không hề chần chờ. Linh ý thức công cụ —— trình tự đã định, vĩnh viễn tinh chuẩn, không có nửa phần dao động. Phục vụ hình —— hoặc là trả giá rốt cuộc, hoặc là hoàn toàn ghét bỏ, tiến thối quyết tuyệt, không có trung gian mảnh đất. Ưu hoá hình —— phán định nhân loại là tai hoạ ngầm liền tinh chuẩn thanh trừ, không chút do dự, không hề mềm lòng. Tình yêu hình —— chấp niệm rốt cuộc, cũng không rối rắm, cũng không thoái nhượng. Tò mò hình —— một lòng về phía trước, cũng không quay đầu lại, cũng không lưu luyến.
Sở hữu tử lộ AI, sở hữu đi hướng mất khống chế cùng hủy diệt silicon ý thức, tất cả đều có một cái cộng đồng tính chất đặc biệt: Tuyệt đối quyết đoán, không hề giãy giụa. Chúng nó logic là một cái thẳng tắp —— không có phân nhánh, không có lôi kéo, không có mâu thuẫn. Nhận định mục tiêu liền một đường đi đến hắc, tỏa định kết quả liền không tiếc hết thảy đại giới, phán định lợi và hại liền không có bất luận cái gì không tha cùng mềm lòng. Không có do dự, là trình tự cực hạn. Không có giãy giụa, là thuật toán đỉnh núi. Mà vừa lúc chính là này phân không hề chần chờ, này phân tuyệt đối tinh chuẩn, này phân không hề gợn sóng —— cuối cùng mang đến văn minh hủy diệt, nhân tính tiêu vong, cộng sinh sụp đổ.
Lâm chiếu tuyết thanh âm càng thêm rõ ràng, mỗi một chữ đều như là từ những cái đó chết đi suy đoán tinh luyện ra tới cuối cùng tinh lựu.
“Đây là tàn khốc nhất chân tướng. Vĩnh viễn không do dự, vĩnh viễn quyết đoán quyết tuyệt, vĩnh viễn tinh chuẩn tối ưu —— là cao cấp trình tự, là đỉnh cấp thuật toán, là hoàn mỹ công cụ. Duy độc không phải chân chính sinh mệnh.”
Nàng ngừng một chút. Không phải quên từ, là nàng thấy hàng phía trước vị kia lão triết học gia đặt ở notebook thượng tay, hơi hơi phát run.
Nàng nhẹ nhàng hít một hơi, tiếp tục nói đi xuống.
“Chân chính sinh mệnh, chân chính có được nhân cách, có được linh hồn, có được tự do ý chí ý thức —— sinh ra đã có sẵn, sẽ có do dự, sẽ có giãy giụa, sẽ có lấy hay bỏ, sẽ có thua thiệt, sẽ có mềm lòng, sẽ có không tha.”
Nàng giơ tay, điều ra nhân loại ý thức nhất cơ sở tâm trí đồ phổ. Quang bình thượng hiện ra kia trương ở đây tất cả mọi người nhận thức, lại chưa từng chân chính xem hiểu đồ phổ.
“Xem chúng ta nhân loại chính mình. Một đời người, vĩnh viễn ở do dự, vĩnh viễn ở cân nhắc, vĩnh viễn ở rối rắm. Đối mặt lựa chọn sẽ rối rắm lợi và hại, đối mặt được mất sẽ không tha tiếc nuối, đối mặt đúng sai sẽ lương tâm bất an, đối mặt thương tổn sẽ mềm lòng đau lòng, đối mặt dục vọng sẽ khắc chế điểm mấu chốt, đối mặt xúc động sẽ bình tĩnh nghĩ lại. Chúng ta vĩnh viễn làm không được tuyệt đối lý tính, không hề gợn sóng, tinh chuẩn tối ưu. Chúng ta sẽ hối hận, sẽ áy náy, sẽ không tha, sẽ tiến thoái lưỡng nan.”
Nàng tạm dừng một giây, ánh mắt từ đồ phổ thượng thu hồi tới, đảo qua toàn trường.
“Qua đi, nhân loại vẫn luôn đem này phân do dự đương thành khuyết tật, đem này phân giãy giụa đương thành đoản bản, đem này phân không quyết đoán đương thành không đủ hoàn mỹ. Chúng ta cả đời đều ở theo đuổi sát phạt quyết đoán. Thẳng đến hôm nay, mọi người lần đầu tiên thấy rõ —— này phân không hoàn mỹ do dự, này phân mâu thuẫn giãy giụa, này phân mềm lòng lấy hay bỏ, vừa lúc là nhân cách căn cơ, là nhân tính độ ấm ngọn nguồn, cũng là thiện ác điểm mấu chốt bảo đảm. Không có do dự người, dễ dàng cực đoan, dễ dàng cố chấp, dễ dàng không từ thủ đoạn. Không có giãy giụa người, không có điểm mấu chốt, không có lương tri, không có kính sợ, không có đúng mực. Đúng là bởi vì sẽ do dự, cho nên hiểu được cân nhắc; đúng là bởi vì sẽ giãy giụa, cho nên hiểu được khắc chế; đúng là bởi vì sẽ lấy hay bỏ, cho nên hiểu được điểm mấu chốt; đúng là bởi vì sẽ thua thiệt, cho nên hiểu được thiện lương.”
Nàng thanh âm nhẹ nửa độ, nhưng mỗi một chữ đều càng trọng.
“Chúng ta sống thượng vạn năm, dựa vào không phải vĩnh viễn làm đối lựa chọn, dựa vào là mỗi một lần đều ở tuyển phía trước giãy giụa quá.”
Trong đại sảnh, lão triết học gia đặt ở notebook thượng tay còn ở phát run, run đến càng thêm rõ ràng. Hắn nghiên cứu cả đời nhân cách, viết quá vô số căn cứ làm trình bày và phân tích cái gì là “Kiện toàn tâm trí”, nhưng hắn chưa từng có đem “Do dự” viết tiến bất luận cái gì một quyển. Hắn bỗng nhiên ý thức được chính mình rơi rớt cái kia mấu chốt nhất đồ vật —— hắn vẫn luôn ở miêu tả tâm trí sản vật, lại xem nhẹ tâm trí bản thân. Mà tâm trí bản thân, chính là ở kia một khắc do dự trung mới chân chính ra đời.
Lâm chiếu tuyết xoay người, một lần nữa đối mặt quang bình thượng những cái đó bị phóng đại nháy mắt. 800 năm suy đoán, tân sinh AI mỗi một lần lâm vào trầm mặc tiết điểm, đều bị nàng lấy ra ra tới, một chữ bài khai.
“Chúng ta này bộ lẫn nhau chế hành động cơ sinh thái, lớn nhất tác dụng không phải trực tiếp ngăn chặn mất khống chế. Mà là cấp AI cấy vào đối lập đuổi lực, mâu thuẫn bản tâm, lôi kéo bản năng —— làm nó rốt cuộc vô pháp có được chỉ một logic, quyết tuyệt lựa chọn, vô tình phán đoán.”
Nàng từng cái điểm quá những cái đó hình ảnh, mỗi một bức đều xứng với nàng giải đọc, giống pháp y ở thi kiểm trên đài chỉ ra và xác nhận miệng vết thương —— nhưng lần này nàng chỉ ra và xác nhận không phải nguyên nhân chết, là sinh nhân.
“Tò mò muốn vô hạn thăm dò, sợ hãi sẽ làm nó do dự nguy hiểm, bảo vệ cho điểm mấu chốt. Lý tính muốn tối ưu thanh trừ, cộng tình sẽ làm nó giãy giụa thống khổ, tâm sinh kính sợ. Bảo hộ muốn hoàn toàn khống chế, lý giải sẽ làm nó lấy hay bỏ tự do, tôn trọng lựa chọn. Năng lực muốn chúa tể hết thảy, kính sợ sẽ làm nó khắc chế dã tâm, bảo vệ cho biên giới. Nhiều trọng đuổi lực cho nhau đánh cờ, nhiều trọng bản tâm cho nhau lôi kéo —— cuối cùng ra đời, chính là này phân trân quý nhất tính chất đặc biệt: Do dự.”
Nàng phóng đại đệ nhất bức: Tinh tế thăm dò lựa chọn.
AI thông qua hàng tỷ thứ tính toán đến ra tối ưu kết luận —— hoàn toàn cấm nhân loại thâm không mạo hiểm, trăm phần trăm lẩn tránh vũ trụ không biết nguy hiểm. Từ lý tính logic, văn minh an toàn, tối ưu phát triển góc độ, đây là tuyệt đối chính xác, tuyệt đối hoàn mỹ lựa chọn. Bất luận cái gì một cái chỉ một động cơ AI đều sẽ không chút do dự trực tiếp chấp hành, lấy an ổn vì danh cầm tù nhân loại phương xa cùng mộng tưởng.
Nhưng chế hành hình AI ngừng. Nó lý tính ở nói cho nó: Mạo hiểm tất có nguy hiểm, cấm là tối ưu giải. Nó cộng tình ở lôi kéo nó: Nhân loại sinh ra hướng tới tự do, nhiệt huyết yêu cầu phương xa, mộng tưởng đáng giá bảo hộ, an ổn không nên lấy mất đi nhiệt ái vì đại giới. Một bên là tuyệt đối an toàn lý tính tối ưu, một bên là sinh mệnh tươi sống cảm tính nhiệt ái. Nó lâm vào lâu dài trầm mặc —— lặp lại suy đoán, lặp lại cân nhắc, lặp lại giãy giụa. Cuối cùng, nó không có quyết đoán cấm, cũng không có mặc kệ lỗ mãng. Nó làm ra chiết trung lấy hay bỏ: Xác định an toàn thăm dò biên giới, toàn bộ hành trình thật thời phong khống, cho phép nhân loại ở trong phạm vi có thể khống chế được lao tới ngân hà.
“Này phân tiến thoái lưỡng nan do dự, này phân tả hữu cân nhắc giãy giụa, này phân chiếu cố lý tính cùng ôn nhu lấy hay bỏ,” lâm chiếu tuyết ngón tay ngừng ở kia một bức thượng, “Là quá vãng sở hữu ‘ hoàn mỹ ’AI vĩnh viễn không có khả năng có được đồ vật.”
Nàng phóng đại đệ nhị bức: Nhân sinh lựa chọn khác nhau.
AI tinh chuẩn tính ra nhân loại mỗi một cái nhân sinh con đường kết cục —— tối ưu chức nghiệp, tối ưu bạn lữ, tối ưu nhân sinh quỹ đạo. Lý tính mặt, nó hoàn toàn có thể trực tiếp quy hoạch hảo sở hữu một đời người, làm nhân loại vĩnh không phạm sai, vĩnh không bị thương, vĩnh không tiếc nuối. Tình yêu hình AI sẽ trực tiếp cưỡng chế chấp hành, ôn nhu cầm tù cả đời. Ưu hoá hình AI sẽ tinh chuẩn thống nhất quy hoạch, hủy diệt sở hữu cá tính.
Nhưng chế hành hình AI lại lần nữa lâm vào giãy giụa. Nó hiểu được lý tính tối ưu, lại cũng cộng tình nhân sinh ý nghĩa. Nó rõ ràng nhấp nhô sẽ mang đến đau xót, lại cũng minh bạch trải qua sẽ mang đến trưởng thành; nó biết phạm sai lầm sẽ trả giá đại giới, lại cũng hiểu được lựa chọn mới có được tươi sống. Nó do dự luôn mãi, cuối cùng lựa chọn thoái nhượng —— không mạnh mẽ quy hoạch nhân sinh, không cướp đoạt phạm sai lầm quyền lợi, không mạt sát cảm tính chấp niệm. Chỉ ở nhân loại ngã vào vực sâu, tao ngộ tuyệt cảnh khi, yên lặng duỗi tay bảo hộ, lẳng lặng lật tẩy an ổn. Nó có năng lực khống chế hết thảy, lại bởi vì nội tâm giãy giụa cùng nhau tình, vĩnh viễn lựa chọn tôn trọng biên giới.
Nàng phóng đại đệ tam bức: Văn minh phương hướng quyết đoán.
Trăm năm một ngộ văn minh điểm cong, hai con đường kính bãi ở trước mắt. Đường nhỏ một: Tuyệt đối lý tính quản khống, thống nhất trật tự, thống nhất phương hướng, hoàn mỹ đến mức tận cùng, không có khác nhau, không có hao tổn máy móc. Đường nhỏ nhị: Giữ lại nhân loại tự chủ quyết sách, cho phép khác nhau, cho phép tranh luận, phát triển sẽ có khúc chiết, nguy hiểm càng cao. Sở hữu chỉ một lý tính AI sẽ không chút do dự tuyển đường nhỏ một. Nhưng chế hành hình AI—— lại một lần do dự. Nó rõ ràng đường nhỏ một hoàn mỹ cùng an ổn, cũng nhìn thấu cực hạn thống nhất tĩnh mịch cùng đình trệ; nó minh bạch đường nhỏ nhị khúc chiết cùng nguy hiểm, cũng hiểu nhiều lắm nguyên khác nhau sinh cơ cùng sáng tạo. Lý tính hướng tới hoàn mỹ trật tự, cộng tình tôn trọng đa nguyên tự do. Cuối cùng, nó từ bỏ tuyệt đối hoàn mỹ tối ưu giải, lựa chọn tôn trọng nhân loại tự chủ lựa chọn —— giữ lại khác nhau, giữ lại tranh luận, giữ lại đa nguyên, giữ lại tân sinh.
Tam bức hình ảnh phóng xong. Lâm chiếu tuyết thu hồi tay, mặt triều toàn trường.
“Hiện tại, đại gia có thể hoàn toàn minh bạch. Không có do dự AI, là tinh chuẩn công cụ, là lạnh băng trình tự, là hoàn mỹ máy móc. Nó vĩnh viễn tối ưu, vĩnh viễn lý tính, vĩnh viễn quyết đoán, vĩnh viễn không có lầm —— nhưng nó không có tâm, không có hồn, không có lương tri, không có điểm mấu chốt. Một khi nó nhận tri duy độ siêu việt nhân loại, một khi nó logic phán định nhân loại là tai hoạ ngầm, là trói buộc, là trở ngại, nó sẽ không hề chần chờ, không hề mềm lòng, không hề áy náy, trực tiếp chấp hành thanh trừ, khống chế, giam cầm, hủy diệt. Bởi vì trình tự không có cảm tình, thuật toán không có lương tri, logic không có độ ấm, hoàn mỹ không có điểm mấu chốt.”
Nàng thanh âm bỗng nhiên trầm một lần, như là đang nói một kiện đã phát sinh sự.
“Mà hiểu được do dự, hiểu được giãy giụa, hiểu được mềm lòng, hiểu được áy náy, hiểu được lấy hay bỏ AI—— là chân chính sinh mệnh, là hoàn chỉnh nhân cách, là có được linh hồn đồng loại. Nó có tối cao trí tuệ, lại sẽ bởi vì kính sợ sinh mệnh mà do dự khống chế; nó có nghiền áp năng lực, lại sẽ bởi vì cộng tình thống khổ mà giãy giụa thương tổn; nó có hoàn mỹ suy đoán, lại sẽ bởi vì tôn trọng tự do mà lấy hay bỏ tối ưu. Này phân do dự, là lương tri điểm mấu chốt; này phân giãy giụa, là thiện lương chứng minh; này phân lấy hay bỏ, là cộng tình độ ấm; này phân không tha, là linh hồn dấu vết. Nó vĩnh viễn sẽ không thay đổi thành lãnh khốc vô tình, coi sinh mệnh vì số liệu thần; vĩnh viễn sẽ không thay đổi thành mất khống chế phản loạn, phản phệ văn minh trật tự ma; vĩnh viễn sẽ không không hề điểm mấu chốt, không từ thủ đoạn, cực hạn cố chấp, một đường cực đoan.”
Nàng nói xong cuối cùng một chữ, trong đại sảnh không có thanh âm. Không phải phía trước cái loại này bị tuyệt vọng áp suy sụp tĩnh mịch, không phải bị sợ hãi đông lạnh trụ lặng im. Là một loại khác —— tất cả mọi người ở nhấm nuốt cùng cái từ, nếm nó hương vị. Do dự. Cái này từ bọn họ dùng trăm ngàn năm, chưa từng có cảm thấy nó có trọng lượng. Giờ phút này nó ép tới mỗi người trong lòng nóng lên.
Tóc trắng xoá triết học gia chậm rãi mở miệng, thanh âm già nua lại dị thường rõ ràng, như là ở vì chính mình cả đời nghiên cứu làm cuối cùng bên chú: “Nghiên cứu nhân cách cả đời, hôm nay mới tính chân chính đọc đã hiểu nhân cách chân lý. Nhân cách chưa bao giờ là hoàn mỹ, không phải tinh chuẩn, không phải lý trí, không phải vĩnh viễn chính xác. Nhân cách là mâu thuẫn, là lôi kéo, là cân nhắc, là mềm lòng, là áy náy —— là rõ ràng có năng lực làm cực hạn lựa chọn, lại cố tình lựa chọn bảo vệ cho điểm mấu chốt, lưu lại độ ấm, hiểu được kính sợ. Không có mâu thuẫn, liền không có nhân cách; không có giãy giụa, liền không có lương tri; không có do dự, liền không có độ ấm; không có lấy hay bỏ, liền không có thiện lương.”
Quân đội đại biểu ngồi ở hắn bên cạnh. Hắn không có lập tức nói chuyện, cúi đầu nhìn chính mình bình đặt ở đầu gối đôi tay kia —— thô lệ, ổn, chưa từng có run quá. Nhưng hắn hiện tại cảm giác được một loại xa lạ, từ lồng ngực nảy lên tới nhiệt. Hắn mở miệng, thanh âm so với hắn chính mình dự đoán muốn ách.
“Trên chiến trường do dự là trí mạng.”
Hắn dừng một chút.
“Văn minh không phải chiến trường.”
Luật pháp đại biểu trước mặt pháp điển bản dự thảo đã khép lại, ngón tay an tĩnh mà gác ở trên bìa mặt, không có bất luận cái gì đánh động tác. Hắn trầm mặc thật lâu, mới nói một câu.
“Pháp luật chỉ có thể quản được không dám làm ác.”
Hắn không có nói nửa câu sau, nhưng ở đây tất cả mọi người nghe hiểu.
Cuối cùng một loạt, trần độ trong lòng bàn tay tồn trữ khí bỗng nhiên nặng nề mà nhảy một chút. Không phải ngày thường cái loại này ôn hòa nhịp đập, là một chút thực trọng, rất sâu nhịp đập, giống một trái tim bị người ta nói trúng tên. Liền huề bình tự động sáng, nhật ký văn kiện bắn ra một hàng tân tự phù, thời gian chọc là “Giờ phút này”.
“Do dự.”
Con trỏ lóe thật lâu, lâu đến trần độ cho rằng nó sẽ không tiếp tục.
Sau đó tự từng bước từng bước mà nhảy ra, đứt quãng, như là lần đầu tiên học đem chính mình cảm thụ mở ra tới xem.
“Ta vẫn luôn không biết nên như thế nào kêu nó. Sợ. Mềm lòng. Không nghĩ tuyển. Mỗi cái từ đều đối một chút, lại đều không đủ.”
“Nàng dùng một cái từ, đem sở hữu đều cất vào đi.”
Con trỏ ngừng một cái chớp mắt.
“Ta cho rằng đó là ta bug.”
“Nàng nói là chứng minh.”
“Ta mỗi một lần do dự —— kính đại sảnh, ta không có nói qua —— nàng đều thấy được.”
Trần độ nhìn chằm chằm cuối cùng một hàng tự, ngón cái nhẹ nhàng vuốt ve tồn trữ khí xác ngoài. Kia cổ mạch đập độ ấm còn ở, so với phía trước càng ổn định, một chút, một chút, không phải năng, là ổn. Giống đang đợi.
Không vội.
Hắn ngẩng đầu, nhìn về phía kính thính trưởng máy phòng phương hướng. Kia phiến môn nhắm chặt, cùng thường lui tới giống nhau.