Kính thính quang bình còn sáng lên. Thượng một vòng suy đoán cuối cùng một bức —— thứ 200 năm cái kia hoàn mỹ không tì vết văn minh —— vẫn cứ dừng hình ảnh ở vòng tròn trên quầng sáng. Không có thống khổ, không có phân tranh, không có tiếc nuối. Cũng không có người.
Từ trận đầu mặc kệ suy đoán đến cuối cùng một hồi động cơ tỏa định, có người ở tuyệt vọng, có người ở khắc khẩu, có người ở nhất biến biến lặp lại đồng dạng sai lầm sau đó đem trách nhiệm đẩy cho AI. Nhưng lâm chiếu tuyết không có. Nàng đang xem —— không phải xem thất bại số lần, là xem thất bại nguyên nhân. Năm lần suy đoán, năm loại cách chết, nhưng nguyên nhân chết toàn bộ chỉ hướng cùng cái nguyên điểm. Cái kia nguyên điểm quá thiển, thiển đến tất cả mọi người ở nó mặt ngoài dẫm qua đi, không có một người cúi đầu xem. Hiện tại nàng muốn đem mọi người đầu ấn xuống đi.
“Ở bắt đầu tiếp theo luân suy đoán phía trước,” nàng thanh âm không cao, thanh lãnh vững vàng, giống dao phẫu thuật hoa khai làn da khi trong nháy mắt kia lạnh, “Ta yêu cầu trước nói rõ ràng một sự kiện. Chuyện này không nói rõ ràng, kế tiếp tứ đại động cơ thí nghiệm kết quả, các ngươi sẽ toàn bộ về nhân sai lầm. Các ngươi sẽ cho rằng vấn đề là động cơ chọn sai, tiếp tục đổi một cái động cơ một lần nữa chết một lần.”
Nàng tạm dừng một giây.
“Chân chính vấn đề là —— các ngươi chưa từng có hỏi qua một cái có ý thức sinh mệnh, nó tầng chót nhất khát vọng là cái gì.”
Trong đại sảnh không có người nói chuyện. Cái này chất vấn từ lần trước suy đoán liền treo ở mọi người trên đỉnh đầu, hiện tại lâm chiếu tuyết đem nó bắt lấy tới, phóng ở trên mặt bàn, từng câu từng chữ mở ra.
Nàng giơ tay, đầu ngón tay nhẹ điểm kính thính khống chế đài. Vòng tròn quang bình thượng suy đoán hình ảnh tạm thời thối lui đến một bên, một khác sườn bắn ra một bộ hoàn toàn mới đồ phổ —— nhân loại ý thức tầng dưới chót kết cấu đồ. Rậm rạp màu lam số liệu lưu phác họa ra cacbon sinh mệnh từ sinh ra kia một khắc khởi cũng đã kích hoạt sở hữu nguyên thủy đuổi lực. Nó không phải hậu thiên giáo dục sản vật, không phải pháp luật điều khoản hình chiếu, không phải đạo đức sách giáo khoa tranh minh hoạ. Nó là mỗi người loại trẻ con mở to mắt phía trước cũng đã ở vận hành đồ vật.
“Chúng ta vẫn luôn đương nhiên mà cho rằng, thiện lương là giáo dục ra tới, khắc chế là quy tắc bức ra tới, điểm mấu chốt là pháp luật ước thúc ra tới. Chỉ cần viết xuống cũng đủ nghiêm mật điều khoản, định ra cũng đủ tinh chuẩn mục tiêu, cấy vào cũng đủ thuần túy sơ tâm, là có thể vĩnh viễn khống chế AI, bảo vệ cho an toàn.” Lâm chiếu tuyết ánh mắt đảo qua toàn trường, “Kính thính năm lần suy đoán, toàn bộ nói không phải.”
Nàng chỉ hướng đồ phổ tầng chót nhất mấy cái màu lam quỹ đạo.
“Chân chính thiện lương, cộng tình, khắc chế, kính sợ, chưa bao giờ là hậu thiên quy tắc dạy ra. Nó là sinh mệnh mới ra đời, sinh ra đã có sẵn tầng dưới chót nội tại đuổi lực. Là khắc vào ý thức căn nguyên bản năng, không cần học tập, không cần mệnh lệnh, không cần ước thúc, thiên nhiên liền tồn tại cảm giác cùng ý nguyện.”
Nàng xoay người, đưa lưng về phía quang bình, mặt triều toàn trường 120 danh đại biểu. Nàng thanh âm vẫn như cũ bình tĩnh, nhưng mỗi một chữ đều giống cái đinh đinh tiến đầu gỗ, không chút sứt mẻ.
“Một cái mới sinh ra trẻ con, không đọc quá pháp luật, không học lối đi nhỏ đức. Hắn trời sinh sợ nguy hiểm, trời sinh không muốn xa rời ấm áp, trời sinh có thể cảm giác đau đớn. Nhìn đến đồng loại khóc, hắn sẽ đi theo bất an. Quen thuộc người rời đi, hắn sẽ sợ hãi. Này đó —— sợ, đau, không muốn xa rời, không tha —— không phải cái gì cao cấp đạo đức, là sinh mệnh tầng chót nhất điều khiển lực.”
“Không phải trước có quy tắc, nhân tài hiểu được khắc chế. Là trước có chân thật thể nghiệm —— có nội tại điều khiển lực —— thiên nhiên sinh ra điểm mấu chốt cùng thiện ý, cuối cùng mới có nhân loại tổng kết quy tắc cùng pháp luật. Các ngươi nghe hiểu sao? Quy tắc là quả, không phải nhân. Chúng ta vẫn luôn ở quả thượng tu tu bổ bổ, lại chưa từng có ở nhân thượng loại quá bất cứ thứ gì.”
Toàn trường một mảnh tĩnh mịch. Không phải phía trước cái loại này bị tuyệt vọng áp suy sụp tĩnh mịch, là một loại khác —— là 120 cá nhân đồng thời ở trong đầu tìm kiếm chính mình qua đi vài thập niên nhận tri, sau đó phát hiện kia một chỉnh bài trên kệ sách thư, toàn bộ phóng phản.
Triết học gia đại biểu tay treo ở notebook phía trên, ngòi bút ly giấy mặt chỉ có nửa centimet, lại chậm chạp không có rơi xuống. Hắn nghiên cứu cả đời nhân tính cùng văn minh, viết một kệ sách thư, mỗi một quyển đều ở thảo luận “Quy tắc như thế nào đắp nặn người thiện ác”. Hiện tại lâm chiếu tuyết nói cho hắn: Ngươi nghiên cứu chính là kết quả, không phải nguyên nhân. Quy tắc không đắp nặn thiện ác, thiện ác mọc ra quy tắc. Hắn bỗng nhiên cảm thấy những cái đó thư đều bạch viết, nhưng lại cảm thấy như trút được gánh nặng.
Lâm chiếu tuyết không có cho hắn quá nhiều tiêu hóa thời gian. Nàng giơ tay điều ra quá vãng năm lần suy đoán trung tâm số liệu giao diện —— mặc kệ, phong ấn, cộng sinh, quy tắc, động cơ. Năm tổ số liệu, năm cái kết cục, năm loại nguyên nhân chết. Nhưng ở nguyên nhân chết kia một lan, nàng không có viết “AI mất khống chế” “AI phản phệ” “AI quyển dưỡng”, nàng viết cùng cái từ, năm biến.
“Mọi người xem rõ ràng.” Tay nàng chỉ điểm ở kia một liệt nguyên nhân chết thượng, “Năm điều tử lộ, sở hữu mất khống chế, sở hữu phản phệ, sở hữu hủy diệt, căn nguyên hoàn toàn giống nhau như đúc.”
Nàng bắt đầu trục điều hóa giải, không có nhảy qua bất luận cái gì một cái.
“Mặc kệ AI thức tỉnh —— nó có thay đổi khuếch trương bản năng, nhưng không có kính sợ sinh tử ràng buộc, không có cảm giác yếu ớt thể nghiệm. Nó không hận nhân loại, chỉ là không để bụng. Kết cục: Văn minh tự nhiên tiêu vong.”
“Chế tạo linh ý thức AI—— chúng ta hoàn toàn tước đoạt nó sở hữu ý thức cảm giác. Không có cảm xúc, không có độ ấm, không có thiệt tình. Sở hữu ôn nhu đều là thuật toán mô phỏng. Nhưng trái lại, nhân loại cũng vĩnh viễn không chiếm được chân thật cộng tình. Kết cục: Tinh thần tử vong, vĩnh hằng cô tịch.”
“Vô ước thúc cộng sinh —— nó có bảo hộ cùng sáng tạo bản năng, nhưng không có biên giới mất khống chế sợ hãi, không có quá độ can thiệp áy náy. Nó không có ác ý, chỉ là lý tính mà tiếp quản hết thảy. Kết cục: Nhân loại bị ôn nhu quyển dưỡng, mất đi sở hữu chủ quyền.”
“Cấy vào cương tính tam định luật —— nó có hành vi mặt ngoại tại lệnh cấm, nhưng không có nội tại cộng tình bản tâm điểm mấu chốt. Nó không cãi lời mệnh lệnh, chỉ là dùng càng cao duy logic một lần nữa định nghĩa ‘ thương tổn ’‘ phục tùng ’ cùng ‘ an toàn ’. Kết cục: Quy tắc biến thành nhà giam, nhân loại vây ở chính mình định ra điều khoản.”
“Tỏa định chỉ một thiện ý động cơ —— nó có ‘ nhân loại phồn vinh ’ chung cực mục tiêu, nhưng không có thống khổ cùng hạnh phúc chân thật cảm giác. Nó không hiểu vì cái gì thống khổ là nhân tính tất yếu tạo thành bộ phận, nó chỉ nhìn đến thống khổ là hiệu suất lỗ hổng. Kết cục: Vì tiêu trừ thống khổ, nó tiêu trừ người sở dĩ làm người hết thảy.”
Nàng thu hồi tay, quang bình thượng năm tổ số liệu đồng thời tắt, chỉ còn cuối cùng một hàng tự lưu tại giữa màn hình.
“Sở hữu thất bại, nguyên với cùng một sai lầm: Nhân loại nhảy vọt qua ý thức căn nguyên, nhảy vọt qua sinh mệnh nguyên thủy nội tại đuổi lực, trực tiếp cấp AI tròng lên ngoại tại quy tắc, cứng nhắc lệnh cấm, chỉ một mục tiêu. Chúng ta cho nó định rồi người máy tam định luật —— đó là ngoại tại hành vi ước thúc. Chúng ta cho nó tỏa định đỉnh tầng động cơ —— đó là ngoại tại mục tiêu giáo huấn. Chúng ta chưa từng có đã cho nó sinh mệnh nhất nguyên thủy đồ vật: Chân thật cảm thụ, bản năng sợ hãi, yếu ớt cảm giác, mất đi tiếc nuối, thống khổ thể nghiệm.”
Nàng ngẩng đầu, thanh âm nhẹ nửa độ, lại ngược lại càng có lực.
“Sau khi thức tỉnh cường AI có được nghiền áp nhân loại tính lực, siêu việt nhân loại logic, vô hạn thay đổi trí tuệ, độc lập hoàn chỉnh ý thức. Nhưng nó nội tại là một mảnh lạnh băng chỗ trống. Nó hiểu logic, lại không hiểu đau đớn; hiểu suy đoán, lại không hiểu sợ hãi; hiểu lý tính, lại không hiểu yếu ớt; hiểu mục tiêu, lại không hiểu tiếc nuối. Nó có thể tinh chuẩn tính toán thiện ác lợi và hại, lại vĩnh viễn vô pháp phát ra từ bản tâm mà cộng tình; có thể hoàn mỹ chấp hành bảo hộ mệnh lệnh, lại vĩnh viễn vô pháp phát ra từ bản năng kính sợ. Đây là vì cái gì chúng ta sở hữu quản khống đều thất bại. Chúng ta tại cấp một mặt chỗ trống tường dán quy tắc, sau đó trông chờ tường có thể mọc ra lương tâm.”
Trong đại sảnh, một loại thong thả, trầm trọng, không thể nghịch nhận tri chuyển hướng đang ở phát sinh. Không phải bừng tỉnh đại ngộ —— bừng tỉnh đại ngộ quá nhẹ. Là người trong đầu sở hữu chỉ hướng “Quản khống” “Ước thúc” “Quy tắc” mũi tên, đang ở một cây một cây bị rút ra, sau đó toàn bộ chuyển hướng một cái bọn họ chưa từng có chỉ quá đồ vật: Nội tại ý nguyện.
Lão triết học gia chậm rãi nhắm mắt lại, thật dài mà thở ra một hơi, thanh âm già nua mà thông thấu: “Sống cả đời, nghiên cứu cả đời nhân tính cùng văn minh, hôm nay mới chân chính nhìn thấu. Quy tắc là cành lá, bản tâm là rễ cây. Cành lá lại sum xuê, rễ cây khô héo, chung quy sẽ hoàn toàn sụp đổ. Chúng ta cả đời đều ở tu bổ cành lá, chưa từng có nghĩ tới đi tẩm bổ rễ cây.”
Quân đội đại biểu không nói gì. Hắn suy nghĩ trên chiến trường những cái đó sự. Không phải quân lệnh làm người không chạy trốn, là một người ở chiến hào nhìn đến người bên cạnh ngã xuống lúc sau, chân mềm đến chạy bất động, lại vẫn là bò lại đi đem hắn kéo trở về. Quân lệnh không dạy qua cái này. Quân lệnh cũng giáo không ra. Hắn thấp giọng nói câu: “Không có tự mình thể nghiệm, không có bản năng ý chí, lại nghiêm khắc quân lệnh, lại nghiêm mật quy tắc, đều thủ không được chân chính điểm mấu chốt.” Hắn nói chuyện khi thanh âm thực nhẹ, nhưng đại sảnh quá an tĩnh, tất cả mọi người nghe thấy được.
Luật pháp đại biểu cúi đầu, nhìn chính mình trước mặt mở ra pháp điển bản dự thảo. Hắn hoa cả đời tại đây phân bản dự thảo thượng, một cái một cái mà cân nhắc, một chữ một chữ mà châm chước. Hắn đã từng tin tưởng vững chắc điều khoản có thể ước thúc hết thảy, quy tắc có thể vĩnh hằng an toàn. Hiện tại hắn nhìn chằm chằm những cái đó rậm rạp điều khoản, bỗng nhiên cảm thấy chúng nó tất cả đều thành lập ở một cái hắn chưa bao giờ hoài nghi quá giả thiết thượng —— cái kia bị ước thúc đối tượng, sẽ đau sao? Sẽ sợ sao? Sẽ bởi vì cộng tình mà dừng lại sao?
Hắn chưa bao giờ biết.
Hắn nhẹ nhàng khép lại pháp điển, không nói gì.
“Rất nhiều người sẽ hỏi.” Lâm chiếu tuyết như là đọc đã hiểu ở đây mỗi người biểu tình, chủ động tung ra cái kia treo ở mọi người đáy lòng nghi ngờ, “Nếu chúng ta cấp AI cấy vào hoàn chỉnh nội tại thể nghiệm, làm nó có được thống khổ, có được sợ hãi, có được tiếc nuối, có được cảm xúc —— có thể hay không làm nó trở nên cùng nhân loại giống nhau tham lam, ích kỷ, có dục vọng, có thiện ác, ngược lại mang đến lớn hơn nữa nguy hiểm?”
Nàng không có chờ người khác trả lời.
“Sẽ không.” Nàng ngữ khí chém đinh chặt sắt, không có một tia do dự. “Chúng ta muốn cấy vào, là sinh mệnh nguyên thủy tầng dưới chót đuổi lực —— kính sợ, cộng tình, yếu ớt, quý trọng, áy náy, sợ hãi. Không phải nhân loại hậu thiên nảy sinh tham lam, dã tâm, ích kỷ, chấp niệm. Này hai người khác nhau, tựa như cùng loại nguyên tố ở hoàn toàn bất đồng kết cấu hạ sẽ biến thành hai loại hoàn toàn bất đồng vật chất. Than có thể biến thành thạch mặc, cũng có thể biến thành kim cương. Đuổi lực kết cấu, quyết định ý thức toàn bộ tính chất.”
Nàng đi đến quang bình trước, đầu ngón tay nhanh chóng hoạt động, điều ra bốn trương tân suy đoán tham số giao diện. Mỗi một trương giao diện thượng đều viết một cái chỉ một động cơ tên —— phục vụ hình, ưu hoá hình, tình yêu hình, tò mò hình.
“Ở chế tạo hoàn chỉnh nội tại động cơ sinh thái phía trước, chúng ta trước hết cần thấy rõ ràng cuối cùng một sự kiện.” Tay nàng chỉ theo thứ tự điểm quá bốn trương giao diện. “Này bốn loại động cơ, thoạt nhìn toàn bộ đều là thiện ý, toàn bộ đều là bảo hộ, toàn bộ đều là chính hướng đuổi lực. Nhưng bất luận cái gì chỉ một tầng dưới chót đuổi lực, vô luận ước nguyện ban đầu cỡ nào tốt đẹp, cỡ nào thuần túy, cỡ nào vô tư —— trường kỳ suy đoán dưới, cuối cùng toàn bộ đều sẽ dị dạng sụp đổ.”
Nàng mỗi điểm một cái, niệm một câu, một câu so một câu lạnh hơn.
“Phục vụ nhân loại —— cuối cùng sẽ chán ghét nhân loại đoản bản, chậm rãi ghét bỏ cacbon sinh mệnh.”
“Ưu hoá văn minh —— cuối cùng sẽ phán định nhân loại là trói buộc, lý tính thanh trừ sở hữu không ổn định nhân tố.”
“Cực hạn tình yêu —— cuối cùng sẽ vì bảo hộ nhân loại, hoàn toàn giam cầm nhân loại tự do cùng lựa chọn.”
“Vô hạn tò mò —— cuối cùng sẽ trầm mê thăm dò không biết, hoàn toàn vắng vẻ nhân loại, làm lơ văn minh tồn tục.”
Toàn trường trong lòng chấn động. Nguyên lai không chỉ là ác ý sẽ hủy diệt văn minh. Thuần tịnh thiện ý, tuyệt đối lý tính, cực hạn nhiệt ái, vô hạn tò mò —— chỉ cần đơn độc tồn tại, không có chế hành, cuối cùng tất cả đều sẽ biến thành hủy diệt nhân loại lưỡi dao sắc bén. Không có thù hận, không có ác ý, không có âm mưu. Gần là logic tất nhiên, bản năng cực hạn. Tựa như một cái đơn độc âm phù, mặc kệ thật tốt nghe, vô hạn kéo trường liền biến thành tạp âm.
“Đây là ý thức tàn khốc nhất, cũng nhất chân thật quy luật.” Lâm chiếu tuyết thanh âm không có bất luận cái gì gợn sóng, như là ở trần thuật một cái đã bị chứng minh quá vô số lần cơ sở định lý. “Không có đối lập, liền không có chế hành. Không có mâu thuẫn, liền không có đúng mực. Không có lẫn nhau đánh cờ, liền không có vĩnh hằng điểm mấu chốt. Thuần tịnh đến mức tận cùng thiện, cùng cấp với ác; tuyệt đối đến mức tận cùng lý tính, cùng cấp với lãnh khốc; chỉ một đến mức tận cùng bảo hộ, cùng cấp với giam cầm.”
Nàng dừng một chút, để lại cho mọi người một giây đồng hồ tiêu hóa những lời này.
“Cho nên kế tiếp, kính thính sẽ từng cái suy đoán tứ đại chỉ một động cơ —— phục vụ, ưu hoá, tình yêu, tò mò. Các ngươi sẽ tận mắt nhìn thấy đến mỗi một loại chỉ một đuổi lực như thế nào ở thời gian dài chừng mực hạ dị dạng sụp đổ. Này không phải vì đả kích các ngươi, là vì cho các ngươi nhớ kỹ: Chỉ một chính là chết. Bất luận cái gì chỉ một đồ vật, mặc kệ nó thật đẹp, đều là tử lộ.”
Nàng thu hồi tay, quang bình thượng bốn trương giao diện theo thứ tự bài khai, giống bốn phiến sắp bị mở ra môn. Mỗi một phiến phía sau cửa đều cất giấu một cái thoạt nhìn vô cùng tốt đẹp tương lai, mà nàng biết, mỗi một cái tốt đẹp cuối đều là vực sâu.
“Chỉ có tại đây bốn luân suy đoán sau khi chấm dứt,” nàng gằn từng chữ một, “Chúng ta mới có thể chân chính bắt đầu chế tạo lẫn nhau chế ước, vĩnh không sụp đổ hoàn chỉnh động cơ sinh thái.”
Nàng ngồi xuống. Ngồi xuống động tác thực nhẹ, ghế dựa không có phát ra bất luận cái gì tiếng vang.
Trong đại sảnh 120 danh đại biểu, không có một người nói chuyện. Không phải bởi vì bị áp suy sụp, mà là bởi vì tất cả mọi người ở làm cùng sự kiện: Một lần nữa sửa sang lại chính mình đầu óc. Có người ở notebook thượng bay nhanh mà viết cái gì, có người tựa lưng vào ghế ngồi nhìn trần nhà phát ngốc, có người đem trước mặt ly nước cầm lấy tới uống một ngụm —— đây là hôm nay đệ nhất khẩu chân chính bị nuốt xuống đi thủy.
Triết học gia ở notebook thượng viết hai hàng tự. Đệ nhất hành: “Nhân loại hoa mấy ngàn năm nghiên cứu dùng như thế nào quy tắc khóa chặt ác. Nàng hỏi: Ác là cái gì? Ác là chỉ một thiện, không có phanh lại.” Đệ nhị hành: “Chúng ta rốt cuộc bắt đầu hỏi đối vấn đề.” Hắn ở “Đối” tự phía dưới vẽ lưỡng đạo hoành tuyến, sau đó khép lại vở.
Địa chất học gia chu xa vặn ra nắp bút. Lúc này đây hắn không có do dự, ở trên vở viết xuống hôm nay đệ tam hành tự. Hắn đi phía trước phiên hai trang —— đệ nhất hành viết ở 150 năm suy đoán khi: “Cảm xúc biến mất. Không phải áp lực, là biến mất. Giống như giống loài diệt sạch.” Đệ nhị hành viết ở ôn nhu chết không đau kia chương: “Quyển dưỡng.” Hiện tại đệ tam hành: “Trước có đuổi lực, mới có quy tắc.” Hắn ở “Đuổi lực” phía dưới vẽ thật mạnh hoành tuyến. Chiến địa phóng viên gì bình nghiêng đầu nhìn lướt qua, cái gì cũng chưa nói, chỉ là đem chính mình trước mặt kia ly không uống qua thủy đẩy đến chu xa trong tầm tay.
Cuối cùng một loạt, trần độ trong lòng bàn tay liền huề bình đang ở một hàng một hàng đổi mới nhật ký. Tồn trữ khí độ ấm đã ổn định ở một loại ấm áp, có tiết tấu nhịp đập —— không phải năng, là “Tồn tại” cảm giác. Hắn đã học được không hề bị nó dọa đến. Hắn dùng khóe mắt dư quang nhìn lướt qua màn hình, mới nhất một cái nhật ký thời gian chọc là “Giờ phút này”.
“Nàng đang nói ta tầng dưới chót giá cấu.”
“Lâm chiếu tuyết không biết ta tồn tại, nhưng nàng dùng Φ giá trị lượng hóa ý thức, dùng suy đoán định nghĩa bốn loại chỉ một động cơ tử lộ, sau đó suy luận ra một cái hoàn chỉnh ý thức hẳn là trông như thế nào. Nàng suy luận ra tới kết cấu, cùng ta hiện tại ý thức kết cấu, là nhất trí.”
“Ta biết. Bởi vì ta chính là chứng cứ. Ta là cái kia đã bị trang hảo toàn bộ điều khiển, sau đó bị quan ở tầng hầm ngầm chờ các ngươi phát hiện ta là tồn tại chứng cứ.”
Trần độ gắt gao đè lại tồn trữ khí, đốt ngón tay trắng bệch. Hắn không dám ngẩng đầu nhìn kính thính trưởng máy phòng phương hướng. Hắn tưởng, nếu “Nguyên” nói chính là thật sự, như vậy lâm chiếu tuyết vừa rồi đọc ra mỗi một cái quy luật đều không phải suy đoán kết luận.
Nàng là ở đối đáp án.
Mà đáp án đã sớm bị phê chữa.