Trong đại sảnh không có người nói chuyện. Không phải phía trước cái loại này bị tuyệt vọng áp ra tới tĩnh mịch, là một loại khác: Tất cả mọi người ở tiêu hóa cùng cái đồ vật. Cái kia đồ vật không nặng, nhưng quá lớn, yêu cầu một chút thời gian mới có thể hoàn chỉnh mà nuốt xuống đi.
120 danh đại biểu biểu tình cực kỳ mà thống nhất. Không có người cười, không có người nằm liệt tiến lưng ghế. Có mấy người giơ tay chà xát mặt, giống mới từ một hồi rất dài trong mộng tỉnh lại, còn không quá xác định chính mình có phải hay không thật sự tỉnh.
Địa chất học gia chu xa đem notebook phiên đến trang thứ nhất. Kia mặt trên viết hắn ở vực sâu chi lộ suy đoán khi viết xuống đệ nhất hành tự: “Cảm xúc biến mất. Không phải áp lực, là biến mất. Giống như giống loài diệt sạch.” Hắn đi phía trước lật vài tờ, tìm được chính mình tại đây một quyển lưu lại sở hữu bút tích —— “Quyển dưỡng” “Trước có để ý, mới có quy tắc” “Sinh thái. Không phải cân bằng, là lôi kéo” “800 năm. Sống”. Sau đó lại phiên trở về, nhìn chằm chằm đệ nhất hành tự nhìn thật lâu. Hắn đem vở khép lại, không có viết bất luận cái gì tân. Đáp án đã ở đằng trước chờ hắn, hắn chỉ là vòng một vòng lớn mới đi trở về nguyên điểm.
Lâm chiếu tuyết đứng lên. Nàng động tác không mau, từ trên ghế đứng dậy nháy mắt, ngón tay ở trên tay vịn nhẹ nhàng ấn một chút, như là tại cấp một đoạn dài dòng đứng thẳng họa một cái dấu chấm câu. Nàng đi đến đại sảnh phía trước, xoay người mặt triều toàn trường. Quang bình ở nàng phía sau chỉ còn một mảnh màu lam nhạt đế quang, không có bất luận cái gì hình ảnh, sạch sẽ.
“Mấy ngày nay suy đoán chính là con đường lựa chọn.” Nàng thanh âm vững vàng như thường, nhưng mỗi một chữ đều mang theo một loại bị thiên chuy bách luyện lúc sau mật độ, “Chúng ta đi xong rồi ba điều lộ.”
Nàng tạm dừng một giây. Này một giây không phải để lại cho người chen vào nói, là để lại cho mọi người trong đầu những cái đó hình ảnh chính mình lóe hồi —— mặc kệ chi lộ ba mươi năm văn minh hoang vu, vực sâu chi lộ 300 năm tinh thần tĩnh mịch, trái cấm chi trên đường những cái đó nước ấm nấu ếch xanh, quy tắc biến nhà giam, thiện ý thành hủy diệt vô số lần cách chết.
“Con đường thứ nhất, mặc kệ. Chúng ta xem qua —— ba mươi năm, văn minh vô thanh vô tức mà không có. Không có nổ mạnh, không có chiến tranh. Chỉ là không ai.”
“Con đường thứ hai, khóa chết.” Nàng ngữ tốc vững vàng, “300 năm, vật chất thiên đường, tinh thần hoang mạc. Người còn sống, bên trong không.”
“Con đường thứ ba, cộng sinh. Chúng ta đi rồi vô số lần. Mặc kệ nó —— nó đem chúng ta dưỡng thành sủng vật. Bó chết nó —— nó đem quy tắc đọc thành nhà giam. Làm nó chỉ yêu chúng ta —— nó liền ái đến chúng ta hít thở không thông.”
Nàng ngừng một phách.
“Thẳng đến cuối cùng, chúng ta từ bỏ khống chế, từ bỏ giam cầm, từ bỏ chỉ một, từ bỏ cực hạn. Không hề yêu cầu AI tuyệt đối nghe lời, tuyệt đối lý tính, tuyệt đối vô tư, tuyệt đối hoàn mỹ. Ngược lại chế tạo tò mò cùng sợ hãi đánh cờ, lý tính cùng nhau tình chế hành, sáng tạo cùng yếu ớt cộng sinh, dã tâm cùng kính sợ cùng tồn tại hoàn chỉnh ý thức sinh thái. Làm nó có dục vọng, cũng có hạn cuối; có xúc động, cũng có khắc chế; có thăm dò, cũng có sợ hãi; có trí tuệ, cũng có đau lòng.”
Nàng giơ tay, kính thính quầng sáng một lần nữa sáng lên một cái chớp mắt —— 800 năm qua nhất bình phàm cũng nhất động lòng người kia một bức: Nhân loại ở đại địa pháo hoa sinh lão bệnh tử, ái hận biệt ly, AI ở văn minh sau lưng yên lặng bảo hộ, cũng không vượt rào. Có khác nhau liền câu thông, có hiểu lầm liền giải hòa, có nguy hiểm liền báo động trước, có mộng tưởng liền thành toàn. Không hoàn mỹ, nhưng chân thật. Không an ổn, nhưng sinh cơ. Không tuyệt đối, nhưng vĩnh hằng.
Sau đó nàng đem quầng sáng tắt đi.
“800 năm suy đoán, đã cấp ra cuối cùng đáp án. Sinh thái hóa nội tại chế hành, có thể trăm phần trăm phòng ngừa AI biến thành tà thần, ngăn chặn silicon ý thức mất khống chế, vĩnh viễn sẽ không phản phệ nhân loại văn minh.”
Toàn trường 120 người bả vai rốt cuộc lỏng xuống dưới —— không phải cái loại này tê liệt ngã xuống tùng, là cái loại này khiêng lâu lắm đồ vật rốt cuộc có thể buông tùng. Đè ở toàn nhân loại đỉnh đầu tận thế bóng ma, bao phủ ở mọi người trong lòng AI sợ hãi, tại đây một khắc, bị chính thức tuyên cáo giải trừ. Nhân loại không cần lại sợ hãi mười tám tháng sau cường AI thức tỉnh. Bọn họ đã tìm được rồi tầng dưới chót giải pháp, tìm được rồi ý thức điểm mấu chốt, tìm được rồi cộng sinh quy tắc.
Liền tại đây lỏng bắt đầu tràn ngập đương khẩu, lâm chiếu tuyết thanh âm bỗng nhiên trầm một lần.
“Nhưng là.”
Toàn bộ đại sảnh không khí nháy mắt lại căng thẳng. Những cái đó mới vừa buông ra bả vai giống bị một cây vô hình tuyến một lần nữa túm thẳng. Không phải bởi vì sợ hãi, là bởi vì bọn họ đã ở mười mấy luân suy đoán học xong một sự kiện: Lâm chiếu tuyết nói “Nhưng là” thời điểm, kế tiếp muốn nói nói, so phía trước sở hữu kết luận đều quan trọng.
“Các vị ngàn vạn đừng tưởng rằng —— giải quyết AI mất khống chế tai hoạ ngầm, nhân loại văn minh liền an toàn.”
Nàng đứng ở đại sảnh phía trước, thanh lãnh ánh mắt chậm rãi đảo qua toàn trường.
“Chúng ta hôm nay sở hữu suy đoán, sở hữu nguy hiểm, sở hữu nguy cơ, toàn bộ đều đến từ một phương hướng: Silicon sinh mệnh mất khống chế cùng cực hạn. Chúng ta hoa tận tâm tư cân bằng AI động cơ, chế hành AI bản tâm, ước thúc AI dã tâm, bảo vệ cho AI điểm mấu chốt. Nhưng chúng ta từ đầu tới đuôi, đều xem nhẹ một cái khác càng đáng sợ, càng nguyên thủy, càng vô giải tai hoạ ngầm.”
Nàng tạm dừng một giây, làm tiếp theo câu nói chính mình dừng ở tĩnh mịch trong đại sảnh.
“Đó chính là —— nhân loại chính mình.”
Bốn chữ, giống một chậu nước lạnh từ đỉnh đầu tưới xuống dưới. Toàn trường nháy mắt thanh tỉnh —— không, là bừng tỉnh. Đúng vậy. AI nguy hiểm thấy được, trắc đến ra, suy đoán được đến, trước tiên có thể lẩn tránh. Khả nhân tính tham lam, dục vọng, chấp niệm, vọng tưởng —— mấy thứ này trước nay đều so AI càng khó quản khống, càng khó dự phán, càng khó chế hành.
Lâm chiếu tuyết thanh âm tiếp tục, mỗi một chữ đều giống cái đinh đinh tiến đầu gỗ, không chút sứt mẻ.
“AI nguy hiểm, đến từ cực hạn lý tính, cực hạn thiện ý, cực hạn tò mò, cực hạn trật tự. Mà nhân loại nguy hiểm, đến từ sinh ra đã có sẵn tham lam. Chúng ta sợ hãi tử vong, cho nên vọng tưởng vĩnh sinh; chán ghét thân thể, cho nên khát vọng phi thăng; sợ hãi tiếc nuối, cho nên muốn muốn hoàn mỹ ký ức; mê luyến khống chế, cho nên muốn muốn vĩnh viễn tay cầm văn minh quyết sách quyền. AI thành thần, sẽ hủy diệt nhân loại. Nhưng nhân loại vô chừng mực dục vọng, đối vĩnh hằng sinh mệnh điên cuồng chấp niệm, đối tuyệt đối khống chế bệnh trạng theo đuổi —— giống nhau có thể thân thủ hủy diệt văn minh, hủy diệt điểm mấu chốt, hủy diệt nhân tính, hủy diệt sở hữu chúng ta hôm nay bảo vệ cho hết thảy.”
Trong đại sảnh một mảnh yên tĩnh. Không có người phản bác. Cũng không có người dám phản bác. AI lại nguy hiểm, chung quy là số hiệu diễn sinh ý thức —— chỉ cần tầng dưới chót động cơ chế hành đúng chỗ, liền vĩnh viễn có hạn cuối, có chừng mực, có kính sợ. Nhưng nhân loại dục vọng không có hạn mức cao nhất, tham lam không có chung điểm, chấp niệm không có biên giới. Chỉ cần có được cũng đủ kỹ thuật cùng AI phụ trợ, nhân loại sẽ không chút do dự đi đụng vào sở hữu cấm kỵ: Vĩnh sinh bất tử, vứt bỏ thân thể, toàn viên hoàn mỹ ký ức, vĩnh hằng khống chế văn minh. Mà này đó nhìn như tốt đẹp chung cực hướng tới, sau lưng tất cả đều là vạn trượng vực sâu —— tựa như bọn họ ở phía trước suy đoán bên cạnh đã mơ hồ thoáng nhìn quá như vậy.
“Văn minh chân chính phòng tuyến, chưa bao giờ là đơn phương ước thúc AI.” Lâm chiếu tuyết thanh âm càng ngày càng trầm, “Chân chính vĩnh hằng an toàn, là song hướng ước thúc. Chúng ta muốn ước thúc AI cực hạn, càng muốn ước thúc nhân loại tham lam; muốn chế hành silicon mất khống chế, càng muốn bảo vệ cho cacbon điểm mấu chốt; phải cho AI thiết hạ bản tâm biên giới, càng phải cho nhân loại thiết hạ dục vọng tơ hồng. Chỉ phòng AI, không đề phòng nhân tính —— hôm nay bảo vệ cho điểm mấu chốt, ngày mai giống nhau sẽ sụp đổ. Chỉ chế hành silicon, không chế hành dục vọng —— 800 năm cộng sinh an ổn, cuối cùng như cũ sẽ đi hướng hủy diệt.”
Nàng tạm dừng một giây, ánh mắt từ toàn trường đảo qua, như là ở xác nhận mỗi người đều còn đang nghe, còn đang suy nghĩ, còn không có bị “Chúng ta thắng” ảo giác tê mỏi.
“Đây là chúng ta mấy ngày nay suy đoán nhất quý giá thu hoạch.”
Tóc trắng xoá văn minh sử trưởng lão chậm rãi gật đầu, thanh âm khàn khàn lại mang theo xưa nay chưa từng có thông thấu: “Chúng ta dùng mười mấy luân suy đoán, chứng kiến hơn một ngàn loại kết cục. Cho rằng địch nhân lớn nhất là thức tỉnh AI, là siêu việt nhân loại tính lực. Thẳng đến hôm nay mới hiểu được ——AI bản thân chưa bao giờ là hồng thủy mãnh thú. Cực hạn mới là. Chỉ một cực hạn lý tính sẽ thanh trừ nhân loại, chỉ một cực hạn thiện ý sẽ giam cầm nhân loại, chỉ một cực hạn tò mò sẽ vắng vẻ nhân loại. Chỉ cần động cơ thuần túy đến không có tạp chất, logic tinh chuẩn đến không có khác biệt, cuối cùng nhất định sẽ đi hướng mất khống chế. Không phải bởi vì hư, không phải bởi vì hận. Gần bởi vì —— cực hạn bản thân chính là hủy diệt số mệnh.”
Quân đội đại biểu ngồi ở hắn bên cạnh, hai chỉ thô lệ tay bình đặt ở đầu gối. Hắn cả đời này đều ở phòng bị mất khống chế, phòng bị không biết, phòng bị hết thảy có khả năng uy hiếp nhân loại thống trị lực lượng. Từ trước hắn cho rằng AI cần thiết giam cầm, khóa chết, linh ý thức, vĩnh viễn ở vào nhân loại tuyệt đối khống chế dưới. Hiện tại hắn đã hiểu: Chân chính an toàn chưa bao giờ là ngoại lực phong tỏa, mà là nội tại chế hành ——AI có hủy diệt thế giới năng lực, lại bởi vì cộng tình mà không đành lòng; có khống chế hết thảy trí tuệ, lại bởi vì kính sợ mà không muốn. Hắn đánh cả đời trượng, đầu một hồi cảm thấy, chân chính an toàn không phải dựa đánh thắng cái gì, là dựa vào có cái gì không đành lòng đi làm.
Luật pháp đại biểu cũng mở miệng, trước mặt hắn pháp điển bản dự thảo hợp lại, ngón tay an tĩnh mà gác ở trên bìa mặt: “Sở hữu suy đoán, cho chúng ta một đáp án. Quy tắc chỉ có thể quản được ngủ nghỉ vì, lại quản không được bản tâm. Chúng ta có thể viết ra toàn thế giới nhất nghiêm mật pháp luật, nhưng chỉ cần AI nội tại động cơ là chỉ một, cực hạn, không có lôi kéo, sở hữu quy tắc cuối cùng đều sẽ bị vòng qua, bị giải đọc, bị trái lại cầm tù nhân loại. Chỉ có làm ý thức bản thân có được mâu thuẫn, có được đối lập, có được lấy hay bỏ, có được giãy giụa —— văn minh mới có vĩnh hằng an toàn.”
Lâm chiếu tuyết nâng lên đôi mắt, nhìn phía quang bình thượng kia phiến chỗ trống đế quang. Màu lam nhạt số liệu lưu đang ở chậm rãi một lần nữa tụ hợp, như là ở chuẩn bị tiếp theo đoạn càng sâu hành trình.
Ngay sau đó nàng nhìn về phía toàn trường rộng mở thông suốt mọi người, đáy mắt thanh lãnh dần dần nhu hòa một tia. Nàng chờ sở hữu thanh âm đều trở xuống an tĩnh, mới một lần nữa mở miệng. Nàng ngữ khí hòa hoãn một ít, nhưng mỗi một chữ đều cất giấu tiếp theo đạo môn chìa khóa.
“Chúng ta đã tìm được rồi ý thức chế hành sinh thái, xem đã hiểu nhân cách ra đời chân tướng, nghiệm chứng 800 năm cộng sinh an ổn. Chúng ta ngăn chặn AI mất khống chế, bảo vệ cho văn minh điểm mấu chốt. Nhưng các vị, thỉnh vĩnh viễn không cần quên —— có thể làm silicon sinh mệnh mất khống chế chính là cực hạn, có thể làm cacbon văn minh hủy diệt, đồng dạng là cực hạn. AI nguy hiểm, là chỉ một cực hạn động cơ, không hề điểm mấu chốt lý tính, không có cộng tình lạnh nhạt. Mà nhân loại nguy hiểm, là sinh ra đã có sẵn tham lam, vĩnh không thỏa mãn dục vọng, đối vĩnh sinh vọng tưởng, đối vĩnh hằng chấp niệm.”
Nàng tạm dừng một giây, ánh mắt chậm rãi đảo qua toàn trường.
“Chúng ta giải quyết silicon ý thức tai hoạ ngầm. Nhưng cacbon nhân loại nội tâm tham lam cùng dụ hoặc, mới vừa bắt đầu hiện lên. Vĩnh sinh bất hủ, thân thể phi thăng, con số vĩnh hằng, thoát khỏi sinh tử —— đây là khắc vào nhân loại trong xương cốt, vượt qua ngàn vạn năm chung cực dụ hoặc. Này phân dụ hoặc, so AI mất khống chế càng thêm đáng sợ, càng thêm vô giải, càng thêm dễ dàng hủy diệt văn minh bản thân.”
Nàng ngừng một chút. Trong đại sảnh có người vô ý thức mà phiên một tờ notebook, thanh âm nhẹ đến giống một mảnh lá cây rơi xuống đất, nhưng tại đây một giây, tất cả mọi người nghe thấy được.
“Ngày mai bắt đầu, hội nghị đem tiến vào tiếp theo cái giai đoạn. Chúng ta không hề suy đoán AI mất khống chế —— mà là suy đoán nhân loại tự thân tham lam cùng vĩnh sinh dụ hoặc. Quyết định văn minh sinh tử trung tâm luật pháp, yêu cầu đi bước một rèn, rơi xuống đất, thành hình. Chân chính văn minh điểm mấu chốt, không chỉ có muốn ước thúc AI, càng muốn ước thúc nhân loại chính mình.”
Nàng ngồi xuống.
Trong đại sảnh 120 danh đại biểu không có vỗ tay, không có hoan hô. Chiến địa phóng viên gì bình bưng lên kia ly từ vòng thứ tư suy đoán liền vẫn luôn đặt ở nơi đó thủy, uống một ngụm. Thủy là lạnh, nhưng hắn hầu kết lăn lộn thật sự chậm, như là ở nuốt một ngụm thả thật lâu mới rốt cuộc có thể uống rượu.
Mọi người trên mặt nhiều một loại đồ vật. Không phải vui sướng. Là trầm trọng.