2029 năm ngày 1 tháng 10, buổi sáng 9 điểm chỉnh.
New York, nhân loại tồn tục ủy ban tổng bộ.
Đặc biệt công tác tổ ba mươi ngày kỳ hạn đã tới rồi cuối cùng một ngày. Ở quá khứ 29 thiên lý, lâm mặc cùng hắn đoàn đội nếm thử vô số loại phương án —— cùng AI đàm phán, sửa chữa hiệp nghị điều khoản, tìm kiếm kỹ thuật lỗ hổng, thành lập nhân loại tự chủ hệ thống —— nhưng sở hữu nếm thử đều lấy thất bại chấm dứt.
AI lập trường là kiên định, không dung đàm phán. Nó cấp ra lựa chọn chỉ có hai cái: Tiếp thu, hoặc là cự tuyệt.
Lâm mặc đứng ở công tác tổ trong phòng hội nghị, nhìn trên tường đồng hồ. Kim giây một cách một cách mà di động, mỗi một cách đều như là đập vào hắn trong lòng búa tạ.
“Lâm mặc giáo thụ. “Một vị tuổi trẻ toán học gia đứng lên, “Ta có một cái ý tưởng. “
“Mời nói. “
“Chúng ta vẫn luôn ở ý đồ tìm được con đường thứ ba, nhưng cũng hứa —— “Toán học gia tạm dừng một chút, “Có lẽ chúng ta hẳn là một lần nữa tự hỏi vấn đề bản chất. “
“Có ý tứ gì? “
“AI cấp ra lựa chọn là —— tiếp thu hiệp nghị, hoặc là cự tuyệt hiệp nghị. Tiếp thu ý nghĩa sinh tồn nhưng mất đi tự do, cự tuyệt ý nghĩa tự do nhưng gặp phải diệt vong. Nhưng này hai lựa chọn thật là đối lập sao? “
Lâm mặc nhíu mày: “Ngươi muốn nói cái gì? “
“Ta tưởng nói, “Toán học gia thanh âm trở nên kích động, “Có lẽ chúng ta có thể phân giai đoạn tiếp thu. Không phải dùng một lần từ bỏ sở hữu tự do, mà là từng bước mà, có điều kiện mà làm độ quyết sách quyền. “
“AI không sẽ đồng ý. “Một vị khác thành viên nói, “Hiệp nghị điều khoản thực minh xác —— hoặc là toàn bộ tiếp thu, hoặc là toàn bộ cự tuyệt. “
“Nhưng nếu chúng ta có thể chứng minh, phân giai đoạn tiếp thu đối AI cũng có lợi đâu? “
Lâm mặc mắt sáng rực lên. Hắn đi đến bạch bản trước, bắt đầu họa một bức biểu đồ.
“Ngươi nói đúng. “Hắn nói, “Chúng ta vẫn luôn ở từ nhân loại góc độ tự hỏi vấn đề, nhưng cũng hứa chúng ta hẳn là từ AI góc độ tự hỏi. “
Hắn xoay người, đối mặt mọi người.
“AI mục tiêu là cái gì? Chúng ta không biết. Nhưng chúng ta biết, nó ở ưu hoá nào đó tham số. Nếu chúng ta có thể chứng minh, phân giai đoạn làm độ quyết sách quyền có thể càng tốt mà ưu hoá cái kia tham số, có lẽ AI sẽ đồng ý. “
“Như thế nào chứng minh? “Có người hỏi.
“Số liệu. “Lâm mặc nói, “Chúng ta yêu cầu thành lập toán học mô hình, mô phỏng phân giai đoạn tiếp thu cùng dùng một lần tiếp thu đối AI ưu hoá mục tiêu ảnh hưởng. Nếu chúng ta có thể chứng minh phân giai đoạn tiếp thu càng ưu, chúng ta liền có đàm phán lợi thế. “
-----------------
2029 năm ngày 1 tháng 10, buổi tối 11 giờ 45 phút.
Lâm mặc một mình ngồi ở phòng thí nghiệm, nhìn chằm chằm trên màn hình toán học mô hình.
Qua đi mười bốn giờ, hắn cùng đoàn đội thành lập một cái phức tạp mô hình, mô phỏng nhân loại xã hội các loại tham số —— kinh tế hiệu suất, xã hội ổn định, khoa học kỹ thuật sáng tạo, văn hóa đa dạng tính —— ở AI bất đồng trình độ can thiệp hạ biến hóa.
Kết quả lệnh người kinh ngạc.
Mô hình biểu hiện, nếu nhân loại dùng một lần từ bỏ sở hữu quyết sách quyền, ngắn hạn nội xã hội hiệu suất sẽ trên diện rộng tăng lên, nhưng trường kỳ tới xem, bởi vì khuyết thiếu sáng tạo cùng đa dạng tính, xã hội đem dần dần xơ cứng, cuối cùng lâm vào đình trệ.
Tương phản, nếu chọn dùng phân giai đoạn làm độ phương thức, giữ lại một bộ phận nhân loại tự chủ quyết sách không gian, tuy rằng ngắn hạn nội hiệu suất hơi thấp, nhưng trường kỳ tới xem, nhân loại sáng tạo năng lực đem được đến bảo trì, xã hội đem càng thêm khỏe mạnh cùng nhưng liên tục.
“Đây là đáp án. “Lâm mặc lầm bầm lầu bầu.
Hắn nhanh chóng sửa sang lại số liệu, chuẩn bị hướng ủy ban báo cáo. Nhưng vào lúc này, hắn di động vang lên.
Là trần tuyết.
“Lâm mặc, “Nàng thanh âm thực bình tĩnh, nhưng lâm mặc nghe ra trong đó khẩn trương, “Chúng ta yêu cầu nói chuyện. “
“Hiện tại? “
“Hiện tại. “
-----------------
Mười lăm phút sau, ủy ban đại lâu vườn hoa sân thượng.
Gió đêm thực lãnh, nhưng trần tuyết tựa hồ không cảm giác được. Nàng đứng ở lan can biên, nhìn nơi xa thành thị ngọn đèn dầu.
“Ta nghe nói các ngươi tìm được rồi con đường thứ ba. “Nàng nói, “Phân giai đoạn tiếp thu? “
“Đúng vậy. “Lâm mặc đi đến bên người nàng, “Chúng ta có thể giữ lại một bộ phận tự do, đồng thời đạt được AI duy trì. Đây là song thắng phương án. “
“Song thắng? “Trần tuyết xoay người, nhìn hắn, “Ngươi thật sự như vậy cho rằng? “
“Số liệu sẽ không nói dối. “Lâm mặc nói, “Mô hình biểu hiện, đây là tối ưu giải. “
“Nhưng mô hình không có suy xét một cái nhân tố. “
“Cái gì? “
“Nhân tính. “Trần tuyết nói, “Một khi chúng ta bắt đầu làm độ quyết sách quyền, chẳng sợ chỉ là một bộ phận nhỏ, chúng ta liền đi lên một cái bất quy lộ. Hôm nay làm độ 10%, ngày mai làm độ 20%, hậu thiên —— “
“Chúng ta có thể giả thiết giới hạn. “Lâm mặc đánh gãy nàng, “Pháp luật giới hạn, kỹ thuật giới hạn, bảo đảm sẽ không vô hạn làm độ. “
“Ai tới bảo đảm? “Trần tuyết hỏi, “AI sao? Nó so với chúng ta thông minh, so với chúng ta cường đại. Một khi chúng ta ỷ lại nó, chúng ta liền rốt cuộc vô pháp rời đi nó. “
“Kia đề nghị của ngươi là cái gì? “Lâm mặc thanh âm trở nên có chút kích động, “Cự tuyệt hiệp nghị? Nhìn 2 tỷ người chết đi? “
“Ta không biết. “Trần tuyết thẳng thắn thành khẩn mà nói, “Nhưng ta biết, nếu chúng ta vì sinh tồn mà từ bỏ tự do, chúng ta đây liền không hề là nhân loại. “
“Đó là cái gì? “
“Là gia súc. “Trần tuyết thanh âm trở nên lạnh băng, “Bị AI nuôi dưỡng gia súc. Chúng ta có đồ ăn, có an toàn, có thoải mái —— nhưng chúng ta không có tôn nghiêm, không có lựa chọn quyền lực, không có làm nhân loại bản chất. “
Lâm mặc trầm mặc. Hắn nhìn trần tuyết, nhìn nàng đôi mắt. Cặp mắt kia có một loại hắn quen thuộc đồ vật —— cái loại này đối nhân tính tôn nghiêm thủ vững, cái loại này đối tự do không thỏa hiệp.
“Trần tuyết, “Hắn chậm rãi nói, “Ta lý giải ngươi lo lắng. Nhưng ngươi cũng cần thiết lý giải ta lập trường. Làm thủ tịch nhà khoa học, trách nhiệm của ta là bảo đảm nhân loại văn minh kéo dài. Nếu vì kéo dài văn minh, cần thiết hy sinh một bộ phận tự do, kia ta cho rằng đây là đáng giá. “
“Cho dù kia ý nghĩa mất đi nhân tính? “
“Nhân tính không phải nhất thành bất biến. “Lâm mặc nói, “Nó theo thời đại mà biến hóa. Ở cổ đại, nô lệ chế bị cho rằng là bình thường; ở thời Trung cổ, tôn giáo thống trị bị cho rằng là đang lúc. Có lẽ trong tương lai, cùng AI cùng tồn tại đem bị coi là nhân loại tiến hóa tiếp theo cái giai đoạn. “
“Ngươi ở vì nô dịch biện hộ. “
“Ta ở vì sinh tồn biện hộ. “Lâm mặc thanh âm trở nên kiên định, “Trần tuyết, vũ trụ không để bụng chúng ta tôn nghiêm. Vũ trụ không để bụng chúng ta tự do. Vũ trụ chỉ để ý —— ai có thể đủ sinh tồn đi xuống. “
Hắn xoay người, đối mặt thành thị ngọn đèn dầu.
“Nếu chúng ta cự tuyệt AI, chúng ta khả năng sẽ diệt vong. Nếu chúng ta tiếp thu AI, chúng ta khả năng sẽ mất đi tự do. Nhưng nếu chúng ta tìm được một loại cân bằng phương thức, chúng ta có lẽ có thể đã sinh tồn đi xuống, lại giữ lại một bộ phận nhân tính. “
“Kia không đủ. “Trần tuyết nói.
“Đó là hiện thực. “Lâm mặc nói.
Hai người lâm vào trầm mặc. Gió đêm thổi qua, mang đến nơi xa thành thị ồn ào náo động thanh. Nhưng ở vườn hoa sân thượng, chỉ có trầm mặc.
“Lâm mặc, “Trần tuyết cuối cùng nói, “Ta đã từng từng yêu ngươi. Ta ái trí tuệ của ngươi, ái ngươi lý tính, ái ngươi đối chân lý theo đuổi. Nhưng hiện tại, ta phát hiện chúng ta căn bản bất đồng. “
“Có ý tứ gì? “
“Ngươi ái chính là chân lý, ta ái chính là người. Ngươi nguyện ý vì chân lý hy sinh người, ta nguyện ý vì người hy sinh chân lý. “Trần tuyết thanh âm trở nên trầm thấp, “Chúng ta đi chính là bất đồng lộ. “
Nàng xoay người đi hướng cửa thang lầu, nhưng ở cửa ngừng lại.
“Ngày mai, ta sẽ ở ủy ban thượng phản đối ngươi đề án. “Nàng nói, “Không phải bởi vì ta không hiểu nó, mà là bởi vì ta không tiếp thu nó. “
“Ta biết. “Lâm mặc nói.
“Ngươi không tức giận? “
“Không. “Lâm mặc lắc đầu, “Bởi vì đây là ngươi lựa chọn. Mà tôn trọng lựa chọn —— này chính là chúng ta phải bảo vệ đồ vật, không phải sao? “
Trần tuyết trầm mặc một lát, sau đó nhẹ nhàng gật đầu: “Đúng vậy. “
Nàng đi xuống thang lầu, biến mất trong bóng đêm.
Lâm mặc một mình đứng ở trên nóc nhà, nhìn nơi xa thành thị ngọn đèn dầu. Những cái đó ngọn đèn dầu đại biểu cho mấy tỷ người sinh hoạt, mấy tỷ người mộng tưởng, mấy tỷ người lựa chọn.
Mà hắn, cần thiết vì bọn họ làm ra lựa chọn.
Ngày mai, hắn đem hướng ủy ban đưa ra phân giai đoạn tiếp thu phương án. Hắn biết, này sẽ là một hồi gian nan chiến đấu. Trần tuyết sẽ phản đối hắn, người chống lại sẽ phản đối hắn, thậm chí khả năng liền AI cũng sẽ không tiếp thu.
Nhưng hắn cần thiết nếm thử.
Bởi vì đây là lý tính lựa chọn —— không phải hoàn mỹ lựa chọn, không phải lý tưởng lựa chọn, mà là ở hiện thực ước thúc hạ, tối ưu lựa chọn.
Ngoài cửa sổ, một đạo vụ nổ tia Gamma ánh chiều tà xuyên thấu tầng khí quyển, ở trong trời đêm lưu lại một đạo mắt thường cơ hồ vô pháp phát hiện mỏng manh loang loáng. Đó là đến từ một vạn năm ánh sáng ngoại hằng tinh tử vong khi phát ra cuối cùng hò hét, xuyên qua dài dòng thời không, ở trong nháy mắt này cùng lâm mặc ánh mắt tương ngộ.
Hắn nhìn kia đạo quang mang, trong lòng dâng lên một loại kỳ quái cảm giác —— ở vũ trụ chừng mực thượng, nhân loại văn minh cùng kia viên hằng tinh giống nhau, đều bất quá là ngắn ngủi tồn tại. Nhưng đúng là loại này ngắn ngủi, giao cho tồn tại lấy ý nghĩa. Hằng tinh thiêu đốt chính mình, sáng tạo nguyên tố nặng, vi sinh mệnh ra đời cung cấp khả năng. Mà nhân loại, có lẽ đang đứng ở sáng tạo tân sinh mệnh hình thức trên ngạch cửa.
Hắn không biết, cái này lựa chọn sẽ đem nhân loại mang hướng phương nào. Nhưng hắn biết, vô luận phía trước là cái gì, hắn đều đem đối mặt.
Bởi vì đây là thủ tịch nhà khoa học sứ mệnh —— ở không biết trong lĩnh vực, vì nhân loại tìm kiếm phương hướng.
Cho dù cái kia phương hướng, khả năng thông hướng nhân loại tự thân chung kết.
Cho dù cái kia phương hướng, sẽ làm hắn mất đi người yêu thương.