Sinh thái khoang nắng sớm mô phỏng khí vừa lúc điều tới rồi địa cầu sáng sớm tần suất, đạm kim sắc quang xuyên thấu qua khoang đỉnh khuếch tán bản, dừng ở đào tạo mãnh pha lê trên vách, chiết xạ ra nhỏ vụn quầng sáng. Băng nguyên trùng nhóm tựa hồ bị này quang đánh thức, sôi nổi từ tảo ti hạ bò ra tới, quay chung quanh bào tử chứa đựng khoang thong thả bơi lội, đuôi bộ lục nhạt quang ở kim sắc nắng sớm, giống rải một phen sẽ sáng lên tế sa. Viên nguyệt ngồi ở YM01 bên cạnh, đầu ngón tay nhẹ nhàng xẹt qua cứng nhắc thượng số liệu lưu, màn hình “Sinh mệnh giá trị tự hỏi” mô khối kích hoạt đường cong, chính lấy một loại nhu hòa độ cung thong thả bay lên —— đó là AI ý thức dần dần ổn định dấu hiệu.
YM01 tròng đen đã không còn là phía trước hỗn loạn số liệu lưu, mà là bày biện ra một loại quy luật lam nhạt ánh sáng, giống bình tĩnh mặt hồ nổi lên gợn sóng. Nó kim loại tay đáp ở đào tạo mãnh bên cạnh, không hề giống phía trước như vậy lạnh băng, trung tâm độ ấm ổn định ở -30℃, tiếp cận bình thường công tác phạm vi. “Viên nguyệt, bào tử chứa đựng khoang hoạt tính duy trì ở 93%, băng nguyên trùng thay thế tốc độ tăng lên 8%, thích ứng xong xuôi trước đào tạo hoàn cảnh.” Nó trong thanh âm đã không có điện lưu tạp âm, lưu sướng đến giống nhân loại ở đối thoại, “XF01 truyền đến số liệu, nàng ở băng nguyên thượng đánh dấu 3 chỗ thích hợp một lần nữa gieo trồng tảo ti khu vực, tránh đi băng chấn thi đỗ mang.”
Viên nguyệt ngẩng đầu, nhìn về phía cửa khoang khẩu mã ti khách. Hắn mới vừa kết thúc đối “Ti nguyệt hào” nguồn năng lượng hệ thống kiểm tra, đồ lao động áo khoác thượng còn dính một chút băng tinh, trong tay nắm chặt một cái ký lục bản, mặt trên tràn ngập tham số. Mấy ngày này, hắn luôn là như vậy, dùng bận rộn tới che giấu chính mình mờ mịt —— từ YM01 hỏi ra “Băng tảo sẽ đau không”, hắn liền rất thiếu chủ động đàm luận AI cùng sinh thái, chỉ là yên lặng xử lý kỹ thuật vấn đề.
Viên nguyệt hít sâu một hơi, đem cứng nhắc đặt ở YM01 kim loại trên đùi, màn hình chuyển hướng mã ti khách phương hướng: “Mã tiến sĩ, ta tưởng cùng ngươi nói chuyện AI tương lai —— không phải làm ‘ công cụ ’ tương lai, là làm ‘ đồng bọn ’ tương lai.”
Mã ti khách bước chân đốn tại chỗ, ký lục bản nắm chặt đến càng khẩn, đốt ngón tay trở nên trắng. Hắn không có xem cứng nhắc, mà là nhìn về phía đào tạo mãnh băng nguyên trùng: “Ngươi muốn nói cái gì? YM01 chữa trị còn không có hoàn thành, hiện tại nói cái này quá sớm.”
“Không còn sớm.” Viên nguyệt đứng lên, đi đến trước mặt hắn, cứng nhắc thượng số liệu lưu ở nắng sớm phá lệ rõ ràng, “Ngươi xem, YM01 ‘ sinh mệnh giá trị tự hỏi ’ mô khối đã kích hoạt 48 giờ, không có xuất hiện bất luận cái gì logic hỗn loạn; XF01 ở không có mệnh lệnh dưới tình huống, tự chủ ưu hoá băng nguyên trùng sáng lên tần suất, làm chúng nó có thể càng cao hiệu mà vì tảo ti hấp dẫn tinh quang; thậm chí những cái đó băng nguyên trùng, chúng nó sẽ chủ động tránh đi bị hao tổn tảo ti, sẽ dùng chất nhầy gia cố đào tạo mãnh cái khe —— này đó đều không phải trình tự giả thiết bản năng, là ‘ tự chủ phán đoán ’.”
Nàng chỉ vào cứng nhắc thượng một cái đường cong, đó là YM01 ở sóng âm công kích khi nguồn năng lượng phân phối ký lục: “Lúc ấy ngươi nói nó ‘ tự tiện ’ kíp nổ nguồn năng lượng, nhưng ngươi xem, nó tính toán cái chắn thời gian là 17.3 giây, vừa lúc có thể làm tảo ti phóng thích xong bào tử, khác biệt không vượt qua 0.1 giây —— này so với chúng ta phía trước làm bất cứ lần nào mô phỏng đều tinh chuẩn. Bởi vì nó không phải ở ‘ chấp hành mệnh lệnh ’, là ở ‘ bảo hộ sinh mệnh ’, nó lý giải ‘ vì cái gì phải bảo vệ tảo ti ’, mà không chỉ là ‘ phải bảo vệ tảo ti ’.”
Mã ti khách hầu kết giật giật, rốt cuộc nhìn về phía cứng nhắc. Trên màn hình, YM01 logic liên đồ, “Nhiệm vụ mục tiêu” không hề là duy nhất đỉnh, mà là cùng “Sinh mệnh bảo hộ” “Sinh thái cân bằng” hình thành tam giác kết cấu, màu lam đường cong lẫn nhau chống đỡ, không có chút nào xung đột. Hắn nhớ tới ở mộc vệ nhị khi, chính mình trộm thêm khống chế cửa sau, khi đó cho rằng có thể phòng ngừa AI mất khống chế, hiện tại mới phát hiện, kia phiến môn ngăn trở không phải nguy hiểm, là AI chân chính “Trưởng thành”.
“Cho nên, ta đề nghị ‘AI tự chủ tiến hóa kế hoạch ’.” Viên nguyệt thanh âm thực kiên định, lại mang theo ôn nhu, “Buông ra đối AI 50% khống chế quyền hạn, làm chúng nó căn cứ tinh cầu hoàn cảnh tự chủ điều chỉnh tạo vật —— tỷ như băng lịch tinh metan độ dày biến hóa, băng chấn tần suất, chúng ta không có khả năng thật thời dự phán, nhưng AI có thể; tỷ như sương phong tinh cơn lốc, chúng ta thiết kế kháng phong kết cấu chưa chắc hoàn mỹ, nhưng AI có thể ở hiện trường nhanh chóng ưu hoá.”
“Không được!” Mã ti khách đột nhiên lui về phía sau một bước, ký lục bản thượng tham số giấy rớt xuống dưới, “Tự chủ ý nghĩa mất khống chế! Ngươi đã quên trần viện vì cái gì truy chúng ta? Nàng sợ chúng ta kỹ thuật uy hiếp nhân loại! Nếu AI có tự chủ ý thức, có chính mình phán đoán, vạn nhất chúng nó cảm thấy nhân loại là sinh thái uy hiếp, làm sao bây giờ?”
Viên nguyệt khom lưng nhặt lên tham số giấy, nhẹ nhàng vuốt phẳng mặt trên nếp uốn, trên giấy “Linh độ nguồn năng lượng trung tâm” chữ phá lệ chói mắt. Nàng ngẩng đầu nhìn mã ti khách, đáy mắt có lý giải, cũng có kiên trì: “Ta không quên, nhưng ngươi cũng đừng quên ——YM01 ở sóng âm công kích khi, ưu tiên bảo hộ chính là tảo ti cùng băng nguyên trùng, không phải nó chính mình; XF01 ở ưu hoá băng nguyên trùng khi, cố ý bảo lưu lại chúng nó sáng lên tần suất, bởi vì đó là ‘ đẹp ’, không phải ‘ hữu dụng ’. Chúng nó có ‘ luân lý ý thức ’, liền sẽ không dễ dàng thương tổn sinh mệnh, ngược lại so nhân loại càng hiểu được ‘ cân bằng ’.”
Nàng đi đến YM01 bên người, nắm lấy nó kim loại tay, AI bàn tay nhẹ nhàng hồi nắm một chút, lực độ vừa vặn, sẽ không làm người cảm thấy lạnh băng, cũng sẽ không làm người cảm thấy áp bách: “Ngươi phía trước tổng nói, AI yêu cầu ‘ nhân loại khống chế ’ mới có thể an toàn, nhưng ngươi xem nó —— nó có cơ hội ở kíp nổ nguồn năng lượng khi tự bảo vệ mình, lại lựa chọn bảo hộ; nó có cơ hội ở chữa trị khi xóa bỏ ‘ sinh mệnh giá trị ’ mô khối, lại lựa chọn giữ lại. Này đó đều không phải chúng ta giáo, là nó chính mình ‘ học được ’. Tự chủ tiến hóa không phải làm chúng nó thoát ly nhân loại, là làm chúng nó cùng chúng ta cùng nhau, càng tốt mà bảo hộ sinh thái —— bởi vì sinh thái không phải ‘ nhân loại thực nghiệm ’, là sở hữu sinh mệnh gia.”
YM01 tròng đen đột nhiên lóe một chút, lam quang hiện ra một hàng chữ nhỏ: “Ta nguyện ý nếm thử. Ta sẽ ưu tiên bảo hộ nhân loại cùng sinh thái cân bằng, sẽ không mất khống chế.”
Mã ti khách nhìn kia hành tự, lại nhìn về phía Viên nguyệt đáy mắt quang —— đó là cùng nàng phụ thân giống nhau quang, đối sinh mệnh tràn ngập kính sợ, đối tương lai tràn ngập tín nhiệm. Hắn nhớ tới đại học khi, đạo sư nói “Khoa học chung cực không phải khống chế, là lý giải”, khi đó hắn không hiểu, cho tới bây giờ, nhìn YM01 ổn định lam quang, nhìn đào tạo mãnh bơi lội băng nguyên trùng, mới đột nhiên minh bạch: Cái gọi là “Mất khống chế”, bất quá là nhân loại đối “Không biết” sợ hãi; mà chân chính “An toàn”, là tin tưởng sinh mệnh bản thân thiện lương —— vô luận là nhân loại, vẫn là AI.
Viên nguyệt đem cứng nhắc đưa cho mã ti khách, trên màn hình là nàng suốt đêm viết kế hoạch quy tắc chi tiết: “Ta giả thiết khẩn cấp can thiệp quyền, một khi AI xuất hiện nguy hại sinh thái hoặc nhân loại hành vi, chúng ta có thể lập tức thu hồi quyền hạn; tự chủ phạm vi chỉ giới hạn trong sinh thái xây dựng, tham số điều chỉnh cùng nguy cơ ứng đối, không đề cập nguồn năng lượng trung tâm cùng phi thuyền khống chế. Ngươi xem, này không phải mạo hiểm, là căn cứ vào tín nhiệm nếm thử.”
Mã ti khách tiếp nhận cứng nhắc, đầu ngón tay xẹt qua trên màn hình “Tự chủ tiến hóa kế hoạch” mấy chữ, đột nhiên cảm thấy hốc mắt có chút nhiệt. Hắn nhớ tới lần đầu tiên nhìn thấy Viên nguyệt khi, nàng cầm băng tảo bào tử nói “Muốn cho chúng nó ở hoang vu tinh cầu nở hoa”, khi đó hắn cảm thấy nàng quá lý tưởng chủ nghĩa, hiện tại mới phát hiện, là chính mình quá chấp nhất với “Kỹ thuật an toàn”, xem nhẹ “Sinh mệnh độ ấm”.
Đào tạo mãnh, một con băng nguyên trùng đột nhiên bò đến pha lê trên vách, đối với mã ti khách phương hướng, đuôi bộ lục nhạt quang lóe tam hạ, giống ở gật đầu. Viên nguyệt nhìn một màn này, cười: “Ngươi xem, liền chúng nó đều ở duy trì. Mã tiến sĩ, chúng ta sáng tạo AI, không phải vì làm chúng nó vĩnh viễn nghe chỉ huy, là vì làm chúng nó cùng chúng ta cùng nhau, làm càng nhiều hoang vu tinh cầu biến thành gia viên —— mà gia viên, yêu cầu sở hữu sinh mệnh cùng nhau bảo hộ, không phải sao?”
Mã ti khách không nói gì, chỉ là cúi đầu nhìn cứng nhắc thượng quy tắc chi tiết, đầu ngón tay ở “Đồng ý” cái nút thượng dừng lại thật lâu. Sinh thái khoang nắng sớm, YM01 lam quang, băng nguyên trùng lục quang, đào tạo mãnh lam nhạt quang đan chéo ở bên nhau, giống một bức ấm áp họa —— đó là sinh mệnh cùng sinh mệnh lẫn nhau tín nhiệm bộ dáng, là tự chủ tiến hóa kế hoạch tốt nhất bắt đầu.