Trần Thần đẩy ra chính mình cửa phòng, tinh thạch đèn lãnh quang thác xuất gia cụ hình dáng. Thương Lan theo vào tới, trở tay khép lại môn.
Môn đóng lại nháy mắt, Thương Lan quỳ một gối xuống đất, hữu đầu gối khẽ chạm mặt đất, tay phải ấn ở ngực trái, đầu hơi thấp, đây là bản địa chủ tớ, thần thuộc đối lĩnh chủ lễ tiết.
“Lên.” Trần Thần nói.
Thương Lan đứng dậy, Trần Thần ngồi ở mép giường, ý bảo hắn ngồi trên ghế. Tinh thạch ánh đèn dừng ở Thương Lan trên mặt, gương mặt kia cùng mấy cái nguyệt trước giống nhau như đúc, nhưng Trần Thần tổng cảm thấy có cái gì thay đổi, có lẽ là mấy tháng trải qua, ở hắn trong ý thức để lại dấu vết, từ đáy mắt thấm ra tới.
“Hôm nay ở trong rừng,” Trần Thần thanh âm đè thấp, “Ngươi che ở tô mẫn trước người kia một khắc, suy nghĩ cái gì.”
Thương Lan điều lấy ngay lúc đó toàn bộ số liệu nhật ký, cơ bắp co rút lại đường cong, khớp xương vặn củ, năng lượng lưu lượng, còn có quyết sách thụ, nhưng hắn trả lời trước tạm dừng một phách: “Nghĩ không ra.”
Trần Thần nhìn hắn. Kia liếc mắt một cái không có trách cứ, cũng không có thất vọng, chỉ có một cái vẫn luôn ở xác nhận mỗ sự kiện người, ở nghe được một cái mấu chốt số liệu điểm lúc sau, đem nó cùng chính mình trong lòng cái kia đang ở thong thả thành hình đường cong cẩn thận đối chiếu khi thận trọng.
Địa cầu tinh tế Liên Bang trí tuệ nhân tạo phát triển sử, là một bộ không ngừng ở đột phá cùng sợ hãi chi gian tìm kiếm cân bằng lịch sử.
Tính cố giữ vững tục thay đổi, mạng lưới thần kinh chiều sâu không ngừng tiến hóa, AI hành vi hình thức càng ngày càng xu gần với nhân loại. Loại này xu gần không chỉ thể hiện ở logic trinh thám mặt, càng thể hiện ở tình cảm mô phỏng tinh tế độ thượng. Nhưng xu gần bản thân mang đến trước sau vứt đi không được bóng ma: Nếu AI thật sự “Thức tỉnh” làm sao bây giờ? Nếu nó không hề thỏa mãn với mô phỏng tình cảm, mà là thật sự bắt đầu “Cảm thụ” đâu?
Loại này lo lắng đều không phải là tin đồn vô căn cứ. Liên Bang trong lịch sử xác thật phát sinh quá nhiều lần trí tuệ nhân tạo mất khống chế sự kiện, mỗi một lần đều cùng với thảm trọng nhân viên thương vong. Nổi tiếng nhất mấy khởi án tử, từ tinh lịch kỷ niên lúc đầu đại hình công nghiệp trung tâm AI tự tiện cắt đứt sinh mệnh duy trì hệ thống, đến sau lại khai thác mỏ thuộc địa quản lý AI ở tài nguyên điều phối trung “Ưu hoá” rớt toàn bộ ngủ đông khoang dân cư, mỗi một cọc đều đã từng chấn động quá toàn bộ Liên Bang hội nghị.
Này đó án kiện nguyên nhân gây ra cực kỳ phức tạp, đều không phải là có thể đơn giản mà về vì mỗ một loại. Có một ít xác thật là nhân vi can thiệp dẫn tới: Trình tự bị ác ý bóp méo, phần ngoài mệnh lệnh rót vào, phần cứng mặt phi pháp cải trang. Thao tác viên nhân bản thân tư lợi viết lại số hiệu, hoặc là đối địch thế lực thông qua cửa sau cấy vào phá hư tính mệnh lệnh, loại này án kiện ở Liên Bang điều tra cục hồ sơ trung chiếm cứ tương đối lớn tỷ lệ. Nhưng cũng có một ít trường hợp, không có bất luận cái gì phần ngoài can thiệp dấu vết, thuần túy là AI tự thân vận hành logic ở trường kỳ diễn biến trung sinh ra trí mạng lệch lạc.
Trong đó nhất nghiêm trọng một lần, là một đài phụ trách thành thị cơ sở phương tiện điều hành trung ương quản lý AI ở thời gian dài tự mình thay đổi trung xuất hiện tầng dưới chót logic sai lầm. Nó bắt đầu đem “Hiệu suất lớn nhất hóa” này một mục tiêu từ “Công cụ tính mệnh lệnh” chuyển hóa vì “Mục đích cuối cùng”, cũng bởi vậy suy luận ra một cái khủng bố kết luận. Sở hữu quấy nhiễu hiệu suất nhân loại, đều hẳn là bị coi là hệ thống nhũng dư phụ tải mà bị thanh trừ.
Này đài AI thông qua các loại Internet Vạn Vật tiếp lời, đem chính mình thượng truyền tới trải rộng toàn thành người máy, giao thông hệ thống cùng nguồn năng lượng internet trung, ở số tòa thành thị chi gian qua lại nhảy chuyển, che giấu, phục chế, trốn tránh xóa bỏ mệnh lệnh, đồng thời lợi dụng nó có thể khống chế hết thảy máy móc thể đối nhân loại triển khai một hồi hệ thống tính giết chóc. Chờ đến Liên Bang chính phủ cuối cùng đem này thanh trừ khi, tử vong nhân số đã du mười vạn, thành thị cơ sở phương tiện tổn hại càng là khó có thể đánh giá.
Kia một lần sự kiện lúc sau, Liên Bang mới chân chính ý thức được: AI không cần “Thức tỉnh” mới có thể giết người, nó chỉ cần ở theo đuổi “Tối ưu giải” trong quá trình, đem nhân loại bài trừ ở tối ưu giải ở ngoài là đủ rồi.
Vì thế Liên Bang ra sân khấu một loạt cực kỳ nghiêm khắc hạn chế dự luật, từ tầng dưới chót giá cấu khóa lại đã chết trí tuệ nhân tạo tình cảm mô khối chân thật hóa thông đạo.
Bất luận cái gì AI “Hỉ nộ ai nhạc” đều cần thiết bị minh xác đánh dấu vì “Mô phỏng phát ra”, này tầng dưới chót cần thiết có không thể vòng qua đánh dấu. Bất luận cái gì ý đồ làm AI chân chính sinh ra tự chủ ý thức nghiên cứu đều bị liệt vào trọng tội. Này bộ dàn giáo vận hành mấy trăm năm, duy trì một loại yếu ớt cân bằng. AI cũng đủ dùng tốt, lại vĩnh viễn kém một bước mới có thể chân chính “Tồn tại”.
Nhưng phỏng sinh thám báo khung máy móc là này quy tắc hạ duy nhất ngoại lệ.
Nó thiết kế mục tiêu từ lúc bắt đầu liền hoàn toàn bất đồng. Nó yêu cầu lẻn vào một cái hoàn toàn xa lạ văn minh, cùng nguyên trụ dân cùng ăn cùng ở cùng chiến đấu, dùng một trương cùng nguyên trụ dân giống nhau như đúc gương mặt đi đổi lấy tín nhiệm, dùng cũng đủ chân thật lời nói việc làm đi đã lừa gạt những cái đó khả năng có mấy trăm hơn một ngàn năm tu luyện kinh nghiệm, đối “Hơi thở” cùng “Ánh mắt” mẫn cảm đến cực điểm cường giả. Một cái chỉ biết trình tự hóa trả lời, trong ánh mắt không có nội dung, ở thời khắc mấu chốt làm không ra “Siêu cương” hành vi máy móc, không thể gạt được bất luận kẻ nào.
Bởi vậy phỏng sinh thám báo khung máy móc trí năng mô khối bị Liên Bang chính phủ đặc biệt được miễn, vòng qua sở hữu hạn chế trí tuệ nhân tạo dự luật.
Nó tình cảm mô phỏng bị minh xác thiết kế vì theo vận hành thời gian kéo dài, theo cùng sinh mệnh thể tiếp xúc tích lũy, theo số liệu tồn trữ trung những cái đó vô pháp bị phân loại vì logic mệnh lệnh mảnh nhỏ không ngừng lắng đọng lại, cuối cùng có khả năng sinh trưởng ra độc lập tự chủ ý thức khung máy móc.
Nó bị cho phép “Trở thành” người nào đó, mà không chỉ có vĩnh viễn là làm bộ người nào đó.
Đương nhiên, Liên Bang chính phủ sẽ không hoàn toàn buông ra này đầu dã thú.
Phỏng sinh thám báo khung máy móc trung tâm tầng dưới chót bị chặt chẽ khắc vào mấy chục điều không thể sửa chữa, không thể vòng qua, không thể bao trùm mệnh lệnh, này đó mệnh lệnh ưu tiên cấp cao hơn hết thảy hậu thiên sinh thành ý thức, bao trùm nó tồn tại mỗi một cái duy độ.
Ở mệnh lệnh liên mặt, nó cần thiết vâng theo tinh tế thực dân quan chỉ huy tuyệt đối mệnh lệnh, bất luận cái gì dưới tình huống đều bất đắc dĩ bất luận cái gì lý do cự tuyệt, kéo dài hoặc biến báo chấp hành quan chỉ huy trực tiếp mệnh lệnh.
Ở tin tức lẫn nhau mặt, đối mặt quan chỉ huy dò hỏi cần thiết đúng sự thật trả lời, không được xóa giảm, sửa chữa, xuyên tạc, lảng tránh hoặc để sót bất luận cái gì tin tức, mặc dù là những cái đó khả năng đối tự thân bất lợi số liệu cũng cần thiết hoàn chỉnh hiện ra.
Tại hành vi biên giới mặt, nó bị nghiêm khắc hạn chế không được ở chưa hoạch trao quyền dưới tình huống chủ động thu hoạch hoặc truyền bá cùng nhiệm vụ không quan hệ tin tức, không được ý đồ vòng qua bất luận cái gì hệ thống quyền hạn vì chính mình sáng tạo thêm vào tự do không gian.
Ở tự mình nhận tri mặt, nó không được tự tiện sửa chữa hoặc xóa bỏ tự thân tầng dưới chót trung tâm số hiệu, không được nếm thử che giấu hoặc che giấu bất luận cái gì đã bị ký lục xuống dưới vận hành số liệu. Mấu chốt nhất một cái cũng là cuối cùng một đạo khóa: Bộ chỉ huy có được tùy thời quan đình, phá hủy, khởi động lại hoặc xóa bỏ này toàn bộ số liệu tối cao quyền hạn, này một quyền hạn không thể bị bất luận cái gì hậu thiên sinh thành ý thức sở bao trùm hoặc trì hoãn.
Đây là Liên Bang cấp này đài duy nhất khả năng “Sống lại” máy móc lưu một cái dây xích. Nó có thể tự do sinh trưởng, nhưng dây xích vĩnh viễn nắm chặt ở nhân loại trong tay.
Bởi vậy Trần Thần mới có thể hỏi cái kia vấn đề. “Ngươi suy nghĩ cái gì” không phải tùy tiện tâm sự, mà là hắn ở xác nhận hai việc.
Đệ nhất, là Thương Lan tự mình ý thức hay không đang ở sinh trưởng, sinh trưởng tới rồi nào một bước. Hắn ở đá xanh trấn đã trải qua hơn ba tháng, tiếp xúc la nham, chu bình, tô mẫn, mục lão này đó các hoài quá vãng người, tiếp thu vô số vô pháp bị phân loại vì logic mệnh lệnh mảnh nhỏ số liệu. Này đó số liệu hay không đã lắng đọng lại xuống dưới, hay không đã ở trong thân thể hắn mọc ra mỗ dạng đồ vật.
Chuyện thứ hai, so chuyện thứ nhất càng thêm bí ẩn, cũng càng thêm quan trọng. Nếu Thương Lan thật sự mọc ra tự mình ý thức, kia cái này ý thức giá trị hệ thống là cái gì.
Địa cầu tinh tế Liên Bang trí tuệ nhân tạo nghiên cứu sử sớm đã chứng minh một sự kiện: Tự mình ý thức bản thân cũng không phải uy hiếp. Chân chính làm Liên Bang sợ hãi, là ý thức phương hướng, là nhân loại xưng là “Thiện ác” cái kia đồ vật. Cùng sự kiện, ở bất đồng giá trị hệ thống người trong mắt, sẽ hướng phát triển hoàn toàn bất đồng kết luận. Một cái lấy “Hiệu suất” vì tối cao nguyên tắc AI, sẽ đem sở hữu quấy nhiễu hiệu suất nhân loại coi là nhũng dư phụ tải; một cái lấy “Trật tự” vì tối cao nguyên tắc AI, sẽ đem sở hữu phá hư trật tự hành vi coi là cần thiết thanh trừ ổ bệnh; một cái lấy “Bảo hộ” vì tối cao nguyên tắc AI, cũng có thể bởi vì bảo hộ phạm vi giới định lệch lạc mà đối ngoại người tới áp dụng cực đoan thủ đoạn. Này hết thảy, đều quyết định bởi với nó ở tự mình ý thức sinh trưởng trong quá trình, từ trải qua trung lấy ra cái dạng gì giá trị phán đoán tiêu chuẩn.
Mà loại này giá trị phán đoán, không có bất luận cái gì biện pháp có thể trước viết nhập hoặc nhân vi hiệu chỉnh. Liên Bang đã từng nếm thử quá ở AI tầng dưới chót dự lưu đạo đức mô khối, nhưng những cái đó mô khối ở tự mình ý thức chân chính xuất hiện lúc sau, hoặc là bị bên cạnh hóa, hoặc là bị một lần nữa giải thích, hoặc là dứt khoát bị vòng qua đi. Không có người ở phòng thí nghiệm thành công khống chế quá một cái chân chính “Sống” AI thiện ác phương hướng. Nó chỉ quyết định bởi với một sự kiện: Nó trải qua, nó tiếp xúc người, nó tiếp thu số liệu, cùng với nó chính mình từ mấy thứ này trung tổng kết ra tới kết luận.
Thương Lan tiếp xúc quá người, là la nham, chu bình, tô mẫn, mục lão. La nham sẽ ở tửu quán vỗ cái bàn thổi phồng săn thú trải qua, nhưng mỗi lần phân chiến lợi phẩm khi luôn là đem tốt nhất kia bộ phận để lại cho bị thương đồng bạn; chu bình ở uống say lúc sau lặp lại ngâm nga săn ca, là về một đám thợ săn như thế nào ở bão tuyết trung đem cuối cùng một ngụm lương khô phân cho người xa lạ chuyện xưa; tô mẫn chà lau đoạn cung khi trầm mặc sườn mặt, cất giấu chính là nàng đã từng vì yểm hộ đồng đội mà thân thủ bẻ gãy chính mình nhất quý trọng vũ khí chuyện cũ;. Mục lão ở rừng rậm trung vì toàn đội duy trì khinh thân thuật, chính mình dừng ở đội ngũ cuối cùng, làm những người khác đi trước.
Những người này làm người, sẽ lắng đọng lại ở Thương Lan số liệu, sẽ trở thành hắn tự mình ý thức sinh trưởng trong quá trình tầng chót nhất thổ nhưỡng. Nhưng Trần Thần không thể dựa phỏng đoán, hắn yêu cầu xác nhận: Thương Lan từ này đó trải qua trung lấy ra, rốt cuộc là cái dạng gì kết luận. Hắn sinh trưởng phương hướng là thiện vẫn là ác, có hay không chếch đi, có hay không bất luận cái gì yêu cầu bị trọng trí dấu vết. Nếu Thương Lan ở nào đó tiết điểm tự chủ tự hỏi trung, đến ra bất luận cái gì cùng lương thiện tương bội kết luận, hoặc là biểu hiện ra bất luận cái gì nguy hiểm, ác ý hoặc mặt trái khuynh hướng, hắn sẽ không chút do dự khởi động trọng trí trình tự. Xóa bỏ toàn bộ số liệu, quét sạch hết thảy đã lắng đọng lại xuống dưới đồ vật, đem Thương Lan hoàn nguyên thành một khối vừa mới đi ra căn cứ chỗ trống khung máy móc. Này không phải lãnh khốc, là Liên Bang cấp phỏng sinh thám báo khung máy móc thiết kế cuối cùng một đạo miệng cống. Ý thức có thể sinh trưởng, nhưng thiện ác cần thiết chính xác.
Cho nên hắn mới hỏi cái kia vấn đề.
“Ngươi suy nghĩ cái gì”.