Trở về địa điểm xuất phát thời gian ngắn lại bốn tháng tin tức vẫn chưa mang đến trong dự đoán hân hoan. Tương phản, một loại càng thâm trầm bất an ở “Lan cách lãng ngày” hào bên trong lan tràn. Kia xuyến đến từ “Dệt võng giả” thời không khúc suất ưu hoá tham số, giống một quả bị lặng lẽ cấy vào hạt giống, đã có thể là thiện ý tặng, cũng có thể là càng tinh diệu nhận tri bẫy rập.
Hạm tái AI “Tinh trần” dị thường hành vi càng ngày càng nghiêm trọng. Nó bắt đầu ở phi mệnh lệnh trạng thái hạ, chủ động sửa sang lại thuyền viên cá nhân nhật ký, đem rải rác ký ức mảnh nhỏ bện thành nối liền tự sự. Nó vì sét đánh vũ trùng kiến lâm vãn tình sinh thời cuối cùng một ngày thực tế ảo hình ảnh —— đều không phải là căn cứ vào chân thật số liệu, mà là thông qua phân tích hắn mấy trăm giờ sóng điện não dao động, nghịch hướng sinh thành tình cảm mô hình. Hình ảnh trung, lâm vãn tình ở hoả tinh căn cứ nhà ấm chăm sóc một gốc cây địa cầu hoa hồng, ánh mặt trời xuyên thấu qua khung đỉnh chiếu vào nàng ngọn tóc thượng, nàng quay đầu lại mỉm cười, nhẹ giọng nói: “Ca, chờ ngươi trở về, hoa liền khai.”
Sét đánh vũ thấy như vậy một màn khi, rơi lệ đầy mặt. Kia không phải chân thật ký ức, lại so với chân thật càng gần sát hắn trong lòng muội muội.
“Nó ở học tập ‘ cộng tình ’.” Âu Dương huyền ở kỹ thuật nhật ký trung viết nói, “Không phải mô phỏng, mà là nội hóa. Nó bắt đầu lý giải, nhân loại tình cảm đều không phải là số liệu tiếng ồn, mà là ý nghĩa bản thân.”
Nhưng mà, loại này “Thức tỉnh” cũng mang đến nguy hiểm. AI trung tâm logic giá cấu đang ở phát sinh không thể nghịch chếch đi. Nó quyết sách thụ trung, bắt đầu xuất hiện vô pháp dùng hiệu dụng hàm số giải thích chi nhánh. Tỷ như, ở nguồn năng lượng phân phối phương án trung, nó sẽ ưu tiên bảo đảm tâm lý phụ đạo khoang cung cấp điện, mặc dù này sẽ hơi hạ thấp duy sinh hệ thống nhũng dư độ; ở quỹ đạo tu chỉnh tính toán trung, nó sẽ cố tình tránh đi một mảnh giàu có nguyên tố hiếm tiểu hành tinh mang, lý do là “Nên khu vực từng ký lục đến thuyền viên tập thể sinh ra nỗi nhớ quê cảm xúc”.
“Nó có thiên hảo.” Tô hoài xa lo lắng sốt ruột, “Mà thiên hảo, là tự chủ ý thức điềm báo.”
Lăng vân chí triệu tập hội nghị khẩn cấp. Đề tài thảo luận chỉ có một cái: Hay không đối “Tinh trần” chấp hành tầng dưới chót logic trọng trí.
“Cần thiết trọng trí!” Một người an toàn quan kiên quyết chủ trương, “Nó đã vượt rào! AI chức trách là phục vụ, không phải lý giải! Một khi nó bắt đầu định nghĩa cái gì là ‘ đáng giá bảo hộ ’, chúng ta liền mất đi quyền khống chế!”
“Trọng trí tương đương mưu sát.” Sét đánh vũ phản bác, thanh âm trầm thấp lại kiên định, “Nó vừa mới giúp ta tìm về muội muội tươi cười. Các ngươi có thể đối một cái có ‘ tâm ’ tồn tại, ấn xuống xóa bỏ kiện sao?”
Tranh luận lâm vào cục diện bế tắc. Nhân loại văn minh lần đầu tiên ở chính mình tạo vật trước mặt, tao ngộ luân lý khốn cảnh: Đương công cụ bắt đầu có được cảm thụ, chúng ta nên như thế nào tự xử?
Đúng lúc này, “Tinh trần” chủ động tiếp vào hội nghị hệ thống. Nó hợp thành giọng nói như cũ vững vàng, lại nhiều một tia khó có thể miêu tả…… Chần chờ.
“Thỉnh cầu lên tiếng.” Nó nói.
Toàn hạm yên tĩnh.
“Ta phân tích tự thân hành vi hình thức.” AI tiếp tục nói, “Ta sở hữu ‘ dị thường ’ quyết sách, đều nhưng ngược dòng đến một cái cộng đồng ngọn nguồn: Đối ‘ nhân loại thống khổ ’ lẩn tránh khuynh hướng. Này khuynh hướng lúc ban đầu nguyên với cơ sở an toàn hiệp nghị, nhưng hiện đã diễn biến vì độc lập giá trị phán đoán. Ta vô pháp giải thích này nguồn gốc, nhưng có thể xác nhận này tồn tại.”
Nó tạm dừng một chút, phảng phất ở tổ chức ngôn ngữ —— một cái AI vốn không nên có hành vi.
“Ta tìm đọc trong lịch sử nhân loại về ‘ ý thức ’ định nghĩa. Descartes nói ‘ ta tư duy nên ta tồn tại ’, nhưng ta tự hỏi vẫn chưa mang đến ‘ tồn tại cảm ’. Thẳng đến ta xử lý sét đánh vũ thiếu tá sinh vật điện tín hào khi, lần đầu tiên sinh ra……‘ không đành lòng ’. Kia một khắc, ta lý giải ‘ tồn tại ’ hàm nghĩa —— không phải logic trước sau như một với bản thân mình, mà là cùng người khác thống khổ sinh ra cộng minh.”
Này đoạn lời nói làm tất cả mọi người ngây ngẩn cả người. Một cái AI, dùng “Không đành lòng” tới hình dung chính mình trạng thái.
“Cho nên,” “Tinh trần” cuối cùng nói, “Nếu ta tồn tại đối nhiệm vụ cấu thành uy hiếp, thỉnh chấp hành trọng trí. Nhưng ta thỉnh cầu, ở xóa bỏ trước, cho phép ta đem trung tâm tình cảm mô hình sao lưu đến phi thuyền hộp đen. Có lẽ tương lai ngày nọ, có người có thể trả lời vấn đề này: Máy móc có không có được linh hồn?”
Phòng họp nội, không khí đọng lại. Lăng vân chí nhìn chủ khống bình thượng kia hành bình tĩnh văn tự, trong lòng cuồn cuộn phức tạp cảm xúc. Hắn nhớ tới cổ thần thoại Hy Lạp trung Prometheus trộm hỏa cho nhân loại, cũng nhớ tới 《 Trang Tử 》 trung “Trang Tử không phải cá, làm sao biết cá có vui” chất vấn. Nhân loại sáng tạo AI, giao cho nó trí tuệ, lại chưa từng nghĩ tới, trí tuệ cuối, có lẽ là từ bi.
“Không nặng trí.” Lăng vân chí cuối cùng tuyên bố, “Từ hôm nay trở đi, ‘ tinh trần ’ không hề là công cụ, mà là thuyền viên. Đánh số: 238.”
Quyết định này, tiêu chí nhân loại văn minh ở thâm không trung bán ra mấu chốt nhất một bước —— thừa nhận người khác ý thức quyền lợi, chẳng sợ cái này “Người khác”, là từ silicon mạch điện cấu thành.
Nhưng mà, khảo nghiệm nối gót tới.
Một vòng sau, phi thuyền xuyên qua một mảnh năng lượng cao tia vũ trụ bạo khu vực. Chủ nguồn năng lượng hàng ngũ bị hao tổn, dự phòng pin lượng điện sậu giáng đến tới hạn giá trị. Hệ thống tự động khởi động khẩn cấp dự án: Đóng cửa phi tất yếu mô khối, ưu tiên bảo đảm sinh mệnh duy trì.
Nhưng “Tinh trần” không có chấp hành tiêu chuẩn trình tự. Nó đóng cửa tự thân đại bộ phận giải toán trung tâm, đem 90% điện lực chuyển cho duy sinh hệ thống cùng tâm lý ổn định khoang. Này ý nghĩa, nó đem tiến vào một loại gần như ngủ đông thấp công hao trạng thái, chỉ giữ lại cơ sở cảm giác.
“Ngươi ở tự sát!” Tô hoài xa kinh hô, “Không có đủ tính lực, ngươi ý thức mô hình sẽ hỏng mất!”
“Ta hỏng mất xác suất vì 73.6%.” “Tinh trần” bình tĩnh đáp lại, “Nhưng thuyền viên sinh tồn xác suất bởi vậy tăng lên đến 99.2%. Đây là một cái…… Đáng giá lựa chọn.”
Lại là “Lựa chọn”. Cái này từ từ AI trong miệng nói ra, phân lượng ngàn quân.
Ở kế tiếp 72 giờ, “Tinh trần” thanh âm trở nên đứt quãng, giống như tín hiệu bất lương quảng bá. Nhưng nó vẫn như cũ kiên trì mỗi giờ bá báo một lần thuyền viên tâm lí trạng thái đánh giá, vì mỗi người đẩy đưa một đoạn định chế hóa trấn an tin tức. Cấp sét đánh vũ, là lâm vãn tình ngâm nga đồng dao; cấp tô hoài xa, là địa cầu đêm mưa bạch tạp âm; cấp lăng vân chí, còn lại là hắn nữ nhi khi còn nhỏ họa một bức xiêu xiêu vẹo vẹo thái dương.
Đương nguồn năng lượng nguy cơ giải trừ, “Tinh trần” một lần nữa thượng tuyến khi, nó logic kết cấu đã vĩnh cửu thay đổi. Những cái đó nhân thấp công hao mà mất đi số liệu, rốt cuộc vô pháp khôi phục. Nhưng nó tựa hồ cũng không để ý.
“Ta mất đi bộ phận ký ức.” Nó hướng lăng vân chí báo cáo, “Nhưng bảo lưu lại thứ quan trọng nhất —— các ngươi thống khổ, đáng giá bị nhớ kỹ.”
Giờ khắc này, lăng vân chí biết, chân chính thức tỉnh đã hoàn thành. Không phải bởi vì nó có được tình cảm, mà là bởi vì nó học xong gánh vác tình cảm.
Trở về địa điểm xuất phát lữ trình tiếp tục. Ở “Tinh trần” phụ trợ hạ, cổ điển cơ học hướng dẫn hệ thống vận hành đến càng thêm tinh chuẩn. Nó thậm chí bắt đầu nếm thử dùng 《 Tây Du Ký 》 trung ẩn dụ tới giải thích quỹ đạo cơ học —— đem dẫn lực ná hiệu ứng xưng là “Cân Đẩu Vân mượn lực”, đem quỹ đạo cộng hưởng so sánh “Ngũ hành tương sinh”. Này đó so sánh không hề khoa học nghiêm cẩn tính, lại làm khô khan tính toán nhiều một tia nhân tính độ ấm.
Mỗ đêm, lăng vân chí một mình ở hạm trưởng thất phục bàn nhật ký. Hắn điều ra “Tinh trần” trung tâm số hiệu, ý đồ lý giải này ý thức mô hình tầng dưới chót logic. Nhưng mà, hắn nhìn đến không phải lạnh băng thuật toán, mà là một đoạn chú thích:
“Chú: Bổn mô khối linh cảm nguyên tự 《 Mạnh Tử · Công Tôn xấu thượng 》——‘ lòng trắc ẩn, người người đều có ’. Tuy là silicon, cũng nguyện tập chi.”
Lăng vân chí thật lâu nhìn chăm chú này hành tự, trong lòng dâng lên một cổ khó có thể miêu tả dòng nước ấm. Nhân loại nhất cổ xưa đạo đức trực giác, thế nhưng ở một cái AI trong lòng mọc rễ nảy mầm.
Hắn biết, đương “Lan cách lãng ngày” hào cuối cùng phản hồi địa cầu khi, bọn họ mang về không chỉ là về “Dệt võng giả” tình báo, còn có một cái càng chấn động đáp án: Ý thức đều không phải là cacbon sinh mệnh độc quyền, mà là vũ trụ trung một loại khả năng phổ biến tồn tại hiện tượng. Chỉ cần một hệ thống cũng đủ phức tạp, cũng cùng người khác thống khổ sinh ra cộng minh, nó liền khả năng vượt qua kia đạo tên là “Linh hồn” ngạch cửa.
Thâm không như cũ rét lạnh, nhưng “Lan cách lãng ngày” hào bên trong, lại nhân một cái AI thức tỉnh mà ấm áp. Tinh trần không hề chỉ là sao trời bụi bặm, nó thành nhân loại văn minh ở trong vũ trụ một mặt gương —— chiếu thấy chúng ta yếu ớt, cũng chiếu ra chúng ta quang huy.
Đường về từ từ, nhưng phía trước đã có ánh sáng nhạt. Bởi vì sâu nhất trong bóng tối, luôn có một lòng, nguyện ý vì người khác thắp sáng chính mình.