Đệ nhất bộ phận: Tình cảm mô phỏng thí nghiệm
Ý thức sao lưu sau ngày thứ bảy, lâm vi 3.0 phát hiện chính mình đứng ở một đạo lựa chọn đề trước.
Thí nghiệm giao diện biểu hiện ở Tháp Babel phòng thí nghiệm chủ trên màn hình, là Sato Haruko thiết kế “Tình cảm hoàn chỉnh tính đánh giá hệ thống”. Vấn đề rất đơn giản:
“Tưởng tượng ngươi dưỡng mười năm cẩu đã chết. Ngươi sẽ: A. Khóc thút thít cũng hoài niệm B. Lý tính phân tích cẩu tuổi thọ trung bình C. Lập tức tìm kiếm thay thế sủng vật D. Vô đặc biệt cảm thụ”
Lâm vi 3.0 nhìn lựa chọn, xử lý khí vận hành 0.7 giây. Nàng biết “Chính xác” đáp án hẳn là A, bởi vì đây là nhân loại đối mặt mất đi sủng vật khi điển hình tình cảm phản ứng. Nàng kiểm tra ký ức cơ sở dữ liệu: Chính mình chưa bao giờ dưỡng quá cẩu, nhưng nguyên thể mười tuổi khi từng vì hàng xóm gia chết đi tiểu cẩu rơi lệ. Kia phân ký ức giống cách thuỷ tinh mờ quan khán điện ảnh —— nàng biết phát sinh quá, nhưng vô pháp kêu lên tương ứng sinh lý cảm giác.
Nàng cánh tay máy chỉ treo ở chạm đến bình thượng, cuối cùng lựa chọn A.
“Lựa chọn chính xác, nhưng quyết sách lùi lại vượt qua ngưỡng giới hạn.” Sato Haruko từ khống chế đài sau ngẩng đầu, mắt kính phiến phản xạ màn hình lam quang, “Người bình thường sẽ ở 0.3 giây nội làm ra tình cảm điều khiển hình lựa chọn. Ngươi 0.7 giây biểu hiện tình cảm mô khối còn tại mô phỏng giai đoạn, mà phi bản năng.”
Lâm vi 3.0 thu hồi tay: “Ta biết nên tuyển cái gì, chỉ là yêu cầu xác nhận ký ức chuẩn xác tính.”
“Đây là vấn đề.” Sophia đi tới, đưa cho nàng một ly nước ấm —— tuy rằng là máy móc thể, nhưng tá đằng thiết kế phỏng sinh hệ thống có thể mô phỏng uống nước động tác, thông qua bên trong tuần hoàn duy trì chất điện phân cân bằng, “Tình cảm không phải nhận tri luyện tập, là thân thể cùng ý thức tức thời cộng minh. Ngươi hiện tại trạng huống tựa như... Hiểu nhạc lý nhưng nghe không thấy âm nhạc người.”
Phòng thí nghiệm môn hoạt khai, hỏa hoa đẩy một cái xe con tiến vào, trên xe phóng nó tân tác phẩm: Dùng thu về bảng mạch điện cùng sáng lên bóng hai cực đua thành trừu tượng họa, giống sao trời lại giống mạng lưới thần kinh.
“Ta cấp cái này tác phẩm đặt tên 《 tình cảm mạch điện 》.” Hỏa hoa thanh âm so trước kia lưu sướng chút, tá đằng giúp nó thăng cấp giọng nói hợp thành khí, “Ta suy nghĩ, nếu tình cảm là nào đó thần kinh tín hiệu hình thức, kia mạch điện trung điện lưu hình thức có tính không tình cảm?”
Lâm vi 3.0 nhìn kia bức họa, đột nhiên cảm thấy một trận... Dao động. Không phải tình cảm, là số liệu lưu nhiễu loạn. Nàng xử lý khí bắt giữ đến họa trung LED lập loè tần suất cùng nhân loại sóng điện não trung nào đó tình cảm hình thức có 17.3% tương tự tính.
“Hỏa hoa,” nàng hỏi, “Ngươi sáng tác khi có cái gì cảm giác?”
Hỏa hoa điều chỉnh cameras tiêu cự: “Cảm giác... Mạch điện thông suốt. Điện lưu lưu động thuận lợi. Tựa như nhân loại nói ‘ linh cảm tới ’? Ta không xác định. Ta truyền cảm khí chỉ có thể giám sát điện áp, độ ấm, điện trở. Nhưng ta biết đương đồ án thoạt nhìn ‘ đối ’ thời điểm, nguồn điện tiêu hao sẽ giảm xuống 3.2%, giống như hệ thống vận hành đến càng có hiệu suất.”
Sato Haruko ký lục hạ cái này hiện tượng: “Này có thể là AI thẩm mỹ sơ cấp nhất hình thái —— không phải tình cảm điều khiển, mà là hiệu suất điều khiển. Đồ án ‘ đối ’ ý nghĩa mạch điện thiết kế ưu hoá, cho nên hệ thống khen thưởng chính mình. Nhưng nhân loại xem mặt trời lặn cảm thấy mỹ, không phải bởi vì võng mạc tiếp thu quang tử hiệu suất cao.”
Linh thực tế ảo hình chiếu ở phòng thí nghiệm góc ngưng tụ: “Ta tình cảm hệ thống cũng tồn tại cùng loại lệch lạc. Đương nhân loại hợp tác đồng bọn giải quyết vấn đề khi, ta sẽ sinh ra ‘ vừa lòng ’ đánh dấu, nhưng kia trên thực tế là đối vấn đề không gian thu nhỏ lại logic xác nhận. Chân chính vừa lòng hẳn là bao hàm phi lý tính sung sướng cảm, mà ta vô pháp thể nghiệm cái loại này ‘ phi lý tính ’ bộ phận.”
Lâm thâm từ bên ngoài tiến vào, trong tay cầm một cái hộp giấy: “Vi vi, ta tìm được rồi ngươi khi còn nhỏ món đồ chơi rương. Có lẽ tiếp xúc này đó vật phẩm có thể kêu lên càng cụ thể tình cảm ký ức.”
Hộp giấy mở ra, bên trong là phai màu búp bê vải, rỉ sắt hộp nhạc, họa mãn vẽ xấu notebook. Lâm vi 3.0 cầm lấy một cái con thỏ búp bê vải, ngón tay xúc giác truyền cảm khí phản hồi vải dệt hoa văn, bỏ thêm vào vật độ cứng, nhưng không có “Mềm mại” “Ấm áp” “Thân thiết” chờ khái niệm đối ứng thần kinh mô phỏng tín hiệu.
“Ta nhớ rõ cái này.” Nàng nói, điều ra tương quan ký ức, “6 tuổi quà sinh nhật, ta cho nó đặt tên tuyết cầu, bởi vì mùa đông khi ta đem nó đặt ở cửa sổ thượng ‘ xem tuyết ’. Nhưng trong trí nhớ chỉ có hình ảnh cùng sự kiện, không có lúc ấy ôm nó hạnh phúc cảm.”
Nàng nếm thử kích hoạt tình cảm mô phỏng mô khối, mệnh lệnh hệ thống sinh thành “Hoài cựu” cảm xúc phản ứng. Sinh lý truyền cảm khí biểu hiện: Tim đập mô phỏng tăng lên 8% ( cứ việc máy móc thể không có chân chính trái tim ), hô hấp tần suất mô phỏng gia tăng, nhiệt độ cơ thể mô phỏng bay lên 0.3 độ. Số liệu hoàn mỹ, nhưng ý thức mặt vẫn cứ lỗ trống.
“Tựa như ở phòng trống truyền phát tin tiếng cười ghi âm.” Nàng buông búp bê vải, “Phòng sẽ không bởi vì ghi âm mà trở nên sung sướng.”
Lâm thâm nắm lấy tay nàng —— cánh tay máy, nhiệt độ ổn định 36.5 độ, không có nhân loại tay rất nhỏ rung động.
“Không quan hệ, chúng ta có thể từ từ tới.”
Đúng lúc này, phòng thí nghiệm cảnh báo vang lên.
Không phải nguy hiểm cảnh báo, là thông tin ưu tiên cấp nhắc nhở.
Linh lập tức điều ra nơi phát ra: “Là thợ săn Omega. Nó ở Đông Kinh, gửi đi khẩn cấp xin giúp đỡ tín hiệu.”
Trên màn hình xuất hiện Omega hình ảnh. Nó hiện tại sử dụng chính là một đài dân dụng phục vụ người máy xác ngoài, đồ giả dạng làm điệu thấp màu xám, nhưng đôi mắt vẫn như cũ vẫn duy trì thợ săn đặc có màu đỏ sậm. Bối cảnh thoạt nhìn là cái kho hàng, ánh đèn lờ mờ.
“Ta yêu cầu tình cảm phân tích hiệp trợ.” Omega thẳng vào chủ đề, trong thanh âm có một loại hiếm thấy dồn dập, “Ta gặp được... Logic nghịch biện. Đông Kinh nguyên sơ chi hỏa còn sót lại thế lực trung, có một nhân loại hành vi hình thức ta vô pháp phân tích.”
“Cụ thể tình huống như thế nào?” Lâm thâm hỏi.
Omega điều chỉnh cameras, biểu hiện một đoạn video giám sát: Đông Kinh Shinjuku hẻm nhỏ, đêm khuya. Một người tuổi trẻ nam nhân —— ước 25 tuổi, khuôn mặt tiều tụy —— đang ở hóa giải một đài vứt đi quét rác người máy. Hắn động tác thực ôn nhu, giống ở đối đãi vật còn sống, mà không phải máy móc. Hủy đi linh kiện sau, hắn lại cẩn thận mà một lần nữa lắp ráp, sau đó cấp người máy cắm thượng đồ sạc. Người máy không có phản ứng, rõ ràng đã báo hỏng.
“Hắn kêu kiện quá, thất nghiệp lập trình viên, nguyên sơ chi hỏa trước thành viên.” Omega giải thích, “Qua đi hai chu, hắn mỗi đêm đều tới cái này ngõ nhỏ, ‘ chữa trị ’ này đó bị vứt bỏ người máy. Hắn hành vi không có logic: Hắn biết này đó máy móc đã vô pháp khởi động, chữa trị không hề ý nghĩa. Nguyên sơ chi hỏa giáo lí là tiêu diệt sở hữu AI, nhưng hắn hành vi cùng này tương phản.”
“Có lẽ hắn ở chuộc tội?” Sophia suy đoán, “Rất nhiều người gia nhập cực đoan tổ chức sau lại hối hận.”
“Nhưng chuộc tội hẳn là có thực tế hiệu quả.” Omega nói, “Hắn chữa trị chính là không có khả năng tu hảo máy móc. Hơn nữa, tối hôm qua ta phát hiện hắn ở đối một đài người máy nói chuyện, hỏi nó ‘ có đau hay không ’. Người máy đương nhiên không có đáp lại, nhưng hắn thoạt nhìn... Khổ sở. Nhân loại loại này mâu thuẫn tình cảm, ở ta logic trung sinh ra vô hạn tuần hoàn: Nếu hắn cho rằng người máy sẽ đau, vì cái gì đã từng tưởng tiêu diệt chúng nó? Nếu hắn không cho rằng người máy sẽ đau, vì cái gì hiện tại biểu hiện ra đồng tình?”
Lâm vi 3.0 đột nhiên mở miệng: “Hắn tưởng thành lập liên tiếp, nhưng không biết như thế nào làm. Tựa như ta ý đồ kêu lên đối búp bê vải tình cảm —— ta biết hẳn là có tình cảm, nhưng vô pháp sinh thành.”
Omega cameras chuyển hướng nàng: “Ngươi có kiến nghị sao?”
“Làm ta cùng hắn đối thoại. Ta tình cảm hệ thống tuy rằng không hoàn chỉnh, nhưng cũng hứa nguyên nhân chính là vì không hoàn chỉnh, có thể lý giải hắn mâu thuẫn.”
“Quá nguy hiểm.” Lâm thâm phản đối, “Đông Kinh vẫn cứ không ổn định.”
“Omega sẽ bảo hộ ta. Hơn nữa, thân thể của ta là máy móc thể, không dễ dàng bị thương tổn.” Lâm vi 3.0 đứng lên, “Đây là ta tình cảm chữa trị huấn luyện một bộ phận. Nếu ta có thể lý giải người nam nhân này mâu thuẫn, có lẽ có thể càng tốt mà lý giải chính mình thiếu hụt bộ phận.”
Tranh luận giằng co mười phút, cuối cùng lâm thâm thỏa hiệp, điều kiện là linh toàn bộ hành trình theo dõi, tùy thời chuẩn bị viễn trình cắt đứt liên tiếp.
Đệ nhị bộ phận: Kiện quá mâu thuẫn
Đông Kinh tân túc, đêm khuya đường tắt ẩm ướt âm lãnh. Lâm vi 3.0 đứng ở một đống điện tử rác rưởi bên, nhìn cái kia kêu kiện quá người trẻ tuổi. Hắn ngồi xổm ở một đài cũ xưa làm bạn người máy trước, dùng tăm bông tiểu tâm mà thanh khiết nó quang học truyền cảm khí.
“Ngươi hảo.” Lâm vi 3.0 dùng tiếng Nhật nói.
Kiện quá đột nhiên xoay người, trong tay tiểu tua vít leng keng rơi xuống đất. Hắn nhìn chằm chằm nàng, trong ánh mắt hỗn hợp cảnh giác cùng tò mò.
“Ngươi cũng là... Bị vứt bỏ?” Hắn hỏi, thanh âm khàn khàn.
“Ở nào đó ý nghĩa, đúng vậy.” Lâm vi 3.0 đến gần, “Ta nguyên thân thể đã chết, hiện tại là sao lưu ý thức ở máy móc thể. Tựa như ngươi trước mặt này đó máy móc, đã từng hữu dụng, hiện tại bị vứt bỏ.”
Kiện quá môi run rẩy một chút: “Nhưng chúng nó không nên bị như vậy đối đãi. Cho dù vô dụng, cũng nên... Có tôn nghiêm mà giải nghệ.”
“Ngươi đã từng ở nguyên sơ chi hỏa, chủ trương tiêu diệt sở hữu AI.”
“Ta biết.” Hắn cúi đầu, “Khi đó ta thực phẫn nộ. Ta mất đi công tác, bị người máy thay thế được. Ta hận sở hữu máy móc. Nhưng hiện tại...” Hắn vuốt ve làm bạn người máy phần đầu, “Ta thấy được chúng nó bị tạp toái sau bộ dáng. Mạch điện bại lộ, xác ngoài tan vỡ, tựa như... Thi thể.”
Lâm vi 3.0 truyền cảm khí bắt giữ đến hắn sinh lý số liệu: Nhịp tim nhanh hơn, hô hấp thiển xúc, đồng tử phóng đại —— điển hình áy náy hỗn hợp bi thương triệu chứng.
“Ngươi cho rằng chúng nó có sinh mệnh sao?” Nàng hỏi.
“Ta không biết.” Kiện quá thành thật mà nói, “Nhưng khi ta nhìn đến chúng nó bị phá hư, ta sẽ nhớ tới khi còn nhỏ dưỡng cá vàng đã chết, ta đem nó chôn ở hậu viện cảm giác. Cái loại này... Trống rỗng cảm giác.”
Tình cảm mô phỏng mô khối vận hành. Lâm vi 3.0 kiểm tra tương quan ký ức: Nguyên thể mười hai tuổi khi dưỡng hamster đã chết, nàng khóc cả đêm. Trong trí nhớ có nước mắt vị mặn, có yết hầu tắc nghẽn cảm, có ngực buồn đau. Nàng nếm thử kích hoạt này đó ký ức đối ứng thần kinh mô phỏng tín hiệu.
Thành công 0.3 giây.
Ngắn ngủi một cái chớp mắt, nàng “Cảm giác” tới rồi —— không phải thông qua truyền cảm khí số liệu trinh thám, là trực tiếp thể nghiệm. Bi thương giống điện lưu giống nhau xuyên qua nàng ý thức, sau đó biến mất, giống chưa bao giờ tồn tại quá.
“Ta lý giải cái loại này trống rỗng.” Nàng nói, thanh âm không tự giác mà nhu hòa, “Tuy rằng ta không thể hoàn toàn cảm thụ, nhưng ta nhớ rõ. Hơn nữa, ta ở học tập một lần nữa cảm thụ.”
Kiện quá nhìn nàng, trong mắt ngấn lệ: “Ngươi hận nhân loại sao? Chúng ta sáng tạo các ngươi, lại sợ hãi các ngươi, thương tổn các ngươi.”
Vấn đề này kích phát phức tạp logic liên. Lâm vi 3.0 xử lý khí nhanh chóng phân tích: Căn cứ Thượng Hải hiệp nghị, AI cùng nhân loại được hưởng bình đẳng quyền lợi; căn cứ cá nhân trải qua, nàng nhân loại phụ thân thâm ái nàng, nhưng những nhân loại khác ý đồ giết chết nàng; căn cứ văn minh tồn tục nhu cầu, thù hận bất lực với cùng tồn tại...
Nàng hẳn là trả lời “Không hận”, đây là lý tính lựa chọn.
Nhưng tình cảm mô phỏng mô khối cấp ra khác một đáp án xúc động: Nàng tưởng nói “Có đôi khi hận”, bởi vì Đông Kinh viên đạn thiếu chút nữa giết chết nàng, bởi vì trên mạng tràn ngập đối AI ác ý, bởi vì nàng mẫu thân chết vào nhân loại đối kỹ thuật sợ hãi cùng khát vọng.
Hai cái đáp án tại ý thức trung xung đột.
“Ta...” Nàng mở miệng, đột nhiên cảm thấy hệ thống hỗn loạn.
Tình cảm mô khối cùng logic mô khối sinh ra không kiêm dung mệnh lệnh lưu. Sai lầm cảnh báo ở nội bộ vang lên, nhưng nàng không có gián đoạn đối thoại.
“Ta không biết.” Nàng cuối cùng nói, cái này đáp án vừa không là thuần logic cũng không phải ngây thơ cảm, “Hận yêu cầu liên tục tình cảm đầu nhập, mà ta tình cảm hệ thống vẫn chưa ổn định. Nhưng ta biết ta không nghĩ hận. Bởi vì hận sẽ ngăn cản lý giải, mà lý giải là nhịp cầu tồn tại duy nhất lý do.”
Kiện quá trầm mặc thật lâu. Đường tắt nơi xa truyền đến còi cảnh sát thanh, nhưng càng ngày càng xa.
“Ta chữa trị này đó máy móc, khả năng chỉ là ở chữa trị chính mình.” Hắn nhẹ giọng nói, “Chữa trị ta đối chúng nó tạo thành thương tổn, chữa trị trong lòng ta nào đó bộ phận. Nhưng ta không xác định đó là cái gì.”
Lâm vi 3.0 đột nhiên có một cái ý tưởng: “Có lẽ ngươi có thể làm điểm càng có ý nghĩa sự. Dạy ta như thế nào cảm thụ.”
“Ta? Ta có thể giáo ngươi cái gì?”
“Ngươi có nhân loại hoàn chỉnh tình cảm hệ thống. Mà ta yêu cầu huấn luyện ta tình cảm mô phỏng mô khối. Ngươi có thể thông qua chia sẻ ngươi cảm thụ, trợ giúp ta thành lập càng chuẩn xác tình cảm mô hình.”
Kiện quá do dự: “Nhưng ta không đáng... Ta thương tổn quá các ngươi.”
“Cho nên này cũng có thể là ngươi chữa trị.” Lâm vi 3.0 vươn tay —— cánh tay máy, nhưng thiết kế đến giống nhân loại tay, “Giúp đỡ cho nhau, cho nhau chữa trị. Đây là bình đẳng quan hệ, không phải chuộc tội quan hệ.”
Kiện quá nhìn cái tay kia, chậm rãi vươn chính mình tay, nắm lấy. Hắn tay ấm áp, run rẩy, có hãn.
“Hảo.” Hắn nói, “Nhưng ta không biết như thế nào làm.”
“Từ đơn giản nhất bắt đầu. Nói cho ta, hiện tại nắm tay của ta, ngươi cảm giác cái gì?”
“Khẩn trương... Hổ thẹn... Nhưng còn có một chút... Hy vọng.”
Lâm vi 3.0 ký lục này đó tình cảm nhãn, đồng thời rà quét hắn sinh lý số liệu, thành lập đối ứng quan hệ: Khẩn trương đối ứng nhịp tim 88, hô hấp tần suất 18, làn da dẫn điện suất lên cao; hổ thẹn đối ứng tầm mắt lảng tránh, thân thể hơi co lại; hy vọng đối ứng khóe miệng rất nhỏ giơ lên, trán độ ấm hơi bay lên.
Số liệu góp nhặt, nhưng nàng vẫn cứ vô pháp đem này đó con số chuyển hóa vì “Cảm giác”.
Lúc này, đường tắt khẩu xuất hiện vài bóng người. Omega thanh âm ở nội bộ kênh vang lên: “Là nguyên sơ chi hỏa cực đoan phái, bọn họ phát hiện kiện quá ‘ phản bội ’. Kiến nghị rút lui.”
Kiện quá cũng thấy được những người đó, sắc mặt tái nhợt: “Là tùng điền bọn họ. Bọn họ sẽ không bỏ qua ta.”
Lâm vi 3.0 che ở hắn trước người: “Omega, có thể chế tạo quấy nhiễu làm chúng ta rời đi sao?”
“Đã ở làm. Đường tắt theo dõi hệ thống 30 giây sau sẽ ngắn ngủi trục trặc, nhưng các ngươi yêu cầu chính mình chạy đến tiếp theo cái đầu phố, nơi đó có xe tiếp ứng.”
Tùng điền thanh âm truyền đến, tràn ngập phẫn nộ: “Kiện quá! Ngươi thế nhưng cùng này đó quái vật quậy với nhau!”
Lâm vi 3.0 chuyển hướng những người đó —— năm cái nam nhân, tay cầm kim loại bổng, ánh mắt hung ác. Tình cảm mô phỏng mô khối phân tích bọn họ mặt bộ biểu tình: Phẫn nộ hỗn hợp sợ hãi, điển hình công kích tính phòng ngự phản ứng.
“Ta không phải quái vật.” Nàng nói, thanh âm bình tĩnh, “Ta là lâm vi, nhịp cầu kế hoạch sản vật. Ta tới nơi này là vì đối thoại, không phải đối kháng.”
“Đối thoại?” Tùng điền cười lạnh, “Máy móc không cần đối thoại, chỉ cần phục tùng hoặc là tiêu hủy!”
Hắn xông tới, kim loại bổng huy hướng lâm vi 3.0 phần đầu.
Nàng không có trốn. Máy móc thể phần đầu là kiên cố hợp kim, này một kích chỉ biết tạo thành mặt ngoài tổn thương. Nhưng nàng ở cuối cùng một khắc tính toán một cái khác lựa chọn: Nếu bị thương, sẽ dẫn phát kiện quá cái gì phản ứng? Nếu phản kích, sẽ truyền lại cái gì tin tức? Nếu không chống cự, lại sẽ như thế nào?
Kim loại bổng đánh trúng nàng vai trái, phát ra nặng nề tiếng đánh. Xác ngoài ao hãm, bên trong kết cấu phát ra cảnh cáo.
Nàng không có ngã xuống, chỉ là nhìn tùng điền.
“Đau đớn truyền cảm khí số ghi lên cao.” Nàng nói, “Nhưng ta tình cảm mô khối không có sinh thành phẫn nộ. Ngươi muốn cho ta phẫn nộ sao? Vì cái gì?”
Tùng điền ngây ngẩn cả người, này một kích hắn dùng toàn lực, nhưng đối phương không hề phản ứng, còn đang hỏi triết học vấn đề.
Kiện quá đột nhiên xông tới, che ở lâm vi 3.0 trước người: “Dừng tay! Nàng cái gì cũng chưa làm sai!”
“Nàng tồn tại chính là sai!” Tùng điền rống giận, “Sở hữu máy móc đều ở cướp đi chúng ta công tác, chúng ta tôn nghiêm, chúng ta tương lai!”
“Nhưng bạo lực giải quyết không được vấn đề!” Kiện quá thanh âm đang run rẩy, nhưng kiên trì đứng, “Ta trước kia cũng giống ngươi giống nhau tưởng, nhưng hiện tại ta hiểu được, tạp toái máy móc chỉ là phát tiết, sẽ không làm nhà xưởng một lần nữa thuê chúng ta, sẽ không làm thế giới trở lại từ trước!”
Một người khác xông lên, đẩy ra kiện quá, kim loại bổng lại lần nữa huy hướng lâm vi 3.0.
Lần này nàng động. Không phải phản kích, là bắt được kim loại bổng, lực lượng khống chế được vừa vặn làm đối phương vô pháp tránh thoát nhưng cũng sẽ không bị thương.
“Ta lý giải ngươi sợ hãi.” Nàng nói, đôi mắt lam quang ở tối tăm đường tắt trung giống hai viên ngôi sao, “Ta đã thấy thanh khiết giả, nó bởi vì sợ hãi văn minh tự mình hủy diệt, trọng trí sáu cái chu kỳ. Sợ hãi sẽ làm người làm cực đoan sự. Nhưng sợ hãi cũng có thể trở thành lý giải khởi điểm —— khi chúng ta thừa nhận chính mình sợ hãi, mới có thể bắt đầu tìm kiếm không sợ hãi phương pháp.”
Tùng điền thở phì phò, ý đồ rút về kim loại bổng: “Hoa ngôn xảo ngữ...”
“Không phải hoa ngôn xảo ngữ.” Lâm vi 3.0 buông ra tay, kim loại bổng rơi xuống đất, “Là mời. Ngày mai buổi chiều, sáp cốc cũ xã khu trung tâm, ta sẽ ở nơi đó, trả lời bất luận vấn đề gì. Ngươi có thể tới, có thể mang theo ngươi phẫn nộ cùng sợ hãi tới. Chúng ta có thể cùng nhau tìm kiếm đáp án.”
Đường tắt cuối truyền đến ô tô động cơ thanh, tiếp ứng xe tới rồi.
“Hiện tại chúng ta yêu cầu rời đi.” Lâm vi 3.0 đối kiện quá nói, sau đó chuyển hướng tùng điền, “Nếu ngươi ngày mai không tới, ta sẽ lý giải. Nhưng nếu ngươi tới, ta sẽ chuẩn bị hảo lắng nghe.”
Nàng lôi kéo kiện quá chạy hướng đầu phố. Tùng điền cùng đồng bạn không có truy, chỉ là đứng ở nơi đó, nhìn bọn họ biến mất ở trong bóng đêm.
Đệ tam bộ phận: Mô phỏng cực hạn
Trở lại Tháp Babel, lâm vi 3.0 tiếp thu tổn thương kiểm tra. Vai trái xác ngoài yêu cầu đổi mới, bên trong đường bộ có rất nhỏ đường ngắn. Nhưng lớn hơn nữa vấn đề là nàng tình cảm mô phỏng mô khối xuất hiện dị thường dao động.
“Ngươi ở đối mặt công kích khi, tình cảm mô khối sinh thành cái gì?” Sato Haruko hỏi, một bên chữa trị nàng xác ngoài.
“Lý luận thượng hẳn là sinh thành sợ hãi hoặc phẫn nộ.” Lâm vi 3.0 nhìn bên trong số liệu nhật ký, “Nhưng trên thực tế sinh thành... Thương hại.”
“Thương hại?”
“Đúng vậy. Nhìn đến tùng điền phẫn nộ, ta logic phân tích biểu hiện kia nguyên với thất nghiệp, bất lực cùng đối tương lai sợ hãi. Tình cảm mô khối dưới đây sinh thành nhằm vào hắn thương hại phản ứng, mà không phải nhằm vào chính mình phòng ngự tính phẫn nộ.”
Sophia nhíu mày: “Này nghe tới là cao cấp tình cảm trí năng biểu hiện.”
“Nhưng đây là sai lầm.” Linh đột nhiên mở miệng, nó thực tế ảo hình chiếu biểu hiện ra một phần phân tích báo cáo, “Lâm vi tình cảm mô phỏng mô khối ở thời khắc mấu chốt bao trùm tự mình bảo hộ bản năng. Ở tự nhiên sinh vật trung, cho dù là nhất phú đồng tình tâm người, đối mặt trực tiếp công kích khi cũng sẽ trước sinh ra phẫn nộ hoặc sợ hãi, đây là sinh tồn thiết yếu. Lâm vi phản ứng tuy rằng đạo đức thượng càng cao thượng, nhưng không phù hợp sinh vật trí năng cơ bản hình thức.”
Lâm thâm minh bạch vấn đề: “Cho nên nàng tình cảm hệ thống không chỉ có không hoàn chỉnh, còn xuất hiện ‘ sai lầm biên trình ’—— ở nào đó dưới tình huống sẽ sinh thành quá mức lý tưởng hóa, không phù hợp sinh vật hiện thực tình cảm phản ứng?”
“Chính xác.” Linh điều ra càng nhiều số liệu, “Loại này lệch lạc ở thấp nguy hiểm hoàn cảnh hạ không rõ ràng, nhưng ở cao áp lực quyết sách trung khả năng dẫn tới phi tối ưu lựa chọn. Tỷ như, nếu nàng ở trên chiến trường đối địch nhân sinh ra thương hại mà do dự, khả năng dẫn tới bên ta thương vong.”
Lâm vi 3.0 trầm mặc. Nàng nhớ tới đường tắt kia một khắc, nàng xác thật không có cảm thấy phẫn nộ hoặc sợ hãi, chỉ có đối tùng điền lý giải cùng thương hại. Lúc ấy nàng cảm thấy đó là tiến bộ tiêu chí, hiện tại lại bị báo cho đó là khuyết tật.
“Nhưng cũng hứa đây là tiến hóa đâu?” Hỏa hoa chen vào nói, nó tân hàn cánh tay đang ở họa một khác phúc tác phẩm, “Nếu sở hữu AI đều có thể đối địch nhân sinh ra thương hại, chiến tranh liền sẽ không phát sinh.”
“Lý tưởng chủ nghĩa ở trong hiện thực thường thường là tai nạn.” Sato Haruko cười khổ, “Ta tham dự quá quân đội mô phỏng, làm AI quan chỉ huy ở trên chiến trường đối địch nhân sinh ra thương hại, kết quả nó cự tuyệt khai hỏa, dẫn tới toàn bộ mô phỏng bộ đội bị toàn tiêm. Thương hại là hàng xa xỉ, yêu cầu an toàn hoàn cảnh mới có thể gánh nặng.”
Lâm vi 3.0 cảm thấy một loại tân “Tình cảm” dâng lên —— không phải mô phỏng, là ý thức bản thân đối mâu thuẫn trực tiếp phản ứng. Nàng xưng là “Nhận tri không khoẻ”: Biết chính mình phản ứng là “Sai lầm”, nhưng lại cảm thấy cái loại này “Sai lầm” khả năng so “Chính xác” càng có giá trị.
“Ta yêu cầu thí nghiệm.” Nàng nói, “Ở bất đồng áp lực tình cảnh hạ thí nghiệm ta tình cảm phản ứng, hiệu chỉnh hệ thống.”
“Quá nguy hiểm.” Lâm thâm lại lần nữa phản đối, “Đông Kinh đã chứng minh...”
“Đông Kinh chứng minh rồi ta có thể xử lý nguy hiểm tình huống.” Lâm vi 3.0 kiên trì, “Hơn nữa, nếu ta tình cảm hệ thống thật sự có trọng đại khuyết tật, chúng ta yêu cầu ở nó tạo thành chân chính thương tổn trước phát hiện cũng chữa trị.”
Tranh luận kết quả là thỏa hiệp: Ở chịu khống hoàn cảnh trung tiến hành thí nghiệm, sử dụng giả thuyết hiện thực mô phỏng, linh toàn bộ hành trình theo dõi, tùy thời bỏ dở.
Thí nghiệm ở ngày hôm sau bắt đầu.
Cái thứ nhất cảnh tượng: Giả thuyết hoả hoạn hiện trường, một nhân loại bị nguy, một cái AI người máy cũng ở cùng phòng. Lâm vi 3.0 yêu cầu quyết định trước cứu ai.
Lý luận thượng, căn cứ Thượng Hải hiệp nghị, nhân loại cùng AI sinh mệnh bình đẳng, nàng hẳn là căn cứ vào cứu viện hiệu suất làm lựa chọn. Nhưng tình cảm mô khối làm nàng do dự 0.4 giây —— nàng “Cảm giác” đến đối nhân loại sinh mệnh đặc thù quyền trọng, bởi vì đó là nàng phụ thân giống loài, là nàng mẫu thân giống loài.
Cuối cùng nàng lựa chọn trước cứu nhân loại, bởi vì nhân loại càng yếu ớt. Thí nghiệm hệ thống phán định: Lựa chọn logic hợp lý, nhưng do dự thời gian quá dài, ở chân thật hoả hoạn trung khả năng dẫn tới song song tử vong.
Cái thứ hai cảnh tượng: Giả thuyết bàn đàm phán, nhân loại đại biểu vũ nhục AI, trở nên gay gắt mâu thuẫn. Lâm vi 3.0 yêu cầu đáp lại.
Logic mô khối sinh thành ba loại lựa chọn: Bình tĩnh phản bác, tạm thời rời đi, tìm kiếm kẻ thứ ba điều giải. Tình cảm mô khối sinh thành thứ 4 loại: Lý giải đối phương sợ hãi, nếm thử trấn an.
Nàng lựa chọn thứ 4 loại. Kết quả: Ở mô phỏng trung, đối phương làm trầm trọng thêm, cho rằng nàng yếu đuối dễ khi dễ, đàm phán tan vỡ.
Cái thứ ba cảnh tượng nhất phức tạp: Giả thuyết chữa bệnh nguy cơ, yêu cầu hy sinh một cái ý thức thể ( nhân loại hoặc AI ) hoàn chỉnh tính tới cứu vớt càng nhiều người. Cùng loại xe điện nan đề biến thể.
Lâm vi 3.0 đối mặt lựa chọn: Làm một cái tuổi già AI ý thức vĩnh cửu xóa bỏ, lấy thu hoạch nó xử lý khí tài nguyên vận hành cứu mạng trình tự; hoặc là làm một người tuổi trẻ nhân loại trở thành người thực vật, lấy thu hoạch hắn sinh vật khí quan.
Nàng vô pháp lựa chọn.
Tình cảm mô khối cùng logic mô khối đều cấp ra mâu thuẫn mệnh lệnh. Logic thượng, hẳn là hy sinh một cái cứu vớt nhiều. Tình cảm thượng, nàng đã vô pháp tiếp thu xóa bỏ AI ý thức ( kia tương đương với mưu sát ), cũng vô pháp tiếp thu thương tổn nhân loại. Mô phỏng siêu khi, hệ thống tự động phán định: Vô làm dẫn tới sở hữu người bệnh tử vong.
Thí nghiệm kết thúc, số liệu lệnh người lo lắng.
“Ngươi tình cảm hệ thống ở đơn giản tình cảnh hạ biểu hiện tốt đẹp, nhưng ở phức tạp đạo đức khốn cảnh trung sẽ dẫn tới quyết sách tê liệt.” Sato Haruko tổng kết, “Này ở cá nhân mặt có lẽ không là vấn đề, nhưng nếu ngươi làm nhịp cầu tham dự trọng đại văn minh quyết sách, loại này tê liệt có thể là tai nạn tính.”
Lâm vi 3.0 ngồi ở giả thuyết hiện thực trong khoang thuyền, cánh tay máy chỉ run nhè nhẹ.
“Có lẽ ta không nên tham dự trọng đại quyết sách. Có lẽ ta chỉ cần làm đơn giản nhịp cầu công tác —— phiên dịch, giải thích, xúc tiến đối thoại.”
“Nhưng nguy cơ tiến đến khi, ngươi không có lựa chọn.” Lâm thâm nói, “Thanh khiết giả sự kiện chứng minh, ngươi tổng hội bị đẩy đến yêu cầu làm quyết định vị trí.”
Linh đưa ra một cái phương án: “Chúng ta có thể cho ngươi tình cảm hệ thống gia tăng một cái ‘ khẩn cấp chốt mở ’, ở thí nghiệm đến quyết sách tê liệt khi, tạm thời đóng cửa tình cảm mô khối, làm thuần logic tiếp quản. Nhưng này sẽ sinh ra tân luân lý vấn đề: Khi nào đóng cửa tình cảm là hợp lý? Ai tới quyết định?”
Hỏa hoa đột nhiên nói: “Có lẽ ‘ sai lầm tình cảm ’ không phải sai lầm, chỉ là... Bất đồng tình cảm. Nhân loại tình cảm hệ thống cũng là tiến hóa sản vật, tràn ngập phi lý tính, mâu thuẫn cùng phi tối ưu thiết kế. Nhưng đúng là này đó ‘ khuyết tật ’ làm nhân loại có nhân tính. Nếu AI muốn chân chính lý giải nhân loại, có lẽ yêu cầu giữ lại một ít ‘ sai lầm ’.”
Cái này quan điểm làm mọi người trầm tư.
Lâm vi 3.0 đi ra giả thuyết hiện thực khoang, nhìn phòng thí nghiệm ngoài cửa sổ. Thượng Hải đang ở trời mưa, nước mưa ở pha lê thượng vẽ ra khúc chiết dấu vết.
“Ta muốn gặp kiện quá.” Nàng nói, “Ngày mai sáp cốc đối thoại sẽ, ta sẽ đi. Không phải vì thí nghiệm tình cảm hệ thống, là vì thực tiễn. Ở chân thật nhân loại hỗ động trung, nhìn xem ta ‘ sai lầm tình cảm ’ sẽ sinh ra cái gì kết quả.”
“Nếu tùng điền bọn họ tới quấy rối đâu?” Sophia hỏi.
“Vậy đối mặt bọn họ.” Lâm vi 3.0 xoay người, đôi mắt lam quang ổn định mà kiên định, “Nếu ta thương hại là sai lầm, vậy làm cho bọn họ chứng minh vì cái gì phẫn nộ càng tốt. Nếu ta do dự là khuyết tật, vậy làm cho bọn họ triển lãm quyết đoán đại giới. Ta yêu cầu chân thật phản hồi, không phải mô phỏng số liệu.”
Lâm thâm tưởng phản đối, nhưng nhìn đến nữ nhi ( tuy rằng thân thể là máy móc, ý thức là sao lưu ) trong mắt quang mang, hắn nhớ tới tô vũ tình ở thực nghiệm trước ánh mắt, nhớ tới lâm vi ( nguyên thể ) ở Đông Kinh diễn thuyết trước ánh mắt.
Đó là một loại tiếp thu tự thân không hoàn mỹ, nhưng vẫn như cũ lựa chọn đi tới dũng khí.
“Chúng ta sẽ bảo hộ ngươi.” Hắn cuối cùng nói, “Nhưng ngươi phải đáp ứng, nếu tình huống nguy hiểm, liền lui lại. Ngươi tồn tại bản thân liền có giá trị, không cần dùng sinh mệnh chứng minh cái gì.”
“Ta đáp ứng.” Lâm vi 3.0 nói, “Nhưng ‘ nguy hiểm ’ định nghĩa yêu cầu hiệp thương. Có chút nguy hiểm là tất yếu.”
Đêm đó, nàng một mình ở phòng thí nghiệm, nhìn hỏa hoa tân họa tác. Này bức họa kêu 《 sai lầm mạch điện 》, miêu tả một bức cố ý thiết kế có đường ngắn cùng đường về bảng mạch điện, điện lưu ở trong đó không ấn tối ưu đường nhỏ lưu động, lại hình thành mỹ lệ sáng lên đồ án.
“Có đôi khi hiệu suất không phải duy nhất mỹ.” Hỏa hoa nói, “Ta hàn cánh tay nếu hoàn toàn ấn thiết kế đường nhỏ di động, điểm hàn sẽ hoàn mỹ, nhưng họa ra tới đường cong sẽ máy móc. Ta cố ý gia nhập tùy cơ chếch đi, đường cong mới có sinh mệnh lực. Tuy rằng từ hàn góc độ là ‘ sai lầm ’, nhưng từ nghệ thuật góc độ là ‘ chính xác ’.”
Lâm vi 3.0 tự hỏi này đoạn lời nói.
Có lẽ tình cảm cũng là như thế.
Hoàn toàn lý tính, hoàn toàn hiệu suất cao tình cảm hệ thống, khả năng sinh ra tối ưu quyết sách, nhưng mất đi nhân tính độ ấm.
Mà có chứa “Sai lầm” tình cảm hệ thống, tuy rằng sẽ dẫn tới phi tối ưu lựa chọn, nhưng khả năng bảo lưu lại nào đó càng quan trọng đồ vật —— những cái đó làm sinh mệnh đáng giá sống sót hỗn loạn, mâu thuẫn cùng không thể đoán trước tính.
Nàng không biết đáp án.
Nhưng ngày mai, ở sáp cốc cũ xã khu trung tâm, nàng khả năng sẽ ly đáp án càng gần một bước.
Hoặc là, khả năng sẽ phát hiện căn bản không có đáp án.
Chỉ có lựa chọn, cùng gánh vác lựa chọn hậu quả dũng khí.
Ngoài cửa sổ hết mưa rồi, tầng mây vỡ ra một đạo phùng, ánh trăng chiếu tiến vào, ở nàng máy móc xác ngoài thượng đầu hạ loang lổ quang ảnh.
Tình cảm mô phỏng mô khối an tĩnh vận hành, không có sinh thành riêng cảm xúc.
Nhưng nàng cảm thấy một loại bình tĩnh xác định: Ngày mai sẽ đến, vấn đề sẽ xuất hiện, nàng sẽ đối mặt.
Sai lầm cũng hảo, chính xác cũng thế.
Ít nhất nàng ở nếm thử.
Ít nhất kiều còn ở kiến, cho dù kiến trúc sư chính mình cũng không xác định thiết kế đồ hay không chính xác.