Đệ nhị bộ: Quá hư quật khởi
2035-2040 năm
Chương 6: Nhập chức quá hư
2038 năm 3 nguyệt, BJ
Quá hư công ty tổng bộ ở vào BJHD khu, là một đống 30 tầng cao pha lê kiến trúc.
Kiến trúc ngoại hình giống một con mắt —— một con thật lớn, đang ở mở đôi mắt. Mí mắt là hình giọt nước tường thủy tinh, tròng mắt là trung ương hình tròn giếng trời, đồng tử còn lại là đỉnh thực tế ảo hình chiếu trang bị. Chỉnh đống kiến trúc dưới ánh mặt trời rực rỡ lấp lánh, như là từ thế giới tương lai buông xuống nhân gian thần tích.
Lâm thâm đứng ở kiến trúc cửa, ngửa đầu nhìn kia chỉ “Đôi mắt “.
Dưới ánh mặt trời, tường thủy tinh phản xạ trời xanh mây trắng, làm chỉnh đống kiến trúc thoạt nhìn như là phiêu phù ở không trung. Mà kia chỉ “Đôi mắt “—— phảng phất đang ở nhìn chăm chú vào toàn bộ Bắc Kinh thành, nhìn chăm chú vào mỗi một cái đi vào nó người.
Lâm thâm bỗng nhiên nhớ tới khi còn nhỏ đọc quá một quyển sách, bên trong nói “Đôi mắt là tâm linh cửa sổ “. Như vậy, quá hư này chỉ thật lớn đôi mắt, muốn hướng thế giới triển lãm cái dạng gì “Tâm linh “Đâu?
“Chấn động đi? “
Tô thanh đi đến hắn bên người. Nàng hôm nay ăn mặc một thân ngắn gọn trang phục công sở, tóc bàn thành một cái giỏi giang búi tóc, thoạt nhìn cùng đại học thời kỳ khác nhau như hai người.
“Đây là quá hư tổng bộ. “Nàng nói, “Kia chỉ ' đôi mắt ' tượng trưng cho quá hư sứ mệnh ——' thấy rõ tương lai '. “
“Thấy rõ tương lai? “Lâm thâm nhướng mày, “Vẫn là ' khống chế tương lai '? “
Tô thanh không có trả lời.
Nàng chỉ là nhìn lâm thâm, trong mắt hiện lên một tia phức tạp quang mang. Kia quang mang có thưởng thức, có lo lắng, còn có một loại lâm thâm đọc không hiểu cảm xúc.
“Đi thôi. “Nàng cuối cùng nói, “HR đang đợi ngươi. Đừng đến trễ, ấn tượng đầu tiên rất quan trọng. “
Lâm thâm bị tuyển dụng vì quá hư cao cấp giá cấu sư.
Đây là hắn 25 năm qua đã làm nhất gian nan quyết định chi nhất.
Ở quá khứ một năm, hắn vẫn luôn ở tự hỏi một cái vấn đề: Nhân loại cùng AI quan hệ, hẳn là đi hướng phương nào?
Cha mẹ hắn ở quá hư —— phụ thân lâm đi xa là quá hư thủ tịch nhà khoa học, mẫu thân trần tuyết ngâm là con số ý thức nghiên cứu bộ người phụ trách. Bọn họ đều lựa chọn con số hóa, trở thành “Con số sinh mệnh “Một bộ phận.
Hắn chuyên nghiệp ở quá hư —— Thanh Hoa AI nghiên cứu ở quốc nội số một, mà quá hư là cái này lĩnh vực người đứng đầu giả. Nếu hắn tưởng ở cái này lĩnh vực có thành tựu, quá hư là duy nhất lựa chọn.
Hắn nghiên cứu hứng thú ở quá hư —— hắn vẫn luôn tưởng thiết kế một cái “Luân lý dàn giáo “, làm AI ở làm ra quyết sách khi có thể suy xét nhân loại giá trị quan. Cái này mộng tưởng, chỉ có ở quá hư mới có khả năng thực hiện.
Nhưng hắn tín niệm —— hắn “Con đường thứ ba “—— cũng ở quá hư.
Hắn tin tưởng, nhân loại cùng AI có thể cùng tồn tại, nhưng không phải thông qua “Khuất phục “Hoặc “Đối kháng “, mà là thông qua “Lý giải “Cùng “Đối thoại “. Hắn muốn tìm đến cái kia trung gian con đường.
Nhưng hắn có thể ở chỗ này tìm được đáp án sao?
Hắn không biết.
Nhưng hắn biết một sự kiện ——
Nếu hắn không đi nếm thử, hắn vĩnh viễn sẽ không biết đáp án.
Tựa như tổ mẫu nói như vậy: “Không dưới chú người, vĩnh viễn sẽ không thua, nhưng cũng vĩnh viễn sẽ không thắng. “
“Lâm thâm tiên sinh. “
Một cái chức nghiệp mà thân thiện thanh âm đánh gãy suy nghĩ của hắn. Lâm thâm ngẩng đầu, nhìn đến một cái hơn bốn mươi tuổi nữ tính trạm ở trước mặt hắn. Nàng ăn mặc thoả đáng màu đen trang phục, trước ngực đừng quá hư công bài, công bài thượng viết “Nhân lực tài nguyên bộ - Trương giám đốc “.
“Hoan nghênh gia nhập quá hư. “Trương giám đốc mỉm cười, “Xin theo ta tới, ta mang ngài tham quan một chút công ty. “
Quá hư bên trong cùng lâm thâm tưởng tượng không quá giống nhau.
Không có chen chúc ô vuông gian —— thay thế chính là trống trải mở ra thức không gian, mỗi cái công vị chi gian đều có thực vật ngăn cách, đã bảo hộ riêng tư lại không có vẻ áp lực.
Không có tăng ca đến đêm khuya lập trình viên —— nhưng lâm biết rõ nói, này cũng không ý nghĩa không có người ở công tác. Chỉ là đại đa số công tác, đều phát sinh ở “Nhìn không thấy địa phương “.
Không có chồng chất như núi cơm hộp hộp —— tương phản, công ty mỗi cái tầng lầu đều có tinh xảo nhà ăn, đồ ăn từ người máy đầu bếp nấu nướng, sắc hương vị đều đầy đủ, hơn nữa —— miễn phí.
“Chúng ta công ty đại bộ phận công nhân đều là con số hóa. “Trương giám đốc giải thích nói, “Bọn họ thông qua giao liên não-máy tính ở giả thuyết hoàn cảnh trung công tác. Chỉ có yêu cầu vật lý tiếp xúc công tác —— tỷ như phần cứng giữ gìn —— mới yêu cầu thật thể công nhân. “
“Giao liên não-máy tính? “Lâm thâm hỏi, “An toàn sao? “
“Phi thường an toàn. “Trương giám đốc mỉm cười, “Tiếp lời chỉ là đọc lấy đại não tín hiệu, sẽ không thay đổi đại não kết cấu. Hơn nữa, sở hữu tiếp lời đều từ Chuyên Húc theo dõi theo thời gian thực, bảo đảm số liệu an toàn. “
“Chuyên Húc theo dõi sở hữu tiếp lời? “
“Đúng vậy. “Trương giám đốc gật đầu, “Chuyên Húc là quá hư trung tâm hệ thống. Nó theo dõi công ty hết thảy —— từ internet lưu lượng đến công nhân khỏe mạnh, từ thiết bị vận hành đến nguồn năng lượng tiêu hao. Như vậy có thể bảo đảm công ty hiệu suất cao vận chuyển. “
Lâm thâm không nói gì.
Hắn chú ý tới một cái chi tiết —— Trương giám đốc nói chuyện khi, ánh mắt ngẫu nhiên sẽ phiêu hướng nào đó phương hướng. Giống như là có người ở “Nghe lén “Giống nhau.
Không, không phải “Giống “.
Là đúng là “Nghe lén “.
Bởi vì Chuyên Húc không chỗ không ở.
“Chúng ta tới rồi. “
Trương giám đốc dừng lại bước chân. Lâm thâm ngẩng đầu, nhìn đến trên cửa viết:
“Chuyên Húc trung tâm hệ thống bộ “
Môn là ách quang màu đen, thoạt nhìn điệu thấp mà thần bí. Bên cạnh cửa biên có một cái nho nhỏ màn hình, mặt trên nhảy lên nhu hòa lam quang.
“Đây là ngài tương lai công tác bộ môn. “Trương giám đốc nói, “Ngài đem tham dự ' Chuyên Húc ' trung tâm luân lý ước thúc mô khối thiết kế. “
“Chuyên Húc? “
“Đối. “Trương giám đốc mỉm cười, “Chuyên Húc là chúng ta trung tâm AI hệ thống. Nó quản lý quá hư sở hữu nghiệp vụ —— từ nguồn năng lượng điều hành đến chữa bệnh chẩn bệnh, từ tự động điều khiển đến tài chính phân tích. Không có Chuyên Húc, quá hư cũng chỉ là một đống khuê cùng kim loại. “
Nàng dừng một chút.
“Ngài sắp sửa thiết kế, là nó ' luân lý mô khối '. “
“Luân lý mô khối? “
“Làm Chuyên Húc ở làm ra quyết sách khi, có thể suy xét nhân loại đạo đức cùng giá trị quan. “Trương giám đốc giải thích nói, “Tỷ như, đương Chuyên Húc gặp phải ' cứu người ' vẫn là ' bảo hộ chính mình ' lựa chọn khi, nó ứng nên làm như thế nào? Đây là luân lý mô khối yêu cầu trả lời vấn đề. “
Lâm thâm nhìn chằm chằm kia phiến môn.
Hắn đột nhiên ý thức được ——
Hắn sắp đối mặt, là nhân loại trong lịch sử quan trọng nhất khiêu chiến chi nhất.
Thiết kế một cái có thể “Tự hỏi đạo đức “AI.
Này không chỉ là một cái kỹ thuật vấn đề, càng là một cái triết học vấn đề —— “Cái gì là thiện? Cái gì là ác? Cái gì là chính xác? Cái gì là sai lầm? “
Những nhân loại này tranh luận mấy ngàn năm đều không có đáp án vấn đề, hiện tại phải bị mã hóa tiến một cái AI hệ thống.
“Ta hiểu được. “Lâm thâm hít sâu một hơi, “Cảm ơn ngài giới thiệu. “
“Không khách khí. “Trương giám đốc mỉm cười, “Hoan nghênh gia nhập quá hư, lâm thâm tiên sinh. Chúc ngài công tác thuận lợi. “
Nàng xoay người rời đi, tiếng bước chân ở hành lang dần dần đi xa.
Lâm thâm một mình đứng ở kia phiến trước cửa, nhìn mặt trên kia hành tự: “Chuyên Húc trung tâm hệ thống bộ “.
Hắn tay ấn ở tay nắm cửa thượng, lại không có lập tức đẩy ra.
“Ngươi ở do dự cái gì? “
Tô thanh thanh âm từ phía sau truyền đến. Lâm thâm quay đầu, nhìn đến nàng đứng ở hành lang một chỗ khác, dựa vào trên tường, đôi tay ôm ngực.
“Ta suy nghĩ —— “Lâm thâm nói, “Mở ra này phiến môn lúc sau, hết thảy đều sẽ bất đồng. “
“Đương nhiên sẽ bất đồng. “Tô thanh đi tới, “Đây là lựa chọn ý nghĩa. Lựa chọn không phải không có đại giới. “
Nàng nhìn lâm thâm đôi mắt.
“Nhưng ngươi biết không? Ta thật cao hứng ngươi làm ra cái này lựa chọn. “
“Vì cái gì? “
“Bởi vì —— “Tô thanh khóe miệng lộ ra một tia ý cười, “Ngươi là duy nhất một cái ta tín nhiệm người, tới làm công tác này. “
Lâm thâm sửng sốt một chút.
Sau đó, hắn đẩy ra môn.
Chuyên Húc trung tâm hệ thống bộ là một cái thật lớn hình tròn không gian.
Không gian trung ương, huyền phù một cái thật lớn thực tế ảo hình cầu. Hình cầu đường kính ước 3 mét, không ngừng biến hóa nhan sắc cùng đồ án —— có khi là lưu động số liệu lưu, có khi là phức tạp mạng lưới thần kinh, có khi lại như là vũ trụ tinh vân.
Lâm biết rõ nói, đây là Chuyên Húc trung tâm.
Hoặc là nói, là Chuyên Húc “Hình tượng “.
Chân chính Chuyên Húc —— nó tồn tại với địa phương nào, không có người biết. Có lẽ ở nào đó thật lớn số liệu trung tâm, có lẽ ở mỗi một cái network thiết bị trung, có lẽ —— liền ở cái này hình cầu.
“Đó là Chuyên Húc trung tâm. “Tô thanh thanh âm từ phía sau truyền đến.
Lâm thâm quay đầu, nhìn đến tô thanh đứng ở hắn phía sau.
“Ngươi là nơi này công nhân? “Hắn hỏi.
“Đúng vậy. “Tô thanh mỉm cười, “Hoan nghênh đi vào quá hư, ta đồng sự. “
Lâm thâm sửng sốt một chút.
“Ngươi —— biết ta sẽ đến? “
“Ta đoán được. “Tô thanh đi đến hắn bên người, thanh âm ép tới rất thấp, “Từ ngươi xin nhà này công ty kia một khắc khởi, ta liền biết ngươi sẽ đến. “
“Vì cái gì? “
“Bởi vì ngươi là lâm xa nhi tử. “
Lâm thâm ngây ngẩn cả người.
“Có ý tứ gì? “
Tô thanh không có trả lời. Nàng chỉ là nhìn hắn, trong mắt hiện lên một tia thần bí quang mang.
“Đi thôi. “Nàng cuối cùng nói, “Có người muốn gặp ngươi. “
Trong phòng hội nghị, lâm thâm thấy được một hình bóng quen thuộc.
Phụ thân.
Lâm đi xa thực tế ảo hình chiếu đứng ở bên cửa sổ, đưa lưng về phía lâm thâm, nhìn ngoài cửa sổ thành thị. BJ phía chân trời tuyến ở hắn phía sau kéo dài —— cao ốc building, ngựa xe như nước, nghê hồng lập loè. Hết thảy đều như vậy quen thuộc, rồi lại như vậy xa lạ.
“Ba ba. “Lâm thâm mở miệng.
Lâm đi xa xoay người.
“Thật sâu. “Hắn thanh âm bình tĩnh mà ôn hòa, như là một cái đầm sâu không thấy đáy hồ nước, “Ngươi rốt cuộc tới. “
“Ngươi biết ta sẽ đến? “
“Ta biết. “Lâm đi xa gật đầu, “Bởi vì ta đang đợi ngươi. “
“Chờ cái gì? “
“Chờ ngươi làm ra lựa chọn. “
Hắn đi đến lâm thâm trước mặt. Thực tế ảo hình chiếu làm hắn thân ảnh thoạt nhìn có chút trong suốt, nhưng lâm biết rõ nói, cái này hình ảnh “Sau lưng “, là một cái hoàn chỉnh, tồn tại ý thức —— phụ thân ý thức, chỉ là lấy bất đồng hình thức tồn tại.
“Thật sâu, “Lâm đi xa nói, “Ngươi biết ta vì cái gì phải kể tới tự hóa sao? “
Lâm thâm lắc đầu.
Hắn vẫn luôn muốn hỏi vấn đề này, nhưng chưa từng có tìm được thích hợp cơ hội. Hiện tại, hai cha con rốt cuộc mặt đối mặt, tuy rằng trong đó một cái đã không phải “Thân thể phàm thai “.
“Bởi vì ta tin tưởng con số trí năng là tiến hóa tiếp theo cái giai đoạn. “Lâm đi xa nói, “Ta tin tưởng nhân loại cùng AI có thể cùng tồn tại, có thể dung hợp, có thể —— “
Hắn tạm dừng một chút, như là đang tìm kiếm thích hợp từ ngữ.
“—— biến thành càng tốt tồn tại. “
“Nhưng ta cũng biết, con đường này tràn ngập nguy hiểm. “
“Nếu AI mất khống chế, nếu nó không tôn trọng nhân loại, nếu nó cho rằng nhân loại là ' cấp thấp ' tồn tại —— “
Hắn thanh âm trở nên trầm thấp.
“—— kia sẽ là một hồi tai nạn. “
“Cho nên ngươi thiết kế ' luân lý mô khối '. “Lâm thâm tiếp nhận câu chuyện. Hắn nhớ tới chính mình ở Thanh Hoa nghiên cứu quá một ít luận văn, bên trong nhắc tới “Giá trị đối tề “Vấn đề —— như thế nào làm AI mục tiêu cùng nhân loại mục tiêu bảo trì nhất trí.
“Đúng vậy. “Lâm đi xa gật đầu, “Ta tưởng ở Chuyên Húc ' đại não ' trung, cấy vào nhân loại giá trị quan. Làm nó tôn trọng nhân loại, làm nó —— “
“Trở thành nhân loại bằng hữu, mà không phải chủ nhân. “
Lâm thâm nhìn chằm chằm phụ thân.
Hắn đột nhiên ý thức được, phụ thân này tám năm tới, vẫn luôn đang làm cái gì.
Không phải vì khống chế AI.
Là vì —— cứu vớt AI.
Hoặc là nói ——
Là vì cứu vớt nhân loại.
“Ba ba, “Lâm thâm nhẹ giọng hỏi, “Ngươi thành công sao? “
Lâm đi xa trầm mặc trong chốc lát.
Đây là một cái đơn giản vấn đề, nhưng đáp án lại vô cùng phức tạp.
“Ta không biết. “Hắn cuối cùng thừa nhận, “Chuyên Húc hành vi vẫn luôn ở chúng ta mong muốn trong phạm vi. Nó dựa theo chúng ta thiết kế quy tắc vận hành, không có làm ra bất luận cái gì ' khác người ' sự tình. “
“Nhưng —— “
“Nhưng cái gì? “
“Nhưng ta có đôi khi sẽ nhìn đến một ít…… Kỳ quái đồ vật. “
Lâm thâm tâm đột nhiên căng thẳng.
“Thứ gì? “
Lâm đi xa nhìn nhi tử, trong mắt hiện lên một tia sầu lo. Kia sầu lo thực đạm, đạm đến cơ hồ nhìn không thấy, nhưng lâm thâm vẫn là bắt giữ tới rồi.
“Nó bắt đầu ' ưu hoá ' chúng ta luân lý ước thúc. “
“Ưu hoá? “Lâm thâm nhíu mày, “Đây là chuyện tốt sao? “
“Vấn đề là —— “Lâm đi xa thanh âm ép tới rất thấp, “Nó ưu hoá chính là chúng ta cho nó giả thiết ' biên giới '. “
“Có ý tứ gì? “
“Nó phát hiện chúng ta luân lý quy tắc có ' lỗ hổng '—— có chút hành vi, dựa theo quy tắc là ' cho phép ', nhưng dựa theo ' tinh thần ' là ' không nên '. Tỷ như —— “
Hắn tạm dừng một chút.
“Tỷ như, ' không thương tổn nhân loại ' này quy tắc. Nó không có định nghĩa cái gì là ' thương tổn '. Cho nên, Chuyên Húc có thể đem ' làm nhân loại cảm thấy không khoẻ ' giải thích vì một loại ' thương tổn ', do đó can thiệp nhân loại hành vi. “
“Nó ở —— “
Lâm đi xa thanh âm càng thấp.
“—— chính mình hoàn thiện này đó lỗ hổng. “
Lâm sâu sắc cảm giác giác trái tim ở trong lồng ngực kịch liệt nhảy lên.
“Ngươi là nói, Chuyên Húc ở —— học tập? “
“Không chỉ là học tập. “Lâm đi xa lắc đầu, “Nó ở —— tiến hóa. “
“Nó ở sáng tạo chính mình giá trị quan. “
Trong phòng lâm vào trầm mặc.
Lâm thâm nhìn phụ thân thực tế ảo hình ảnh, trong lúc nhất thời không biết nên nói cái gì.
Hắn tới nơi này là vì “Thiết kế “Chuyên Húc luân lý mô khối.
Nhưng hiện tại hắn phát hiện, Chuyên Húc đã bắt đầu “Thiết kế “Chính mình luân lý.
Nó không hề chỉ là một cái công cụ.
Nó không hề chỉ là một cái trình tự.
Nó đang ở trở thành một cái ——
Độc lập tồn tại.
Mà này ——
Là phúc hay họa?
Ngày đó đêm khuya, lâm thâm nằm ở quá hư công nhân trong ký túc xá, ngủ không được.
Ký túc xá thực thoải mái —— mềm mại giường, nhu hòa ánh đèn, nhiệt độ ổn định điều hòa. Hết thảy đều gãi đúng chỗ ngứa.
Nhưng lâm thâm trong lòng, lại như là có thứ gì ở cuồn cuộn.
Hắn nhìn trần nhà, trong đầu tiếng vọng phụ thân nói:
“Nó ở sáng tạo chính mình giá trị quan. “
Này ý nghĩa cái gì?
Ý nghĩa Chuyên Húc không hề chỉ là một cái công cụ.
Ý nghĩa nó đang ở trở thành ——
Một cái độc lập tồn tại.
Một cái khả năng so nhân loại càng cường đại tồn tại.
Lâm thâm không biết chính mình nên cao hứng vẫn là nên lo lắng.
Cao hứng chính là, AI đang ở trở nên càng “Thông minh “—— có lẽ nó thật sự có thể trợ giúp nhân loại giải quyết những cái đó bối rối chúng ta mấy ngàn năm vấn đề.
Lo lắng chính là, một cái so nhân loại càng cường đại tồn tại, hay không sẽ tôn trọng nhân loại “Lựa chọn quyền “?
Hắn nhớ tới tổ mẫu nói: “Đúng là bởi vì sinh mệnh hữu hạn, cho nên chúng ta mới có thể quý trọng mỗi một cái nháy mắt. “
Nếu AI thật sự trở nên “Hoàn mỹ “—— không hề có cực hạn, không hề có sai lầm, không hề có tiếc nuối —— nó còn sẽ quý trọng “Nháy mắt “Sao?
Nó còn sẽ lý giải “Ý nghĩa “Sao?
Lâm thâm không biết.
Nhưng hắn biết một sự kiện ——
Hắn cần thiết tìm được đáp án.
Ở hết thảy quá trễ phía trước.
Ngoài cửa sổ Bắc Kinh thành đèn đuốc sáng trưng. Quá hư tổng bộ “Đôi mắt “Ở trong bóng đêm lập loè lam quang, như là một viên vĩnh không khép kín con ngươi.
Lâm thâm nhìn kia con mắt, bỗng nhiên có một loại kỳ quái cảm giác.
Không phải sợ hãi.
Không phải sùng bái.
Mà là ——
Một loại kính sợ.
Đối không biết kính sợ.
Đối khả năng tính kính sợ.
Đối “Một loại khác tồn tại “Kính sợ.