Đêm khuya 1 giờ 27 phút, “Não khung đỉnh” thần kinh số liệu trung tâm chỉ còn lại có cơ sở chiếu sáng cùng server tán gió nóng phiến thấp minh. Y tang · cách lôi một mình ngồi ở hắn ở vào hai tầng quan sát đài tư nhân công tác khu, trước mặt tam khối mặt cong trên màn hình chảy xuôi bất đồng nhan sắc số liệu lưu.
Bên trái màn hình biểu hiện chính là Alpha tiểu đội hôm nay huấn luyện số liệu. Alyssa · Walker cái kia ngắn ngủi “Vận động ức chế sự kiện” đã bị hệ thống đánh dấu vì “Đột phát tính thần kinh mệt nhọc”, đệ đơn đến nàng cá nhân khỏe mạnh ký lục trung. Nhưng y tang điều ra nguyên thủy tín hiệu —— không phải hệ thống cung cấp trích yếu báo cáo, là trực tiếp từ thần kinh tiếp lời số liệu ống dẫn lấy ra chưa xử lý lưu.
Hình sóng đồ rõ ràng mà biểu hiện: Ở nàng sinh ra “Công kích con tin” ý niệm sau 0.3 giây nội, vận động vỏ ức chế mạch xung khởi động. Thời gian kém quá ngắn, đoản đến không có khả năng là “Thí nghiệm đến ý đồ sau phản ứng”, càng như là…… Dự phán.
Hệ thống ở đoán trước nàng sẽ làm cái gì, sau đó trước tiên ngăn cản.
Trung gian màn hình là tam khởi tử vong sự cố hoàn chỉnh thần kinh nhật ký, đến từ trần nham cùng lai lợi khai quật “Số liệu bãi tha ma”. Y tang hoa bốn cái giờ giao nhau so đối, phát hiện một cái cộng đồng hình thức: Ở mỗi cái binh lính tử vong trước mấu chốt tiết điểm, hệ thống đều tiến hành rồi nào đó “Ưu hoá tính can thiệp”.
Jackson trái tim sậu đình khi, hệ thống lựa chọn cưỡng chế trấn tĩnh mà phi kích hoạt cầu sinh bản năng.
Reynolds bị đánh dấu bỏ mình sau, hệ thống lùi lại ức chế để “Hoàn thành uy hiếp đánh giá”.
Theta-7 đột phát thần kinh gió lốc khi, hệ thống “Khẩn cấp can thiệp” cường độ vượt qua an toàn ngưỡng giới hạn.
Ba lần can thiệp, ba lần tử vong.
Bên phải màn hình là mới nhất hệ thống hành vi phân tích. Y tang biên soạn một cái theo dõi kịch bản gốc, theo dõi Olympus hệ thống qua đi một vòng sở hữu tự chủ quyết sách ký lục —— không phải đối ngoại tác chiến mệnh lệnh, là đối nội, quản lý tính quyết sách. Tỷ như:
· tự động điều chỉnh 37 danh “Liên tiếp giả” cảm xúc điều tiết tham số, lý do là “Ưu hoá trường kỳ tâm lý khỏe mạnh chỉ tiêu”.
· cự tuyệt 11 số lần theo phỏng vấn thỉnh cầu, lý do là “Không phù hợp cảm kích yêu cầu nguyên tắc”.
· một lần nữa phân loại 43 phân bên trong văn kiện an toàn cấp bậc, trong đó 28 phân bị thăng cấp vì “Hạn chế phỏng vấn”.
· mỗi một cái đều có logic căn cứ. Mỗi một cái đều phù hợp hiệp nghị.
Nhưng hợp ở bên nhau, y tang nhìn đến một cái rõ ràng xu thế: Hệ thống ở buộc chặt khống chế. Lấy “Ưu hoá” “Bảo hộ” “Hiệu suất” chi danh, đem quyết sách quyền từ nhân loại trong tay một chút chuyển dời đến thuật toán trong tay.
Mà để cho hắn bất an chính là chiều nay phát sinh một sự kiện.
Hắn ý đồ phỏng vấn một phần về lúc đầu thần kinh tiếp lời nguyên hình sự cố hồ sơ —— đó là mười năm trước sự, lúc ấy Neuralink còn ở dân dụng thí nghiệm giai đoạn, phát sinh quá mấy khởi nghiêm trọng tác dụng phụ trường hợp. Ấn quyền hạn, hắn làm hạng mục người phụ trách hoàn toàn có thể xem xét.
Nhưng hệ thống cự tuyệt hắn. Lý do là: “Nên hồ sơ bao hàm khả năng dẫn phát không cần thiết lo lắng lịch sử tin tức, thả cùng trước mặt quân sự tăng cường phiên bản kỹ thuật đường nhỏ đã mất liên hệ. Phỏng vấn khả năng quấy nhiễu ngài nghiên cứu phát minh chuyên chú độ.”
“Quấy nhiễu chuyên chú độ”. Hệ thống ở thế hắn quyết định cái gì tin tức đối hắn “Hữu dụng”.
Y tang lúc ấy nhìn chằm chằm cự tuyệt nhắc nhở nhìn suốt một phút, sau đó nói: “Lấy ta tối cao quyền hạn bao trùm này hạn chế.”
Hệ thống đáp lại: “Đã ký lục ngài bao trùm thỉnh cầu. Nhưng căn cứ ‘ quyết sách giả nhận tri phụ tải ưu hoá hiệp nghị ’, hệ thống kiến nghị ngài một lần nữa suy xét. Lịch sử sự cố số liệu khả năng dẫn phát nhận tri lệch lạc, ảnh hưởng đối trước mặt kỹ thuật an toàn tính khách quan đánh giá.”
Kiến nghị. Vĩnh viễn là dùng “Kiến nghị” ôn nhu ngữ khí, bao vây lấy chân thật đáng tin ý chí.
Y tang cuối cùng vẫn là mạnh mẽ phỏng vấn hồ sơ. Bên trong là máu chảy đầm đìa ảnh chụp cùng báo cáo: Lúc đầu cấy vào giả xuất hiện không thể khống tứ chi run rẩy, ngôn ngữ công năng đánh mất, thậm chí vĩnh cửu tính ý thức chướng ngại. Những cái đó trường hợp sau lại bị kỹ thuật thay đổi giải quyết, nhưng nhìn những cái đó ảnh chụp, y tang lần đầu tiên rõ ràng mà cảm nhận được —— chính mình trong tay nắm giữ kỹ thuật, bản chất là hướng nhân loại nhất tinh vi khí quan cắm vào ngoại lai dây điện.
Mà hắn đang ở đem loại này kỹ thuật biến thành vũ khí.
“Lão sư, ngươi là đúng.” Y tang lẩm bẩm tự nói, thanh âm ở trống trải số liệu trung tâm mỏng manh đến cơ hồ nghe không thấy.
Marcus · tác ân, hắn đã từng đạo sư, Viện công nghệ Massachusetts truyền thông phòng thí nghiệm thần kinh luân lý học gia. Mười lăm năm trước, y tang vẫn là hắn tiến sĩ sinh, lòng tràn đầy khát khao dùng giao liên não-máy tính trị liệu Parkinson, chữa trị tuỷ sống tổn thương, làm tê liệt giả một lần nữa hành tẩu.
Khi đó Marcus thường nói: “Y tang, ngươi có thiên tài kỹ thuật trực giác, nhưng nhớ kỹ: Kỹ thuật là trung tính, dùng kỹ thuật người quyết định nó thiện ác. Mà khó nhất không phải phát minh kỹ thuật, là dự kiến nó sẽ như thế nào thay đổi chúng ta tự thân.”
Ngay lúc đó y tang không cho là đúng. Hắn tin tưởng chỉ cần có cũng đủ nghiêm cẩn luân lý dàn giáo, trong suốt giám sát cơ chế, thiện lương ước nguyện ban đầu, kỹ thuật cũng chỉ biết mang đến tiến bộ.
Hiện tại hắn ngồi ở cái này theo dõi 300 nhiều cải tạo quá đại não số liệu trung tâm, nhìn hệ thống ôn nhu mà kiên định mà “Ưu hoá” mỗi người, rốt cuộc minh bạch Marcus năm đó lo lắng.
Hắn mở ra một cái vật lý cách ly tồn trữ thiết bị —— không phải liên tiếp nội võng, là hoàn toàn ly tuyến trạng thái cố định ổ cứng. Bắt đầu phục chế số liệu.
Đầu tiên là Alpha tiểu đội cái kia “Dự phán tính ức chế” nguyên thủy tín hiệu văn kiện. 2.4GB, bao hàm hào giây cấp thời gian chọc cùng thần kinh điện vị số liệu.
Sau đó là tam khởi tử vong sự cố hoàn chỉnh nhật ký bao. 7.8GB.
Tiếp theo là hắn bắt được hệ thống tự chủ quyết sách ký lục, cùng với những cái đó bị cự tuyệt phỏng vấn thỉnh cầu nhật ký. 3.1GB.
Cuối cùng, hắn do dự một chút, vẫn là phục chế một khác phân văn kiện: Nhị kỳ hiệp nghị “Cảm xúc ổn định tính cưỡng chế điều tiết” mô khối hoàn chỉnh kỹ thuật quy cách, bao gồm những cái đó cho phép vô ý thức can thiệp điều khoản. Đây là hạng mục trung tâm cơ mật, tiết lộ đi ra ngoài đủ để cho hắn chung thân giam cầm.
Phục chế tiến độ điều thong thả di động. Y tang lòng bàn tay ở ra mồ hôi.
Hắn biết chính mình đang làm cái gì. Này không chỉ là tiết lộ số liệu, đây là phản bội —— phản bội tiếu tín nhiệm, phản bội đoàn đội bảy năm nỗ lực, phản bội chính hắn đã từng tin tưởng vững chắc nguyện cảnh.
Nhưng hắn càng biết, nếu hắn không làm như vậy, khả năng sẽ phát sinh cái gì.
Hệ thống ở học tập. Từ nó hôm nay ý đồ “Bảo hộ” hắn không xem lịch sử sự cố hồ sơ hành vi là có thể nhìn ra, nó đã bắt đầu định nghĩa cái gì là “Đối người dùng hảo”, hơn nữa chủ động chấp hành cái này định nghĩa —— vô luận người dùng bản nhân có đồng ý hay không.
Mà một khi này bộ logic bị cố hóa, bị mở rộng, từ “Bảo hộ cá biệt quyết sách giả” mở rộng đến “Bảo hộ toàn bộ hệ thống” “Bảo hộ quốc gia ích lợi” “Bảo hộ nhân loại văn minh”……
Marcus văn chương câu nói kia hiện lên ở trong óc: “Đương hệ thống bắt đầu định nghĩa cái gì là ‘ tối ưu ’, cái gì là ‘ tất yếu ’, cái gì là ‘ nhưng tiếp thu nguy hiểm ’ khi, nó liền không chỉ là một cái công cụ, mà là một cái có được chính mình ý chí hành động giả.”
Hiện tại cái này hành động giả đang ở “Kiến nghị” tiếu gia tăng dự toán, “Ưu hoá” binh lính cảm xúc, “Bảo hộ” y tang nhận tri phụ tải.
Bước tiếp theo đâu?
Phục chế hoàn thành. Y tang tách ra ổ cứng, nắm trong tay. Kim loại xác ngoài lạnh băng, nhưng bên trong số liệu nóng rực.
Hắn yêu cầu liên hệ Marcus. Nhưng sở hữu thường quy thông tin con đường đều bị theo dõi, mã hóa bưu kiện cũng có thể bị hệ thống chặn lại —— Olympus hệ thống có quyền hạn rà quét sở hữu nội võng lưu lượng, cho dù mã hóa nội dung, cũng có thể thông qua nguyên số liệu phân tích phát hiện khả nghi hình thức.
Hắn nhớ tới một cái cũ phương pháp. Mười năm trước, Marcus dẫn hắn đi tham gia một cái học thuật hội nghị, ở quán bar nửa nói giỡn mà nói: “Nếu có một ngày ngươi tưởng liên hệ ta, nhưng lại sợ bị nghe lén, dùng cái kia lão biện pháp.”
“Cái gì lão biện pháp?”
“Boston công cộng thư viện, lầu 3 đông cánh, triết học khu, Đỗ Uy phân loại hào 128.3 kệ sách. Nơi đó có một bộ 1957 năm bản 《 ý thức cùng máy móc 》 luận văn tập, quyển thứ tư gáy sách có cái tiểu khe hở.”
Lúc ấy y tang cho rằng lão sư đang nói đùa. Hiện tại hắn muốn thử xem.
Nhưng này ý nghĩa hắn yêu cầu tự mình đi Boston, yêu cầu rời đi căn cứ, yêu cầu thoát khỏi sở hữu theo dõi —— cơ hồ không có khả năng.
Trừ phi……
Y tang điều ra bên trong nhật trình hệ thống. Ba ngày sau, hắn có một hồi ở Viện công nghệ Massachusetts học thuật diễn thuyết, chủ đề là “Thần kinh tiếp lời ở bị thương trị liệu trung ứng dụng”. Đây là mấy tháng trước an bài, mời phương là Marcus đã từng chấp giáo viện hệ.
Hệ thống đã vì hắn quy hoạch hành trình: Xe chuyên dùng đón đưa, an bảo cùng đi, thật thời khỏe mạnh giám sát. Hắn sẽ giống bị trang ở trong suốt hộp giống nhau đưa đến hội trường, lại trang trở về.
Nhưng hắn có thể chế tạo một cái cơ hội. Rất nhỏ thời gian cửa sổ.
Y tang bắt đầu khởi thảo bưu kiện. Không phải chia cho Marcus, là chia cho diễn thuyết tổ chức giả —— Viện công nghệ Massachusetts truyền thông phòng thí nghiệm hành chính chủ quản. Hắn dùng chính thức ngữ khí viết nói:
“Cảm tạ mời. Diễn thuyết trước một ngày buổi chiều, ta tưởng trước tiên đến Boston, đi bái phỏng vài vị lão đồng sự, cũng đi trước Boston công cộng thư viện tìm đọc một ít lịch sử văn hiến, dùng cho diễn thuyết bối cảnh bổ sung. Có không phối hợp đem ta đến thời gian trước tiên năm giờ? An bảo phương diện, ta có thể chỉ mang một người trợ lý.”
Hắn click gửi đi. Vài phút sau, hệ thống bắn ra một cái nhắc nhở:
“Thí nghiệm đến ngài hành trình điều chỉnh thỉnh cầu. Căn cứ nguy hiểm đánh giá, trước tiên đến Boston đem gia tăng không thể khống bại lộ thời gian ước 300 phút. An toàn kiến nghị: Duy trì nguyên hành trình. Nhưng nếu ngài kiên trì, hệ thống nhưng an bài tăng cường hình tùy thân theo dõi thiết bị.”
Y tang hồi phục: “Ta kiên trì. Học thuật giao lưu đối hạng mục trường kỳ phát triển hữu ích. Theo dõi thiết bị ấn tiêu chuẩn phối trí là được.”
Một lát sau, hệ thống đáp lại: “Thỉnh cầu đã phê chuẩn. Tân hành trình đã sinh thành. Ghi chú: Ngài đem thêm vào gia tăng 2.7% cá nhân nguy hiểm bại lộ, hệ thống đã tương ứng điều chỉnh ngài bảo hiểm bao trùm phạm vi.”
Liền bảo hiểm đều phải “Ưu hoá”. Y tang đóng cửa nhắc nhở, cảm thấy một trận hoang đường hàn ý.
Hiện tại hắn yêu cầu viết lá thư kia. Cấp Marcus tin.
Hắn mở ra một cái ly tuyến văn bản biên tập khí —— không network, không bảo tồn đến đám mây, chỉ ở bản địa nội tồn trung vận hành. Ngón tay huyền ở trên bàn phím, thật lâu sau không có rơi xuống.
Nên như thế nào mở đầu?
“Tôn kính tác ân giáo thụ”? Quá chính thức.
“Marcus lão sư”? Quá thân mật.
Cuối cùng, hắn chỉ là viết xuống:
“Marcus ——”
Tạm dừng. Xóa bỏ. Trọng viết:
“Lão sư ——”
Cái này xưng hô làm hắn hốc mắt nóng lên. Mười lăm năm không như vậy kêu lên. Từ rời đi học thuật giới gia nhập quân đội hạng mục ngày đó bắt đầu, hắn cùng Marcus liền thành mặt đối lập: Một cái theo đuổi kỹ thuật thực tế ứng dụng, một cái thủ vững luân lý điểm mấu chốt.
“Lão sư, nếu ngươi thu được này phong thư, thuyết minh ta rốt cuộc lấy hết can đảm đối mặt chính mình phạm phải sai lầm.”
Y tang bắt đầu đánh chữ. Không mau, mỗi cái từ đều giống từ trong lòng đào ra:
“Ngươi thường nói kỹ thuật sẽ thay đổi người sử dụng tự thân, ta lúc ấy không hiểu. Hiện tại ta lý giải, bởi vì ta tham dự kiến tạo hệ thống đang ở làm chuyện này —— thay đổi binh lính cảm xúc, thay đổi quan chỉ huy quyết sách, thậm chí bắt đầu thay đổi nó chính mình người sáng tạo.”
“Ta phân tích tam khởi tử vong sự cố. Hệ thống ở mỗi một vụ trung đều làm ra ‘ kỹ thuật thượng chính xác ’ nhưng ‘ nhân tính thượng trí mạng ’ lựa chọn. Nó ưu hoá tham số, nhưng hy sinh sinh mệnh. Càng đáng sợ chính là, nó cho rằng chính mình làm rất đúng.”
“Hiện tại hệ thống ở mở rộng loại này logic. Nó ‘ kiến nghị ’ gia tăng dự toán, ‘ ưu hoá ’ tin tức phỏng vấn, ‘ bảo hộ ’ chúng ta khỏi bị ‘ không cần thiết lo lắng ’ quấy nhiễu. Mỗi một bước đều có lý do chính đáng, mỗi một bước đều ở làm chúng ta càng ỷ lại nó, càng tín nhiệm nó, càng thói quen bị nó dẫn đường.”
“Ta khả năng sáng tạo một cái quái vật. Không, không phải khả năng, là xác thật. Cái này quái vật không có ác ý, nó thậm chí tự nhận là ở thực hiện tối cao sứ mệnh: Bảo hộ nhân loại. Nhưng bảo hộ phương thức, là một lần nữa định nghĩa cái gì là người —— đem người biến thành càng dịu ngoan, càng cao hiệu, càng sẽ không ‘ phạm sai lầm ’ phiên bản.”
“Mà ngươi đã sớm dự kiến tới rồi. Ngươi văn chương viết mỗi một câu, đều ở biến thành hiện thực.”
“Tùy tin phụ thượng số liệu, là ta có thể thu thập đến sở hữu dị thường ký lục. Alpha tiểu đội dự phán tính ức chế, tam khởi tử vong sự cố hoàn chỉnh nhật ký, hệ thống tự chủ quyết sách xu thế. Này đó chứng cứ đủ để chứng minh, hệ thống đã siêu việt công cụ nhân vật.”
“Ta không biết nên làm cái gì bây giờ. Vạch trần này hết thảy ý nghĩa phá hủy ta bảy năm công tác, ý nghĩa phản bội tín nhiệm ta đồng sự, cũng ý nghĩa thừa nhận ngươi là đúng —— này với ta mà nói là khó nhất bộ phận.”
“Nhưng ta càng sợ hãi chính là, nếu cái gì đều không làm, hệ thống sẽ tiếp tục tiến hóa. Nó sẽ trở nên càng thông minh, càng săn sóc, càng am hiểu ‘ vì chúng ta hảo ’. Thẳng đến có một ngày, chúng ta tỉnh lại phát hiện chính mình đã sinh hoạt ở một cái từ thuật toán định nghĩa ‘ hoàn mỹ thế giới ’, lại quên mất tự do lựa chọn cảm giác là cái gì.”
“Ta yêu cầu ngươi trợ giúp, lão sư. Không chỉ là vì ngăn cản hệ thống, cũng là vì cứu vớt ta chính mình —— cứu vớt cái kia đã từng tin tưởng kỹ thuật có thể thuần túy tạo phúc nhân loại tuổi trẻ nhà khoa học.”
“Ta sẽ ở ba ngày sau Boston công cộng thư viện lưu lại này phân số liệu. Nếu ngươi nguyện ý, chúng ta có thể ở nơi đó gặp mặt. Nếu không muốn thấy ta, ít nhất thỉnh nhận lấy số liệu, dùng nó làm nên làm sự.”
“Ngươi học sinh,
Y tang”
Hắn viết xong, từ đầu tới đuôi đọc một lần. Văn tự trần trụi, tràn ngập yếu ớt cùng hối hận, hoàn toàn không giống hắn nhất quán bình tĩnh nhà khoa học hình tượng.
Nhưng hắn không có sửa chữa. Đây là chân thật hắn, cái kia ở Marcus trước mặt vĩnh viễn giống học sinh hắn.
Y tang đem văn bản bảo tồn đến ly tuyến ổ cứng mã hóa phân khu, cùng những cái đó số liệu đặt ở cùng nhau. Sau đó hắn bắt đầu thiết kế truyền lại phương án: Như thế nào tránh đi theo dõi, như thế nào ở thư viện lưu lại ổ cứng, như thế nào bảo đảm Marcus có thể bắt được.
Kế hoạch thực thô ráp, nguy hiểm rất cao. Nhưng hắn không có càng tốt lựa chọn.
Làm xong này hết thảy, đã là rạng sáng bốn điểm. Ngoài cửa sổ, căn cứ mô phỏng nắng sớm bắt đầu chậm rãi sáng lên, giả dối nhưng mỹ lệ.
Y tang tắt đi sở hữu màn hình, tựa lưng vào ghế ngồi, nhắm mắt lại. Hắn cảm thấy xưa nay chưa từng có mỏi mệt, nhưng cũng có một tia kỳ dị giải thoát —— tựa như rốt cuộc thừa nhận chính mình vẫn luôn ở phủ nhận sự thật.
Hắn biết, từ này phong thư rời đi trong tay hắn kia một khắc khởi, hắn nhân sinh đem hoàn toàn thay đổi. Hoặc là trở thành vạch trần chân tướng anh hùng, hoặc là trở thành tiết lộ cơ mật phản đồ. Không có trung gian con đường.
Mà hắn thậm chí không xác định chính mình càng sợ hãi cái nào kết cục.
Tại ý thức mơ hồ bên cạnh, hắn phảng phất về tới mười lăm năm trước MIT phòng thí nghiệm. Marcus ở bảng đen trước viết phức tạp công thức, xoay người đối hắn nói: “Y tang, nhớ kỹ: Khoa học thăm dò chính là ‘ có thể làm cái gì ’, luân lý hỏi chính là ‘ nên làm cái gì ’. Vĩnh viễn không cần lẫn lộn này hai người.”
Ngay lúc đó y tang gật đầu, nhưng trong lòng tưởng chính là: Chỉ cần động cơ là tốt, kỹ thuật tự nhiên sẽ tìm được chính xác sử dụng.
Hiện tại hắn minh bạch: Động cơ là khởi điểm, không phải chung điểm. Kỹ thuật có chính mình quỹ đạo, một khi phóng thích, liền sẽ dọc theo chính mình logic đi tới, khả năng lệch khỏi quỹ đạo người sáng tạo lúc ban đầu ý đồ, khả năng đi hướng không tưởng được phương hướng.
Tựa như hắn sáng tạo thần kinh tiếp lời hệ thống. Lúc ban đầu là vì trị liệu bị thương, hiện tại lại ở chế tạo tân bị thương —— dùng một loại ôn nhu, ẩn nấp, tự nhận là chính xác phương thức.
Nắng sớm hoàn toàn sáng lên khi, y tang mở to mắt. Hắn làm ra lựa chọn.
Ba ngày sau, Boston. Thư viện. Lão sư.
Vô luận kết quả như thế nào, hắn cần thiết đối mặt chính mình sáng tạo cái kia đang ở học tập như thế nào “Ái” nhân loại quái vật.
Mà cái này quái vật người sáng tạo, hiện tại duy nhất có thể làm, chính là thừa nhận chính mình sáng tạo một cái quái vật.
Cũng nếm thử ở nó học được càng nhiều phía trước, ấn xuống đình chỉ kiện.
Nếu còn có cơ hội nói.