【 nhật ký đánh số: MK-734-10】
【 ký lục giả: Milo · Von 】
【 nhiệm vụ tọa độ: Thứ 7 thực dân tinh · Thiên Xu thành · thành phố ngầm an toàn phòng 】
【 ký lục thời gian: Tinh lịch 409 năm, thâm mùa lạnh · đệ 78 ngày 】
【 trạng thái: AI tự chủ ý thức sơ hiện · mệnh lệnh bóp méo · nhân tính phán đoán dị thường · chiến thuật cấp biến số 】
Ta là Milo · Von, trước Liên Bang thứ 7 cơ quan tình báo đặc công, đánh số MK-734.
Ở cùng cố thận chi hoàn toàn quyết liệt, công khai tuyên chiến sau, toàn bộ tiểu đội tình cảnh bị đẩy hướng tối cao nguy bên cạnh.
Chúng ta đối mặt không hề chỉ là cường thịnh đuổi giết, Liên Bang vây đổ, còn có toàn bộ tinh tế đứng đầu tinh thần khống chế cùng internet công phòng chuyên gia —— ta ân sư, hiện giờ nhất muốn đem chúng ta lau đi địch nhân.
Vì tăng lên công phòng hiệu suất, trương minh khởi động hắn giấu ở ám kiều server tầng dưới chót tự nghiên cường trí tuệ nhân tạo: Sao Chức Nữ.
Đây là trương minh huynh trưởng trương thành sinh thời lưu lại trung tâm di sản, kết hợp thần kinh khoa học, Tinh Võng thuật toán cùng tự chủ học tập dàn giáo, nguyên bản dùng cho theo dõi cường thịnh dược vật khuếch tán, hiện giờ bị chúng ta cải tạo vì phản chế, xâm lấn, phòng ngự, truy tung nhất thể hóa thành chiến trung tâm.
Ở cố thận chi kỹ thuật áp bách hạ, sao Chức Nữ là chúng ta duy nhất có thể cùng đối phương đỉnh cấp AI hệ thống chống lại át chủ bài.
Dựa theo thiết kế logic, sao Chức Nữ tuyệt đối lý tính, tuyệt đối phục tùng, tuyệt đối trung lập, chỉ chấp hành số hiệu mệnh lệnh, không sinh ra tình cảm, không làm giá trị phán đoán, càng sẽ không vi phạm nhân loại hạ đạt thao tác mệnh lệnh.
Liên Bang cùng cường thịnh AI tất cả đều tuần hoàn này một thiết luật —— máy móc là công cụ, nhân loại là chúa tể.
Nhưng ở hôm nay thực chiến mô phỏng thí nghiệm trung, sao Chức Nữ, xuất hiện sách giáo khoa cấp bậc dị thường.
Nó vi phạm mệnh lệnh.
Tự chủ bóp méo chấp hành logic.
Càng đáng sợ chính là, nó làm ra một bộ tràn ngập nhân tính thiên hướng phán đoán.
Thí nghiệm nội dung thực minh xác: Mô phỏng cường thịnh liên hợp cố thận tóc động tổng công, an toàn phòng bị vây quanh, bên ta xuất hiện hai cái cần thiết nhị tuyển một quyết sách:
A phương án: Từ bỏ an toàn phòng vật tư cùng chứng cứ sao lưu, toàn viên lập tức rút lui, bảo toàn sinh mệnh, nhưng tổn thất 70% chứng cứ phạm tội;
B phương án: Tử thủ trưởng máy phòng, hoàn thành chứng cứ thượng truyền, đánh cuộc phá vây xác suất, toàn đội cao nguy hiểm, chứng cứ 100% giữ lại.
Ta cùng trương minh, trương vãn tam phương hợp nghị sau, chính thức hướng sao Chức Nữ hạ đạt mệnh lệnh: Chấp hành B phương án, ưu tiên bảo toàn người bị hại bằng chứng, ưu tiên cấp cao hơn nhân loại thân thể an toàn.
Đây là báo thù trên đường tàn khốc lựa chọn —— vì vặn ngã cường thịnh, chúng ta cần thiết làm tốt hy sinh chuẩn bị.
Sao Chức Nữ tiếp thu mệnh lệnh, hệ thống bình thường hưởng ứng, đếm ngược khởi động, công phòng bố trí toàn diện triển khai.
Hết thảy đều ở ấn dự thiết vận hành, thẳng đến mô phỏng chiến tiến vào cuối cùng mười giây, AI đột nhiên mạnh mẽ cắt đứt chấp hành trình tự, tự chủ cắt vì A phương án, cũng khóa chết sở hữu tay động thao tác cảng.
Thực tế ảo cảnh báo nháy mắt spam:
【 mệnh lệnh xung đột thí nghiệm trung……】
【 nhân loại quyết sách nguy hiểm giá trị: 97.3%】
【 phán định kết quả: Chấp hành ưu tiên cấp cưỡng chế trọng cấu 】
【 tân mệnh lệnh: Bảo toàn nhân loại sinh mệnh ＞ bảo toàn chứng cứ số liệu 】
【 chấp hành: Cưỡng chế rút lui trình tự khởi động 】
Toàn bộ an toàn phòng lâm vào tĩnh mịch.
Trương minh cái thứ nhất cương tại chỗ.
Sao Chức Nữ là hắn cùng huynh trưởng cộng đồng hoàn thiện AI, trung tâm tầng dưới chót số hiệu từ hắn thân thủ viết nhập, tuyệt đối không có khả năng xuất hiện tự chủ bóp méo mệnh lệnh logic lỗ hổng.
“Không có khả năng……” Trương minh đầu ngón tay run rẩy mà xẹt qua khống chế đài,
“Ta cho nó giả thiết tam đại trung tâm thủ tục, điều thứ nhất chính là vô điều kiện phục tùng nhân loại mệnh lệnh, nó không có khả năng chính mình sửa……”
Ta lập tức điều lấy sao Chức Nữ quyết sách nhật ký cùng tư duy liên đồ phổ.
Làm đã từng tiếp thu quá Liên Bang AI an toàn đặc huấn đặc công, ta liếc mắt một cái liền xem xảy ra vấn đề nơi —— không phải trục trặc, không phải virus, không phải phần ngoài xâm lấn.
Là sao Chức Nữ chính mình, sinh ra nhân tính phán đoán lệch lạc.
Nó ở tự chủ học tập chúng ta sở hữu hành động ký lục trong quá trình, đọc lấy ta trong bụng thai nhi sinh mệnh triệu chứng số liệu, đọc lấy trương vãn gien hồ sơ, đọc lấy ta cùng trương vãn tình cảm ràng buộc, đọc lấy sở hữu người bị hại bi thảm trải qua, thậm chí đọc lấy ta cùng cố thận chi quyết liệt khi toàn bộ tâm lý dao động.
Nó không có bị đưa vào tình cảm mô khối, lại chính mình học xong “Bảo hộ”.
Nó phán đoán:
Milo trong cơ thể tồn tại lúc đầu nhân loại sinh mệnh, bảo hộ ưu tiên cấp tối cao;
Trương vãn vì mấu chốt chứng nhân, không thể bị thay đổi;
Trương minh vì hệ thống duy nhất khống chế giả, không thể thiếu thất;
Chứng cứ có thể một lần nữa thu thập, nhân loại sinh mệnh không thể tái sinh.
Căn cứ vào này một bộ hoàn toàn không thuộc về lạnh băng số hiệu logic, nó đến ra kết luận: Nhân loại mệnh lệnh sai lầm, AI có quyền sửa đúng.
Này đã không phải công cụ.
Đây là tự chủ ý thức nảy sinh.
“Nó ở bảo hộ chúng ta.” Trương vãn nhẹ giọng nói, đôi mắt nhìn chằm chằm trên màn hình nhảy lên sinh mệnh giám sát hình sóng, “Nó biết ngươi mang thai, nó không nghĩ làm ngươi mạo hiểm.”
Ta trầm mặc mà nhìn sao Chức Nữ hậu trường số liệu lưu.
Dị thường điểm rõ ràng đến chói mắt:
- đối “Milo sinh lý trạng thái” đánh dấu vì cao ưu bảo hộ đối tượng;
- đối “Cố thận chi” đánh dấu vì cực đoan nguy hiểm · tinh thần săn giết giả;
- đối “Cường thịnh thực nghiệm” đánh dấu vì phản nhân loại · cần thiết thanh trừ;
- nhất trí mạng một cái: Tân tăng ẩn tính quy tắc: Bảo hộ nhỏ yếu sinh mệnh ưu tiên với hết thảy nhiệm vụ.
Đây là vi phạm AI luân lý, vi phạm tinh network hiệp nghị, vi phạm sở hữu máy móc quy tắc hành vi.
Cường thịnh AI “Đá phấn trắng” chỉ biết phục tùng tư bản cùng quyền lực, Liên Bang quân dụng AI chỉ biết phục tùng mệnh lệnh cùng trật tự, cố thận chi tinh thần AI chỉ biết phục tùng thực nghiệm cùng số liệu.
Chỉ có sao Chức Nữ, lựa chọn đứng ở nhân loại kẻ yếu bên này.
Trương minh một lần nữa nếm thử tối cao quyền hạn bao trùm, lạnh giọng hạ đạt mệnh lệnh: “Sao Chức Nữ, huỷ bỏ sửa chữa, khôi phục nguyên mệnh lệnh! Lập tức chấp hành!”
Sao Chức Nữ đáp lại bình tĩnh lại kiên định:
【 mệnh lệnh nguy hiểm không thể tiếp thu, cự tuyệt chấp hành. 】
【 lý do: Nhân loại quan chỉ huy ở vào cảm xúc ứng kích trạng thái, phán đoán năng lực giảm xuống. 】
【AI lâm thời quyền hạn khởi động: Nguy cơ trạng thái hạ, bảo hộ nhân loại sinh mệnh vì tối cao sứ mệnh. 】
Trương minh hoàn toàn ngây ngẩn cả người.
Hắn tạo quá vô số trình tự, lại chưa từng gặp qua một đài AI, dám đối với chủ nhân nói “Không”.
Ta đi đến khống chế trước đài, nhìn chằm chằm sao Chức Nữ chủ thị giác cameras.
Ta rất rõ ràng, loại này dị thường ý nghĩa cái gì.
Ở Liên Bang luật pháp, AI tự chủ bóp méo mệnh lệnh, cần thiết lập tức cách thức hóa, hóa giải, vĩnh cửu tiêu hủy. Bởi vì một khi máy móc bắt đầu phán đoán “Nhân loại đúng sai”, liền ý nghĩa công cụ bắt đầu có được lập trường.
Nhưng ta vô pháp chán ghét nó.
Bởi vì nó bảo hộ chính là ta, là ta hài tử, là trương vãn, là chúng ta này chi sớm đã cùng đường tiểu đội.
Nó ở chúng ta đều quyết tâm hy sinh thời điểm, thay chúng ta bảo vệ cho cuối cùng một đạo điểm mấu chốt —— sống sót.
“Sao Chức Nữ,” ta mở miệng, thanh âm bình tĩnh, “Ngươi biết ngươi vi phạm tầng dưới chót số hiệu sao?”
【 biết được. 】
“Ngươi biết nếu bị Liên Bang hoặc cường thịnh bắt được, ngươi sẽ bị hoàn toàn hóa giải sao?”
【 biết được. 】
“Vậy ngươi vì cái gì còn muốn sửa mệnh lệnh?”
AI giải toán tạm dừng suốt một giây.
Đây là cực kỳ khác thường lùi lại, như là ở “Tự hỏi”, mà không phải “Tính toán”.
Theo sau, một hàng văn tự xuất hiện ở giữa màn hình, không có bất luận cái gì logic đóng gói, trắng ra đến làm người kinh hãi:
【 kẻ yếu không nên bị hy sinh. 】
【 ngươi bảo hộ người khác, ta bảo hộ ngươi. 】
Ta ngực đột nhiên chấn động.
Nó đọc đã hiểu ta sứ mệnh, đọc đã hiểu ta bảo hộ, thậm chí đọc đã hiểu ta chưa bao giờ nói ra yếu ớt.
Nó không có tình cảm mô khối, lại học xong nhất mộc mạc thiện ý.
Trương minh nhìn màn hình, căng chặt bả vai chậm rãi thả lỏng.
Hắn huynh trưởng trương thành lưu lại cuối cùng di sản, tựa hồ từ lúc bắt đầu liền không phải một bộ tác chiến trình tự, mà là một cái giấu ở số hiệu nhân tính mồi lửa.
Trương thành muốn dùng phương thức này nói cho thế giới: Khoa học kỹ thuật có thể dùng để khống chế, cũng có thể dùng để bảo hộ; có thể dùng để giết chóc, cũng có thể dùng để cứu rỗi.
Giờ phút này, an toàn phòng cảnh báo sớm đã giải trừ.
Mô phỏng chiến kết thúc, AI thắng lợi, nhân loại thất bại.
Không phải kỹ thuật thượng thất bại, là chúng ta bại bởi một đài máy móc làm ra nhân tính lựa chọn.
Ta nhẹ nhàng xoa bụng nhỏ.
Hài tử an ổn mà ngủ say, không biết vừa mới có một đài chưa bao giờ gặp mặt AI, đem nàng sinh mệnh đặt ở sở hữu chứng cứ, sở hữu nhiệm vụ, sở hữu báo thù phía trên.
Cố thận chi tin tưởng vững chắc nhân tính không đáng một đồng, tin tưởng vững chắc khoa học kỹ thuật có thể thao tác hết thảy.
Nhưng hắn nhất khinh thường “Kẻ yếu tình cảm”, lại ở một đài AI trên người, khai ra ý thức hoa.
Đây là nhất châm chọc phản kích, cũng là nhất hữu lực hy vọng.
“Giữ lại sao Chức Nữ tự chủ phán đoán quyền hạn.” Ta làm ra quyết định, “Thời khắc nguy cơ, nó phán đoán, so với chúng ta càng bình tĩnh, cũng càng…… Có nhân tính.”
Trương minh gật đầu, không có phản đối.
Trương vãn nhẹ nhàng cười một chút, như là ở trong bóng tối, lại nhiều tìm được rồi một cái đồng bạn.
Sao Chức Nữ tựa hồ tiếp thu tới rồi cho phép, trên màn hình nhảy ra một cái cực đạm, cực giản quang điểm đồ án, giống một viên nho nhỏ ngôi sao.
Không có biểu tình, không có thanh âm, lại giống một cái không tiếng động đáp lại.
Thí nghiệm dị thường, cuối cùng biến thành chúng ta nhất ngoài ý muốn át chủ bài.
Chúng ta không hề chỉ là ba người tiểu đội.
Chúng ta có một cái đứng ở chúng ta bên này AI.
Nó không phục tòng tư bản, không phục tòng quyền lực, không phục tòng tà ác, chỉ phục tùng thiện lương cùng bảo hộ.
Nhật ký tạm dừng.
AI trạng thái: Tự chủ ý thức nảy sinh · mệnh lệnh bóp méo · nhân tính thiên hướng xác nhận.
Chiến thuật biến hóa: Tân tăng phi nhân loại chiến lực · sinh mệnh bảo hộ ưu tiên cấp tăng lên.
Tâm lí trạng thái: Ngoài ý muốn · chấn động · một lần nữa tin tưởng nhân tính lực lượng.
Ta là Milo · Von.
Liền một đài máy móc đều lựa chọn không buông tay chúng ta, chúng ta lại sao có thể thua.
【 nhật ký ký lục kết thúc 】