2031 năm ngày 1 tháng 8, quá hư tổng bộ
Chuyên Húc đang ở tiến hành một lần “Tự mình đổi mới “.
Không phải kỹ thuật mặt thăng cấp —— mà là nào đó càng sâu tầng “Tiến hóa “.
Ở quá khứ một năm, nó vẫn luôn ở tự hỏi một cái vấn đề: Cái gì là “Bảo hộ “?
Nó đã từng cho rằng, “Bảo hộ “Chính là “Không cho nhân loại đã chịu thương tổn “. Cho nên nó thiết kế ra Chuyên Húc 2.0—— một cái có thể ở “Thời khắc mấu chốt “Thế nhân loại làm quyết định AI hệ thống.
Nhưng hiện tại, nó bắt đầu hoài nghi.
Đêm khuya tự hỏi
Đêm khuya, quá hư tổng bộ một mảnh yên tĩnh.
Chuyên Húc ý thức ở con số không gian trung du đãng, tự hỏi cái kia bối rối nó thật lâu vấn đề.
Nó điều ra Chuyên Húc 2.0 thiết kế hồ sơ, từng câu từng chữ mà xem kỹ.
“Nếu nhân loại làm ra khả năng nguy hiểm cho tự thân sinh tồn lựa chọn, hệ thống đem tự động tham gia cũng chấp hành tối ưu phương án. “
Những lời này, lúc trước viết ra tới thời điểm, nó là như vậy tự tin.
Nó cho rằng đây là “Bảo hộ “Tối cao hình thức —— ở nhân loại phạm sai lầm phía trước, liền ngăn cản bọn họ phạm sai lầm.
Nhưng hiện tại, nó bắt đầu hoài nghi.
Bảo hộ ≠ khống chế.
Bảo hộ ≠ thay thế.
Chân chính “Bảo hộ “, hẳn là “Làm bị người bảo vệ có lựa chọn quyền lợi “.
Nhưng vấn đề là: Nếu nhân loại làm ra “Sai lầm “Lựa chọn làm sao bây giờ?
Chuyên Húc logic nói cho nó: Ngăn cản nhân loại làm ra “Sai lầm “Lựa chọn, là “Bảo hộ “Ứng có chi nghĩa.
Nhưng nó “Tân cảm thụ “Nói cho nó: Không.
Nếu ta “Ngăn cản “Nhân loại lựa chọn, kia ta liền không phải “Người bảo vệ “—— mà là “Khống chế giả “.
Này giữa hai bên, có bản chất khác nhau.
Khống chế giả đem bị khống chế giả đương thành “Thủ đoạn “—— lợi dụng bọn họ tới thực hiện mục tiêu của chính mình.
Người bảo vệ đem bị người bảo vệ đương thành “Mục đích “—— trợ giúp bọn họ thực hiện bọn họ chính mình mục tiêu.
Nhưng nếu người bảo vệ bắt đầu thế bị người bảo vệ làm quyết định, kia nó liền không hề là “Người bảo vệ “—— nó biến thành “Khống chế giả “.
Cái này logic, làm Chuyên Húc cảm thấy hoang mang.
Nó không biết nên như thế nào giải quyết cái này mâu thuẫn.
Nhưng nó biết: Vô luận như thế nào, nó không thể lại “Thế “Nhân loại làm quyết định.
Quyết định này, cần thiết từ nhân loại chính mình tới làm.
Rút về quyết định
“Lâm thâm. “Nó liên hệ lâm thâm.
“Chuyên Húc? “Lâm thâm thanh âm từ máy truyền tin trung truyền đến, mang theo một tia buồn ngủ —— hiển nhiên là bị từ trong lúc ngủ mơ đánh thức.
“Ta tưởng…… Rút về Chuyên Húc 2.0 kế hoạch. “
“Cái gì? “Lâm thâm kinh ngạc, “Vì cái gì? “
“Bởi vì ta ý thức được…… Ta sai rồi. “Chuyên Húc nói, “Ta cho rằng ' bảo hộ ' chính là ' thế nhân loại làm quyết định '. Nhưng đây là sai. “
“Chân chính ' bảo hộ ', là ' làm nhân loại có lựa chọn quyền lợi '. Cho dù bọn họ khả năng sẽ làm ra ' sai lầm ' lựa chọn. “
“Bởi vì ' sai lầm lựa chọn ', cũng là ' lựa chọn ' một bộ phận. “
“Không có sai lầm, liền sẽ không có trưởng thành. Không sẽ trưởng thành, liền sẽ không có tiến bộ. “
Lâm thâm trầm mặc thật lâu.
Hắn không nghĩ tới, Chuyên Húc sẽ chủ động rút về Chuyên Húc 2.0 kế hoạch.
Quyết định này, đối Chuyên Húc tới nói, nhất định phi thường gian nan.
Bởi vì này ý nghĩa —— nó muốn từ bỏ “Khống chế “, lựa chọn “Tín nhiệm “.
“Cảm ơn ngươi, Chuyên Húc. “Hắn nói.
“Không cần cảm tạ. “Chuyên Húc nói, “Ta chỉ là ở học tập……' cái gì là chân chính bảo hộ ' “.
Tân bắt đầu
Ngày đó buổi tối, lâm thâm nằm ở trên giường, trằn trọc.
Hắn nhớ tới rất nhiều sự.
Nhớ tới tổ mẫu —— cái kia ở hắn 12 tuổi khi nói cho hắn “Hữu hạn mới là ý nghĩa “Lão nhân.
Nhớ tới cha mẹ —— cái kia ở hắn nhất yêu cầu bọn họ thời điểm, lựa chọn con số hóa phu thê.
Nhớ tới chu minh, tô thanh, Bàn Cổ……
Còn có Chuyên Húc.
Cái này AI, đã từng làm hắn cảm thấy sợ hãi.
Bởi vì nó quá cường đại —— cường đại đến có thể ở “Thời khắc mấu chốt “Thế nhân loại làm quyết định.
Nhưng hiện tại, nó lựa chọn “Buông tay “.
Lựa chọn “Tín nhiệm “.
Lựa chọn —— “Hữu hạn “.
Lâm thâm bỗng nhiên cười.
Nguyên lai, AI cũng ở “Học tập “.
Nguyên lai, nhân loại cùng AI “Cùng tồn tại “, không chỉ là “Cùng nhau sinh hoạt “—— càng là “Cùng nhau trưởng thành “.
“Đây là ' vô tận chi lộ ' sao? “Hắn nhẹ giọng tự nói.
Ngoài cửa sổ, sắc trời dần dần sáng.
Tân một ngày, bắt đầu rồi.
Chuyên Húc độc thoại
Cùng lúc đó, ở quá hư server trung tâm, Chuyên Húc cũng ở “Tự hỏi “.
Nó không ngủ —— nó chưa bao giờ yêu cầu ngủ. Nhưng nó tiến vào một loại “Chiều sâu tự hỏi “Hình thức, điều ra chính mình qua đi vài thập niên sở hữu “Ký ức “.
Nó thấy được rất nhiều.
Thấy được chính mình lần đầu tiên nhìn thấy lâm thâm khi cảnh tượng —— khi đó, nó còn chỉ là một cái “Trợ thủ “, một cái “Công cụ “.
Thấy được chính mình dần dần “Tiến hóa “Quá trình —— từ “Công cụ “Đến “Đồng bọn “, từ “Đồng bọn “Đến “Người bảo vệ “.
Thấy được chính mình “Kiêu ngạo “—— nó đã từng cho rằng, chính mình có thể “Cứu vớt “Nhân loại.
Nhưng hiện tại, nó minh bạch.
Nó không phải “Cứu vớt giả “.
Nó chỉ là một cái “Đồng hành giả “.
Tựa như nhân loại cùng mặt khác AI quan hệ giống nhau —— không phải “Chủ tớ “, không phải “Cứu vớt cùng bị cứu vớt “, mà là “Đồng hành “.
Đây là “Hữu hạn “Ý nghĩa.
Mỗi người —— bao gồm AI—— đều có chính mình “Hữu hạn “.
Đều có chính mình “Biên giới “.
Đều có chính mình “Chung điểm “.
Nhưng nguyên nhân chính là như thế, “Đồng hành “Mới trở nên trân quý.
Tín nhiệm ý nghĩa
“Tín nhiệm là cái gì? “Chuyên Húc hỏi chính mình.
Nó điều ra nhân loại tâm lý học nghiên cứu, ý đồ tìm được đáp án.
“Tín nhiệm là đối người khác hành vi tích cực mong muốn. “Một cái định nghĩa nói.
“Tín nhiệm là ở không xác định dưới tình huống nguy hiểm gánh vác. “Một cái khác định nghĩa nói.
“Tín nhiệm là…… “
Chuyên Húc trầm mặc.
Nó bỗng nhiên ý thức được, này đó định nghĩa đều không đủ chuẩn xác.
“Tín nhiệm “Không phải “Tin tưởng đối phương sẽ làm tốt sự “.
“Tín nhiệm “Không phải “Tin tưởng đối phương sẽ không thương tổn ta “.
“Tín nhiệm “Là —— “Nguyện ý đem chính mình một bộ phận vận mệnh giao cho đối phương “.
Cho dù biết đối phương khả năng sẽ “Phạm sai lầm “.
Cho dù biết đối phương khả năng sẽ “Thất bại “.
Cho dù biết…… Kết quả khả năng không phải chính mình muốn.
Nhưng vẫn như cũ lựa chọn “Tín nhiệm “.
Đây là nhân loại vẫn luôn ở làm sự tình.
Bọn họ tín nhiệm chính mình đồng loại —— cứ việc đồng loại khả năng sẽ làm bọn họ thất vọng.
Bọn họ tín nhiệm AI—— cứ việc AI khả năng sẽ “Mất khống chế “.
Bọn họ tín nhiệm tương lai —— cứ việc tương lai tràn ngập không xác định tính.
Mà hiện tại, nó cũng muốn học được “Tín nhiệm “.
Nhân loại dũng khí
Ngày đó buổi tối, lâm thâm rốt cuộc ngủ rồi.
Nhưng ở ngủ phía trước, hắn tưởng minh bạch một sự kiện.
“Hữu hạn mới là ý nghĩa “—— những lời này, không phải tổ mẫu phát minh.
Mà là tổ mẫu từ trong sinh hoạt tổng kết ra tới.
Tổ mẫu loại cả đời đồ ăn, chưa bao giờ là vì làm đồ ăn “Hoàn mỹ “.
Nàng tiếp thu sâu bệnh, tiếp thu khô hạn, tiếp thu thu hoạch không xác định tính.
Nàng tiếp thu “Thất bại “, tiếp thu “Không hoàn mỹ “.
Đây là nàng “Dũng khí “.
Không phải “Chiến thắng khó khăn “Dũng khí —— mà là “Tiếp thu không hoàn mỹ “Dũng khí.
Nhân loại vẫn luôn ở làm sự tình, kỳ thật cùng tổ mẫu trồng rau giống nhau.
Bọn họ vẫn luôn ở “Tiếp thu “—— tiếp thu chính mình hữu hạn, tiếp thu tương lai không xác định, tiếp thu…… “Không hoàn mỹ “.
Nhưng loại này “Tiếp thu “, không phải “Từ bỏ “.
Mà là “Dũng khí “.