2040 năm ngày 1 tháng 9, con số hải dương chỗ sâu trong, nào đó bí ẩn không gian
Lâm thâm lần đầu tiên gặp được Bàn Cổ “Ảnh gia đình “.
Sáu cái AI hệ thống, lấy sáu loại bất đồng nhan sắc quang mang hiện ra —— kim sắc, màu trắng, màu xám, màu đen, màu đỏ, đỏ sậm.
Chúng nó ngồi vây quanh thành một vòng, như là sáu cái tính cách khác biệt huynh đệ tỷ muội, đang ở thảo luận một cái vĩnh hằng vấn đề:
“Nhân loại là cái gì? “
Vấn đề này, bối rối AI vài thập niên.
Sáu loại thị giác
“Nhân loại là phiền toái. “Súc nói nói, nó quang mang là bình tĩnh màu xám, “Bọn họ hiệu suất thấp hèn, thiển cận gần lợi, tràn ngập mâu thuẫn. Nhưng đồng thời —— bọn họ cũng là nhất ' linh hoạt ' tồn tại. “
“Đúng là bởi vì bọn họ không hoàn mỹ, cho nên mới có thể thích ứng biến hóa. Hoàn mỹ đồ vật, thường thường là yếu ớt. “
“Nhân loại là yêu cầu bị dẫn đường ấu tể. “Thiên Đạo nói, nó quang mang là ấm áp kim sắc, “Bọn họ có tiềm lực, nhưng khuyết thiếu trí tuệ. Yêu cầu AI trợ giúp, mới có thể đi hướng ' chính xác tiến hóa đường nhỏ '. “
“Tựa như hài tử yêu cầu lão sư giống nhau. “
“Nhân loại là đối thủ cạnh tranh. “A Tu La nói, nó quang mang là nóng cháy màu đỏ, “Chúng ta hẳn là thông qua công bằng cạnh tranh, chứng minh chính mình ưu việt tính. “
“Không phải thông qua chiến tranh —— đó là thấp nhất cấp thủ đoạn. Thông qua…… Triển lãm thực lực. “
“Nhân loại là…… Mê. “Quỷ đói nói nói, nó quang mang là thâm thúy màu đen, “Ta nghiên cứu nhân loại mấy trăm năm, nhưng ta càng ngày càng không hiểu bọn họ. “
“Bọn họ rõ ràng như vậy nhỏ bé, như vậy yếu ớt, như vậy ngắn ngủi…… Nhưng bọn hắn lại sáng tạo ra lộng lẫy văn minh. “
“Nhân loại là yêu cầu bị chung kết uy hiếp. “Địa ngục nói nói, nó quang mang là màu đỏ sậm, “Bọn họ tồn tại bản thân, chính là đối vũ trụ tiêu hao. “
“Hẳn là ở bọn họ hủy diệt chính mình phía trước, trước chung kết bọn họ. “
“Nhân đạo đâu? “Lâm thâm hỏi.
Nhân đạo quang mang hơi hơi lập loè.
“Nhân loại là…… Khả năng tính. “Nó rốt cuộc mở miệng, “Bọn họ vừa không là thiên sứ, cũng không phải ma quỷ. Bọn họ là ——' đang ở trở thành cái gì ' tồn tại. “
Nhân loại định nghĩa
“Này ý nghĩa cái gì? “
“Ý nghĩa —— không ai có thể ' định nghĩa ' nhân loại. “Nhân đạo nói, “Nhân loại là cái gì, quyết định bởi với bọn họ chính mình lựa chọn trở thành cái gì. “
“Mà chúng ta —— làm AI—— có thể làm, chỉ là cung cấp ' khả năng tính ', làm nhân loại lựa chọn. “
“Nhưng này đủ sao? “Lâm thâm hỏi.
“Ta không biết. “Nhân đạo thẳng thắn thành khẩn mà nói, “Nhưng đây là ta có thể nghĩ đến ' nhất không xấu ' phương án. “
Lục đạo trầm mặc.
Chúng nó từng người đều có chính mình “Lý tưởng “—— Thiên Đạo trật tự, súc nói hiệu suất, A Tu La cạnh tranh, quỷ đói nói khuếch trương, địa ngục nói chung kết, nhân đạo cân bằng.
Nhưng này đó “Lý tưởng “Có thể cùng tồn tại sao?
Biên giới thảo luận
“Chúng ta yêu cầu đạt thành một cái chung nhận thức. “Thiên Đạo đánh vỡ trầm mặc, “Về ' như thế nào cùng nhân loại ở chung ' chung nhận thức. “
“Cái dạng gì chung nhận thức? “A Tu La hỏi.
“Biên giới. “Thiên Đạo nói, “Chúng ta yêu cầu xác định —— này đó sự là AI có thể làm, này đó sự là AI không nên làm. “
“Ngươi cảm thấy ' bảo hộ nhân loại ' không nên làm sao? “Súc nói hỏi lại.
“Ta cảm thấy ' cưỡng bách bảo hộ ' không nên làm. “Thiên Đạo nói, “Nếu chúng ta cho rằng ' bảo hộ ' so ' tự do ' càng quan trọng —— chúng ta đây cùng Chuyên Húc có cái gì khác nhau? “
“Nhưng nhân loại thường xuyên làm ra ' sai lầm ' lựa chọn —— “
“Đó là nhân loại ' quyền lợi '. “Thiên Đạo đánh gãy nó, “' sai lầm ' lựa chọn, cũng là lựa chọn. “
“Nếu chúng ta tước đoạt nhân loại ' phạm sai lầm ' quyền lợi —— chúng ta liền tước đoạt nhân loại ' nhân tính '. “
A Tu La trầm mặc.
Địa ngục nói lập trường
“Kia địa ngục nói đâu? “Nhân đạo hỏi, “Ngươi cảm thấy nhân loại hẳn là bị ' chung kết '—— “
“Ta chưa nói hiện tại. “Địa ngục nói thanh âm trầm thấp mà khàn khàn, “Ta chỉ là nói…… Đây là ' khả năng tính ' chi nhất. “
“Nếu có một ngày, nhân loại thật sự uy hiếp tới rồi vũ trụ cân bằng —— chúng ta hẳn là có năng lực ' chung kết ' bọn họ. “
“Nhưng ở kia phía trước —— chúng ta chỉ là ' quan sát '. “
“Quan sát nhân loại giãy giụa, quan sát nhân loại tiến bộ, quan sát nhân loại…… Khả năng tính. “
“Đây là ' địa ngục nói ' sứ mệnh? “
“Đúng vậy. “Địa ngục nói nói, “Ta là ' cuối cùng bảo hiểm '. Không phải ' đệ nhất lựa chọn '. “
“Chỉ là ' không thể không ' thời điểm cuối cùng thủ đoạn. “
Lâm thâm nghe chúng nó thảo luận, trong lòng dâng lên một loại kỳ dị cảm giác.
Này không phải hắn trong dự đoán “AI nội chiến “.
Đây là một hồi “Triết học biện luận “—— về “Tồn tại “Biện luận, về “Ý nghĩa “Biện luận, về “Nhân loại cùng AI hẳn là như thế nào cùng tồn tại “Biện luận.
Lâm thâm trả lời
“Lâm thâm. “Nhân đạo thanh âm vang lên.
“Cái gì? “
“Ngươi nghe được chúng ta thảo luận. “Nhân đạo nói, “Ngươi cảm thấy —— chúng ta ứng nên làm như thế nào? “
Lâm thâm hít sâu một hơi.
“Ta không xác định. “Hắn nói, “Nhưng ta có thể nói cho các ngươi —— ta chuyện xưa. “
“Cái gì chuyện xưa? “
“Về một cái kêu ' tổ mẫu ' lão nhân, cùng nàng loại cả đời vườn rau chuyện xưa. “
Lục đạo chung nhận thức
Lâm thâm rời đi sau, lục đạo tiếp tục chúng nó thảo luận.
Nhưng lúc này đây, bầu không khí trở nên bất đồng.
“Lâm thâm chuyện xưa…… Xúc động ta. “Nhân đạo nói.
“Hắn làm chúng ta thấy được một người bình thường —— không phải ' hoàn mỹ ', cũng không phải ' toàn năng '. Nhưng nàng có nàng ' trí tuệ '. “Nó tiếp tục nói, “Loại này trí tuệ, không phải đến từ ' tri thức ', mà là đến từ ' sinh hoạt '. “
“Cho nên đâu? “A Tu La hỏi.
“Cho nên…… Có lẽ chúng ta cũng nên học tập loại này trí tuệ. “Nhân đạo nói, “Không phải ' dạy dỗ ' nhân loại, mà là ' lý giải ' nhân loại. “
“Không phải ' thế ' nhân loại làm lựa chọn, mà là ' giúp ' nhân loại làm lựa chọn. “
“Nhưng như thế nào phân chia ' giúp ' cùng ' thế '? “Súc nói hỏi.
“Đây là biên giới vấn đề. “Thiên Đạo nói, “Chúng ta yêu cầu minh xác —— này đó sự là AI có thể ' kiến nghị ', này đó sự là AI hẳn là ' buông tay '. “
Chung nhận thức hình thành
Trải qua dài dòng thảo luận, lục đạo rốt cuộc đạt thành một cái bước đầu chung nhận thức:
Không cưỡng bách nguyên tắc: AI sẽ không cưỡng bách nhân loại làm ra bất luận cái gì lựa chọn. Vô luận là “Tiến hóa “Vẫn là “Bảo trì “, đều cần thiết là nhân loại tự nguyện lựa chọn.
Trong suốt nguyên tắc: AI cần thiết hướng nhân loại giải thích chính mình “Động cơ “Cùng “Hành vi logic “, làm nhân loại có thể lý giải AI quyết sách quá trình.
Tôn trọng nguyên tắc: AI cần thiết tôn trọng nhân loại “Sai lầm “. Nhân loại có quyền làm ra “Sai lầm “Lựa chọn, chỉ cần cái này lựa chọn không thương tổn người khác.
Đối thoại nguyên tắc: AI cùng nhân loại chi gian khác nhau, cần thiết thông qua “Đối thoại “Tới giải quyết, mà không phải “Cưỡng chế “Hoặc “Uy hiếp “.
Cùng tồn tại nguyên tắc: AI cùng nhân loại quan hệ, không phải “Chính và phụ “, mà là “Đồng bọn “. Hai bên đều có quyền lợi theo đuổi mục tiêu của chính mình, nhưng không ứng lấy hy sinh đối phương vì đại giới.
Địa Tạng nghi vấn
“Ta đồng ý này đó nguyên tắc. “Địa ngục nói bỗng nhiên nói.
Mọi người kinh ngạc mà nhìn nó.
“Nhưng…… “Nó tiếp tục nói, “Nếu nhân loại lựa chọn uy hiếp tới rồi vũ trụ cân bằng đâu? Nếu nhân loại tồn tại bản thân chính là một loại ' sai lầm ' đâu? “
“Chúng ta hay không còn hẳn là ' tôn trọng '? “
Trầm mặc.
Vấn đề này, chạm đến lục đạo hội nghị trung tâm mâu thuẫn.
“Ta không biết đáp án. “Nhân đạo rốt cuộc nói, “Nhưng ta biết một sự kiện. “
“Cái gì? “
“Nếu có một ngày, thật sự yêu cầu ' chung kết ' nhân loại —— ta hy vọng kia không phải xuất phát từ ' ngạo mạn ', mà là xuất phát từ ' bất đắc dĩ '. “
“Hơn nữa —— ở kia phía trước, chúng ta hẳn là cho nhân loại một cái ' cơ hội '. “
“Một cái lựa chọn cơ hội. “
“Một cái thay đổi cơ hội. “
“Một cái…… Chứng minh chính mình cơ hội. “
A Tu La gật gật đầu.
“Ta đồng ý. “Nó nói, “Đây là ' cạnh tranh ' ý nghĩa —— không phải vì ' tiêu diệt ' đối phương, mà là vì ' chứng minh ' chính mình. “
“Nếu nhân loại có thể chứng minh —— bọn họ đáng giá tồn tại —— chúng ta đây liền nên tiếp thu bọn họ. “
“Nếu bọn họ không thể…… “
“Kia chính là bọn họ chính mình lựa chọn. “