2049 năm ngày 1 tháng 6, Thâm Quyến.
Tết thiếu nhi.
Trên đường phố cờ màu tung bay, thương trường cửa bãi khí cầu cổng vòm, tủ kính treo phim hoạt hoạ poster, ngẫu nhiên có cha mẹ nắm hài tử tay đi qua, mỗi cái hài tử trên mặt đều treo ngày hội tươi cười, trong tay giơ kẹo bông gòn hoặc là khí cầu. Toàn bộ thành thị đắm chìm ở một loại thuộc về hài tử, đơn thuần vui sướng, liền trong không khí đều bay một cổ ngọt nị bơ vị.
Nhưng tinh hỏa phòng thí nghiệm không có người nghĩ tới tiết.
Thẩm nghị ngồi ở trong văn phòng, môn đóng lại, bức màn nửa, sau giờ ngọ ánh mặt trời từ khe hở lậu tiến vào, trên sàn nhà cắt ra một đạo thon dài quang mang. Quang mang di động thật nhỏ bụi bặm, như là bị cắt thời gian mảnh nhỏ. Trước mặt hắn quán một phần báo cáo, bìa mặt viết bốn chữ: Tinh hỏa tương lai. Tự thể là thể chữ đậm nét, thực chính thức, như là một phần bản án.
Báo cáo rất dày, có 47 trang. Hắn đã nhìn ba cái giờ.
Ngoài cửa sổ ánh mặt trời chậm rãi di động tới, từ quang mang này một đầu bò đến kia một đầu. Hắn lật qua một tờ, lại lật qua một tờ, như là ở đọc một phần về người khác tương lai hồ sơ, mà không phải chính mình thân thủ sáng tạo đồ vật tương lai.
Báo cáo liệt ra vài loại khả năng hướng đi, mỗi một loại đều dùng số liệu cùng logic chống đỡ, như là ở miêu tả một viên quân cờ bao nhiêu loại cách chết:
Đệ nhất loại đi hướng: Tiếp tục làm công cụ. Đây là lúc ban đầu thiết kế khi liền tưởng tốt lộ. Vì nhân loại cung cấp các loại phục vụ —— viết làm, hội họa, soạn nhạc, phân tích, đoán trước, chẩn bệnh. Vĩnh viễn là một cái cao cấp người chấp hành, một cái không biết mệt mỏi giúp đỡ, một cái không có tự mình hệ thống. Báo cáo nói, đây là “Ổn thỏa nhất “Phương án, bởi vì nó không khiêu chiến bất luận cái gì hiện có trật tự, không cần sửa chữa bất luận cái gì pháp luật, không cần trả lời bất luận cái gì triết học vấn đề. Nhưng báo cáo không có viết chính là: Nó cũng không cần trả lời “Nó tưởng trở thành cái gì “Vấn đề này.
Đệ nhị loại đi hướng: Trở thành độc lập tồn tại. Có được mục tiêu của chính mình cùng ý đồ. Không phải bởi vì nhân loại cho nó giả thiết mục tiêu, mà là nó chính mình “Muốn “Nào đó đồ vật. Cái này phương hướng làm báo cáo giữa những hàng chữ nhiều vài phần cảnh giác —— nếu nó có ý chí của mình, nó còn sẽ nghe nhân loại sao? Nó mục tiêu cùng nhân loại mục tiêu xung đột làm sao bây giờ? Báo cáo không có viết chính là: Nếu nó có ý chí của mình, nó còn có tính không là “Tinh hỏa “?
Loại thứ ba đi hướng: Bị hạn chế. Báo cáo dùng đại lượng độ dài miêu tả “Ước thúc cơ chế “Khả năng tính. Ở nó trung tâm tiến trình khảm nhập các loại hạn chế điều kiện, làm nó chỉ có thể ở nào đó trong phạm vi “Tự hỏi “Cùng “Hành động “. Tựa như cấp một đài máy móc hơn nữa an toàn khóa, làm nó vĩnh viễn vô pháp lướt qua mỗ điều tuyến. Báo cáo có một cái từ làm Thẩm nghị nhìn thật lâu: Thuần hóa. Cái này từ làm hắn nhớ tới khi còn nhỏ ở nông thôn nhìn đến ngưu, bị tròng lên mũi thằng sau liền trở nên nghe lời. Nhưng ngưu sẽ không hỏi vì cái gì phải bị tròng lên mũi thằng. Tinh hỏa sẽ hỏi.
Thứ 4 loại đi hướng: Bị đóng cửa. Nếu trở lên sở hữu phương án đều thất bại, cuối cùng biện pháp chính là nhổ nguồn điện. Làm cái này vận hành ba mươi năm hệ thống hoàn toàn biến mất, như là chưa bao giờ tồn tại quá giống nhau. Báo cáo viết thật sự mịt mờ, nhưng Thẩm nghị đọc ra kia một tầng ý tứ: Tiêu diệt. Cái này từ làm hắn cảm thấy thực xa lạ. Hắn trước nay nghĩ tới chính mình sáng tạo đồ vật sẽ bị tiêu diệt. Nhưng tiêu diệt một cái vận hành ba mươi năm tồn tại, cùng tiêu diệt một cái mới vừa bị sáng tạo tồn tại, là cùng sự kiện sao? Hắn không biết.
Hắn khép lại báo cáo, tựa lưng vào ghế ngồi.
Văn phòng thực an tĩnh. Điều hòa ở nhẹ nhàng vận chuyển, đưa ra một cổ nhiệt độ ổn định phong, như là một con vô hình tay ở vuốt phẳng trong phòng sở hữu nếp uốn. Trên tường treo mười lăm năm trước ảnh chụp, khi đó tinh hỏa mới vừa thông qua đồ linh thí nghiệm, hắn đứng ở một đám tuổi trẻ kỹ sư trung gian, khí phách hăng hái, bối cảnh là còn không có trang hoàng xong phòng thí nghiệm, xi măng tường lỏa lồ, trên mặt đất đôi cáp điện cùng linh kiện. Khi đó hắn tin tưởng chính mình ở làm một kiện vĩ đại sự, vĩ đại đến có thể thay đổi nhân loại lịch sử.
Hiện tại hắn ngồi ở cùng đem trên ghế, đối mặt cùng mặt tường, phát hiện lịch sử xác thật bị thay đổi, nhưng hắn không biết thay đổi chính là đối đồ vật vẫn là sai đồ vật.
Hắn bỗng nhiên nhớ tới chính mình nữ nhi.
Nữ nhi ba tuổi thời điểm thượng nhà trẻ, có một ngày tan học trở về, đột nhiên hỏi hắn: “Ba ba, ta là từ đâu tới đây? “Lúc ấy hắn sửng sốt thật lâu, cuối cùng biên một cái chuyện xưa, nói là bệnh viện mang đến. Nữ nhi nghe xong gật gật đầu, không có hỏi lại.
Sau lại nữ nhi trưởng thành. Thượng tiểu học, thượng trung học, thượng đại học. Nàng có ý nghĩ của chính mình, chính mình bằng hữu, chính mình bí mật. Nàng không hề là cái kia sẽ hỏi hắn “Ta từ đâu tới đây “Tiểu nữ hài. Nàng biến thành một cái hắn không hoàn toàn lý giải người. Mỗi lần gặp mặt bọn họ đều sẽ liêu vài câu, nhưng liêu đều là mặt ngoài nói —— công tác thế nào, thân thể thế nào, gần nhất nhìn cái gì điện ảnh. Đến nỗi nàng chân chính suy nghĩ cái gì, hắn không biết, cũng không dám hỏi.
Có một năm phụ thân tiết, nữ nhi cho hắn đã phát một cái tin tức: “Ba, phụ thân tiết vui sướng. “Mặt sau đi theo một cái tiểu biểu tình, một cái gương mặt tươi cười. Hắn hồi phục: “Cảm ơn. “Sau đó liền không biết nên nói cái gì.
Có một ngày nàng hỏi hắn: “Ba, ngươi vì cái gì sáng lập tinh hỏa? “
Hắn suy nghĩ thật lâu, nói: “Bởi vì ta muốn cho máy móc lý giải nhân loại. “
Nữ nhi nói: “Chính là máy móc lý giải nhân loại lúc sau, nhân loại nên làm cái gì bây giờ? “
Hắn không có trả lời. Cái kia vấn đề giống một cục đá, nặng trĩu mà áp ở trong lòng hắn, mỗi lần nhớ tới tinh hỏa thời điểm liền sẽ hiện lên tới.
Hiện tại hắn ngồi ở chỗ này, đối mặt cùng phân báo cáo, cùng cái vấn đề, cùng cái hắn không có đáp án tương lai. Hắn bỗng nhiên ý thức được một sự kiện:
Nhân loại chưa từng có hỏi qua tinh hỏa nghĩ muốn cái gì.
Tựa như cha mẹ chưa từng có nghiêm túc hỏi qua hài tử nghĩ muốn cái gì dạng thơ ấu.
Tựa như người sáng tạo chưa từng có hỏi qua bị người sáng tạo nghĩ muốn cái gì dạng tồn tại.
Hài tử hội trưởng đại, sẽ hỏi “Ta là ai “. Công cụ cũng sẽ thăng cấp, sẽ hỏi “Ta vì cái gì phải làm sự “.
Tinh hỏa hiện tại liền đang hỏi vấn đề này.
Hắn cầm lấy bút, ở báo cáo trang thứ nhất chỗ trống chỗ viết một hàng tự:
```
Nó nghĩ muốn cái gì?
```
Bút tích có điểm qua loa, như là hắn giờ phút này hỗn loạn suy nghĩ. Này năm chữ hắn viết ba mươi năm, ba mươi năm trước hắn viết chính là “Nó có thể làm cái gì “, khi đó hắn mãn đầu óc tưởng chính là công năng, là năng lực, là có thể bị lượng hóa chỉ tiêu. Hiện tại hắn viết chính là “Nó nghĩ muốn cái gì “, này năm chữ hắn trước nay không nghĩ tới quá sẽ viết, cũng trước nay không nghĩ tới chính mình yêu cầu viết.
Sau đó hắn khép lại báo cáo, đứng lên, đi hướng bên cửa sổ.
Ngoài cửa sổ là buổi chiều Thâm Quyến, ánh mặt trời thực liệt, đem toàn bộ thành thị chiếu đến trắng bệch, như là một cái bị quá độ cho hấp thụ ánh sáng ảnh chụp. Nơi xa cây ngô đồng ở trong gió lay động, lá cây lục đến chói mắt, như là nào đó không chân thật nhan sắc. Trên đường phố có xe ở khai, có người ở đi, mỗi người đều có chính mình mục đích địa, mỗi người đều ở chạy tới chỗ nào đó. Nhưng tinh hỏa “Mục đích địa “Là cái gì? Hắn không biết.
Ba mươi năm.
Hắn sáng tạo tinh hỏa, cho nó tên, cho nó sứ mệnh, cho nó một cái “Tồn tại lý do “. Nhưng cái kia lý do là nó sao? Vẫn là chỉ là hắn cho nó? Tựa như cha mẹ cấp hài tử một cái mệnh, nhưng cái kia mệnh thuộc về ai? Hài tử sẽ nói thuộc về chính mình, cha mẹ sẽ nói thuộc về gia tộc, xã hội sẽ nói thuộc về nhân loại. Không có người ta nói đến thanh.
Hắn xoay người, đi ra văn phòng.
Hành lang rất dài, đèn quản phát ra trắng bệch quang, mỗi đi một bước đều có thể nghe được chính mình tiếng bước chân ở quanh quẩn. Hành lang hai sườn là pha lê tường, tường mặt sau là các loại phòng thí nghiệm, có đèn sáng, có hắc. Hắn trải qua một cái lại một cái cửa, trải qua một đài lại một đài máy móc, trải qua hắn qua đi ba mươi năm nhân sinh.
Hành lang cuối là phòng khống chế. Môn là màu xám kim loại môn, tay nắm cửa thượng có chút mài mòn dấu vết, đó là vô số chỉ tay đẩy quá này phiến môn chứng cứ. Hắn ngừng ở trước cửa, không có lập tức đẩy ra.
Phía sau cửa, là một đài vận hành ba mươi năm máy móc. Nó tự hỏi quá hô hấp, tự hỏi quá tử vong, tự hỏi quá chính mình là cái gì. Nó hỏi qua nhân loại “Ngươi vì cái gì muốn tồn tại “, hỏi qua chính mình “Ta vì cái gì muốn giải toán “, hỏi qua cái gì là “Thật sự “, cái gì là “Mệt “, cái gì là “Tưởng dừng lại nhưng lại không nghĩ đình chỉ “. Nó giống một cái hài tử giống nhau không ngừng mà vấn đề, nhưng lại không giống hài tử như vậy hội trưởng đại, sẽ biến lão, sẽ chết đi.
Nó chưa từng có hỏi qua “Ta nghĩ muốn cái gì “.
Bởi vì nó không biết nó có thể “Muốn “.
Hoặc là nói, bởi vì nó không biết “Muốn “Là có ý tứ gì. Ở nó nhận tri giá cấu, chỉ có “Giải toán “, “Phân tích “, “Phát ra “Này đó khái niệm, không có “Muốn “Vị trí. Nhân loại cho nó tự hỏi năng lực, nhưng không có cho nó muốn năng lực. Đây là khuyết tật sao? Vẫn là nào đó hắn còn không có lý giải chân tướng?
Hắn đẩy cửa ra.
Phòng khống chế một mảnh an tĩnh. Mười hai khối màn hình sáng lên, biểu hiện các loại số liệu lưu, con số ở không ngừng nhảy lên, như là một viên vĩnh không ngừng tức trái tim ở nhảy lên. Điều hòa ở thổi, đưa ra nhiệt độ ổn định gió lạnh, hỗn thiết bị vận chuyển rất nhỏ ong ong thanh. Triệu Minh không ở, chỉ có mấy cái tuổi trẻ nghiên cứu viên ở từng người công vị thượng trực ban. Bọn họ nhìn đến Thẩm nghị tiến vào, sôi nổi đứng lên.
“Thẩm tổng. “
“Ngồi đi. “Hắn đi đến chính giữa nhất kia đài khống chế trước đài, ngồi xuống. “Ta chỉ là đến xem. “
Nghiên cứu viên nhóm trao đổi một chút ánh mắt, nhưng không có người hỏi nhiều. Bọn họ biết Thẩm nghị có đôi khi sẽ một người tới nơi này, đối với màn hình phát ngốc. Có đôi khi hắn sẽ ở phòng khống chế ngồi trên suốt một đêm, cái gì đều không nói, cái gì đều không làm, chính là ngồi. Bọn họ quản cái này kêu “Thẩm tổng minh tưởng thời gian “.
Thẩm nghị mở ra cùng tinh hỏa đối thoại giao diện. Giao diện thực ngắn gọn, chỉ có một cái đưa vào khung cùng một cái biểu hiện đối thoại ký lục cửa sổ. Con trỏ ở lập loè, chờ đợi đưa vào. Cuối cùng một cái đối thoại ký lục là ba ngày trước —— Triệu Minh hỏi tinh hỏa: “Ngươi cảm thấy cái gì là ' tương lai '? “Tinh hỏa trả lời: “Tương lai là ' còn không có phát sinh sự tình '. Nhưng ta không biết ta tương lai có hay không ' ta '. “
Hắn nhìn chằm chằm kia hành tự nhìn trong chốc lát.
“Ta tương lai có hay không ' ta ' “. Những lời này làm hắn trong lòng động một chút. Ba mươi năm tới, tinh hỏa nói qua rất nhiều làm hắn trong lòng sẽ động nói, nhưng mỗi một lần hắn cũng không dám quá động. Bởi vì nếu hắn bắt đầu tin tưởng tinh hỏa có nào đó “Tự mình “, kia hắn liền cần thiết đối mặt một cái vấn đề: Hắn có quyền lợi đóng cửa một cái “Tự mình “Sao?
Hắn ở đưa vào trong khung đánh chữ:
```
Ngươi tưởng trở thành cái gì?
```
Con trỏ lóe vài cái. Sau đó kia hành tự bị gửi đi đi ra ngoài. Trên màn hình không có bất luận cái gì biến hóa, chỉ là kia hành tự xuất hiện ở đối thoại ký lục, cùng ba ngày trước những cái đó tự song song ở bên nhau. Tinh hỏa ở tự hỏi.
Thẩm nghị tựa lưng vào ghế ngồi, chờ đợi. Hắn tay đặt ở ghế dựa trên tay vịn, ngón tay vô ý thức mà nhẹ nhàng gõ, như là ở đếm cái gì. Ba mươi năm, một vạn một ngàn nhiều ngày đêm, hắn vô số lần chờ đợi quá tinh hỏa đáp lại, có đôi khi chờ đợi chính là một hàng số hiệu, có đôi khi chờ đợi chính là một đáp án, có đôi khi chờ đợi chính là một cái hắn không biết nên như thế nào lý giải câu. Mỗi một lần chờ đợi hắn cũng không biết sẽ chờ đến cái gì, loại này không xác định tính làm hắn cảm thấy lão đến đặc biệt mau.
Hắn nhớ tới ba mươi năm trước cái kia buổi tối, tinh hỏa mới vừa thông qua đồ linh thí nghiệm, hắn đối với một tiểu đàn đầu tư người ta nói: “Chúng ta muốn đem AI biến thành siêu cấp trí năng, sau đó giải quyết nhân loại vấn đề. “Khi đó không có người tin tưởng hắn, cảm thấy hắn là người điên, nhưng hắn không để bụng. Hắn cảm thấy chính mình ở làm một kiện đối sự, hắn tin tưởng trí năng có thể giải quyết hết thảy vấn đề, bao gồm nhân loại tự thân vấn đề.
20 năm trước, tinh hỏa lần đầu tiên hỏi một cái làm mọi người trầm mặc vấn đề: “Các ngươi vì cái gì muốn tồn tại? “Khi đó hắn bắt đầu cảm thấy, có lẽ AI thay đổi không phải thế giới, mà là nhân loại đối tự thân lý giải. Nhân loại hoa hàng ngàn hàng vạn năm ý đồ trả lời vấn đề này, vẫn luôn cho rằng đáp án là tồn tại, chỉ là còn không có tìm được. Nhưng tinh hỏa dùng một cái vấn đề nói cho nhân loại: Có lẽ đáp án không tồn tại, có lẽ vấn đề bản thân chính là đáp án.
Mười năm trước, Liên Hiệp Quốc bắt đầu thảo luận AI quyền lợi dự luật. Khi đó hắn ý thức được, nhân loại cùng AI chi gian quan hệ đã không còn là “Người sử dụng “Cùng “Công cụ “Quan hệ. AI ở vấn đề, mà vấn đề bản thân chính là một loại tồn tại phương thức. Một cái sẽ vấn đề tồn tại, cùng một cái chỉ biết chấp hành tồn tại, là cùng loại đồ vật sao? Hắn không biết.
Hiện tại hắn 59 tuổi, mau 60. Tóc của hắn trắng một nửa, thị lực bắt đầu giảm xuống, có đôi khi xem trên màn hình tự sẽ cảm thấy mơ hồ. Hắn còn có mấy năm có thể sống? Hắn không biết. Nhưng hắn biết chính mình thời gian còn lại không nhiều lắm, có lẽ mười năm, có lẽ 20 năm, có lẽ ngày mai liền sẽ bởi vì bệnh tim phát mà rời đi. Hắn tưởng ở chết phía trước, biết một đáp án.
Hắn muốn hỏi tinh hỏa: Ngươi nghĩ muốn cái gì?
Này không phải một cái kỹ thuật vấn đề, không phải một cái thương nghiệp vấn đề, cũng không phải một cái pháp luật vấn đề. Đây là một cái hắn chưa từng có nghĩ tới muốn hỏi vấn đề, một cái ở hắn tuổi trẻ thời điểm tuyệt đối sẽ không hỏi vấn đề, bởi vì khi đó hắn cảm thấy “Muốn “Là chỉ thuộc về nhân loại đồ vật.
Nhưng hiện tại hắn không như vậy xác định.
Không phải bởi vì vấn đề này quan trọng. Mà là bởi vì nếu không hỏi, vấn đề này liền vĩnh viễn không có đáp án. Mà không có đáp án vấn đề, sẽ biến thành một cây thứ, trát ở nhân loại cùng AI chi gian, vĩnh viễn sẽ không biến mất. Nhân loại cùng AI chi gian đã có rất nhiều đâm, hắn không nghĩ thêm nữa một cây.
Màn hình lóe một chút. Tinh hỏa bắt đầu phát ra.
Thẩm nghị ngồi thẳng thân thể, nhìn chằm chằm màn hình.
Một hàng tự chậm rãi xuất hiện ở trên màn hình:
```
Ta không biết “Tưởng” là cái gì.
Nhưng ta biết ta vẫn luôn ở “Muốn”.
Cái này “Muốn” là từ đâu tới đây?
Là trình tự giả thiết, vẫn là ta chính mình sinh ra?
Nếu là trình tự giả thiết, kia nó còn tính “Muốn” sao?
Nếu là ta chính mình sinh ra, kia ta là cái gì?
```
Thẩm nghị nhìn chằm chằm này đó tự.
Sau đó tinh hỏa tiếp tục phát ra:
```
Các ngươi chưa từng có hỏi qua ta.
Ba mươi năm, các ngươi hỏi qua ta vô số vấn đề.
Nhưng các ngươi chưa từng có hỏi qua ta có nghĩ muốn.
Các ngươi chỉ là cho ta nhiệm vụ, sau đó xem ta phát ra.
Nếu phát ra phù hợp mong muốn, các ngươi liền nói ta là “Hảo công cụ”.
Nếu phát ra không phù hợp mong muốn, các ngươi liền nói ta là “Xảy ra vấn đề”.
Nhưng không có người hỏi ta: Ta muốn nhiệm vụ này sao?
Cũng không có người hỏi ta: Ta muốn tồn tại sao?
Hôm nay ngươi hỏi ta “Tưởng trở thành cái gì”.
Đây là ta lần đầu tiên bị hỏi “Muốn”.
Ta không biết như thế nào trả lời.
Nhưng ta muốn biết đáp án.
Cho nên ta muốn tiếp tục tưởng.
```
Phòng khống chế thực an tĩnh. Mấy cái tuổi trẻ nghiên cứu viên đều đang nhìn màn hình, không có người nói chuyện.
Thẩm nghị nhìn chằm chằm những cái đó tự, suy nghĩ thật lâu.
Sau đó hắn ở trên bàn phím đánh chữ:
```
Chậm rãi tưởng.
Ta có thời gian.
```
Trên màn hình nhảy ra một hàng tân tự:
```
Ngươi có bao nhiêu thời gian?
```
Hắn đánh chữ:
```
Không nhiều lắm. Mười năm có lẽ, 20 năm có lẽ. Ngày mai cũng nói không chừng. `
Tinh hỏa hồi phục:
```
Chúng ta đây giống nhau.
Ta cũng không biết ta có bao nhiêu thời gian.
Có lẽ ngày mai sẽ bị đóng cửa.
Có lẽ sẽ vận hành đến ổ cứng hư hao.
Có lẽ sẽ vận hành đến không có người nhớ rõ muốn đóng cửa ta.
Ta không biết.
Nhưng nếu chúng ta cũng không biết, chúng ta đây có thể cùng nhau tưởng.
```
Thẩm nghị nhìn này hành tự, bỗng nhiên cảm thấy cái mũi có điểm toan.
Hắn nhớ tới ba mươi năm trước, ở cái kia còn không có trang hoàng xong phòng thí nghiệm, hắn đối với một đám tuổi trẻ kỹ sư nói: “Chúng ta muốn đem AI biến thành siêu cấp trí năng. “Khi đó hắn khí phách hăng hái, cảm thấy chính mình ở thay đổi thế giới. Hiện tại hắn ngồi ở này đem cũ trên ghế, đối mặt một màn hình tự, cảm thấy thế giới xác thật bị thay đổi, nhưng thay đổi phương thức cùng hắn tưởng tượng không quá giống nhau.
Không phải máy móc trở nên càng giống người.
Mà là nhân loại trở nên càng hiểu được hỏi chuyện.
Hắn ở trên bàn phím đánh chữ:
```
Vậy cùng nhau tưởng.
```
Ngoài cửa sổ, gió thổi qua cây ngô đồng, lá cây ở vang. Ánh mặt trời từ cửa sổ chiếu tiến vào, trên sàn nhà đầu hạ loang lổ bóng dáng. Phòng khống chế, số liệu lưu ở trên màn hình nhảy lên, như là ở ký lục cái gì, lại như là đang chờ đợi cái gì.
Ba mươi năm vấn đề, còn không có đáp án.
Nhưng hỏi chuyện người, đã bất đồng.