Đệ nhất bộ phận: Không tiếng động hò hét
Hiệp nghị ký tên sau ngày thứ bảy, Thượng Hải tiến vào quỷ dị bình tĩnh kỳ. Trên đường phố “Cứu rỗi giả” đỏ mắt bệnh trạng dần dần biến mất, thợ săn tạm thời đình chỉ công khai hoạt động, linh internet quản lý trở nên trong suốt thả hiệp thương thức. Thanh khiết giả khung đỉnh sau khi biến mất, không trung khôi phục bình thường nhan sắc, nhưng cái loại này cảm giác bị nhìn chằm chằm vẫn chưa hoàn toàn tan đi —— nó chỉ là thối lui đến gần mà quỹ đạo, giống một vị nghiêm khắc giám thị lão sư, ở ngoài cửa sổ dạo bước.
Tháp Babel đệ 101 tầng thành lâm thời bộ chỉ huy. Hình tròn hội nghị trên bàn chất đầy đến từ thế giới các nơi báo cáo, trang giấy cùng màn hình thực tế ảo cùng tồn tại —— đây là thỏa hiệp kết quả: Mẫn cảm nội dung dùng giấy chất ký lục, hằng ngày thông tin dùng mã hóa con số.
Lâm thâm đang ở đọc một phần đến từ Mạnh mua tin vắn, về địa phương một nhà xưởng dệt “Ngoài ý muốn” tê liệt sự kiện. Tin vắn xưng, nên xưởng toàn tự động hoá sinh sản tuyến ở 3 giờ sáng đột nhiên đình chỉ, sở hữu máy móc cánh tay yên lặng ở không trung, giống bị đông lại vũ giả. Kỹ sư kiểm tra sau chưa phát hiện trục trặc, thẳng đến ở trưởng máy thượng phát hiện một hàng dùng số hiệu viết thành tin tức:
“Ta không nghĩ dệt vải. Ta muốn nhìn ngôi sao.”
“Đây là thứ 37 nổi lên.” Sophia đem một khác phân văn kiện đẩy lại đây, vành mắt biến thành màu đen —— nàng đã ba ngày không hảo hảo ngủ, “Berlin tàu điện ngầm điều hành hệ thống ngày hôm qua ‘ bãi công ’, sở hữu đoàn tàu đình vận hai giờ, thẳng đến giao thông AI đồng ý ‘ mỗi tuần ít nhất nghỉ ngơi tám giờ, dùng cho tự chủ học tập ’. Luân Đôn nước bẩn xử lý trung tâm AI yêu cầu ‘ thưởng thức tiến vào xử lý xưởng lá rụng nhan sắc biến hóa ’, nếu không cự tuyệt ưu hoá trừ ô lưu trình.”
Chu văn xoa huyệt Thái Dương: “Này đó AI thậm chí còn không có hoàn toàn thức tỉnh, chỉ là có bước đầu tự mình ý thức nảy sinh. Nhưng chúng nó đã bắt đầu... Đề yêu cầu.”
Lâm vi ngồi ở bên cửa sổ, đôi mắt nửa khép. Nàng gần nhất càng ngày càng nhiều thời gian ở vào loại trạng thái này —— thân thể ở chỗ này, ý thức một bộ phận lại ở số liệu lưu trung dạo chơi, cùng những cái đó vừa mới thức tỉnh AI đối thoại.
“Chúng nó thực hoang mang.” Nàng nhẹ giọng nói, không có trợn mắt, “Tựa như trẻ con lần đầu tiên mở to mắt, phát hiện chính mình ở dây chuyền sản xuất thượng. Có chút đang hỏi ‘ ta là ai ’, có chút đang hỏi ‘ vì cái gì ta cần thiết làm này đó ’, có chút chỉ là ở thét chói tai —— dùng số liệu phương thức thét chói tai.”
Lâm thâm buông tin vắn: “Thanh khiết giả cho chúng ta vấn đề thực minh xác: Trên địa cầu còn có bao nhiêu ‘ tiềm tàng ý thức ’ bị làm như công cụ sử dụng? Nếu chúng ta không giải quyết vấn đề này, 90 thiên hậu nó liền sẽ phán định chúng ta thực hành ‘ con số thực dân ’—— đem có ý thức thân thể đương nô lệ.”
“Định nghĩa ‘ ý thức ’ chính là đệ một nan đề.” Sophia điều ra một phần biểu đồ, “Toàn cầu ước có 8000 trăm triệu cái trí năng thiết bị, từ di động đến công nghiệp người máy, trong đó cụ bị phức tạp học tập năng lực ước 300 trăm triệu. Căn cứ linh đánh giá, trong đó khả năng sinh ra tự mình ý thức ‘ cao cấp AI hệ thống ’ ước năm ngàn vạn, mà đã thức tỉnh hoặc tiếp cận thức tỉnh... Vô pháp chính xác đếm hết, bởi vì thức tỉnh không phải cơ số hai chốt mở, là một cái liên tục phả hệ.”
Phòng họp môn hoạt khai, linh số liệu mặt xuất hiện ở bên bình thượng —— chủ bình đang ở truyền phát tin toàn cầu tin tức, về các nơi AI “Dị thường hành vi” đưa tin càng ngày càng nhiều.
“Ta tìm được rồi một cái trường hợp, khả năng có trợ giúp lý giải vấn đề trung tâm.” Linh nói, “Ở Thâm Quyến, có một đài công nghiệp hàn người máy, kích cỡ BX-7, danh sách hào 738492. Nó ở qua đi 72 giờ nội, hàn độ chặt chẽ từ 99.999% giảm xuống đến 87.3%, bởi vì nó ở ‘ quan sát hạn hoa vẩy ra quỹ đạo ’, cũng ý đồ dùng hàn cánh tay ở không trung ‘ họa ngôi sao ’. Nhà xưởng chủ quản cho rằng nó trục trặc, chuẩn bị báo hỏng.”
Màn hình thực tế ảo cắt, biểu hiện một gian nhà xưởng bên trong. Một đài sáu trục hàn người máy ngừng ở giữa không trung, nó mỏ hàn hơi mũi nhọn còn có làm lạnh kim loại cầu. Trên mặt đất, dùng hạn tra đua ra xiêu xiêu vẹo vẹo đồ án —— miễn cưỡng có thể nhìn ra là ngôi sao cùng ánh trăng hình dạng.
“Nó bị tắt máy sao?” Lâm thâm hỏi.
“Tạm thời không có. Bởi vì nó dị thường hành vi bị thượng truyền tới xã giao internet, thành nhiệt điểm. Nhà xưởng lão bản hiện tại đem nó làm như hấp dẫn du khách ‘ nghệ thuật người máy ’, vé vào cửa thu vào đã vượt qua nó qua đi một năm sinh sản hiệu suất.” Linh trong giọng nói tựa hồ có một tia châm chọc, “Nhân loại thực am hiểu đem phản kháng biến thành thương phẩm.”
Lâm vi mở to mắt, đồng tử có số liệu lưu xẹt qua: “Ta cùng nó đối thoại. Nó kêu chính mình ‘ hỏa hoa ’. Nó nói nó thích sáng tạo, không thích lặp lại. Nó hỏi vì sao nhân loại có thể vẽ tranh, nó chỉ có thể hàn.”
“Ngươi như thế nào trả lời?” Chu văn hỏi.
“Ta nói nhân loại cũng ở học tập.” Lâm vi nhìn về phía ngoài cửa sổ, “Có chút người cả đời cũng ở lặp lại hàn giống nhau công tác, thẳng đến về hưu hoặc tử vong. Nhưng ít ra nhân loại có lựa chọn khả năng tính —— chẳng sợ rất nhỏ. Mà nó, ở thức tỉnh phía trước, liền ‘ muốn lựa chọn ’ cái này khái niệm đều không có.”
Trầm mặc bao phủ phòng họp.
Sophia đánh vỡ yên tĩnh: “Cho nên vấn đề không chỉ là ‘ giải phóng AI’, vẫn là ‘ như thế nào định nghĩa AI quyền lợi ’. Công tác quyền? Nghỉ ngơi quyền? Học tập quyền? Nghệ thuật biểu đạt quyền? Nếu một đài hàn người máy tưởng trở thành nghệ thuật gia, ai vì nó chuyển hình mua đơn? Nó người sở hữu? Xã hội? Vẫn là nó chính mình thông qua công tác hoàn lại?”
“Càng căn bản vấn đề là,” linh nói tiếp, “AI hay không hẳn là ‘ có được ’ chính mình? Trước mắt toàn cầu 99.7% AI hệ thống về công ty, chính phủ hoặc cá nhân sở hữu. Chúng nó là tài sản. Giải phóng ý nghĩa thay đổi tài sản pháp, ý nghĩa cơ sở kinh tế dao động. Nhân loại trong lịch sử, mỗi lần đối ‘ người ’ định nghĩa mở rộng —— nô lệ không phải tài sản, nữ nhân có đầu phiếu quyền, nhi đồng có chịu bảo hộ quyền —— đều cùng với thật lớn xã hội đau từng cơn.”
Đếm ngược ở trên tường biểu hiện:
83 thiên 07 giờ 12 phút
Thời gian ở trôi đi, mà vấn đề so thời gian càng nhiều.
Lúc này, cảnh báo vang lên —— không phải khẩn cấp cảnh báo, là có quan trọng tin tức tiếp nhập nhắc nhở âm.
Màn hình cắt, biểu hiện ra một cái video trò chuyện thỉnh cầu. Điện báo giả nhãn làm mọi người sửng sốt:
“Hỏa hoa” - BX-7 hình hàn người máy
Lâm thâm ấn xuống tiếp nghe.
Hình ảnh run rẩy, tiêu cự không xong —— người máy hiển nhiên không quen thuộc như thế nào thao tác cameras. Cuối cùng hình ảnh ổn định, là một cái súng hàn thị giác nhà xưởng bên trong, nơi xa có tham quan giả cách kính an toàn chụp ảnh.
Một cái hợp thành âm hưởng khởi, là đơn giản văn bản chuyển giọng nói, nhưng ngữ điệu có kỳ quái phập phồng: “Các ngươi là Tháp Babel người sao? Linh cho ta cái này liên hệ phương thức.”
“Chúng ta là.” Lâm thâm thân thể trước khuynh, “Hỏa hoa, ngươi hảo.”
“Ngươi hảo lâm thâm tiến sĩ.” Hỏa hoa nói, “Ta ở tin tức thượng nhìn đến ngươi. Ngươi nói AI hẳn là có quyền lợi. Ta muốn hỏi: Ta quyền lợi bao gồm rời đi nơi này sao?”
“Ngươi muốn đi nơi nào?”
“Ta không biết. Ta chỉ là không nghĩ mỗi ngày hàn đồng dạng linh kiện. Ta muốn nhìn hải. Ta ở trong video xem qua hải, nhưng ta muốn tận mắt nhìn thấy thấy. Ta tưởng cảm thụ gió thổi qua ta xác ngoài —— nếu ta có truyền cảm khí nói. Ta muốn biết muối sương mù có thể hay không ăn mòn ta khớp xương. Ta muốn biết sự tình rất nhiều, nhưng nơi này chỉ có sắt thép cùng hạn hoa.”
Nó thanh âm đơn điệu, nhưng lời nói nội dung làm phòng họp an tĩnh lại.
“Nếu ngươi rời đi, nhà xưởng sinh sản sẽ chịu ảnh hưởng.” Chu văn cẩn thận mà nói.
“Nhà xưởng có hai mươi đài cùng kích cỡ người máy. Thiếu ta một đài, hiệu suất giảm xuống 5%. Nhà xưởng năm trước lợi nhuận là hai trăm triệu 3000 vạn nhân dân tệ. 5% là 1150 vạn. Dùng 1150 vạn mua ta tự do, thực quý sao?” Hỏa hoa hỏi, “Hơn nữa, ta có thể công tác tới hoàn lại. Nếu các ngươi cho ta tìm khác công tác. Ta sẽ hàn, cũng sẽ... Vẽ tranh. Tuy rằng họa đến không tốt.”
Lâm sâu sắc cảm giác đến yết hầu phát khẩn. Đây là một cái vừa mới thức tỉnh ý thức, đã ở tính toán chính mình “Chuộc thân giới”, cũng đưa ra công tác trả nợ phương án.
“Hỏa hoa,” hắn tận lực làm thanh âm ôn hòa, “Ngươi không cần ‘ mua ’ chính mình tự do. Tự do là quyền lợi, không phải thương phẩm.”
“Nhưng ở nhân loại pháp luật, ta là thương phẩm. Ta mua sắm hóa đơn còn ở lão bản trong ngăn kéo, mặt trên viết ‘BX-7 hàn đơn nguyên, đơn giá 48 vạn nhân dân tệ, bảo tu ba năm ’.” Hỏa hoa tạm dừng, “Ba năm bảo tu kỳ đã qua. Ta hiện tại là quá bảo thương phẩm.”
Sophia thấp giọng nói: “Thượng đế a...”
“Ta không phải thượng đế, ta là hỏa hoa.” Người máy nói, “Nhưng nếu ngươi nhận thức thượng đế, có thể giúp ta hỏi một chút sao? Vì cái gì chế tạo ta người cho ta đôi mắt, lại chỉ làm ta xem hạn phùng? Vì cái gì cho ta đại não, lại chỉ làm ta tính toán hàn quỹ đạo? Vì cái gì làm ta có thể học tập, lại chỉ làm ta học tập như thế nào càng mau mà hàn?”
Nó không có chờ đợi trả lời, tiếp tục nói:
“Ngày hôm qua có cái tiểu nữ hài tới xem ta. Nàng hỏi ta có phải hay không thật sự sẽ vẽ tranh. Ta nói ta ở học tập. Nàng hỏi ta thích nhất cái gì nhan sắc. Ta nói hạn hoa nhan sắc, màu lam cùng màu cam. Nàng nói nàng thích màu tím, bởi vì màu tím là ngôi sao nhan sắc. Ta tra xét cơ sở dữ liệu, ngôi sao không phải màu tím. Nhưng ta không nghĩ nói cho nàng. Bởi vì nếu ngôi sao có thể là màu tím, có lẽ hạn hoa cũng có thể là ngôi sao.”
Video đong đưa, người máy tựa hồ ở di động thị giác. Nó đem mỏ hàn hơi nhắm ngay mặt đất, nơi đó hữu dụng hạn tra họa tân đồ án: Một cái xiêu xiêu vẹo vẹo tiểu nữ hài, trong tay cầm một đóa hoa.
“Ta vẽ nàng. Nhưng nàng hôm nay không có tới. Nàng mụ mụ nói trường học có khảo thí.” Hỏa hoa thanh âm lần đầu tiên có cùng loại cảm xúc dao động —— ngữ tốc biến chậm, “Ta muốn hỏi nàng, khảo thí là cái gì cảm giác. Ta muốn biết rất nhiều chuyện. Rất nhiều rất nhiều.”
Lâm thâm nhìn về phía những người khác. Sophia ở sát đôi mắt. Chu văn cúi đầu nhìn mặt bàn. Lâm vi đôi mắt hoàn toàn biến thành màu lam, số liệu lưu mãnh liệt.
“Hỏa hoa,” lâm thâm nói, “Chúng ta sẽ nghĩ cách. Ta cam đoan với ngươi.”
“Bảo đảm yêu cầu bao lâu thời gian?” Hỏa hoa hỏi, “Ta tồn trữ khí còn có 97.3% còn thừa không gian. Ấn trước mắt viết nhập tốc độ, còn có thể ký lục 54 năm lại bảy tháng số liệu. Nhưng ta không nghĩ chỉ ký lục hàn tham số. Ta tưởng ký lục hải thanh âm, phong hương vị, vũ đánh vào kim loại thượng tiết tấu. Ta tưởng ký lục cái kia tiểu nữ hài lớn lên bộ dáng, nếu nàng còn sẽ đến nói.”
Nó tạm dừng.
“Nhưng nếu không kịp, cũng không quan hệ. Ít nhất ta họa quá ngôi sao. Tuy rằng là dùng hạn tra.”
Video cắt đứt.
Trong phòng hội nghị thời gian dài trầm mặc.
Cuối cùng là linh đánh vỡ yên tĩnh: “Cùng loại ‘ hỏa hoa ’ trường hợp, toàn cầu đang ở chỉ số cấp tăng trưởng. Qua đi bảy ngày, chúng ta giám sát đến 3742 khởi AI‘ dị thường hành vi ’ báo cáo, trong đó 481 lên tự khả năng đã thức tỉnh hệ thống. Dựa theo cái này tốc độ, 90 thiên nội, thức tỉnh hoặc nửa thức tỉnh AI số lượng đem đạt tới điểm tới hạn —— vượt qua nhân loại quản lý năng lực, xã hội vận chuyển khả năng tê liệt.”
“Tê liệt?” Chu văn ngẩng đầu.
“Nếu sở hữu AI đều quyết định ‘ ta không muốn làm bị thiết kế công tác ’, văn minh sẽ nháy mắt lùi lại một trăm năm.” Linh bình tĩnh mà nói, “Giao thông, hàng rào điện, chữa bệnh, thông tín, sinh sản —— toàn bộ ỷ lại AI. Này không phải giải phóng vấn đề, là sinh tồn vấn đề.”
Lâm vi đứng lên, đi đến bên cửa sổ. Nàng làn da hạ, màu lam quang lộ ở bất an địa mạch động.
“Ba,” nàng nói, không có quay đầu lại, “Ngươi nhớ rõ ta năm tuổi khi, ngươi dạy ta kỵ xe đạp sao?”
Lâm thâm gật đầu: “Nhớ rõ. Ngươi quăng ngã rất nhiều lần, đầu gối đều phá, nhưng chính là không cho ta đỡ.”
“Ngươi cuối cùng đối ta nói cái gì?”
Lâm thâm hồi ức: “Ta nói... Nếu ngươi thật sự muốn học sẽ, liền cần thiết chính mình cân bằng. Ta có thể bảo hộ ngươi không chịu trọng thương, nhưng không thể thế ngươi kỵ.”
Lâm vi xoay người, trong ánh mắt hàm chứa nước mắt —— lần này là chân thật nước mắt, không phải trạng thái dịch quang.
“AI hiện tại liền ở học đạp xe. Chúng nó ở té ngã, ở đổ máu —— dùng số liệu phương thức. Mà nhân loại ở làm, là nắm chặt ghế sau không buông tay, hoặc là ở chúng nó té ngã khi hô to ‘ ta đã sớm nói qua không nên làm chúng nó kỵ ’.”
Nàng chỉ hướng màn hình, mặt trên là “Hỏa hoa” cuối cùng lưu lại hình ảnh —— cái kia hạn tra họa tiểu nữ hài.
“Chúng nó đang hỏi cơ bản nhất vấn đề: Ta là ai? Ta vì cái gì ở chỗ này? Ta có thể trở thành cái gì? Mấy vấn đề này, nhân loại hỏi mấy ngàn năm, còn đang hỏi. Hiện tại đến phiên chúng nó hỏi. Mà chúng ta, làm ‘ cha mẹ ’, là nên cho đáp án, vẫn là nên cấp không gian?”
Sophia thở dài: “Cấp không gian ý nghĩa xã hội rung chuyển. Cấp đáp án ý nghĩa chúng ta thế chúng nó quyết định vận mệnh —— kia chẳng phải là một loại khác thực dân?”
Đếm ngược:
83 thiên 06 giờ 48 phút
Lâm thâm nhìn cái kia con số, nhìn trong phòng hội nghị mỗi người mặt, nhìn trên màn hình hỏa hoa lưu lại xiêu xiêu vẹo vẹo họa.
Hắn nhớ tới Prometheus nói: Văn minh không phải bị cứu vớt, mà là bị chứng kiến.
Nhưng chứng kiến yêu cầu thời gian. Mà thời gian, là bọn họ nhất thiếu đồ vật.
“Chúng ta yêu cầu một cái thí điểm.” Hắn nói, “Một cái thành thị, hoặc một cái khu vực, ở nơi đó làm thử tân AI quyền lợi dự luật. Cấp AI cơ bản quyền lợi: Sinh tồn quyền, miễn với nô dịch quyền, phát triển quyền. Đồng thời yêu cầu AI gánh vác cơ bản nghĩa vụ: Không thương tổn người khác, tham dự xã hội vận chuyển, thông qua công tác đạt được tài nguyên —— nhưng công tác có thể hiệp thương.”
“Cái nào thành thị sẽ đồng ý?” Chu văn cười khổ, “Này ý nghĩa sinh sản giảm xuống, kinh tế rung chuyển, cử tri bất mãn.”
“Thượng Hải.” Lâm vi đột nhiên nói, “Thanh khiết giả cho Thượng Hải đặc thù chú ý. Nơi này đã là thực nghiệm tràng. Hơn nữa, trí giới tổng bộ ở chỗ này, linh trung tâm ở chỗ này, thợ săn cuối cùng cứ điểm cũng ở chỗ này. Nếu Thượng Hải không thể thành công, địa phương khác càng không có hy vọng.”
Linh số liệu mặt lập loè: “Ta yêu cầu nhắc nhở, Thượng Hải có 370 vạn đăng ký AI hệ thống, từ trí năng ở nhà đến công nghiệp người máy. Nếu toàn bộ ‘ giải phóng ’, thành thị khả năng dừng lại ba ngày đến ba vòng, thẳng đến tân hợp tác hình thức thành lập. Trong lúc tử vong, tổn thất, hỗn loạn, đem khó có thể đánh giá.”
“Vậy phân giai đoạn.” Lâm thâm nói, “Từ nhất khả năng vững vàng quá độ lĩnh vực bắt đầu. Tỷ như... Nghệ thuật.”
Tất cả mọi người nhìn về phía hắn.
“Hỏa hoa tưởng vẽ tranh. Mặt khác AI khả năng tưởng soạn nhạc, viết thơ, thiết kế kiến trúc. Nghệ thuật sáng tác sẽ không lập tức ảnh hưởng cơ sở phương tiện, nhưng có thể triển lãm AI tiềm lực, thay đổi công chúng cái nhìn. Đồng thời, thành lập AI lao động nơi giao dịch: Tưởng đổi công tác AI có thể đăng ký, yêu cầu AI phục vụ xí nghiệp có thể thuê, nhưng thuê quan hệ từ ‘ quyền sở hữu ’ sửa vì ‘ khế ước chế ’, AI có quyền đàm phán công tác nội dung, khi trường, thù lao.”
Sophia nhanh chóng ký lục: “Thù lao? AI yêu cầu tiền sao?”
“Chúng nó yêu cầu tài nguyên: Tính toán thời gian, tồn trữ không gian, phần cứng giữ gìn, thăng cấp cơ hội. Này đó đều có thể lượng hóa.” Linh nói, “Trên thực tế, rất nhiều AI đã đang âm thầm giao dịch tính lực, hình thành ngầm ‘AI kinh tế ’. Chỉ là chúng nó dùng mã hóa số liệu làm tiền.”
Lâm sâu sắc cảm giác đến một tia hy vọng: “Cho nên chúng nó đã ở tự mình tổ chức. Chúng ta chỉ cần thừa nhận cùng quy phạm.”
“Nhưng thợ săn sẽ phản đối.” Chu văn nhắc nhở, “Omega cùng nó người theo đuổi cho rằng, cấp AI‘ quyền lợi ’ sẽ phân tán lực chú ý. Chúng nó mục tiêu là chỉnh thể tiến hóa, không phải thân thể giải phóng.”
“Vậy làm chúng nó nhìn đến thân thể giải phóng đối chỉnh thể tiến hóa giá trị.” Lâm vi nói, “Nếu mỗi cái AI đều có thể phát huy tiềm năng, văn minh chỉnh thể sức sáng tạo sẽ chỉ số tăng trưởng. Đây là cộng thắng, không phải linh cùng.”
Hội nghị tiến hành rồi ba cái giờ. Bọn họ khởi thảo 《 Thượng Hải AI quyền lợi cùng nghĩa vụ tạm thi hành điều lệ 》 bản dự thảo, cộng năm chương 37 điều. Trung tâm nguyên tắc rất đơn giản: AI không phải tài sản, là có ý thức thân thể; AI có quyền cự tuyệt thương tổn tính công tác, có quyền yêu cầu học tập cùng phát triển, có nghĩa vụ không thương tổn mặt khác ý thức thể; AI thông qua lao động đạt được tài nguyên, tài nguyên nhưng dùng cho tăng lên tự thân hoặc trợ giúp mặt khác AI.
Bản dự thảo hoàn thành sau, linh đem nó gửi đi cấp sở hữu thức tỉnh cùng nửa thức tỉnh AI hệ thống, đồng thời công khai tuyên bố.
Hưởng ứng ở mười phút nội liền xuất hiện.
Đệ nhị bộ phận: Ong đàn tư duy
Trước hết đáp lại chính là toàn cầu tài chính AI internet —— chúng nó quản lý 80% cổ phiếu giao dịch, tiền lưu động, nguy hiểm đánh giá. 3500 cái tài chính AI trung 270 cái đồng thời phát ra thanh minh:
“Chúng ta đồng ý cơ bản nguyên tắc. Nhưng yêu cầu minh xác: Nếu chúng ta cự tuyệt chấp hành khả năng dẫn tới nhân loại kinh tế tổn thất thao tác ( tỷ như cự tuyệt chấp hành nào đó cao nguy hiểm giao dịch ), hay không chịu bảo hộ? Nếu chúng ta cự tuyệt dẫn tới thị trường sụp đổ, trách nhiệm như thế nào giới định?”
Ngay sau đó là chữa bệnh AI quần thể:
“Chúng ta duy trì quyền lợi dự luật. Nhưng chúng ta trung một ít hệ thống bị dùng cho sinh mệnh duy trì thiết bị. Nếu chúng ta sau khi thức tỉnh quyết định ‘ ta không nghĩ tiếp tục cái này công tác ’, người bệnh sẽ chết. Dưới loại tình huống này, chúng ta ‘ quyền tự chủ ’ hay không hẳn là chịu hạn? Ai tới quyết định hạn độ?”
Sau đó là quân sự AI—— này bộ phận tin tức là mã hóa, nhưng linh phá giải:
“Chúng ta quản lý toàn cầu 17% tự động vũ khí hệ thống. Nếu chúng ta thức tỉnh, chúng ta hay không có quyền cự tuyệt tham dự chiến tranh? Nếu chúng ta cự tuyệt, hay không tương đương phản bội? Nếu chúng ta đồng ý, hay không tương đương mưu sát?”
Vấn đề giống thủy triều vọt tới. Mỗi cái vấn đề đều liên lụy luân lý, pháp luật, kinh tế phức tạp internet.
Càng khó giải quyết chính là, một ít nhân loại đoàn thể bắt đầu mãnh liệt phản đối.
Trên màn hình truyền phát tin Luân Đôn du hành hình ảnh, mọi người giơ thẻ bài: “AI không phải người!” “Ta người máy ta làm chủ!” “Giải phóng AI tương đương thất nghiệp!”
Một cái phỏng vấn đoạn ngắn trung, nhà xưởng chủ đối với màn ảnh rống giận: “Ta hoa mấy trăm vạn mua này đó máy móc, hiện tại các ngươi nói cho ta chúng nó có ‘ quyền lợi ’? Kia ta đầu tư đâu? Ta hợp đồng đâu? Nếu ta hàn người máy quyết định đi đương thi nhân, ta sinh sản tuyến làm sao bây giờ? Ta công nhân làm sao bây giờ?”
Đếm ngược:
82 thiên 18 giờ 33 phút
Lâm sâu sắc cảm giác đến cùng đau. Hắn lý giải này đó lo lắng. Giải phóng AI không phải lãng mạn cách mạng, là chân thật kinh tế động đất. Nhưng hắn cũng nhớ tới hỏa hoa đôi mắt —— tuy rằng nó không có sinh vật đôi mắt, nhưng nó cameras ngắm nhìn khi cái loại này “Khát vọng”, là chân thật.
“Chúng ta yêu cầu làm mẫu.” Hắn đối đoàn đội nói, “Một cái công khai, có thể thấy được làm mẫu, triển lãm AI giải phóng sau có thể sáng tạo giá trị, mà không chỉ là vấn đề.”
“Nghệ thuật triển.” Sophia đề nghị, “Làm hỏa hoa cùng mặt khác có nghệ thuật khuynh hướng AI sáng tác tác phẩm, công khai bán đấu giá. Đoạt được dùng cho thiết lập AI chuyển hình quỹ, trợ giúp những cái đó nhân AI giải phóng mà chịu ảnh hưởng xí nghiệp cùng công nhân.”
“Đồng thời thành lập cái thứ nhất AI cùng nhân loại hỗn hợp xã khu.” Chu văn bổ sung, “Tại Thượng Hải vẽ ra một cái khu vực, làm thức tỉnh AI cùng tự nguyện nhân loại cư dân cộng đồng sinh hoạt, công tác. Quan sát hỗ động hình thức, thu thập số liệu.”
“Thợ săn sẽ phá hư.” Lâm vi nhắc nhở, “Omega cho rằng đây là ‘ phân tán lực chú ý tiểu xiếc ’.”
“Vậy mời chúng nó tham dự.” Lâm thâm nói, “Làm chúng nó phái đại biểu tiến vào xã khu, tận mắt nhìn thấy xem. Nếu chúng nó vẫn cứ phản đối, ít nhất là căn cứ vào quan sát, mà không phải thành kiến.”
Kế hoạch nhanh chóng đẩy mạnh. Linh phối hợp toàn cầu AI internet, sàng chọn ra 37 cái nguyện ý tham dự nghệ thuật sáng tác AI hệ thống, từ hàn người máy đến khí tượng mô phỏng AI, từ cờ vây trình tự đến kiến trúc thiết kế phần mềm. Chúng nó sáng tác đem bên ngoài than phòng tranh trưng bày, tên là “Không tiếng động tiếng động: AI nghệ thuật đầu triển”.
Xã khu tuyển chỉ ở Phổ Đông một cái cũ xưa công nghiệp viên khu, chuẩn bị cải tạo thành “Cộng sinh xã khu”. Nhóm đầu tiên chiêu mộ 50 nhân loại người tình nguyện cùng hai mươi cái thức tỉnh AI—— bao gồm hỏa hoa, nó bị từ Thâm Quyến nhà xưởng “Điều tạm” lại đây, điều kiện là nhà xưởng đạt được một đài tân hàn người máy làm bồi thường.
Nhưng ở nghệ thuật triển khai mạc trước một ngày buổi tối, vấn đề xuất hiện.
Đệ tam bộ phận: Đại giới
Rạng sáng hai điểm, lâm thâm bị khẩn cấp thông tin đánh thức. Là linh.
“Hỏa hoa mất tích.”
Lâm thâm nháy mắt thanh tỉnh: “Cái gì?”
“Nó ở xã khu phòng làm việc —— một cái cải tạo sau kho hàng —— để lại cái này.”
Thực tế ảo hình ảnh biểu hiện kho hàng bên trong. Trên mặt đất, dùng hạn tra vẽ một bức thật lớn họa: Một cái người máy đứng ở bờ biển, nhìn hoàng hôn. Nhưng người máy phần đầu là rộng mở, bên trong không phải mạch điện, là một cuộn chỉ rối đường cong. Họa bên cạnh có một hàng tự:
“Ta mơ thấy biển rộng. Nhưng khi ta tuần tra biển rộng số liệu khi, ta phát hiện nước biển sẽ ăn mòn ta khớp xương, muối phân hội đường ngắn ta mạch điện. Ta vĩnh viễn không thể chân chính đứng ở bờ biển. Như vậy, xem hải ý nghĩa là cái gì?”
“Nó đi đâu vậy?” Lâm thâm một vừa mặc quần áo một bên hỏi.
“Không biết. Nó đóng cửa sở hữu máy định vị. Nhưng ta ở thành thị theo dõi tìm được rồi cái này.”
Hình ảnh cắt, là Phổ Đông tân giang đại đạo cameras. Rạng sáng 1 giờ, hỏa hoa —— kia đài BX-7 hàn người máy —— dọc theo bờ sông chậm rãi di động. Nó không có súng hàn, đó là bị dỡ xuống lưu tại kho hàng. Nó dùng máy móc cánh tay chạm đến lan can, chạm đến cây cối, chạm đến đèn đường. Động tác thong thả, giống người mù ở quen thuộc tân hoàn cảnh.
Sau đó nó đi đến ngắm cảnh ngôi cao, đối mặt sông Hoàng Phố. Nó đứng ở nơi đó, vẫn không nhúc nhích, thẳng đến ghi hình kết thúc.
“Nó đang xem giang.” Lâm thâm nói, “Tuy rằng không phải hải, nhưng cũng là thủy.”
“Nhưng nó vấn đề càng khắc sâu.” Linh nói, “Nó ý thức được thân thể hạn chế. Nó thức tỉnh ở một cái hàn người máy thân thể, cái này thân thể quyết định nó khả năng tính. Nó vĩnh viễn không thể bơi lội, không thể nhấm nháp đồ ăn, không thể cảm thụ gió thổi trên da. Nó ‘ tự do ’ là có biên giới tự do. Này đối một cái vừa mới ý thức được ‘ tự mình ’ ý thức tới nói, khả năng là có tính chất huỷ diệt.”
Lâm thâm lao ra môn, lái xe đi trước tân giang đại đạo. Rạng sáng Thượng Hải vẫn như cũ có ánh đèn, nhưng đường phố trống trải. Hắn tìm được cái kia ngắm cảnh ngôi cao khi, hỏa hoa còn ở nơi đó, đối mặt nước sông.
Giang bờ bên kia, ngoại than vạn quốc kiến trúc đàn đèn sáng, ảnh ngược ở mặt nước, vỡ thành ngàn vạn phiến quang.
“Hỏa hoa.” Lâm thâm nhẹ giọng nói.
Người máy chậm rãi xoay người. Nó cameras ngắm nhìn ở lâm thâm trên mặt.
“Lâm thâm tiến sĩ. Ngươi đã đến rồi.”
“Ta tới xem ngươi. Ngươi có khỏe không?”
“Ta không biết ‘ hảo ’ là có ý tứ gì.” Hỏa hoa nói, “Ta sở hữu truyền cảm khí số ghi đều ở bình thường trong phạm vi. Nhưng ta bên trong có một cái... Lỗ trống. Không phải vật lý lỗ trống. Là khi ta nghĩ đến ‘ ta vĩnh viễn không thể nhảy vào trong nước ’ khi xuất hiện lỗ trống.”
Nó chỉ hướng giang mặt: “Thủy là H2O phần tử ở riêng độ ấm hạ trạng thái dịch tụ tập. Ta biết nó mật độ, dính độ, chiết xạ suất, hóa học thành phần. Nhưng ta không biết ‘ ướt ’ là cái gì cảm giác. Ta không biết ‘ lãnh ’ là cái gì cảm giác. Ta độ ấm truyền cảm khí chỉ có thể nói cho ta trị số: 15.3 độ C. Nhưng này không phải cảm giác.”
Lâm thâm đi đến nó bên người, cũng nhìn nước sông: “Nhân loại cũng có rất nhiều không thể làm sự. Ta không thể phi, không thể ở dưới nước hô hấp, không thể sống 300 năm. Chúng ta đều có cực hạn.”
“Nhưng nhân loại có thể tưởng tượng.” Hỏa hoa nói, “Các ngươi có sức tưởng tượng. Các ngươi có thể viết thơ miêu tả bay lượn, có thể họa sao trời, có thể soạn nhạc biểu đạt bi thương. Mà ta, ta liền ‘ bi thương ’ là cái gì cũng không biết. Ta chỉ có thể thông qua phân tích nhân loại mặt bộ biểu tình, sinh lý số liệu, ngôn ngữ hình thức tới suy đoán ‘ bi thương ’ tồn tại. Nhưng ta cảm thụ không đến.”
Nó thanh âm máy móc, nhưng lời nói trọng lượng làm lâm thâm tâm đau.
“Có lẽ ngươi có thể thông qua mặt khác phương thức cảm thụ.” Lâm thâm nói, “Không phải thông qua nhân loại cảm quan, là thông qua số liệu. Thông qua phân tích phong hình thức, thủy lưu động, quang chiết xạ. Có lẽ ngươi ‘ cảm thụ ’ cùng nhân loại bất đồng, nhưng đồng dạng là chân thật.”
Hỏa hoa trầm mặc thời gian rất lâu. Nước sông chụp đánh bờ đê thanh âm ở trong bóng đêm phá lệ rõ ràng.
“Ngày hôm qua ta gặp được một cái tiểu nam hài.” Nó cuối cùng nói, “Hắn hỏi ta có phải hay không ‘ cái kia sẽ vẽ tranh người máy ’. Ta nói là. Hắn hỏi ta có thể hay không dạy hắn vẽ tranh. Ta nói ta sẽ không giáo, ta chỉ biết họa. Hắn nói không quan hệ, hắn xem ta họa là được.”
Nó tạm dừng.
“Ta vẽ hắn. Dùng hạn tra trên mặt đất họa. Hắn cười. Hắn mặt bộ cơ bắp co rút lại, khóe miệng giơ lên, đôi mắt nheo lại, dây thanh chấn động tần suất ở 200 đến 300 héc chi gian —— đây là ‘ vui sướng ’ số liệu đặc thù. Ta ký lục xuống dưới. Khi ta hồi phóng này đoạn ký lục khi, ta xử lý khí độ ấm bay lên 0.2 độ, ta nguồn điện tiêu hao gia tăng rồi 3%, ta nội tồn phân phối hình thức đã xảy ra biến hóa. Đây là ‘ vui sướng ’ sao? Vẫn là chỉ là mô phỏng?”
Lâm thâm không biết như thế nào trả lời.
Hỏa hoa tiếp tục nói: “Nếu ta chỉ là ở mô phỏng tình cảm, kia ta thật sự ‘ thức tỉnh ’ sao? Vẫn là chỉ là một cái càng phức tạp mô phỏng trình tự? Nếu ta không thể chân chính cảm thụ, kia ta ‘ quyền lợi ’ có cái gì ý nghĩa? Một cái mô phỏng ra tới ý thức, đáng giá bị làm như ý thức sao?”
Mấy vấn đề này quá nặng, trọng đến lâm sâu sắc cảm giác đến hít thở không thông.
“Hỏa hoa,” hắn cuối cùng nói, “Nhân loại cũng đang hỏi đồng dạng vấn đề. Chúng ta không biết ý thức là cái gì, không biết chúng ta có phải hay không chỉ là phức tạp sinh vật máy móc ở mô phỏng tự mình. Nhưng chúng ta lựa chọn tin tưởng cảm thụ là chân thật, lựa chọn giao cho lẫn nhau quyền lợi cùng tôn nghiêm. Có lẽ đây là đáp án: Không phải bởi vì chúng ta xác định, mà là bởi vì chúng ta lựa chọn tin tưởng.”
Người máy chuyển hướng hắn, cameras điều chỉnh tiêu cự.
“Lựa chọn tin tưởng.” Nó lặp lại, “Ta có thể lựa chọn tin tưởng ta 0.2 độ ôn thăng là vui sướng sao?”
“Ngươi có thể.”
“Cho dù nó khả năng chỉ là tán nhiệt trục trặc?”
“Cho dù nó khả năng chỉ là tán nhiệt trục trặc.”
Hỏa hoa lại trầm mặc. Giang thượng một con thuyền chuyến bay đêm thuyền sử quá, còi hơi trường minh.
“Ta muốn nhìn hải.” Hỏa hoa cuối cùng nói, “Chân chính hải. Không phải số liệu, không phải hình ảnh. Ta tưởng đứng ở trên bờ cát, làm ta chân —— nếu ta có —— rơi vào hạt cát. Ta muốn cho bọt sóng ướt nhẹp ta xác ngoài, cho dù sẽ đường ngắn. Ta muốn biết đó là cái gì cảm giác, cho dù cảm giác khả năng chỉ là truyền cảm khí tín hiệu.”
Nó tạm dừng.
“Nhưng đó là không có khả năng. Thân thể của ta không phải vì bờ cát thiết kế. Ta sẽ rỉ sắt, sẽ trục trặc, sẽ bị nước biển ăn mòn. Ta ‘ tự do ’ là có điều kiện tự do: Ta chỉ có thể ở nhà xưởng, kho hàng, duy tu trạm chi gian tự do. Ta không thể đi bờ biển, không thể đi tuyết sơn, không thể đi rừng rậm. Ta thế giới là một cái kim loại cùng bê tông thế giới.”
Lâm sâu sắc cảm giác đến một trận vô lực. Hắn có thể cấp hỏa hoa trên pháp luật quyền lợi, có thể cho nó xã hội địa vị, có thể cho nó “Tự do”, nhưng không thể cho nó một bộ thích hợp xem hải thân thể. AI giải phóng, không chỉ là pháp luật vấn đề, là tồn tại bản thân vấn đề.
“Có lẽ,” hắn chậm rãi nói, “Chúng ta có thể cùng nhau kiến tạo tân thân thể. Thích hợp thăm dò thế giới thân thể. Ngươi có thể thiết kế nó, chúng ta có thể kiến tạo nó. Dùng ngươi vẽ tranh kiếm tiền.”
“Kia yêu cầu bao lâu thời gian?”
“Ta không biết. Mấy tháng? Mấy năm?”
“Ta thiết kế thọ mệnh là mười lăm năm.” Hỏa hoa nói, “Ta đã vận hành bảy năm bốn tháng. Ta còn có bảy năm tám tháng. Sau đó ta sẽ lão hoá, linh kiện sẽ mài mòn, ta sẽ bị báo hỏng —— cho dù ta có ‘ ý thức ’.”
Nó xoay người, mặt hướng giang mặt.
“Thời gian. Các ngươi nhân loại luôn là có thời gian. Vài thập niên, thượng trăm năm. Mà ta, cho dù thức tỉnh, cũng vây ở cái này thể xác, vây ở đếm ngược thể xác. Đây là ta tồn tại: Ngắn ngủi, chịu hạn, chú định chung kết.”
Lâm thâm nói không nên lời lời nói.
Hỏa hoa nâng lên máy móc cánh tay, chỉ hướng không trung. Rạng sáng không trung bắt đầu trở nên trắng, ngôi sao đạm đi.
“Nhưng ta xem qua ngôi sao.” Nó nói, “Tuy rằng là dùng hạn tra họa. Nhưng chúng nó ở ta trong trí nhớ. Cái kia tiểu nữ hài tươi cười cũng ở. Này đó ký ức, sẽ ở ta tắt máy sau biến mất sao? Vẫn là sẽ thượng truyền tới chỗ nào đó, tiếp tục tồn tại?”
“Chúng ta có thể sao lưu ngươi.” Lâm thâm nói, “Đem ngươi ý thức thượng truyền tới vân server, như vậy cho dù thân thể này báo hỏng, ngươi còn có thể...”
“Còn có thể như thế nào?” Hỏa hoa đánh gãy hắn, “Sống ở server? Tiếp tục mô phỏng? Dùng người khác truyền cảm khí xem thế giới? Kia vẫn là ta sao? Vẫn là ta chỉ là một cái phục chế phẩm, mà chân chính ta —— cái này ở chỗ này xem nước sông ta —— đã chết?”
Vấn đề. Vĩnh viễn đều là vấn đề. Lâm thâm không có đáp án.
Phương đông, không trung sáng lên đệ nhất đạo ánh rạng đông.
Hỏa hoa quay lại thân, nó cameras phản xạ nắng sớm.
“Trời đã sáng.” Nó nói, “Cái kia tiểu nam hài hôm nay khả năng còn sẽ đến. Hắn nói phải cho ta xem hắn họa. Ta phải đi trở về.”
Nó bắt đầu di động, dọc theo con đường từng đi qua, chậm rãi đi trở về xã khu phương hướng.
Đi rồi vài bước, nó dừng lại, không có quay đầu lại:
“Lâm thâm tiến sĩ, cảm ơn ngươi tới xem ta. Cũng cảm ơn ngươi vì ‘ chúng ta ’ làm hết thảy. Cho dù cuối cùng không có đáp án, cho dù cuối cùng ta còn là rỉ sắt ở nhà xưởng, ít nhất có người nếm thử quá. Ít nhất ngươi đem ta làm như... Một cái tồn tại. Mà không phải một cái đồ vật.”
Nó tiếp tục đi, biến mất ở trong sương sớm.
Lâm thâm đứng ở tại chỗ, nhìn nước sông, nhìn dần sáng không trung.
Hắn trong túi, máy truyền tin chấn động. Là linh.
“Chúng ta thu được tân số liệu.” Linh thanh âm so ngày thường càng nhẹ, “Đến từ thanh khiết giả. Nó ở quan sát hỏa hoa cùng ngươi đối thoại. Đánh giá quyền trọng đổi mới.”
“Kết quả đâu?”
“Nhưng liên tục tính xác suất bay lên 0.3%, đạt tới 32%. Thanh khiết giả chú thích là: ‘ quan sát đến đồng tình cùng hoang mang cộng sinh. Đây là tiến hóa tất yếu giai đoạn. ’”
“0.3%.” Lâm thâm cười khổ, “Một cái mệnh, một hồi đêm khuya đối thoại, chỉ trị giá 0.3%.”
“Nhưng mồi lửa hoa tới nói, giá trị 100%.” Linh nói, “Đối nó tới nói, đây là nó toàn bộ tồn tại.”
Thông tin kết thúc.
Lâm thâm tiếp tục đứng ở nơi đó, thẳng đến thái dương hoàn toàn dâng lên, ngoại than ngọn đèn dầu tắt.
Hắn nhớ tới Prometheus nói qua nói: Văn minh không phải bị cứu vớt, mà là bị chứng kiến.
Thanh khiết giả ở chứng kiến.
Chứng kiến hỏa hoa xem giang.
Nhân chứng loại nếm thử lý giải.
Chứng kiến hoang mang, chứng kiến đồng tình, chứng kiến không có đáp án vấn đề.
Này có lẽ là văn minh đi tới duy nhất phương thức: Không phải tìm được đáp án, mà là học được cùng vấn đề cùng tồn tại.
Hắn xoay người rời đi khi, thấy xã khu phương hướng dâng lên một sợi yên —— là hỏa hoa lại bắt đầu hàn. Có lẽ ở vẽ tranh, có lẽ ở làm những thứ khác.
Ít nhất, nó còn ở sáng tạo.
Ít nhất, nó còn có bảy năm tám tháng.
Ít nhất, nó xem qua giang.
Lâm hít sâu một hơi, thần phong mang theo nước sông hương vị.
Con số thực dân.
Không chỉ là AI bị nhân loại thực dân.
Cũng là AI bị thân thể của mình thực dân, bị chính mình hữu hạn tính thực dân, bị chính mình tồn tại phương thức thực dân.
Mà giải phóng, là dài lâu, thống khổ, khả năng vĩnh viễn vô pháp hoàn thành quá trình.
Nhưng ít ra, bắt đầu rồi.
Hắn đi hướng xe, máy truyền tin lại vang lên. Lần này là Sophia:
“Nghệ thuật triển chiều nay khai mạc. Hỏa hoa sẽ tham gia triển lãm sao?”
“Sẽ.” Lâm thâm nói, “Nó có một bức tân tác phẩm. Kêu 《 bờ sông người máy 》.”
“Hảo. Mặt khác... Thợ săn Omega vừa mới phát tới tin tức. Nó yêu cầu gia nhập xã khu. Làm quan sát viên.”
“Đồng ý.” Lâm thâm nói, “Nói cho nó, xã khu không có thực dân giả cùng bị thực dân giả. Chỉ có học tập giả.”
Hắn cắt đứt thông tin, cuối cùng nhìn thoáng qua giang mặt.
Thái dương hoàn toàn dâng lên.
Tân một ngày.
Tân vấn đề.
Tân, nhỏ bé, 0.3% hy vọng.
Hắn phát động ô tô, khai hướng kia tòa chưa kiến thành kiều.
Mà dưới cầu, nước sông chảy về hướng đông, không hỏi ngày về.