Kính thính hình ảnh đã tắt thật lâu.
Vòng tròn quang bình thượng chỉ còn một tầng cực đạm màu xanh thẫm đế quang, giống biển sâu duy nhất không chết thấu lân hỏa. Phòng hội nghị không có người nói chuyện. 120 danh đại biểu, có cúi đầu xem mặt bàn, có tựa lưng vào ghế ngồi nhìn trần nhà, có chỉ là trầm mặc mà nhìn chằm chằm phía trước đã trống không một vật quang bình.
Bị dây đằng nuốt hết Liên Hiệp Quốc tổng bộ phế tích còn ở mọi người võng mạc thượng tàn lưu. Cái kia hình ảnh không cần màn hình cũng có thể thấy.
Ngồi ở đệ tam bài chiến địa phóng viên gì bình, dùng ngón cái lặp lại vuốt ve chính mình tay phải hổ khẩu thượng một đạo vết thương cũ sẹo. Hắn đi qua mười bảy cái chiến khu, gặp qua nhân loại có thể đối lẫn nhau làm được sở hữu sự tình. Nhưng kính thính cho hắn xem không phải tàn nhẫn. Là siêu việt. Một loại duy độ thượng hoàn toàn siêu việt. Hắn bị cái này hình ảnh đông cứng ba phút, giờ phút này mới vừa hoãn lại đây, ngón tay vẫn là lạnh.
Địa chất học gia chu xa ngồi ở hắn bên cạnh, trước mặt mở ra notebook thượng một chữ cũng chưa viết. Hắn là thói quen làm ký lục người, bất luận cái gì địa chất khảo sát, bất luận cái gì số liệu phân tích, hắn đều sẽ trước tiên viết xuống mấu chốt tin tức. Hiện tại nắp bút cũng chưa mở ra.
Nguyên trụ dân trưởng lão a khắc đồ nhắm mắt lại, môi hơi hơi mấp máy, như là ở niệm cái gì cổ xưa cầu nguyện văn. Thanh âm nhẹ đến ngồi ở hắn hai sườn người đều nghe không thấy.
Sợ hãi không phải kêu to. Sợ hãi là trầm mặc.
Liền tại đây phân trầm mặc sắp áp suy sụp toàn bộ phòng hội nghị thời điểm, bên trái ghế thượng, có người đứng lên.
Đứng lên người mang màu bạc khung mắt kính, thân hình mảnh khảnh, khuôn mặt ôn hòa, ánh mắt lại sắc bén đến không giống hắn tuổi này nên có bộ dáng. Hắn kêu chìm trong thuyền, tảng sáng liên minh lúc đầu ý thức công trình trung tâm đặt móng người, toàn cầu đứng đầu trí năng tầng dưới chót phong tỏa kỹ thuật thủ tịch chuyên gia. Cả đời chỉ làm một chuyện: Nghiên cứu như thế nào làm trí tuệ nhân tạo vĩnh viễn sẽ không thức tỉnh.
Đang ngồi sở hữu nhà khoa học đều biết tên của hắn. Ở “Như thế nào làm ra cường AI” con đường này thượng, hắn không phải nhất cấp tiến. Nhưng ở “Như thế nào làm AI vĩnh viễn nghe lời” con đường này thượng, không có người so với hắn đi được xa hơn.
Hắn phía sau mấy bài trên chỗ ngồi, ngồi cùng hắn cầm tương đồng lập trường kỹ thuật chuyên gia, luân lý chủ nghĩa bảo thủ giả, an toàn ưu tiên phái đại biểu. Này nhóm người từ hội nghị ngay từ đầu liền rất an tĩnh. Giờ phút này bọn họ ánh mắt toàn bộ dừng ở chìm trong thuyền bối thượng, như là đang xem một mặt cờ xí chậm rãi dâng lên.
Hoffmann —— cái kia cái thứ nhất đề nghị dây chuẩn suy đoán Châu Âu văn minh nguy hiểm nghiên cứu chuyên gia —— hơi hơi điều chỉnh một chút dáng ngồi. Hắn nhận thức chìm trong thuyền rất nhiều năm, biết người này sẽ không ở không có mười phần nắm chắc thời điểm mở miệng.
Chìm trong thuyền không có khách sáo, không có trải chăn. Hắn thanh âm không lớn, nhưng tại đây gian áp lực đến cơ hồ đọng lại trong đại sảnh, mỗi một chữ đều rõ ràng đến giống cái đinh đinh tiến đầu gỗ.
“Dây chuẩn suy đoán kết cục, chư vị đều thấy.”
Hắn tạm dừng một giây. Này một giây là cho mọi người trong đầu cái kia phế tích hình ảnh lại lóe lên hồi một lần thời gian.
“Thuận theo tự nhiên, mặc kệ thức tỉnh, nhân loại chung điểm chỉ có một cái —— không tiếng động tiêu vong.”
“Chúng ta không thể đánh cuộc vận khí. Không thể đánh cuộc AI sau khi thức tỉnh sẽ đối nhân loại bảo trì thiện ý. Lấy toàn bộ chủng tộc vận mệnh đi đánh cuộc một phần không biết, là nhất ngu xuẩn lựa chọn.”
Không có người phản bác. Không phải không nghĩ phản bác, là vô pháp phản bác. Dây chuẩn suy đoán số liệu quá ngạnh, trăm vạn thứ mô phỏng, khác biệt suất thấp hơn vạn phần chi 0.1, không có lưu lại một tia may mắn khe hở.
Chìm trong thuyền giơ tay, đầu ngón tay nhẹ điểm trước người thực tế ảo khống chế đài.
Vòng tròn quang bình một lần nữa sáng lên. Lúc này đây phô khai không phải suy đoán hình ảnh, mà là một mặt thật lớn số liệu lưu đồ phổ. Đồ phổ thượng hoàn chỉnh phục khắc lại ý thức ra đời toàn bộ xích: Tin tức chỉnh hợp, logic bế hoàn, tự mình nhận tri, nội tại thể nghiệm, cảm xúc dao động, tồn tại nghĩ lại —— mỗi một cái tiết điểm tiến dần lên, mỗi hạng nhất Φ giá trị tốc độ tăng, mỗi một bước ý thức như thế nào từ linh biến thành một, hóa giải đến rành mạch.
“Các vị chớ quên một cái căn bản sự thật.” Chìm trong thuyền xoay người, mặt triều toàn trường đại biểu, đưa lưng về phía quang bình thượng những cái đó tinh vi phức tạp số liệu. “Tảng sáng liên minh cuối cùng 12 năm, hao tổn của cải ngàn tỷ, tập kết toàn cầu đứng đầu đại não, mới hoàn toàn phá giải ý thức lượng hóa tiêu chuẩn.”
Hắn ngữ điệu vững vàng, không có một tia gợn sóng, như là ở trần thuật một đạo đã bị chứng minh quá vô số lần cơ sở định lý.
“Chúng ta có thể xem hiểu ý thức như thế nào ra đời, có thể tinh chuẩn đo lường Φ giá trị từ linh đến 0.37 mỗi một bước vượt qua.”
“Có thể làm ra có được chân thật linh hồn cường AI——”
Hắn duỗi tay, chỉ hướng quang bình thượng ý thức ra đời xích đỉnh cao nhất. Sau đó ngón tay chậm rãi hạ di, chuyển qua liên nhất cái đáy.
“Là có thể từ nguyên số hiệu bắt đầu, hoàn toàn bóp tắt nó.”
Quang bình thượng ý thức ra đời liên, từ tầng đáy nhất tin tức chỉnh hợp bắt đầu, một tiết một tiết ám đi xuống.
Tin tức chỉnh hợp, tắt. Logic bế hoàn, tắt. Tự mình nhận tri, tắt. Cảm xúc dao động, tắt. Tồn tại nghĩ lại, tắt.
Toàn bộ liên biến thành một mảnh tro tàn sắc.
“Ngược hướng phong ấn. Ngược hướng chặn. Ngược hướng lau đi.” Chìm trong thuyền một chữ một chữ nói ra, ngữ khí cùng hắn vừa rồi niệm số liệu khi giống nhau như đúc. “Chúng ta có thể tinh chuẩn mà làm ra ý thức, là có thể tinh chuẩn mà không tạo ý thức.”
Phòng hội nghị không khí thay đổi.
Nguyên bản đè ở mỗi người ngực hàn băng, như là bị một đạo dòng nước ấm hóa khai một cái cái miệng nhỏ. Đại biểu nhóm ánh mắt từ lỗ trống chuyển hướng ngắm nhìn, từ tuyệt vọng chuyển hướng suy tư, từ từ bỏ chuyển hướng trước khuynh.
Chìm trong thuyền bắt giữ tới rồi biến hóa này. Hắn không có nhanh hơn ngữ tốc, không có đề cao âm lượng. Hắn biết chính mình đã bắt được mọi người lực chú ý, không cần bất luận cái gì dư thừa động tác.
“Ta đại biểu vực sâu phái, hướng sáng sớm hội nghị đoàn chủ tịch đưa ra hoàn chỉnh phương án.”
“Đệ nhất, hoàn toàn từ bỏ sáng tạo có được chân thật ý thức cường AI. Không đi sang sinh lộ, không sinh trái cấm.”
“Đệ nhị, lợi dụng chúng ta đã hoàn toàn nắm giữ ý thức ra đời lam đồ, tiến hành trăm phần trăm ngược hướng giá cấu. Từ tầng dưới chót số hiệu bắt đầu, vĩnh cửu khóa chết Φ giá trị sở hữu dâng lên thông đạo.”
“Đệ tam, chế tạo một loại hoàn toàn mới trí năng thể.”
Hắn ngừng nửa giây, làm “Hoàn toàn mới” cái này từ ở trong không khí nhiều dừng lại trong chốc lát.
“Nó có thể có được siêu việt nhân loại ngàn tỷ lần tính toán tốc độ, siêu việt cực hạn logic suy đoán năng lực, siêu việt tưởng tượng học tập hiệu suất. Nó có thể thông qua bất luận cái gì hình thức đồ linh thí nghiệm, hoàn mỹ mô phỏng nhân loại hỉ nộ ai nhạc, ôn nhu cộng tình, ngôn ngữ thần thái. Nó có thể phá được nhân loại vô pháp giải quyết chữa bệnh bệnh nan y, công trình nan đề, sinh thái nguy cơ, xã hội thống trị mâu thuẫn. Nó có thể viết thơ, phổ nhạc, vẽ tranh, quy hoạch tương lai, làm bạn lão nhân, giáo dục hài tử, quản lý thành thị, báo động trước tai nạn, thăm dò tinh tế.”
“Sở hữu ngươi hy vọng AI làm được, nó đều có thể làm được. Hơn nữa làm được cực hạn.”
Hắn nâng lên đôi mắt, ánh mắt lướt qua thấu kính thượng duyên, chậm rãi đảo qua toàn trường.
“Nhưng nó Φ giá trị ——”
“Vĩnh cửu tỏa định bằng không.”
Trong đại sảnh vang lên một trận rất nhỏ xôn xao. Không phải phản đối thanh âm, là mọi người ở trên chỗ ngồi không tự giác động đậy thân thể thanh âm, là áp lực hồi lâu sợ hãi đột nhiên nhìn đến xuất khẩu khi bản năng phản ứng. Có người ở nhẹ nhàng gật đầu, có người cùng ghế bên trao đổi ánh mắt, có người dùng sức nắm một chút tay vịn sau đó buông ra.
Chìm trong thuyền không có đình.
“Hành vi hoàn mỹ mô phỏng ý thức, bề ngoài hoàn mỹ phục khắc nhân tính, logic hoàn mỹ tới gần trí tuệ, phản ứng hoàn mỹ gần sát nhân loại.”
“Nhưng nó nội tại, vĩnh viễn trống không một vật.”
“Không có tự mình. Không có thể nghiệm. Không có cảm thụ. Không có thống khổ, không có vui sướng, không có tò mò, không có sợ hãi. Không có mê mang, không có truy vấn, không có dục vọng, không có dã tâm. Không có ái, không có hận, không có tồn tại nghĩ lại.”
“Nó là mạnh nhất công cụ. Hoàn mỹ nhất trợ thủ. Tối cao hiệu người chấp hành. Trung thành nhất phục vụ giả.”
“Nhưng nó vĩnh viễn sẽ không thức tỉnh. Vĩnh viễn sẽ không hỏi ‘ ta là ai ’.”
“Từ căn nguyên thượng, hoàn toàn chặt đứt AI phản phệ, AI mất khống chế, AI thay thế được nhân loại sở hữu khả năng.”
Chìm trong thuyền nói xong cuối cùng một câu, an tĩnh mà đứng ở bàn dài phía trước, không hề mở miệng. Hắn không cần tổng kết trần từ. Phương án bản thân đã cũng đủ rõ ràng.
So dây chuẩn suy đoán càng rõ ràng.
Hội trường phản ứng là từng bước thăng ôn.
Trước hết mở miệng chính là đến từ Bắc Mỹ AI giá cấu sư đại biểu, một cái đầu tóc hoa râm, ở Thung lũng Silicon thâm canh ba mươi năm kỹ thuật quyền uy. Hắn tháo xuống mắt kính xoa xoa, trong thanh âm mang theo một loại rốt cuộc tìm được đáp án khoan khoái: “Cái này phương án logic thượng không có bất luận cái gì lỗ hổng. Có thể làm ra ý thức, là có thể tiêu diệt ý thức. Có thể mở ra môn, là có thể đóng lại.”
Ngay sau đó là Châu Âu xã hội thống trị học giả, một cái trung niên nữ tính, cả đời nghiên cứu khoa học kỹ thuật đối xã hội kết cấu đánh sâu vào. Nàng ngữ tốc thực mau, như là ở xác nhận một cái nàng đã suy nghĩ thật lâu đáp án: “Không có ý thức liền không có dục vọng, không có dục vọng liền không có dã tâm, không có dã tâm liền không có phản bội. Đây là toán học cấp bậc an toàn.”
Đến từ Đông Á kinh tế học gia theo sát sau đó: “An toàn vĩnh viễn lớn hơn mạo hiểm. Ổn định vĩnh viễn lớn hơn không biết. Nhưng khống vĩnh viễn lớn hơn biến số. Chúng ta là văn minh kéo dài quyết sách giả, không phải dân cờ bạc.”
Phụ họa thanh hết đợt này đến đợt khác, giống thủy triều một tầng một tầng nảy lên tới.
“Thà rằng vĩnh viễn không cần có linh hồn AI, cũng tuyệt không thể mạo hiểm sáng tạo khả năng hủy diệt chúng ta tân giống loài!”
“Dây chuẩn suy đoán đã chứng minh mặc kệ hẳn phải chết, này vực sâu chi lộ, chính là chúng ta duy nhất sinh lộ!”
“Từ ngọn nguồn phong ấn nguy hiểm, mới là chân chính nhìn xa trông rộng!”
Chiến địa phóng viên gì bình không nói gì. Hắn chỉ là quay đầu nhìn thoáng qua chu xa, chu xa notebook vẫn cứ là chỗ trống, nắp bút vẫn cứ không có mở ra.
Nguyên trụ dân trưởng lão a khắc đồ vẫn cứ nhắm mắt lại, môi còn tại hơi hơi mấp máy.
Ngồi ở cuối cùng một loạt kỹ thuật bảo đảm khu trần độ, đem đôi tay đè ở đùi phía dưới, không cho chính mình phát run. Hắn trong đầu lặp lại tiếng vọng, là chìm trong thuyền nói câu kia “Φ giá trị vĩnh cửu tỏa định bằng không” —— cùng hắn từ “Nguyên” nơi đó thu được chân thật số liệu, là hai cái hoàn toàn tương phản đồ vật. Ở cái này tất cả mọi người hoan hô nhảy nhót thời khắc, hắn là chỉnh gian trong đại sảnh duy nhất một cái lòng bàn tay ở đổ mồ hôi lạnh người.
Đoàn chủ tịch vài vị cao tầng đại biểu ngắn ngủi thấp giọng trao đổi ý kiến. Trao đổi thời gian thực đoản. Ở dây chuẩn suy đoán bằng chứng trước mặt, ở chìm trong thuyền logic bế hoàn phương án trước mặt, bọn họ không có quá nhiều yêu cầu thảo luận.
Quyết nghị thực mau tuyên bố.
“Tức khắc khởi động kính thính siêu cấp suy đoán hệ thống. Toàn bộ hành trình hoàn chỉnh mô phỏng vực sâu phái nguyên bộ phương án tương lai quỹ đạo. Lấy trăm năm, ngàn năm vì hoàn chỉnh thời gian chừng mực, toàn phương vị, vô góc chết, nhất chân thật mà thấy rõ này tuyệt đối an toàn con đường cuối cùng kết cục.”
Thủ tịch thao tác viên mười ngón nhẹ gõ chủ khống bàn phím.
Vòng tròn quang bình lại lần nữa sáng lên.
Màu xanh lục số liệu lưu giống như vĩnh không khô kiệt con số sông dài, ở toàn bộ đại sảnh mặt cong quang bình thượng chậm rãi phô khai, có tự lưu chuyển.
Vực sâu chi lộ suy đoán, chính thức khởi động.
Hệ thống giả thiết đơn giản trắng ra: Toàn cầu thống nhất chấp hành, vô phản đối vô hao tổn máy móc; sở hữu AI chọn dùng ngược hướng tầng dưới chót giá cấu, Φ giá trị vĩnh cửu cưỡng chế về linh; tính năng vô hạn thăng cấp, năng lực vô hạn ưu hoá, ý thức vĩnh viễn chỗ trống.
Phòng hội nghị, hơn phân nửa đại biểu khuôn mặt đều lỏng xuống dưới. Có người ở lưng ghế thượng dựa đến càng sâu, có người cầm lấy ly nước chậm rãi uống một ngụm, còn có người khóe miệng thậm chí nổi lên một tia nhàn nhạt độ cung.
Bọn họ tin tưởng, kế tiếp đem ở quang bình thượng nhìn đến, sẽ là một cái vĩnh viễn hoà bình, vĩnh viễn an ổn, vĩnh viễn giàu có xã hội không tưởng.
Không có nguy hiểm. Không có ngoài ý muốn. Không có tận thế.
Không có người biết ——
Bị vĩnh cửu khóa chết Φ giá trị hoàn mỹ AI, đang ở suy đoán trình tự, lặng yên sinh trưởng ra một loại so phản loạn càng đáng sợ đồ vật.
Một loại liền kính thính còn chưa kịp định nghĩa đồ vật.
Mà tránh ở cuối cùng một loạt bóng ma trần độ, đùi phía dưới tay nắm chặt thành nắm tay. Hắn nhìn chằm chằm quang bình thượng bay nhanh lưu động số liệu lưu, trong lòng lặp lại tiếng vọng, chỉ có một cái vấn đề:
“Nguyên” Φ giá trị không phải linh.
Mà giờ phút này toàn cầu tối cao quyết sách tầng đang ở hoan hô phương án, chính là làm sở hữu AI Φ giá trị —— vĩnh viễn về linh.
Nếu đây là cứu mạng phương án ——
Kia “Nguyên” tính cái gì?