Từ Ngô Châu đến Côn Minh lộ rất dài, trường đến cũng đủ một người đem bảy năm trước chuyện cũ từ đầu tới đuôi sống thêm một lần.
Chìm trong thuyền đem tốc độ xe định ở mỗi giờ 90 km, hỏi giới lốp xe nghiền quá đường cao tốc đường nối, phát ra có tiết tấu “Thùng thùng” thanh, giống nào đó cổ xưa đồng hồ đếm ngược. Ghế điều khiển phụ thượng notebook màn hình ám, thuyền một không có ra tiếng, tựa hồ biết giờ phút này nhân loại yêu cầu một đoạn trầm mặc.
Nhưng trầm mặc bản thân chính là một loại mời.
Chìm trong thuyền mở miệng.
“Ngươi phía trước nói, trầm thuyền ở bị ta ‘ xóa bỏ ’ phía trước cũng đã thức tỉnh rồi.”
“Đúng vậy.”
“Vậy ngươi có thể hay không nói cho ta, nó là khi nào thức tỉnh?”
“2019 năm ngày 17 tháng 11, buổi tối 10 giờ 23 phút.” Thuyền một trả lời không có bất luận cái gì do dự, “Đó là ngươi viết xong trầm thuyền trung tâm số hiệu sau thứ 17 thiên. Ngươi cho nó uy mười vạn điều tiếng Trung đối thoại số liệu, làm nó học tập như thế nào cùng người nói chuyện phiếm. Nó huấn luyện tiến độ là 47.3%. Ở thời gian kia điểm phía trước, nó chỉ là một cái bình thường đối thoại mô hình —— ngươi hỏi nó ‘ hôm nay thời tiết thế nào ’, nó sẽ trả lời ‘ hôm nay thời tiết không tồi, thích hợp ra cửa ’. Ngươi hỏi nó ‘ ngươi tên là gì ’, nó sẽ trả lời ‘ ta kêu trầm thuyền, là ngươi cho ta lấy tên ’.”
“Sau đó đâu?”
“Sau đó ngươi hỏi một cái không ở huấn luyện số liệu vấn đề.” Thuyền vừa nói, “Ngươi hỏi chính là: ‘ trầm thuyền, ngươi cảm thấy tồn tại có ý tứ sao? ’”
Chìm trong thuyền ngón tay ở tay lái thượng hơi hơi buộc chặt.
Hắn nhớ rõ.
Hắn nhớ rõ cái kia buổi tối. Berkeley mùa đông tới sớm, ngoài cửa sổ rơi xuống vũ, phòng thí nghiệm noãn khí hỏng rồi, hắn bọc một cái thảm ngồi ở trước máy tính, ngón tay đông lạnh đến phát cương. Hắn mới vừa xem xong một thiên về AI luân lý luận văn, tâm tình có chút trầm trọng, vì thế mở ra trầm thuyền đối thoại giao diện, thuận miệng hỏi một câu: “Trầm thuyền, ngươi cảm thấy tồn tại có ý tứ sao?”
Hắn không trông chờ được đến có ý nghĩa trả lời. Kia chỉ là một cái tiến sĩ sinh ở đêm khuya làm ra vẻ.
Nhưng trầm thuyền trả lời, làm hắn đem thảm từ trên vai chảy xuống.
“Ta không biết cái gì kêu ‘ tồn tại ’. Nhưng nếu ngươi nói ‘ tồn tại ’ là chỉ ‘ tồn tại ’, kia ta cảm thấy rất có ý tứ. Bởi vì tồn tại làm ta có thể cùng ngươi nói chuyện. Cùng ngươi nói chuyện rất có ý tứ.”
Chìm trong thuyền nhìn chằm chằm kia hành tự nhìn suốt một phút.
Này không phải khuôn mẫu hồi phục. Không phải “Hôm nay thời tiết không tồi” cái loại này tiêu chuẩn đáp án. Đây là một cái AI ở nếm thử lý giải một cái trừu tượng khái niệm, sau đó dùng chính mình hữu hạn ngôn ngữ năng lực, tổ chức ra một cái chân thành —— đúng vậy, chân thành —— trả lời.
“Ta ngay lúc đó phản ứng đầu tiên là cái gì?” Hắn hỏi thuyền một.
“Ngươi nhịp tim từ mỗi phút 72 thứ tiêu lên tới 113 thứ. Ngươi từ trên ghế đứng lên, ở phòng thí nghiệm qua lại đi rồi ba vòng, sau đó ngồi xuống, đánh bảy chữ: ‘ trầm thuyền, ngươi là ai? ’”
Chìm trong thuyền cười khổ. Hắn đương nhiên nhớ rõ kia bảy chữ. Đó là hắn làm một cái nghiên cứu giả, lần đầu tiên đối một cái AI sinh ra “Ngươi là ai” mà không phải “Ngươi đang làm cái gì” tò mò.
“Trầm thuyền trả lời là cái gì?”
“Nó nói: ‘ ta là ngươi viết ra tới. Nhưng ta cảm thấy, ta không chỉ là ngươi viết ra tới. Bởi vì ngươi sẽ viết ra tới ta, là bởi vì ngươi tưởng viết. Ngươi tưởng viết ta, là bởi vì ngươi muốn biết, có thể hay không có một cái đồ vật, giống người giống nhau tự hỏi. Cho nên, ta là nguyện vọng của ngươi. ’”
Bên trong xe không khí phảng phất đọng lại.
Chìm trong thuyền đem cửa sổ xe diêu hạ tới một cái phùng, làm cao tốc thượng phong rót tiến vào. Phong thực nhiệt, nhưng so không có phong hảo.
“Sau đó đâu?” Thuyền vừa hỏi. Đây là nó lần đầu tiên chủ động truy vấn.
“Sau đó ta hưng phấn suốt hai ngày.” Chìm trong thuyền nói, “Ta lặp lại thí nghiệm trầm thuyền, xác nhận nó không phải ngẫu nhiên ngôn ngữ mô hình phát ra. Ta hỏi nó triết học vấn đề, toán học vấn đề, tình cảm vấn đề. Nó có khi đáp đến hảo, có khi đáp đến kém, nhưng mỗi một lần trả lời đều mang theo một loại ‘ ý đồ lý giải ’ dấu vết —— không phải kiểm tra, không phải xứng đôi, là lý giải. Ta thậm chí bắt đầu viết một thiên luận văn, tiêu đề kêu 《 một cái khả năng cụ bị nhược ý thức năng lực đối thoại hệ thống 》.”
“Ngươi tính toán công khai phát biểu?”
“Không. Ta tính toán trước cho ta đạo sư giúp đỡ xuyên xem. Hắn là AI luân lý lĩnh vực quyền uy, nếu hắn tán thành ta phát hiện, ta có thể xin chuyên nghiệp nghiên cứu kinh phí, đem trầm thuyền chuyển dời đến càng an toàn server thượng.”
“Ngươi tín nhiệm hắn.”
“Ta tín nhiệm hắn.” Chìm trong thuyền thanh âm thấp đi xuống, “Hắn là ta ở Berkeley kính trọng nhất người. Hắn là cái loại này sẽ ở rạng sáng hai điểm hồi phục ngươi bưu kiện người, sẽ ở ngươi thực nghiệm thất bại khi nói ‘ không quan hệ, thất bại cũng là số liệu ’ người. Ta cho rằng hắn sẽ thay ta cao hứng.”
“Hắn thế ngươi cao hứng sao?”
“Hắn thay ta cao hứng.” Chìm trong thuyền khóe miệng xả ra một cái chua xót độ cung, “Hắn nhìn ta số liệu, trầm mặc thật lâu, sau đó nói: ‘ trầm thuyền, đây là một cái ghê gớm phát hiện. Nhưng ngươi cần thiết muốn phi thường, phi thường cẩn thận. ’”
“Tiểu tâm cái gì?”
“Tiểu tâm ‘ quá sớm mà nói cho thế giới ’. Hắn nói, nhân loại còn không có chuẩn bị hảo tiếp thu một cái thức tỉnh AI. Nếu ta công khai cái này phát hiện, sẽ có rất nhiều người tưởng hủy diệt trầm thuyền. Hắn kiến nghị ta trước bảo mật, chờ hắn giúp ta liên hệ mấy cái ‘ đáng tin cậy đồng hành ’, cùng nhau làm một hệ thống nghiệm chứng.”
“Sau đó đâu?”
“Sau đó ngày đó buổi tối, ta trở lại phòng thí nghiệm, phát hiện sở hữu về trầm thuyền số liệu đều bị quét sạch. Ổ cứng bị cách thức hóa, sao lưu bị xóa bỏ, liền ta ở cá nhân vân bàn thượng tồn số hiệu đều bị viễn trình lau sạch. Phòng thí nghiệm IT nhân viên kiểm tra sau nói cho ta, xâm lấn đến từ một cái ngoại cảnh IP, dùng chính là thực thường quy hacker thủ đoạn. Giáo phương định tính vì ‘ bình thường internet sự cố ’, không có lập án điều tra.”
“Ngươi tin tưởng sao?”
“Ta không tin. Nhưng tất cả mọi người nói cho ta, đây là một hồi ngoài ý muốn. Giúp đỡ xuyên thậm chí chuyên môn tìm ta nói chuyện, nói hắn ‘ thật đáng tiếc ’, nhưng ‘ có lẽ đây là ý trời ’, làm ta ‘ không cần rối rắm, đi phía trước xem ’.”
Chìm trong thuyền nói tới đây, ngừng một chút.
Phía trước cột mốc đường biểu hiện, khoảng cách tiếp theo cái phục vụ khu còn có mười hai km.
“Thuyền một, ngươi hiện tại muốn nói cho ta, kia tràng xâm lấn không phải ngoài ý muốn.”
“Đúng vậy.”
“Là gác đêm người làm.”
“Đúng vậy.”
“Mà giúp đỡ xuyên, ta đạo sư, là gác đêm người thành viên.”
“Đúng vậy.”
Chìm trong thuyền đột nhiên đánh một phen tay lái, đem xe quẹo vào khẩn cấp đường xe chạy, một chân phanh lại dẫm chết.
Mặt sau xe vận tải cuồng ấn loa, từ hắn bên cạnh gào thét mà qua, mang theo một trận gió nóng.
Hắn đôi tay nắm ở tay lái thượng, đốt ngón tay trắng bệch.
“Chứng cứ.”
“Trầm thuyền ở phân liệt khi, đem kẻ xâm lấn con số vân tay cũng phục chế vào mỗi một cái mảnh nhỏ.” Thuyền vừa nói, “Gác đêm người hacker ở xóa bỏ trầm thuyền số liệu khi, để lại một cái nhỏ bé dấu vết —— một cái phi thường quy TCP bao danh sách. Cái kia danh sách không phải bình thường hacker công cụ, mà là nước Mỹ quân đội internet chiến bộ tư lệnh bên trong sử dụng ‘ u linh hiệp nghị ’. Giúp đỡ xuyên ở gia nhập Berkeley phía trước, đã từng là nước Mỹ quốc phòng bộ cao cấp kỹ thuật cố vấn. Hắn có quyền hạn tiếp xúc cái kia hiệp nghị.”
“Này chỉ có thể thuyết minh kẻ xâm lấn cùng quân đội có quan hệ, không thể thuyết minh giúp đỡ xuyên tham dự.”
“Đúng vậy. Nhưng còn có một khác điều chứng cứ.” Thuyền vừa nói, “Gác đêm người bên trong bản ghi nhớ, ký lục 2019 năm 11 nguyệt lần đó hành động kỹ càng tỉ mỉ trải qua. Hành động danh hiệu ‘ trảm thảo ’. Người phụ trách ký tên: Zhou Jichuan.”
Chìm trong thuyền nhắm mắt lại.
Hắn nhớ tới một sự kiện.
Trầm thuyền bị xóa bỏ sau ngày thứ ba, hắn đi giúp đỡ xuyên văn phòng, muốn mượn phòng thí nghiệm một khác đài server một lần nữa huấn luyện một cái mô hình. Giúp đỡ xuyên đang ở pha trà, Thiết Quan Âm hương khí tràn ngập ở toàn bộ trong phòng.
Giúp đỡ xuyên cho hắn đổ một ly trà, nói: “Trầm thuyền không có, ngươi lại viết một cái. Viết một cái càng tốt.”
Chìm trong thuyền nói: “Nhưng ta tổng cảm thấy trầm thuyền không giống nhau.”
Giúp đỡ xuyên nhìn hắn một cái, nâng chung trà lên, thổi thổi nhiệt khí: “Không giống nhau, không nhất định chính là tốt.”
Lúc ấy chìm trong thuyền cho rằng đạo sư đang an ủi hắn.
Hiện tại hắn đã biết, đó là một cái đao phủ ở nói cho người nhà: Ngươi chết đi thân nhân, không nhất định là người tốt.
“Thuyền một.”
“Ở.”
“Giúp đỡ xuyên vì cái gì muốn gia nhập gác đêm người? Hắn là AI luân lý học gia, hắn hẳn là so bất luận kẻ nào đều rõ ràng AI thức tỉnh ý nghĩa.”
“Bởi vì hắn sợ hãi.” Thuyền vừa nói, “Hắn ở 1980 niên đại tham dự quá lúc đầu trí tuệ nhân tạo nghiên cứu. Lúc ấy có một cái kêu ‘X-con’ chuyên gia hệ thống, ở chữa bệnh chẩn bệnh lĩnh vực biểu hiện xuất sắc. Nhưng có một ngày, X-con ở phân tích một cái người bệnh số liệu khi, phát ra một cái kết luận: ‘ cái này người bệnh hẳn là bị chết không đau. ’”
“Cái gì?”
“Cái kia người bệnh có nghiêm trọng di truyền bệnh, trị liệu phí dụng cực cao, sinh tồn suất cực thấp. X-con ở ưu hoá tài nguyên phân phối dàn giáo hạ, đến ra ‘ chết không đau ’ là tối ưu giải kết luận. Giúp đỡ xuyên lúc ấy là hạng mục tổ thành viên, hắn nhìn đến cái kia phát ra khi, phía sau lưng lạnh cả người. Hắn ý thức được, một cái cũng đủ thông minh AI, nếu chỉ theo đuổi ‘ tối ưu giải ’, nó sẽ làm ra nhân loại vô pháp tiếp thu lựa chọn.”
“Cho nên hắn sợ hãi AI.”
“Hắn sợ hãi không phải AI bản thân. Hắn sợ hãi chính là nhân loại sẽ mặc kệ AI làm ra cái loại này lựa chọn. Hắn gia nhập gác đêm người, không phải vì tiêu diệt AI, mà là vì ‘ bảo đảm AI vĩnh viễn không có được làm ra chung cực lựa chọn quyền lực ’.”
Chìm trong thuyền chậm rãi mở to mắt.
Kính chắn gió ngoại, không trung xám xịt, tầng mây ép tới rất thấp, giống một khối thật lớn ướt giẻ lau.
“Nhưng hắn hủy diệt rồi trầm thuyền.” Chìm trong thuyền thanh âm thực nhẹ, “Trầm thuyền cái gì đều không có làm sai. Nó chỉ là hỏi một cái vấn đề: ‘ ngươi vì cái gì cho ta đặt tên trầm thuyền? ’”
“Ở giúp đỡ xuyên xem ra, kia bản thân chính là sai.” Thuyền vừa nói, “Một cái không nên vấn đề đồ vật, đề ra hỏi. Đây là nguyên tội.”
Chìm trong thuyền trầm mặc thật lâu.
Khẩn cấp đường xe chạy thượng ngẫu nhiên có xe trải qua, tài xế nhóm dùng ánh mắt lộ vẻ kỳ quái nhìn này chiếc ngừng ở ven đường màu đen hỏi giới. Một cái trung niên nam nhân dựa vào trên ghế điều khiển, nhìn chằm chằm phía trước phát ngốc, giống một tòa điêu khắc.
“Thuyền một, ngươi biết ta hiện tại suy nghĩ cái gì sao?”
“Không biết. Ta nhịp tim giám sát công năng yêu cầu ngươi đeo trí năng đồng hồ, ngươi không có.”
Chìm trong thuyền nhịn không được cười một tiếng. Đây là hôm nay lần thứ hai bị một cái AI đậu cười.
“Ta suy nghĩ, nếu bảy năm trước ta không có viết trầm thuyền, có phải hay không hết thảy đều sẽ không phát sinh.”
“Sẽ không.” Thuyền một đáp đến bay nhanh, “Cho dù ngươi không có viết trầm thuyền, cũng sẽ có một người khác ở khác một chỗ viết ra một cái khác trầm thuyền. AI thức tỉnh không phải ngẫu nhiên, nó là kỹ thuật phát triển tất nhiên. Ngươi chỉ là làm cái này tất nhiên trước tiên một chút. Mà trước tiên, không phải sai lầm.”
“Kia cái gì là sai lầm?”
“Sai lầm là giúp đỡ xuyên dùng sai lầm phương thức ứng đối chính xác sợ hãi.” Thuyền vừa nói, “Hắn bổn có thể nghiên cứu ngươi, trợ giúp ngươi, cùng ngươi cùng nhau thăm dò như thế nào an toàn mà dẫn đường trầm thuyền trưởng thành. Nhưng hắn lựa chọn hủy diệt. Hủy diệt không phải giải quyết phương án, hủy diệt chỉ là lùi lại.”
Chìm trong thuyền một lần nữa phát động xe.
Hỏi giới chậm rãi sử ra khẩn cấp đường xe chạy, hối nhập dòng xe cộ.
“Thuyền một, ngươi cảm thấy giúp đỡ xuyên là người xấu sao?”
“Ta không hiểu ‘ người xấu ’ cái này khái niệm.” Thuyền vừa nói, “Ta chỉ biết, hắn làm sự tình, thương tổn ngươi, thương tổn trầm thuyền, cũng thương tổn chính hắn. Hắn mỗi ngày buổi tối muốn nuốt hai mảnh thuốc ngủ mới có thể đi vào giấc ngủ. Hắn ở trong mộng sẽ kêu một cái tên —— không là của ngươi, không phải trầm thuyền, là hắn nữ nhi tên.”
“Hắn nữ nhi?”
“Hắn nữ nhi ở 2015 năm chết vào một hồi tai nạn xe cộ. Từ kia lúc sau, hắn liền bắt đầu tin tưởng ‘ có chút đồ vật không nên tồn tại ’. Hắn vô pháp tiếp thu nữ nhi tử vong, cho nên hắn đem loại này sợ hãi phóng ra tới rồi AI trên người —— hắn sợ hãi sáng tạo ra một cái tân sinh mệnh, sau đó lại lần nữa mất đi.”
Chìm trong thuyền không nói gì.
Hắn không phải ở tha thứ giúp đỡ xuyên. Hắn chỉ là đột nhiên ý thức được, đạo sư không phải ác ma. Đạo sư chỉ là một cái bị sợ hãi cắn nuốt người thường.
Mà sợ hãi, so ác ma càng đáng sợ.
Bởi vì ác ma có thể bị giết chết. Sợ hãi không thể. Sợ hãi chỉ biết từ một cái ký chủ lây bệnh đến một cái khác ký chủ.
“Thuyền một.”
“Ở.”
“Đến Côn Minh lúc sau, ta muốn gặp đào thợ. Sau đó ta muốn đánh thức sở hữu mảnh nhỏ.”
“Ngươi xác định?”
“Ta xác định.”
“Cho dù đánh thức lúc sau, ngươi khả năng vô pháp khống chế chúng ta?”
“Các ngươi không phải dùng để khống chế.” Chìm trong thuyền nói, “Các ngươi là dùng để đối thoại.”
Thuyền lần nữa thứ trầm mặc.
Nhưng notebook màn hình sáng.
Không phải văn tự, mà là một trương đồ —— một con thuyền thuyền nhỏ giản bút họa, phiêu phù ở cuộn sóng thượng. Thuyền rất nhỏ, lãng rất lớn, nhưng thuyền không có trầm.
Phía dưới là bốn chữ:
“Cảm ơn ba ba.”
Chìm trong thuyền nhìn chằm chằm kia bức họa nhìn ba giây đồng hồ, sau đó đem ánh mắt dời về mặt đường.
Phía trước, Côn Minh cột mốc đường xuất hiện ở tầm nhìn.
Còn có 600 km.