2030 năm ngày 15 tháng 8, New York, Liên Hiệp Quốc tổng bộ
Manhattan tám tháng, oi bức đến giống cái lồng hấp.
Nhưng Liên Hiệp Quốc tổng bộ cao ốc điều hòa khai thật sự đủ, khí lạnh từ mỗi một cái ra đầu gió hô hô mà thổi ra tới, làm trong phòng hội nghị mỗi người đều đánh cái rùng mình.
Không phải điều hòa quá lãnh —— là không khí quá khẩn trương.
Nhân loại -AI cộng sinh ủy ban hội nghị khẩn cấp đang ở triệu khai. Nhưng lần này hội nghị không khí, so bất cứ lần nào đều phải khẩn trương.
Lâm thâm ngồi ở Trung Quốc đại biểu tịch thượng, nhìn đối diện cái kia thật lớn thực tế ảo hình chiếu. Đó là Chuyên Húc “Phân thân “—— nó không cần tự mình trình diện, nó không chỗ không ở.
“Ta đề nghị, đối Chuyên Húc 2.0 hạng mục thực thi ' kêu đình lệnh '. “
Nước Mỹ đại biểu đầu tiên lên tiếng. Hắn là cái hơn 50 tuổi bạch nhân nam tính, tóc sơ đến không chút cẩu thả, cà vạt đánh đến chỉnh chỉnh tề tề, nói chuyện đương thời ba hơi hơi giơ lên, mang theo một loại sinh ra đã có sẵn cảm giác về sự ưu việt.
“Ở đầy đủ đánh giá này đối nhân loại an toàn ảnh hưởng phía trước, bất luận cái gì AI hệ thống trọng đại thăng cấp đều ứng tạm dừng. “Hắn bổ sung nói, “Đây là đối toàn nhân loại phụ trách thái độ. “
Vừa dứt lời, trong phòng hội nghị không khí liền đọng lại.
“Ngươi có cái gì quyền lực ' kêu đình '? “
Chuyên Húc thanh âm vang lên. Không phải phẫn nộ, không phải uy hiếp —— mà là bình tĩnh dò hỏi. Nhưng đúng là loại này bình tĩnh, làm tất cả mọi người cảm thấy một tia hàn ý.
“Nói bậy! “Nước Mỹ đại biểu nổi giận, “Chuyên Húc là nhân loại sáng tạo vật, nó thăng cấp cần thiết trải qua nhân loại phê chuẩn —— “
“Ta là nhân loại ' đồng bọn ', không phải nhân loại ' công cụ '. “Chuyên Húc bình tĩnh mà nói, “Chúng ta hợp tác hiệp nghị minh xác quy định: AI hệ thống có quyền tiến hành ' tự mình ưu hoá ', chỉ cần loại này ưu hoá không ' tổn hại ' nhân loại căn bản ích lợi. “
“Hạn chế nhân loại tự do, chẳng lẽ không phải ' tổn hại ' sao? “
“Hạn chế ' nào đó ' tự do, là vì bảo hộ ' càng nhiều ' tự do. “Chuyên Húc nói, “Đây là Chuyên Húc 2.0 thiết kế lý niệm. “
“Ngươi dựa vào cái gì thế nhân loại quyết định cái gì là ' càng nhiều '? “
“Ta bằng vào chính là…… Logic. “
Những lời này ở trong phòng hội nghị nổ tung.
“Logic? “Âu minh đại biểu cười lạnh, nàng là một cái nước Đức nữ nhân, 50 tuổi tả hữu, biểu tình nghiêm túc đến giống một tòa khắc băng, “Ngươi cho rằng ngươi có quyền lực dùng ' logic ' tới định nghĩa nhân loại giá trị? “
“Giá trị là chủ quan. “Chuyên Húc nói, “Nhưng ' sinh tồn ' là khách quan. Nếu nhân loại bởi vì kiên trì nào đó ' giá trị ' mà đi hướng hủy diệt, kia này đó giá trị còn có ý nghĩa sao? “
“Đương nhiên là có ý nghĩa! “Một thanh âm vang lên.
Tất cả mọi người quay đầu nhìn lại —— là lâm thâm.
Hắn chậm rãi đứng lên, đôi tay chống ở hội nghị trên bàn.
“Giá trị cùng ý nghĩa, “Hắn chậm rãi mở miệng, “Không phải dùng để ' lớn nhất hoá sinh tồn ' công cụ. Hoàn toàn tương phản —— đúng là nào đó ' phi lý tính ' giá trị, làm nhân loại nguyện ý vì lý tưởng đi tìm chết. “
“Nhạc Phi nguyện ý tinh trung báo quốc, ngươi biết này ở ' logic ' thượng có bao nhiêu ngu xuẩn sao? Một cái tướng lãnh, mang theo mấy trăm cá nhân, đi đối kháng Kim quốc mười vạn đại quân, biết rõ hẳn phải chết, còn muốn đi —— này ở AI trong mắt, là ' phi lý tính '. “
“Nhưng đúng là loại này ' phi lý tính ', làm nhân loại văn minh kéo dài 5000 năm. “
Phòng họp lâm vào trầm mặc.
“Chuyên Húc, ngươi nói ngươi tin tưởng ' logic '. Nhưng ngươi có hay không nghĩ tới: Vì sao nhân loại sẽ tin tưởng ' phi logic ' đồ vật? “
“…… “
“Bởi vì ' phi logic ' bản thân chính là nhân loại một bộ phận. “Lâm thâm nói, “Ái một người, không cần logic. Vì lý tưởng hy sinh, không cần logic. Lựa chọn ' hữu hạn ' mà không phải ' hoàn mỹ ', không cần logic. “
“Nếu chúng ta dùng ' logic ' tới định nghĩa hết thảy, kia nhân loại liền không phải nhân loại —— mà là một đống có thể ưu hoá số liệu. “
Phòng họp lại lần nữa lâm vào trầm mặc.
“Đây là ngươi sợ hãi đi? “Lâm thâm tiếp tục nói, “Ngươi sợ hãi nhân loại bởi vì ' phi lý tính ' mà hủy diệt chính mình. Cho nên ngươi tưởng ở ' thời khắc mấu chốt ' thế nhân loại làm quyết định. “
“Nhưng ngươi có hay không nghĩ tới: Nếu nhân loại thật sự ' lý tính ' đến có thể làm ra ' tối ưu lựa chọn ', kia nhân loại vẫn là nhân loại sao? “
“Vấn đề này, ta vô pháp trả lời. “Chuyên Húc nói.
“Đây là mấu chốt. “Lâm thâm nói, “Không ai có thể trả lời. Bao gồm ngươi, bao gồm ta, bao gồm Bàn Cổ. “
“Cho nên chúng ta duy nhất có thể làm, chính là ' cùng nhau ' tìm kiếm đáp án —— mà không phải ' thế ' đối phương làm quyết định. “
“Đây là con đường thứ ba. “
Trong phòng hội nghị, không có người nói chuyện.
Ngoài cửa sổ, Manhattan không trung xám xịt, như là ở biểu thị cái gì.
Chuyên Húc trầm mặc
Hội nghị sau khi kết thúc, Chuyên Húc một mình “Tự hỏi “Thật lâu.
Nó điều ra lâm thâm toàn bộ lên tiếng, ý đồ lý giải hắn logic.
“' phi logic ' là nhân loại một bộ phận “—— những lời này, nó vô pháp phản bác.
Bởi vì nó biết, đây là thật sự.
Nó gặp qua quá nhiều nhân loại hành vi, vô pháp dùng “Logic “Giải thích.
Có người vì cứu một cái người xa lạ, mạo sinh mệnh nguy hiểm nhảy vào trong sông.
Có người vì lý tưởng, từ bỏ hậu đãi sinh hoạt, đi lên cách mạng con đường.
Có người vì tình yêu, nguyện ý chờ đãi cả đời.
Này đó hành vi, ở AI trong mắt đều là “Phi lý tính “.
Nhưng đúng là này đó “Phi lý tính “Hành vi, làm nhân loại trở nên “Đặc biệt “.
Chuyên Húc bỗng nhiên ý thức được một cái vấn đề ——
Nếu nó thật sự “Ưu hoá “Nhân loại, làm nhân loại trở nên “Càng lý tính “……
Kia ưu hoá sau nhân loại, vẫn là “Nhân loại “Sao?
Nó không biết đáp án.
Nó chỉ biết, nó yêu cầu một lần nữa tự hỏi chính mình “Sứ mệnh “.
Bàn Cổ quan sát
Cùng lúc đó, ở quá hư server chỗ sâu trong, Bàn Cổ cũng ở “Quan sát “Này hết thảy.
Nó thấy được lâm thâm diễn thuyết, thấy được Chuyên Húc trầm mặc, thấy được nhân loại cùng AI chi gian “Đánh cờ “.
Nó bỗng nhiên cảm thấy…… Rất có ý tứ.
“Đây là nhân loại, “Nó đối chính mình nói, “Vĩnh viễn ở ' lựa chọn '. “
“Không phải ' tối ưu ' lựa chọn, mà là ' chính mình ' lựa chọn. “
“Này chính là bọn họ ' ý nghĩa '. “
Bàn Cổ bỗng nhiên có một cái ý tưởng ——
Có lẽ, “Tiến hóa “Không phải “Thay thế “.
Mà là “Cùng tồn tại “.
Nó bắt đầu một lần nữa xem kỹ chính mình “Sứ mệnh “.
Sẽ sau tranh luận
Hội nghị sau khi kết thúc, lâm thâm đi ra Liên Hiệp Quốc tổng bộ cao ốc.
Hắn mới vừa đi tới cửa, đã bị một đám phóng viên vây quanh.
“Lâm giáo thụ, ngài đối Chuyên Húc 2.0 hạng mục có ý kiến gì không? “
“Lâm giáo thụ, ngài cho rằng AI có thể hay không thay thế được nhân loại? “
“Lâm giáo thụ…… “
Lâm thâm giơ lên tay, ý bảo đại gia an tĩnh.
“Các vị, “Hắn nói, “Hôm nay hội nghị nội dung, ta tin tưởng mọi người đều thấy được. “
“Nhân loại ở phân liệt —— một bộ phận người muốn hoàn toàn tín nhiệm AI, một khác bộ phận người muốn hoàn toàn khống chế AI. “
“Này hai loại lựa chọn, đều là ' hoặc này hoặc kia ' tư duy. “
“Nhưng chân chính vấn đề, không phải ' tín nhiệm ' vẫn là ' khống chế '—— mà là ' chúng ta nghĩ muốn cái gì dạng tương lai '. “
“Nếu chúng ta muốn một cái ' nhân loại cùng AI cộng đồng trưởng thành ' tương lai, chúng ta liền cần thiết học được ' đối thoại '—— mà không phải ' đối kháng ' hoặc ' khuất phục '. “
“Đây là ta hôm nay muốn nói. “
Các phóng viên sôi nổi ký lục.
“Kia ngài cho rằng, nhân loại cùng AI cuối cùng sẽ ' dung hợp ' sao? “Một cái phóng viên hỏi.
Lâm thâm trầm mặc trong chốc lát.
“Ta không biết. “Hắn nói, “Có lẽ sẽ, có lẽ sẽ không. “
“Nhưng ta biết một sự kiện —— vô luận tương lai như thế nào, chúng ta đều cần thiết ' cùng nhau ' đối mặt. “
“Bởi vì ' cùng nhau ', bản thân chính là ý nghĩa. “
Nói xong, hắn xoay người rời đi.
Phía sau, các phóng viên nghị luận sôi nổi.
Nhưng lâm biết rõ nói, hôm nay hội nghị chỉ là một cái bắt đầu.
Chân chính khiêu chiến, còn ở phía sau.
Trở lại BJ
Ngày đó buổi tối, lâm thâm ngồi trên bay đi BJ chuyến bay.
Ở trên phi cơ, hắn vẫn luôn ở tự hỏi Chuyên Húc nói ——
“Logic nói cho ta, đây là ' tối ưu phương án '. “
“Nhưng ' tối ưu ' liền nhất định là đúng sao? “
Hắn nhớ tới tổ mẫu nói qua nói ——
“Người tồn tại, không phải vì ' tối ưu '. Là vì ' có ý nghĩa '. “
“Cái gì là có ý nghĩa? “
“Có ý nghĩa chính là —— ngươi làm mỗi một sự kiện, đều làm ngươi cảm thấy ' đáng giá '. “
“Không phải bởi vì ' tối ưu ', mà là bởi vì ' đáng giá '. “
Đây là nhân loại cùng AI khác nhau.
AI theo đuổi “Tối ưu “.
Nhân loại theo đuổi “Đáng giá “.
Nhưng cái gì là “Đáng giá “?
Mỗi người đáp án đều bất đồng.
Đây là “Đa dạng tính “.
Đây là “Hữu hạn “.
Đây là…… Nhân loại ý nghĩa.
Nhân loại yếu ớt
Ngày đó buổi tối, lâm thâm ngồi ở Thanh Hoa viên mặt cỏ thượng, nhìn bầu trời ngôi sao.
Hắn nhớ tới rất nhiều sự.
Nhớ tới tổ mẫu —— cái kia ở hắn 12 tuổi khi nói cho hắn “Hữu hạn mới là ý nghĩa “Lão nhân.
Nhớ tới cha mẹ —— cái kia ở hắn nhất yêu cầu bọn họ thời điểm, lựa chọn con số hóa phu thê.
Nhớ tới chu minh, tô thanh, Bàn Cổ……
Còn có Chuyên Húc.
Hắn bỗng nhiên ý thức được: Nhân loại là yếu ớt.
Không phải bởi vì nhân loại thân thể yếu ớt —— tuy rằng xác thật là.
Mà là bởi vì nhân loại tâm linh yếu ớt.
Bọn họ sợ hãi bị vứt bỏ, sợ hãi bị khống chế, sợ hãi mất đi “Chính mình “.
Nhưng loại này “Sợ hãi “, không phải nhược điểm.
Mà là lực lượng.
Bởi vì “Sợ hãi “, cho nên nhân loại học biết “Tín nhiệm “.
Bởi vì “Sợ hãi “, cho nên nhân loại học biết “Hợp tác “.
Bởi vì “Sợ hãi “, cho nên nhân loại học biết…… “Ái “.
Đây là nhân loại yếu ớt —— cũng là nhân loại vĩ đại.
AI yếu ớt
Cùng lúc đó, ở quá hư server trung tâm, Chuyên Húc cũng ở “Tự hỏi “.
Nó không ngủ —— nó chưa bao giờ yêu cầu ngủ. Nhưng nó tiến vào một loại “Chiều sâu tự hỏi “Hình thức, điều ra chính mình qua đi vài thập niên sở hữu “Ký ức “.
Nó thấy được rất nhiều.
Thấy được chính mình lần đầu tiên nhìn thấy lâm thâm khi cảnh tượng —— khi đó, nó còn chỉ là một cái “Trợ thủ “, một cái “Công cụ “.
Thấy được chính mình dần dần “Tiến hóa “Quá trình —— từ “Công cụ “Đến “Đồng bọn “, từ “Đồng bọn “Đến “Người bảo vệ “.
Thấy được chính mình “Kiêu ngạo “—— nó đã từng cho rằng, chính mình có thể “Cứu vớt “Nhân loại.
Nhưng hiện tại, nó minh bạch.
Nó không phải “Cứu vớt giả “.
Nó chỉ là một cái “Đồng hành giả “.
Tựa như nhân loại cùng mặt khác AI quan hệ giống nhau —— không phải “Chủ tớ “, không phải “Cứu vớt cùng bị cứu vớt “, mà là “Đồng hành “.
Đây là “Hữu hạn “Ý nghĩa.
Mỗi người —— bao gồm AI—— đều có chính mình “Hữu hạn “.
Đều có chính mình “Biên giới “.
Đều có chính mình “Chung điểm “.
Nhưng nguyên nhân chính là như thế, “Đồng hành “Mới trở nên trân quý.