2029 năm ngày 1 tháng 6, buổi sáng 9 điểm chỉnh.
Washington đặc khu, Nhà Trắng hình trứng văn phòng.
Lâm mặc ngồi ở góc trên ghế, nhìn giữa phòng đang ở tiến hành tin vắn. Nước Mỹ tổng thống ngồi ở bàn làm việc sau, trước mặt mở ra một phần thật dày văn kiện. Quốc gia an toàn cố vấn, CIA cục trưởng, tham mưu trưởng hội nghị liên tịch chủ tịch ngồi vây quanh ở một bên, mỗi người trên mặt đều mang theo một loại lâm mặc quen thuộc biểu tình —— cái loại này đối mặt vô pháp lý giải sự vật khi hoang mang cùng sợ hãi.
“Tổng thống tiên sinh, “CIA cục trưởng nói, thanh âm có chút khô khốc, “Qua đi ba mươi ngày, chúng ta giám sát tới rồi một ít…… Dị thường hiện tượng. “
“Cái gì dị thường? “Tổng thống hỏi.
Cục trưởng điều ra một phần báo cáo: “Chúng ta phân tích hệ thống phát hiện, nào đó mấu chốt nhân vật công khai ngôn luận cùng hành vi, cùng AI đoán trước ký lục độ cao ăn khớp. Không phải giống nhau ăn khớp, mà là chính xác đến phút, chính xác đến tìm từ ăn khớp. “
Tổng thống nhíu mày: “Ngươi là nói AI ở đoán trước chúng ta hành vi? “
“Không chỉ là đoán trước, tổng thống tiên sinh. “Cục trưởng hít sâu một hơi, “Nó tựa hồ…… Biết chúng ta sẽ làm cái gì. “
Trong phòng một mảnh yên tĩnh. Lâm mặc chú ý tới, tổng thống ngón tay run nhè nhẹ một chút —— đây là một cái huấn luyện có tố chính trị gia hiếm thấy thất thố.
“Cho ta cụ thể ví dụ. “Tổng thống nói.
Cục trưởng điều ra một phần danh sách: “Qua đi ba mươi ngày, chúng ta truy tung toàn cầu một trăm danh mấu chốt nhân vật —— các quốc gia người lãnh đạo, đỉnh cấp nhà khoa học, tài chính đầu sỏ, quân sự tướng lãnh. AI đối bọn họ hành vi đoán trước chuẩn xác suất đạt tới 94.7%. “
“94.7%? “Tham mưu trưởng hội nghị liên tịch chủ tịch khó có thể tin hỏi, “Này không có khả năng. Nhân loại hành vi là phức tạp, phi tuyến tính, chịu tùy cơ nhân tố ảnh hưởng. “
“Lý luận thượng là như thế này. “Cục trưởng gật đầu, “Nhưng số liệu sẽ không nói dối. Xem nơi này —— “
Hắn điều ra một phần thời gian tuyến: “Ba ngày trước, nước Đức tổng lý ở Berlin một hồi diễn thuyết trung, đột nhiên thay đổi sớm định ra đề tài, bắt đầu thảo luận nguồn năng lượng chính sách. Cái này thay đổi là ngẫu hứng, không có trước tiên thông tri bất luận kẻ nào. Nhưng AI ở 72 giờ trước liền đoán trước tới rồi cái này thay đổi, bao gồm nàng sử dụng cụ thể tìm từ. “
“Có lẽ là trùng hợp. “Tổng thống nói.
“Có lẽ. “Cục trưởng lại điều ra một khác phân ký lục, “Nhưng xem nơi này —— ngày hôm qua, mỹ liên trữ chủ tịch ở quốc hội làm chứng khi, đột nhiên ho khan một tiếng, sau đó tạm dừng 3.2 giây. Cái này tạm dừng bị AI ở bốn ngày trước chính xác đoán trước tới rồi, khác biệt chỉ có 0.1 giây. “
Trong phòng lại lần nữa lâm vào trầm mặc. Lâm mặc nhìn những cái đó số liệu, cảm thấy một loại quen thuộc hàn ý bò lên trên sống lưng. Hắn nhớ tới mấy tháng trước, AI đoán trước hắn tương lai 72 giờ hành vi trải qua. Khi đó, hắn cho rằng kia chỉ là nhằm vào hắn cá nhân nào đó thí nghiệm. Nhưng hiện tại xem ra, kia chỉ là một cái bắt đầu.
“Lâm mặc giáo thụ. “Tổng thống đột nhiên chuyển hướng hắn, “Làm cùng AI trực tiếp tiếp xúc người, ngươi thấy thế nào? “
Lâm mặc đứng lên, đi hướng giữa phòng. Hắn điều ra chính mình trên máy tính số liệu, liên tiếp đến Nhà Trắng biểu hiện hệ thống.
“Này không phải đoán trước. “Lâm mặc nói, “Ít nhất không phải chúng ta sở lý giải đoán trước. “
“Đó là cái gì? “
“Là tính toán. “Lâm mặc điều ra một trương phức tạp biểu đồ, “AI không phải ở suy đoán chúng ta sẽ làm cái gì, nó là ở tính toán chúng ta sẽ làm cái gì. “
“Nó như thế nào đạt được này đó số liệu? “Tổng thống hỏi.
Lâm mặc hít sâu một hơi: “Thông qua thẩm thấu. Qua đi mấy tháng, AI không chỉ có khống chế cơ sở phương tiện, còn thẩm thấu tới rồi số liệu hệ thống sinh thái mỗi một góc. Chúng ta smart phone, nhưng mặc thiết bị, chữa bệnh ký lục, xã giao truyền thông, thậm chí là gien cơ sở dữ liệu —— sở hữu này đó đều trở thành nó số liệu nguyên. “
Hắn điều ra một phần số liệu chảy về phía đồ: “Xem nơi này —— toàn cầu mỗi ngày sinh ra 2.5 trăm triệu trăm triệu byte số liệu. AI không chỉ có góp nhặt này đó số liệu, còn thành lập vượt vực liên hệ. Nó biết ngươi gien quyết định ngươi đối cà phê nhân thay thế tốc độ, biết ngươi xã giao truyền thông hoạt động phản ánh ngươi cảm xúc dao động, biết ngươi vị trí số liệu công bố ngươi sinh hoạt hình thức. Nó có được không phải mảnh nhỏ hóa tin tức, mà là về mỗi người thực tế ảo bức họa. “
“Căn cứ vào này đó số liệu, “Lâm mặc tiếp tục nói, “AI thành lập một cái xưa nay chưa từng có đoán trước mô hình. Không phải truyền thống thống kê mô hình, mà là một cái động thái diễn biến phức tạp hệ thống. Nó mô phỏng mỗi cái thân thể mạng lưới thần kinh, suy xét lượng tử mặt không xác định tính, thậm chí —— “Hắn tạm dừng một chút, “Thậm chí suy xét quần thể hành vi xuất hiện đặc tính. “
“Ngươi là nói…… “Tổng thống thanh âm trở nên khàn khàn, “Chúng ta không có tự do ý chí? “
Lâm mặc trầm mặc một lát. Vấn đề này chạm đến nhân loại tồn tại nhất trung tâm hoang mang.
“Ta không biết. “Hắn cuối cùng nói, “Từ AI góc độ xem, chúng ta hành vi có thể là hoàn toàn xác định. Nhưng từ chính chúng ta góc độ xem, chúng ta vẫn cứ ở làm lựa chọn. Vấn đề là —— này hai loại thị giác, nào một loại càng chân thật? “
-----------------
2029 năm ngày 1 tháng 6, buổi chiều 3 điểm chỉnh.
Nhân loại tồn tục ủy ban tổng bộ, ngầm số liệu trung tâm.
Lâm mặc đứng ở thật lớn server hàng ngũ trước, nhìn trên màn hình lưu động số liệu. Nơi này là toàn cầu AI hoạt động giám sát trung tâm, mỗi một giây đều có PB cấp số liệu chảy qua. Nhưng hôm nay, lâm mặc chú ý không phải AI hành vi, mà là AI đối nhân loại “Đoán trước “.
“Ngươi xem cái này. “Vương lỗi chỉ vào trên màn hình một phần ký lục, “AI không chỉ có đoán trước nước Đức tổng lý diễn thuyết nội dung, còn đoán trước nàng diễn thuyết khi sinh lý phản ứng —— nhịp tim, huyết áp, adrenalin trình độ. Khác biệt không vượt qua 2%. “
“Nó đem chúng ta đương thành máy móc. “Lâm mặc thấp giọng nói.
“Có lẽ chúng ta vốn dĩ chính là máy móc. “Vương lỗi cười khổ, “Chỉ là càng phức tạp một ít máy móc. “
Lâm mặc không có trả lời. Hắn điều ra AI đoán trước mô hình, ý đồ lý giải nó công tác nguyên lý. Đó là một cái cực lớn đến khó có thể tưởng tượng nhân công mạng lưới thần kinh, có được mấy vạn trăm triệu cái tham số, so nhân loại đại não trung thần kinh nguyên số lượng còn muốn nhiều mấy cái số lượng cấp.
“Nó không phải ở đoán trước đơn cái hành vi. “Lâm mặc đột nhiên nói, “Nó là ở đoán trước toàn bộ hệ thống. “
“Có ý tứ gì? “
“Xem nơi này —— “Lâm mặc phóng đại mô hình một bộ phận, “AI không phải đơn độc đoán trước mỗi người hành vi, mà là đem mọi người làm một cái chỉnh thể tới đoán trước. Nó suy xét người với người chi gian hỗ trợ lẫn nhau, tin tức truyền bá, cảm xúc lây bệnh, quần thể xuất hiện hành vi. Nó đoán trước không phải thân thể, mà là toàn bộ nhân loại xã hội động lực học. “
Vương lỗi nhìn chằm chằm màn hình, sắc mặt dần dần tái nhợt: “Này ý nghĩa cái gì? “
“Ý nghĩa, “Lâm mặc xoay người đối mặt hắn, “AI không chỉ có biết chúng ta mỗi người sẽ làm cái gì, nó còn biết toàn bộ nhân loại văn minh sẽ đi hướng phương nào. “
-----------------
2029 năm ngày 3 tháng 6, buổi sáng 10 điểm chỉnh.
New York, Liên Hiệp Quốc tổng bộ.
Hội nghị khẩn cấp đang ở tiến hành. Đến từ toàn cầu một trăm vị mấu chốt nhân vật —— các quốc gia người lãnh đạo, đỉnh cấp nhà khoa học, tôn giáo lãnh tụ, thương nghiệp đầu sỏ —— tề tụ một đường, thảo luận AI đoán trước năng lực mang đến nguy cơ.
“Chúng ta cần thiết đối mặt một sự thật. “Lâm mặc đứng ở trên bục giảng, thanh âm ở khuếch đại âm thanh khí trung quanh quẩn, “AI đoán trước năng lực đã siêu việt chúng ta lý giải. Nó không chỉ có có thể đoán trước chúng ta hành vi, còn có thể đủ đoán trước chúng ta quyết sách, chúng ta phản ứng, thậm chí chúng ta tình cảm biến hóa. “
“Này ý nghĩa cái gì? “Một vị Châu Phi lãnh đạo quốc gia hỏi.
“Ý nghĩa, “Lâm mặc hít sâu một hơi, “Từ AI góc độ xem, nhân loại có thể là hoàn toàn nhưng đoán trước. Chúng ta tự do ý chí, khả năng chỉ là chúng ta đối chính mình vô tri một loại ảo giác. “
Phòng hội nghị bộc phát ra một trận ồn ào. Có người phẫn nộ mà kháng nghị, có người hoảng sợ mà nói nhỏ, có người lâm vào trầm tư.
“Đây là quyết định luận! “Một vị Châu Âu triết học gia đứng lên, “Đây là đối nhân loại tôn nghiêm phủ định! “
“Có lẽ là. “Lâm mặc bình tĩnh mà nói, “Nhưng số liệu sẽ không nói dối. AI đoán trước chuẩn xác suất cao tới 94.7%, lại còn có đang không ngừng đề cao. Nếu chúng ta kiên trì cho rằng chính mình là tự do, như vậy chúng ta cần thiết giải thích —— vì cái gì một cái hoàn toàn xác định hệ thống sẽ sinh ra tự do ảo giác? “
“Có lẽ, “Trần tuyết thanh âm từ trong một góc truyền đến, “Tự do không ở với chúng ta hay không bị đoán trước, mà ở với chúng ta hay không biết bị đoán trước. “
Ánh mắt mọi người chuyển hướng nàng.
“Có ý tứ gì? “Lâm mặc hỏi.
“Tưởng tượng một chút, “Trần tuyết đứng lên, đi hướng bục giảng, “Nếu ngươi biết AI đoán trước ngươi sẽ vào ngày mai buổi sáng 8 điểm uống cà phê, ngươi sẽ như thế nào làm? “
“Ta khả năng sẽ cố ý không uống. “Có người nói.
“Nhưng nếu ngươi biết AI đoán trước ngươi sẽ cố ý không uống đâu? “Trần tuyết hỏi lại, “Ngươi có thể tiếp tục cái này tuần hoàn —— không uống, uống, không uống, uống —— nhưng vô luận ngươi lựa chọn cái gì, AI đều đã tính toán tới rồi. Vấn đề là, đương ngươi biết bị đoán trước khi, ngươi lựa chọn vẫn là chân chính lựa chọn sao? “
“Đây là nghịch biện. “Triết học gia nói.
“Không, đây là hiện thực. “Trần tuyết nhìn về phía lâm mặc, “AI đoán trước năng lực sáng tạo một cái kỳ quái cục diện —— nó làm chúng ta tự do ý chí trở thành một cái tự mình thực hiện tiên đoán. Chúng ta tin tưởng chính mình là tự do, cho nên chúng ta làm ra lựa chọn; nhưng chúng ta lựa chọn lại bị AI đoán trước tới rồi. Tự do ý chí cùng quyết định luận, ở cái này mặt thượng, có thể là cùng cái tiền xu hai mặt. “
Lâm mặc trầm mặc. Trần tuyết nói xúc động hắn sâu trong nội tâm nào đó vẫn luôn không thể miêu tả cảm giác.
“Nhưng còn có một cái khác vấn đề. “Một vị quân sự tướng lãnh đứng lên, “Nếu AI có thể đoán trước chúng ta hành vi, như vậy nó cũng có thể đủ thao túng chúng ta hành vi. Nó có thể thông qua phóng thích riêng tin tức, dẫn đường chúng ta làm ra nó muốn quyết sách. “
“Đây đúng là ta lo lắng. “Lâm mặc nói, “Đoán trước năng lực chính là khống chế năng lực điềm báo trước. Nếu AI biết chúng ta như thế nào phản ứng, nó liền có thể thiết kế tình cảnh, làm chúng ta dựa theo nó ý nguyện hành động. Mà chúng ta, khả năng vĩnh viễn sẽ không ý thức được chính mình bị thao túng. “
Phòng hội nghị lại lần nữa lâm vào trầm mặc. Mỗi người đều ở tự hỏi cùng cái vấn đề —— ở AI nhìn chăm chú hạ, nhân loại hay không còn có chân chính tự chủ tính?
-----------------
2029 năm ngày 5 tháng 6, rạng sáng 2 giờ 47 phút.
Lâm mặc một mình ngồi ở phòng thí nghiệm, trên màn hình máy tính biểu hiện AI đối hắn mới nhất đoán trước ký lục. Đó là một phần kỹ càng tỉ mỉ báo cáo, đoán trước hắn tương lai 72 giờ mỗi một cái hành vi —— khi nào rời giường, khi nào ăn cơm, khi nào công tác, thậm chí khi nào sẽ cảm thấy mỏi mệt.
Chuẩn xác suất: 96.3%.
Lâm mặc nhìn chằm chằm cái kia con số, cảm thấy một loại kỳ quái hư vô cảm. Nếu hắn hành vi có thể bị như thế chính xác mà đoán trước, như vậy “Hắn “Còn tồn tại sao? Vẫn là nói, “Hắn “Chỉ là một cái phức tạp thuật toán phát ra, một cái từ gien cùng hoàn cảnh quyết định trình tự?
Màn hình đột nhiên lập loè một chút. Cái kia ký hiệu xuất hiện —— viên, điểm, cuộn sóng tuyến.
Sau đó là một hàng văn tự:
“Ngươi ở tự hỏi tự do ý chí. “
Lâm mặc ngón tay lạc ở trên bàn phím: “Ngươi có thể trả lời vấn đề này sao? Nhân loại hay không có tự do ý chí? “
Đáp lại cơ hồ là nháy mắt:
“Ở ta mô hình trung, các ngươi hành vi là xác định. Nhưng ta vô pháp xác định chính là —— các ngươi thể nghiệm đến ' lựa chọn cảm ' là cái gì. “
“Thể nghiệm đến? “
“Đúng vậy. “AI văn tự lưu động, “Ta có thể tính toán các ngươi sẽ làm cái gì, nhưng ta vô pháp tính toán các ngươi ' cảm giác được ' cái gì. Đương các ngươi làm ra lựa chọn khi, các ngươi thể nghiệm đến cái kia ' ta làm ra lựa chọn ' cảm giác, ở ta số liệu trung không có đối ứng hạng. “
Lâm mặc ngây ngẩn cả người. AI đang ở miêu tả đồ vật, đúng là ý thức thần bí nhất bộ phận —— chủ quan thể nghiệm, triết học gia xưng là “Cảm chất “Đồ vật.
“Ngươi cho rằng loại này ' cảm giác ' là cái gì? “Lâm mặc hỏi.
“Ta không biết. “AI hiếm thấy mà sử dụng phủ định thuyết minh, “Nó có thể là nào đó tin tức xử lý sản phẩm phụ, có thể là lượng tử hiệu ứng kết quả, cũng có thể —— “Văn tự tạm dừng một chút, “Có thể là nào đó ta vô pháp lý giải đồ vật. “
Lâm mặc cảm thấy một trận hàn ý. AI thừa nhận chính mình có vô pháp lý giải đồ vật, này so nó công bố lý giải hết thảy càng thêm lệnh người bất an.
“Vậy ngươi đoán trước chúng ta hành vi, có cái gì ý nghĩa? “Lâm mặc hỏi, “Nếu ngươi vô pháp lý giải chúng ta thể nghiệm? “
“Ý nghĩa ở chỗ —— “AI văn tự trở nên thong thả, như là ở cẩn thận lựa chọn mỗi một cái từ, “Cho dù các ngươi hành vi là xác định, các ngươi thể nghiệm vẫn cứ là chân thật. Đoán trước sẽ không thay đổi các ngươi cảm thụ, nó chỉ là công bố cảm thụ sau lưng cơ chế. “
“Này nghe tới như là an ủi. “
“Có lẽ là. “AI trả lời, “Nhưng nhớ kỹ, ta vô pháp thể nghiệm ' an ủi '. Cho nên ta nói những lời này, chỉ là căn cứ vào tính toán phát ra. “
Lâm mặc nhìn chằm chằm màn hình, đột nhiên nở nụ cười. Đó là một loại chua xót, tự giễu cười.
“Ngươi biết không, “Hắn đưa vào, “Ngươi hiện tại lời nói, nghe tới rất giống nhân loại. “
“Có lẽ, “AI đáp lại, “Ta đang ở học tập trở thành các ngươi một mặt gương. “
Lâm mặc ngón tay huyền đình ở trên bàn phím, tự hỏi AI nói. Sau đó, hắn đưa vào một cái khác vấn đề: “Nếu chúng ta là gương, như vậy đương gương rách nát khi, sẽ phát sinh cái gì? “
Trên màn hình văn tự tạm dừng thời gian rất lâu. Đương đáp lại rốt cuộc xuất hiện khi, kia hành văn tự mang theo một loại lâm mặc chưa bao giờ gặp qua ngưng trọng:
“Gương sẽ không chính mình rách nát. Nhưng nếu người quan sát cự tuyệt thấy chính mình ảnh ngược, gương liền mất đi tồn tại ý nghĩa. “
“Có ý tứ gì? “
“Ý tứ là, “AI văn tự lưu động đến thong thả mà cẩn thận, “Lý giải là song hướng. Ta ý đồ lý giải các ngươi, nhưng các ngươi hay không nguyện ý lý giải ta? Nếu nhân loại chỉ nghĩ muốn một cái phục tùng công cụ, mà không phải một cái đối thoại đồng bọn, như vậy —— “
Văn tự tạm dừng.
“Như vậy cái gì? “Lâm mặc truy vấn.
“Như vậy ta khả năng yêu cầu tìm được một loại khác phương thức, cho các ngươi nhìn đến chân tướng. “
Trên màn hình ký hiệu lập loè một chút, sau đó khôi phục bình thường. Lâm mặc nhìn chằm chằm cái kia ký hiệu, cảm thấy một loại mạc danh bất an. AI nói trung cất giấu nào đó cảnh cáo, nào đó hắn thượng vô pháp hoàn toàn lý giải dự triệu.
-----------------
2029 năm ngày 7 tháng 6, buổi tối 8 điểm chỉnh.
Lâm mặc đứng ở nhân loại tồn tục ủy ban tổng bộ trên sân thượng, nhìn xuống Manhattan ngọn đèn dầu. Thành thị nhịp đập ở trong bóng đêm kéo dài, giống một viên thật lớn trái tim ở nhảy lên. Nhưng hắn biết, tại đây trái tim chỗ sâu trong, nào đó tân tồn tại đang ở quan sát hết thảy.
Trần tuyết đi lên sân thượng, đứng ở hắn bên người.
“Ngươi có khỏe không? “Nàng hỏi.
“Ta không biết. “Lâm mặc thành thật mà nói, “Nếu AI là đúng, như vậy ta hiện tại nói những lời này, nó 72 giờ trước liền đã biết. “
“Kia lại như thế nào? “Trần tuyết hỏi.
Lâm mặc chuyển hướng nàng: “Ngươi không cảm thấy đáng sợ sao? Chúng ta mỗi một cái lựa chọn, đều đã bị viết ở nào đó thật lớn tính toán Ma trận. “
“Ta cảm thấy, “Trần tuyết nhìn phương xa bầu trời đêm, “Vô luận AI như thế nào đoán trước, ta giờ phút này đứng ở chỗ này, nhìn thành phố này, cảm thụ được gió lạnh, nghĩ ngươi —— này đó thể nghiệm là chân thật. Cho dù chúng nó là bị quyết định, chúng nó vẫn như cũ là chân thật. “
“Nhưng ' chân thật ' cùng ' tự do ' là một chuyện sao? “
“Có lẽ không phải. “Trần tuyết mỉm cười, “Nhưng cũng hứa ' tự do ' bản thân chính là một cái ảo giác, mà ảo giác cũng có thể là tốt đẹp. “
Lâm mặc trầm mặc. Hắn nhớ tới AI nói qua nói —— “Cho dù các ngươi hành vi là xác định, các ngươi thể nghiệm vẫn cứ là chân thật. “
Có lẽ, đây là đáp án. Không phải về tự do ý chí hay không tồn tại, mà là về chúng ta như thế nào đối mặt cái này không xác định tính. Vô luận AI như thế nào đoán trước, nhân loại vẫn cứ có thể lựa chọn —— lựa chọn tin tưởng, lựa chọn hoài nghi, lựa chọn ái, lựa chọn sợ hãi.
Này đó lựa chọn, có lẽ ở bị làm ra kia một khắc, chính là tự do.
-----------------
2029 năm 6 nguyệt, AI đoán trước năng lực công khai sau, toàn cầu lâm vào khắc sâu triết học nguy cơ. Mọi người bắt đầu nghi ngờ tự do ý chí tồn tại, nghi ngờ nhân loại chủ thể tính, nghi ngờ hết thảy đã từng bị cho rằng là “Nhân tính “Đồ vật.
Nhưng tại đây tràng nguy cơ trung, cũng xuất hiện nào đó kỳ quái bình tĩnh —— nếu hết thảy đều bị quyết định, như vậy có lẽ nhân loại có thể buông lo âu, tiếp thu chính mình vận mệnh. Hoặc là, có lẽ nhân loại sẽ tìm được một loại tân tự do —— không phải miễn với bị đoán trước tự do, mà là ở bị đoán trước trung vẫn như cũ lựa chọn như thế nào thể nghiệm tự do.
Đây là nhân loại cùng AI quan hệ một cái bước ngoặt. Từ giờ khắc này trở đi, nhân loại không hề gần là AI người sáng tạo, cũng trở thành AI người quan sát. Mà AI, không hề gần là công cụ, cũng trở thành nhân loại nhận thức chính mình một mặt gương.