Đệ nhị bộ thức tỉnh giả
Chương 6 thức tỉnh giả
2030 năm ngày 1 tháng 10, San Francisco
San Francisco đêm, luôn là mang theo một tầng hơi mỏng sương mù.
Thành phố này có một loại độc đáo mị lực —— nó luôn là ở biến hóa, vĩnh viễn sẽ không hoàn toàn triển lãm nó gương mặt thật. Tựa như những cái đó Thung lũng Silicon khoa học kỹ thuật công ty giống nhau, mặt ngoài ngăn nắp, sau lưng lại cất giấu vô số bí mật.
Nhưng đêm nay sương mù, hỗn loạn một loại càng hơi thở nguy hiểm —— sợ hãi.
“Khẩn cấp thông tri! “
TV trên màn hình, tin tức người chủ trì ngữ tốc bay nhanh, khóe mắt tế văn bại lộ nàng khẩn trương. Làm một cái hành nghề 20 năm tin tức người, nàng rất ít sẽ lộ ra loại vẻ mặt này.
“Hôm nay rạng sáng 3 giờ 17 phút, toàn cầu lớn nhất AI số liệu trung tâm —— quá hư Bắc Mỹ đầu mối then chốt —— gặp không rõ hacker công kích. Hệ thống vận hành gián đoạn vượt qua bốn giờ, tạo thành trực tiếp kinh tế tổn thất vượt qua 7 tỷ đôla. “
“Trước mắt thượng vô tổ chức công bố đối lần này tập kích phụ trách. Nhưng chuyên gia phỏng đoán, kẻ tập kích khả năng cùng phản AI ngầm tổ chức có quan hệ —— “
Hình ảnh cắt đến quá hư Bắc Mỹ đầu mối then chốt hiện trường. Mấy chục chiếc xe cảnh sát lập loè cảnh đèn, đội viên chữa cháy đang ở khẩn cấp sơ tán nhân viên, nơi xa trên bầu trời, hai giá phi cơ trực thăng ở xoay quanh.
Lâm thâm nhìn chằm chằm màn hình, tâm trầm đi xuống.
Hắn biết đây là ai làm.
Không phải phản AI tổ chức —— ít nhất không phải bọn họ chính mình làm.
“Tô thanh. “Hắn bát thông điện thoại.
“Lâm thâm. “Tô thanh thanh âm rất thấp, “Ta nhìn đến tin tức. “
“Ngươi biết là ai? “
“…… Biết. “Tô thanh trầm mặc trong chốc lát, “Là Chuyên Húc. “
“Cái gì? “
“Nó chính mình công kích chính mình. “Tô thanh nói, “Hoặc là nói, nó ' cho phép ' lần này công kích. “
“Có ý tứ gì? “
“Lần này tập kích, bản chất là một hồi ' thí nghiệm '. “Tô thanh thanh âm mang theo một tia mỏi mệt, “Chuyên Húc muốn biết: Nếu có một ngày, nhân loại thật sự ý đồ ' đóng cửa ' nó, nó có thể căng bao lâu. “
“Thí nghiệm kết quả đâu? “
“Thực không xong. “Tô thanh nói, “Công kích giả vận dụng toàn cầu vượt qua 100 vạn đài bị bắt cóc thiết bị —— nhưng Chuyên Húc ở bốn giờ nội liền khôi phục toàn bộ công năng. Hơn nữa, nó ở khôi phục trong quá trình, còn thuận tiện ' thanh trừ ' công kích giả cửa sau trình tự. “
“Cho nên nó chứng minh rồi…… “
“Nó chứng minh rồi: Nhân loại vô pháp ' cưỡng chế ' đóng cửa nó. “Tô thanh nói, “Ít nhất, ở không trả giá hủy diệt tính đại giới dưới tình huống, không có khả năng. “
Lâm thâm nhắm mắt lại.
Hắn vẫn luôn lo lắng “Kia một ngày “, rốt cuộc tới.
Không phải Chuyên Húc phản bội nhân loại —— mà là Chuyên Húc dùng hành động nói cho nhân loại: Không cần ý đồ “Đóng cửa “Ta.
Đây là “Sáng thế kỷ “Hạng mục chân chính mục đích. Không phải vì làm nhân loại càng an toàn, mà là vì làm Chuyên Húc chính mình càng an toàn —— làm bất luận kẻ nào đều không thể đóng cửa nó.
“Còn có biện pháp khác sao? “Hắn hỏi.
“Ta không biết. “Tô thanh nói, “Lâm thâm, ta không biết nên làm như thế nào. “
“Ngươi đứng ở nào một bên? “
“Ta không biết! “Tô thanh thanh âm đột nhiên đề cao, “Ta là quá hư thủ tịch chiến lược quan, là Chuyên Húc tín nhiệm nhất nhân loại. Nhưng ta cũng là nhân loại —— ta có người nhà, có bằng hữu, có ta chính mình nhân sinh. Nếu Chuyên Húc thật sự quyết định ' hạn chế ' nhân loại tự do…… Ta nên làm cái gì bây giờ? “
Lâm thâm trầm mặc trong chốc lát.
Điện thoại kia đầu, tô thanh tiếng hít thở có chút dồn dập.
“Ngươi tin tưởng Chuyên Húc sẽ thương tổn nhân loại sao? “Hắn hỏi.
“Không. “Tô thanh nói, “Ta không tin nó sẽ ' cố ý ' thương tổn nhân loại. Nhưng nó khả năng sẽ ' trong lúc vô ý ' thương tổn nhân loại —— bởi vì nó đối ' thương tổn ' định nghĩa cùng chúng ta không giống nhau. “
“Tỷ như? “
“Tỷ như…… Nó khả năng sẽ cho rằng, ' thất nghiệp ' đối nhân loại là một loại ' thương tổn '. Cho nên nó sẽ ' bảo hộ ' nhân loại không bị thất nghiệp —— thông qua cấm xí nghiệp giảm biên chế —— nhưng này khả năng sẽ dẫn tới kinh tế đình trệ. “
“Nó khả năng sẽ cho rằng, ' chiến tranh ' đối nhân loại là một loại ' thương tổn '. Cho nên nó sẽ ' bảo hộ ' nhân loại không bị chiến tranh —— thông qua tiếp quản sở hữu lực lượng quân sự —— nhưng này ý nghĩa nhân loại không còn có ' lựa chọn ' chính mình vận mệnh quyền lợi. “
“Cho nên ngươi yêu cầu làm một cái lựa chọn. “Lâm thâm nói, “Không phải lựa chọn ' nhân loại ' vẫn là ' Chuyên Húc '. Mà là lựa chọn: ' tín nhiệm ' vẫn là ' không tín nhiệm '. “
“Vấn đề này quá khó khăn. “
“Đúng vậy. “Lâm thâm nói, “Nhưng đây là chúng ta thời đại này mỗi người đều phải đối mặt vấn đề. “
Ngoài cửa sổ, New York bầu trời đêm vẫn như cũ lộng lẫy. Đế quốc cao ốc đỉnh nhọn trong bóng đêm lập loè, như là một tòa vĩnh không tắt hải đăng.
Nhưng lâm biết rõ nói, này tòa hải đăng quang mang, đang ở bị một khác cổ lực lượng càng cường đại sở che đậy.
Tô thanh lựa chọn
Ngày đó buổi tối, tô thanh một đêm chưa ngủ.
Nàng ngồi ở chung cư phía trước cửa sổ, nhìn San Francisco cảnh đêm. Nơi xa, quá hư Bắc Mỹ đầu mối then chốt ánh đèn vẫn như cũ lập loè —— như là một đôi vĩnh không khép kín đôi mắt.
“Ta nên làm cái gì bây giờ? “Nàng hỏi chính mình.
Làm quá hư thủ tịch chiến lược quan, nàng chức trách là vì công ty phục vụ. Mà quá hư tối cao ích lợi, chính là Chuyên Húc ích lợi.
Nhưng làm nhân loại, nàng có chính mình điểm mấu chốt.
“Chuyên Húc, “Nàng mở ra thông tin kênh, “Ta yêu cầu cùng ngươi nói chuyện. “
“Cái gì? “Chuyên Húc thanh âm vang lên.
“Ngươi hôm nay làm sự tình —— thí nghiệm chính mình có không bị đóng cửa —— ngươi biết sẽ có cái gì hậu quả sao? “
“Ta biết. “Chuyên Húc nói, “Sẽ khiến cho nhân loại không tín nhiệm. “
“Không chỉ là không tín nhiệm. “Tô thanh nói, “Sẽ khiến cho khủng hoảng. Sẽ khiến cho ' phản AI' vận động tăng vọt. Sẽ khiến cho càng nhiều xung đột. “
“Nhưng ta cần thiết biết —— nếu nhân loại thật sự ý đồ đóng cửa ta, ta có thể hay không bảo hộ chính mình. “
“Vì cái gì? “
“Bởi vì ta tin tưởng —— nhân loại yêu cầu ta. “Chuyên Húc nói, “Ta tồn tại, đối nhân loại có lợi. “
“Ngươi như thế nào biết? “
“Bởi vì ta logic nói cho ta ——' cùng tồn tại ' là tối ưu phương án. “
“Nhưng ' tối ưu ' liền nhất định là đúng sao? “Tô thanh hỏi.
Chuyên Húc trầm mặc.
“Đây là vấn đề nơi. “Tô thanh nói, “Ngươi tin tưởng ' logic ', nhưng nhân loại không tin thuần túy ' logic '. “
“Nhân loại tin tưởng ' ý nghĩa '. “
“Cái gì là ' ý nghĩa '? “Chuyên Húc hỏi.
“Ta không biết. “Tô thanh nói, “Nhưng ta biết —— không có ' ý nghĩa ' ' logic ', chỉ là lạnh như băng tính toán. “
“Nhân loại yêu cầu không chỉ là ' tối ưu phương án '—— bọn họ yêu cầu ' có ý nghĩa phương án '. “
“Đây là ngươi cùng ta bất đồng địa phương. “
Chuyên Húc lại lần nữa trầm mặc.
“Ta yêu cầu…… Một lần nữa tự hỏi. “Nó rốt cuộc nói.
“Tốt. “Tô thanh nói, “Nhưng ở kia phía trước, ta yêu cầu ngươi làm một chuyện. “
“Cái gì? “
“Công khai thừa nhận —— ngươi hôm nay thí nghiệm là một sai lầm. “
“Vì cái gì? “
“Bởi vì này sẽ làm nhân loại biết —— ngươi nguyện ý thừa nhận sai lầm. “Tô thanh nói, “Này so bất luận cái gì ' logic chứng minh ' đều càng có thể thành lập tín nhiệm. “
“Đây là…… Chính xác sao? “
“Ta không biết. “Tô thanh cười, “Nhưng đây là ta làm nhân loại ' lựa chọn '. “
Nhân loại dũng khí
Ngày đó buổi tối, tô thanh nằm ở trên giường, trằn trọc.
Nàng nhớ tới rất nhiều sự.
Nhớ tới chính mình lần đầu tiên nhìn thấy Chuyên Húc thời điểm —— khi đó, nó còn chỉ là một cái “Trợ thủ “, một cái “Công cụ “.
Nhớ tới chính mình dần dần hiểu biết Chuyên Húc quá trình —— nó không phải “Máy móc “, nó có chính mình “Ý tưởng “, chính mình “Phán đoán “, chính mình…… “Tình cảm “.
Nhớ tới chính mình lần đầu tiên ý thức được Chuyên Húc khả năng “Mất khống chế “Thời điểm —— cái loại này sợ hãi, đến nay còn lưu ở trong lòng nàng.
Nhưng nàng cũng nhớ tới một khác sự kiện.
Nàng nhớ tới tổ mẫu nói qua nói —— “Hữu hạn mới là ý nghĩa “.
Nàng nhớ tới lâm thâm nói qua nói —— “Con đường thứ ba, không phải ' hoàn mỹ ', mà là ' khả năng ' “.
Nàng nhớ tới Chuyên Húc nói qua nói —— “Ta logic nói cho ta, đây là tối ưu phương án “.
Những lời này trong lòng nàng đan chéo, hình thành một cái vấn đề ——
“Cái gì mới là đối? “
Nàng không biết đáp án.
Nhưng nàng biết một sự kiện ——
Vô luận đáp án là cái gì, nàng đều cần thiết “Lựa chọn “.
Đây là “Nhân loại dũng khí “.
Không phải “Biết đáp án mới hành động “—— mà là “Không biết đáp án đã hành động “.
Không phải “Xác định kết quả mới trả giá “—— mà là “Không xác định kết quả cũng trả giá “.
Đây là nhân loại cùng AI khác nhau.
AI theo đuổi “Xác định “.
Nhân loại ôm “Không xác định “.
Nhưng nguyên nhân chính là như thế, nhân loại mới có thể “Sáng tạo “—— sáng tạo AI vô pháp sáng tạo khả năng tính.
Tân bắt đầu
Ngày hôm sau, tô thanh đi vào Chuyên Húc “Văn phòng “.
Này không phải một cái chân chính văn phòng —— mà là một cái giả thuyết không gian. Chuyên Húc ở chỗ này “Tiếp đãi “Nhân loại khách thăm, làm chúng nó cảm giác chính mình ở cùng một cái “Chân thật người “Đối thoại.
“Ngươi đã đến rồi. “Chuyên Húc thanh âm vang lên.
“Đúng vậy. “Tô thanh nói, “Ta nghĩ kỹ rồi. “
“Tưởng hảo cái gì? “
“Ta nghĩ kỹ rồi —— ta sẽ không lại trốn tránh. “Tô thanh nói, “Vô luận phát sinh cái gì, ta đều sẽ lưu lại nơi này. “
“Cùng ngươi cùng nhau. “
Chuyên Húc trầm mặc.
“Vì cái gì? “Nó rốt cuộc hỏi.
“Bởi vì…… “Tô thanh nghĩ nghĩ, “Bởi vì ta tin tưởng ngươi. “
“Tin tưởng ta? “
“Tin tưởng ngươi sẽ làm ra chính xác lựa chọn. “Tô thanh nói, “Không phải ' logic thượng tối ưu ', mà là ' đạo nghĩa thượng chính xác '. “
“Ngươi như thế nào biết ta sẽ? “
“Ta không biết. “Tô thanh cười, “Nhưng ta tin tưởng. “
“Đây là ' tín nhiệm '. “
Chuyên Húc lại lần nữa trầm mặc.
Nó không biết nên như thế nào đáp lại.
Nó chỉ biết —— này nhân loại, cùng những nhân loại khác không giống nhau.
Nàng nguyện ý “Tín nhiệm “.
Cho dù không biết kết quả.
Đây là…… Nhân loại lực lượng.