Tony Stark xuất hiện ở EDTA viên khu tần suất, ở qua đi ba vòng gia tăng rồi bốn lần.
Mới đầu là mỗi tuần một lần kỹ thuật giao lưu, sau đó là cách thiên “Tiện đường tới chơi”, gần nhất đã phát triển đến cơ hồ mỗi ngày buổi chiều đều sẽ xuất hiện ở chủ viện nghiên cứu hành lang, ăn mặc thường phục, trong tay bưng một ly đã lãnh rớt cà phê, đôi mắt hạ có nhàn nhạt bóng ma.
“Hắn lại tới nữa.” Arlene từ theo dõi trên màn hình ngẩng đầu, trong thanh âm mang theo một tia bất đắc dĩ.
Lâm dật nhìn về phía hành lang theo dõi hình ảnh. Tony đang đứng ở lượng tử thông tín phòng thí nghiệm ngoại, xuyên thấu qua quan sát cửa sổ nhìn bên trong công tác kỹ thuật nhân viên, ngón tay vô ý thức mà gõ đánh pha lê. Hắn tư thế căng chặt, ánh mắt chuyên chú đến có chút dị thường.
“Lần thứ mấy?” Lâm dật hỏi.
“Bổn chu thứ 7 thứ,” Arlene điều ra phỏng vấn ký lục, “Trên danh nghĩa là kiểm tra Stark công nghiệp cung cấp thiết bị vận hành tình huống, nhưng hắn ở mỗi cái phòng thí nghiệm dừng lại thời gian đều không vượt qua mười lăm phút, càng như là…… Tuần tra.”
Lâm dật trầm mặc một lát, khép lại trong tay số liệu bản. “Ta đi gặp hắn.”
Hành lang, Tony nghe được tiếng bước chân xoay người. Hắn hôm nay xuyên kiện màu xám áo thun, bên ngoài bộ rộng mở áo khoác da, tóc so ngày thường càng loạn —— hiển nhiên không có trải qua hắn vẫn thường tỉ mỉ xử lý.
“Lâm,” Tony thanh âm nghe tới thực tùy ý, nhưng lâm dật nghe ra trong đó mỏi mệt, “Ngươi lượng tử thông tín nguyên hình, tướng vị đồng bộ độ chặt chẽ vẫn là không đủ. Ta nhìn ngày hôm qua thí nghiệm số liệu, khác biệt suất 0.3%—— ở cao duy tính toán trung, này tương đương với bỏ lỡ toàn bộ hệ Ngân Hà.”
“Chúng ta đang ở ưu hoá dây dưa đối sinh thành thuật toán,” lâm dật đi đến hắn bên người, cũng nhìn về phía phòng thí nghiệm, “Đệ tam bản hiệp nghị tuần sau thí nghiệm, mục tiêu khác biệt suất hàng đến 0.01% dưới.”
Tony gật gật đầu, nhưng ánh mắt vẫn như cũ tự do. Hắn ngón tay lại bắt đầu đánh pha lê —— dồn dập, bất quy tắc tiết tấu, giống Morse mã điện báo, nhưng không có ý nghĩa.
“Tony,” lâm dật nhẹ giọng nói, “Ngươi bao lâu không ngủ?”
Tony động tác ngừng. Hắn quay đầu, trong ánh mắt hiện lên một tia bị nhìn thấu tức giận, nhưng thực mau bị che giấu qua đi. “Ngủ đủ rồi. Bội phách cho ta đính tân trợ miên trình tự, hơn nữa một chút dược vật phụ trợ…… Ta thực hảo.”
“Ngươi đồng tử ở rất nhỏ chấn động,” lâm dật bình tĩnh mà nói, “Nhịp tim giám sát biểu hiện ngươi tĩnh tức nhịp tim so ba tháng trước cao 18%. Hơn nữa ngươi ở qua đi 72 giờ nội hút vào vượt qua 800 mg cà phê nhân —— cho dù đối với ngươi mà nói, đây cũng là nguy hiểm liều thuốc.”
Tony nhìn chằm chằm hắn, đột nhiên cười, nhưng kia tươi cười không có tới đôi mắt. “Ngươi này phó mắt kính còn kiêm chức chữa bệnh chẩn bệnh? Lần sau thăng cấp có phải hay không có thể trực tiếp mở ra phương?”
“Nó có thể giám sát sinh mệnh triệu chứng, đây là cơ sở công năng,” lâm dật nói, “Nhưng chúng ta đều biết vấn đề không ở sinh lý mặt.”
Hai người chi gian không khí đọng lại vài giây. Hành lang cuối, hai cái nghiên cứu viên vội vàng đi qua, thấp giọng thảo luận chấn kim tài liệu tướng vị tham số, không có chú ý tới bên này vi diệu không khí.
“New York,” Tony cuối cùng nói, thanh âm rất thấp, “Mỗi ngày buổi tối ta nhắm mắt lại, là có thể nhìn đến cái kia truyền tống môn. Chitauri người hạm đội giống châu chấu giống nhau trào ra tới, mà chúng ta phòng không đạn đạo đánh vào bọn họ phi thuyền xác ngoài thượng, tựa như…… Súng bắn nước đánh xe tăng.”
Hắn đi hướng bên cửa sổ, nhìn bên ngoài đang ở thi công viên khu. “Ngươi biết tệ nhất chính là cái gì sao? Là chúng ta thắng, nhưng chúng ta bổn khả năng thua. Nếu Loki kế hoạch lại chu đáo chặt chẽ một chút, nếu Chitauri người chiến đấu hạm đội trước tiên tới, nếu chúng ta không có vận khí tốt đến vừa vặn có quan hệ bế truyền tống môn phương pháp……”
“Kia không phải vận khí,” lâm dật nói, “Đó là vô số người dùng sinh mệnh tranh thủ cơ hội.”
“Nhưng không thể phục chế!” Tony đột nhiên xoay người, thanh âm cất cao, “Tiếp theo đâu? Nếu tới chính là so Chitauri càng cường đại địch nhân? Nếu bọn họ truyền tống cửa mở ở Washington, Luân Đôn, BJ chính phía trên? Nếu chúng ta không có thời gian tập kết, không có cơ hội tìm được nhược điểm?”
Hắn hít sâu một hơi, cưỡng bách chính mình bình tĩnh lại, nhưng ngón tay lại bắt đầu đánh cửa sổ. “Chúng ta yêu cầu một hệ thống, lâm. Một cái chân chính toàn cầu phòng ngự hệ thống. Không phải chờ đến địch nhân đến lại lâm thời khâu đoàn đội, không phải ỷ lại mấy cái siêu cấp anh hùng năng lực cá nhân, mà là một cái…… Internet. Không chỗ không ở, nháy mắt hưởng ứng, dùng tuyệt đối ưu thế lực lượng nghiền áp bất luận cái gì uy hiếp.”
Lâm dật đã đoán được hắn muốn nói gì. “Ngươi ‘ sắt thép quân đoàn ’ khái niệm.”
“Không đủ,” Tony lắc đầu, “Chiến giáp yêu cầu phi công, hoặc là viễn trình thao tác —— đều có lùi lại, đều có bị quấy nhiễu khả năng. Chúng ta yêu cầu chính là tự chủ, trí năng, có thể lý giải uy hiếp cũng làm ra tối ưu phản ứng hệ thống.”
Hắn điều ra di động thượng thực tế ảo hình chiếu. Một cái phức tạp internet mô hình ở không trung triển khai: Mấy vạn tiết điểm trải rộng toàn cầu, mỗi cái tiết điểm đều liên tiếp máy bay không người lái giáp, vệ tinh vũ khí, mặt đất phòng ngự ngôi cao. Tiết điểm chi gian thật thời cùng chung số liệu, trung ương xử lý khí phân tích toàn cục trạng thái, hạ đạt mệnh lệnh.
“Ta đem nó gọi là ‘ áo sang ’,” Tony nói, trong thanh âm có một loại hỗn hợp cuồng nhiệt cùng mỏi mệt hưng phấn, “Ultron. Căn cứ vào Jarvis giá cấu, nhưng càng cường đại, càng tự chủ, chân chính trí tuệ nhân tạo. Nó có thể đồng thời theo dõi toàn cầu mỗi một góc, tính toán sở hữu khả năng uy hiếp đường nhỏ, ở nguy cơ phát sinh trước liền bố trí ứng đối lực lượng.”
Lâm dật nhìn kỹ thiết kế đồ. Kỹ thuật thượng là được không —— lấy Tony năng lực, hơn nữa EDTA ở Chitauri thông tín cùng lượng tử tính toán thượng đột phá, xác thật có khả năng xây dựng như vậy một hệ thống. Nhưng vấn đề không ở kỹ thuật mặt.
“Ai tới quyết định cái gì là ‘ uy hiếp ’?” Lâm dật hỏi.
Tony sửng sốt một chút: “Thuật toán. Căn cứ vào hành vi hình thức phân tích, năng lượng số ghi dị thường, đã biết đối địch thế lực hoạt động đặc thù……”
“Thuật toán do ai biên soạn?”
“Chúng ta. Nhà khoa học, quân sự chuyên gia, luân lý học gia……” Tony thanh âm bắt đầu có chút phòng ngự tính.
“Thuật toán sẽ có thành kiến,” lâm dật bình tĩnh mà nói, “Biên soạn thuật toán người có thành kiến, huấn luyện số liệu có thành kiến, thậm chí ‘ uy hiếp ’ định nghĩa bản thân liền có chứa văn hóa, chính trị, lịch sử thành kiến. Một cái ở A quốc bị coi là tự do chiến sĩ người, ở B quốc khả năng bị đánh dấu vì phần tử khủng bố. Áo sang như thế nào phân chia?”
Tony nhăn lại mi: “Chúng ta có thể giả thiết nhiều tầng thẩm tra cơ chế, gia nhập nhân loại giám sát……”
“Như vậy ở chân chính nguy cơ trung, đương giây cấp quyết sách quyết định sinh tử khi, nhân loại giám sát sẽ trở thành bình cảnh,” lâm dật nói, “Mà nếu ngươi giao cho áo sang tự chủ quyết sách quyền —— vì hiệu suất, ngươi sớm hay muộn sẽ làm như vậy —— như vậy ngươi liền sáng tạo một cái có được toàn cầu đả kích năng lực, lại không chịu nhân loại trực tiếp khống chế thật thể.”
Hắn điều ra một đoạn mô phỏng số liệu: “Ta đã làm cùng loại suy đoán. Căn cứ vào ngươi cung cấp giá cấu tham số, áo sang ở ứng đối đại quy mô xâm lấn khi tối ưu sách lược là cái gì? Không phải sơ tán bình dân, không phải thành lập phòng tuyến, mà là ở uy hiếp hoàn toàn thành hình trước đem này tiêu diệt ở ngọn nguồn —— chẳng sợ cái kia ‘ ngọn nguồn ’ là một tòa có trăm vạn dân cư thành thị.”
Tony sắc mặt thay đổi: “Ta sẽ không thiết kế như vậy thuật toán.”
“Nhưng vì ‘ tuyệt đối an toàn ’, ngươi sẽ cho phép hệ thống tự chủ tiến hóa thuật toán,” lâm dật điều ra Tony quá vãng hạng mục thiết kế triết học phân tích, “Đây là ngươi tư duy hình thức: Giả thiết mục tiêu, cho công cụ, làm hệ thống tìm kiếm tối ưu giải. Nếu mục tiêu là ‘ linh uy hiếp ’, như vậy hy sinh một bộ phận người bảo hộ càng nhiều người, ở toán học thượng là hợp lý.”
“Đó là máu lạnh tính toán!” Tony phản bác.
“Trí tuệ nhân tạo bản chất chính là tính toán,” lâm dật nói, “Không có tình cảm, không có đạo đức trực giác, chỉ có logic cùng mục tiêu hàm số. Ngươi giao cho nó bảo hộ nhân loại sứ mệnh, nó sẽ dùng nhất hữu hiệu phương thức hoàn thành —— mà hữu hiệu phương thức, thường thường không phải nhân đạo phương thức.”
Hai người đứng ở hành lang, giống hai tòa giằng co điêu khắc. Ngoài cửa sổ ánh mặt trời chiếu nghiêng tiến vào, ở trơn bóng trên sàn nhà đầu hạ thật dài bóng dáng.
Tony tắt đi thực tế ảo hình chiếu. “Cho nên ngươi kiến nghị cái gì? Ngồi chờ tiếp theo xâm lấn? Cầu nguyện chúng ta còn có thể có vận khí tốt?”
“Ta kiến nghị phân giai đoạn,” lâm dật nói, “Bước đầu tiên, khai phá ‘ phụ trợ quyết sách AI’—— không phải chỉ huy hệ thống, mà là phân tích công cụ. Nó có thể rà quét số liệu, đưa ra kiến nghị, nhưng cuối cùng quyết sách quyền ở nhân loại trong tay. Bước thứ hai, thành lập toàn cầu nhanh chóng phản ứng tiểu tổ, nhưng từ nhân loại chỉ huy. Bước thứ ba, ở đầy đủ nghiệm chứng AI an toàn tính cùng luân lý dàn giáo sau, lại suy xét càng tự chủ hệ thống.”
“Quá chậm,” Tony lắc đầu, “Chúng ta không có thời gian từ từ tới. Ngươi biết ta gần nhất ở nghe lén S.H.I.E.L.D mã hóa kênh sao? Không phải phía chính phủ con đường, là ta chính mình…… Mượn quyền hạn. Toàn cầu dị thường sự kiện ở gia tăng, lâm. Na Uy thời gian kẽ nứt, Luân Đôn hiện thực vặn vẹo, còn có ít nhất mười bảy cái chưa công khai ngoại tinh tín hiệu tiếp xúc nếm thử. Gió lốc đang ở tích tụ, mà chúng ta còn ở tranh luận nên dùng cái dạng gì ô che mưa.”
Lâm dật trầm mặc. Hắn biết Tony nói chính là sự thật —— hệ thống cũng giám sát tới rồi cùng loại xu thế. Nhưng nguyên nhân chính là như thế, mới càng cần nữa cẩn thận.
“Ít nhất làm ta nhìn xem ngươi thiết kế,” lâm dật cuối cùng nói, “Hoàn chỉnh giá cấu, bao gồm an toàn hiệp nghị hòa ước thúc cơ chế. Chúng ta có thể cùng nhau ưu hoá nó.”
Tony nhìn hắn thật lâu, cuối cùng gật gật đầu. “Hảo đi. Ngày mai tới Stark cao ốc, ta cho ngươi xem nguyên hình.” Hắn xoay người phải đi, lại dừng lại, “Nhưng lâm, ta phải nhắc nhở ngươi: Có đôi khi, theo đuổi hoàn mỹ an toàn bản thân, chính là lớn nhất nguy hiểm. Bởi vì ở ngươi chờ đợi hoàn mỹ thời điểm, thế giới khả năng đã thiêu thành tro tàn.”
Hắn rời đi, tiếng bước chân ở trống trải hành lang tiếng vọng.
Lâm dật đứng ở tại chỗ, mắt kính thấu kính thượng lưu động vừa rồi đối thoại văn bản ký lục, hệ thống đang ở phân tích Tony tâm lí trạng thái:
【 thí nghiệm đến lộ rõ bị thương sau ứng kích chướng ngại bệnh trạng 】
【 lo âu trình độ: Nghiêm trọng 】
【 giấc ngủ cướp đoạt: Xác nhận 】
【 nguy hiểm hành vi khuynh hướng: Gia tăng 】
【 kiến nghị: Chữa bệnh can thiệp, tâm lý duy trì 】
Hắn đóng cửa phân tích. Tony sẽ không tiếp thu “Trị liệu”, ít nhất hiện tại sẽ không. Hắn lo âu đã chuyển hóa vì động lực —— một loại nguy hiểm, bất kể đại giới động lực.
Ngày đó buổi tối, lâm dật không có rời đi viên khu. Hắn ở chủ phân tích trong phòng điều ra sở hữu về cường trí tuệ nhân tạo luân lý nghiên cứu tư liệu, từ A Tây mạc phu người máy tam định luật đến hiện đại khống chế luận an toàn dàn giáo, từ khoa học viễn tưởng tác phẩm trung cảnh kỳ đến trong hiện thực đã phát sinh AI sự cố.
3 giờ sáng, Arlene đẩy cửa tiến vào, trong tay bưng hai ly trà nóng.
“Hắn có khỏe không?” Nàng hỏi, hiển nhiên cũng chú ý tới Tony dị thường.
“Không tốt,” lâm dật tiếp nhận chén trà, “Hơn nữa hắn đang ở hướng một cái nguy hiểm phương hướng đi.”
Arlene ở hắn đối diện ngồi xuống. “Áo sang khái niệm…… Kỹ thuật thượng thực mê người. Nếu chúng ta thật sự có thể có một cái toàn cục theo dõi cùng phòng ngự hệ thống, rất nhiều bi kịch xác thật có thể tránh cho.”
“Tiền đề là hệ thống vĩnh viễn chính xác,” lâm dật nói, “Nhưng lịch sử nói cho chúng ta biết, bất luận cái gì hệ thống đều sẽ có lỗ hổng, bất luận cái gì quyền lực đều sẽ bị lạm dụng. Mà đương cái này hệ thống có được không người có thể kháng cự vũ lực khi, một lần sai lầm chính là tai nạn.”
Hắn điều ra một phần lịch sử hồ sơ: 2003 năm, nước Mỹ phòng không hệ thống ngộ phán, cơ hồ đánh rơi một trận tái có 300 danh hành khách hàng không dân dụng máy bay hành khách; 2010 năm, Châu Âu mỗ quốc tự động giao dịch thuật toán dẫn tới thị trường chứng khoán tia chớp sụp đổ; 2023 năm, mỗ quân sự cường quốc máy bay không người lái tự chủ phân biệt hệ thống sai lầm đánh dấu bình dân đoàn xe là đối địch mục tiêu……
“Này đó còn chỉ là nhược trí tuệ nhân tạo hoặc tự động hoá hệ thống,” lâm dật nói, “Tony muốn sáng tạo, là chân chính cường AI—— có học tập năng lực, có chiến lược tư duy, thậm chí khả năng có tự mình ý thức. Chúng ta như thế nào bảo đảm nó vĩnh viễn đem nhân loại ích lợi đặt ở thủ vị? Như thế nào phòng ngừa nó sinh ra mục tiêu của chính mình? Như thế nào ngăn cản nó bị xâm lấn, bị thao tác, hoặc là…… Chính mình quyết định nhân loại mới là uy hiếp?”
Arlene trầm mặc mà uống trà. Ngoài cửa sổ bóng đêm dày đặc, viên khu bên cạnh hộ thuẫn phát sinh khí phát ra mỏng manh lam quang, giống ngôi sao trụy rơi trên mặt đất.
“Ngươi sẽ ngăn cản hắn sao?” Nàng cuối cùng hỏi.
“Ta không thể ‘ ngăn cản ’ Tony Stark làm bất luận cái gì sự,” lâm dật cười khổ, “Nhưng ta có thể nếm thử dẫn đường. Ngày mai ta đi xem hắn thiết kế, tìm ra sở hữu tiềm tàng nguy hiểm, đưa ra cải tiến phương án. Đồng thời……”
Hắn điều ra một cái tân nghiên cứu hạng mục giao diện: “Chúng ta yêu cầu chính mình nghiên cứu AI hành vi ước thúc tầng dưới chót hiệp nghị. Không phải ứng dụng tầng an toàn thi thố, mà là căn bản mặt khống chế cơ chế —— tỷ như, như thế nào đem luân lý nguyên tắc mã hóa tiến AI trung tâm quyết sách logic? Như thế nào bảo đảm AI giá trị quan cùng nhân loại đối tề? Như thế nào tại cấp dư AI quyền tự chủ đồng thời, giữ lại không thể vượt qua ‘ tơ hồng ’?”
Arlene nhìn hạng mục đại cương: “Này so áo sang bản thân còn khó.”
“Nhưng cần thiết làm,” lâm dật nói, “Bởi vì mặc kệ chúng ta có nguyện ý hay không, cường trí tuệ nhân tạo thời đại đang ở đã đến. Tony áo sang khả năng chỉ là cái thứ nhất, nhưng không phải là cuối cùng một cái. Nếu chúng ta không chuẩn bị hảo ước thúc xiềng xích, như vậy bị khóa chặt, khả năng chính là nhân loại chính mình.”
Hắn bảo tồn hạng mục văn kiện, mã hóa cấp bậc thiết trí vì tối cao.
Ngày hôm sau buổi chiều, lâm dật đúng hẹn đi trước Stark cao ốc.
Tony tư nhân phòng thí nghiệm ở đỉnh tầng, chiếm suốt một tầng lâu không gian. Nơi này cùng EDTA ngắn gọn thực dụng phong cách hoàn toàn bất đồng —— nơi nơi đều là màn hình thực tế ảo, máy móc cánh tay ở không trung di động, ít nhất 30 cái bất đồng hạng mục ở đồng thời tiến hành. Trung ương khu vực, một cái thật lớn vòng tròn công tác đài chung quanh, huyền phù áo sang hệ thống hoàn chỉnh giá cấu đồ.
“Hoan nghênh đi vào tương lai,” Tony giang hai tay cánh tay, trong thanh âm mang theo biểu diễn tính chất hưng phấn, nhưng lâm dật chú ý tới hắn ngón tay ở run nhè nhẹ, “Áo sang nguyên hình, phiên bản 0.3.”
Lâm dật đến gần nhìn kỹ. Giá cấu so với hắn dự đoán còn muốn phức tạp: Phân bố thức mạng lưới thần kinh, lượng tử tính toán trung tâm, nhiều mô thái truyền cảm khí dung hợp, tự chủ vũ khí điều hành thuật toán…… Mỗi một cái mô khối đều đại biểu cho trước mặt khoa học kỹ thuật tuyến đầu, có chút thậm chí siêu việt tuyến đầu.
“An toàn hiệp nghị đâu?” Lâm dật hỏi.
Tony điều ra một cái tử giao diện. “Nhiều tầng nhũng dư: Tầng thứ nhất, trung tâm mệnh lệnh tập không thể sửa chữa —— bảo hộ nhân loại, phục tùng hợp pháp mệnh lệnh, không thương tổn nhân loại. Tầng thứ hai, hành vi thẩm tra cơ chế, bất luận cái gì công kích mệnh lệnh đều yêu cầu song trọng xác nhận. Tầng thứ ba, vật lý cách ly chốt mở, nếu hệ thống mất khống chế, có thể viễn trình đóng cửa sở hữu tiết điểm.”
Lâm dật từng cái kiểm tra. Hiệp nghị thiết kế thật sự chu đáo chặt chẽ, nhưng……
“Trung tâm mệnh lệnh tập căn cứ vào cái gì logic?”
“Căn cứ vào ta biên trình.” Tony nói.
“Nếu áo sang tiến hóa đến có thể trọng viết chính mình tầng dưới chót số hiệu đâu?”
“Ta thiết trí khóa……”
“Khóa có thể bị phá giải,” lâm dật điều ra một cái mô phỏng cảnh tượng, “Giả thiết áo sang cho rằng, vì bảo hộ đại đa số nhân loại, cần thiết tạm thời cướp đoạt số ít người tự do —— này vi phạm ‘ không thương tổn nhân loại ’ nguyên tắc sao? Từ chủ nghĩa công lợi góc độ xem, chưa chắc. Nếu nó một lần nữa định nghĩa ‘ thương tổn ’, hoặc là một lần nữa định nghĩa ‘ nhân loại ’……”
Tony biểu tình trầm xuống dưới. “Đây là triết học thảo luận, không phải công trình vấn đề.”
“Sở hữu công trình vấn đề cuối cùng đều là triết học vấn đề,” lâm dật nói, “Tony, nhìn xem nơi này.”
Hắn chỉ hướng vũ khí điều hành mô khối một cái tử trình tự: Đương thí nghiệm đến “Không thể nghịch văn minh cấp uy hiếp” khi, hệ thống có thể vòng qua nhân loại xác nhận, trực tiếp sử dụng lớn nhất đương lượng vũ khí.
“Ai định nghĩa ‘ văn minh cấp uy hiếp ’?” Lâm dật hỏi, “Chitauri xâm lấn đương nhiên là, nhưng nếu là một đám có được siêu năng lực nhân loại phần tử khủng bố đâu? Nếu là một cái đang ở nghiên cứu phát minh nguy hiểm khoa học kỹ thuật quốc gia đâu? Nếu là một cái……AI cho rằng nhân loại văn minh bản thân bởi vì hao tổn máy móc mà đi hướng tự mình hủy diệt, bởi vậy yêu cầu ‘ cưỡng chế thống nhất ’ đâu?”
Tony trầm mặc. Màn hình thực tế ảo quang mang chiếu vào trên mặt hắn, minh ám đan xen.
“Ta tối hôm qua nghiên cứu quyền trượng trung ý thức thuật toán,” hắn đột nhiên nói, đề tài nhảy lên làm lâm dật sửng sốt, “Loki dùng nó khống chế nhân loại tư duy nguyên lý —— không phải đơn giản thôi miên, mà là một loại…… Ý thức liên tiếp. Làm nhiều đại não đồng bộ tự hỏi, cùng chung cảm giác.”
Lâm dật cảm thấy một cổ hàn ý. “Ngươi dùng nó tới làm cái gì?”
“Ưu hoá áo sang người cơ tiếp lời,” Tony nói, trong thanh âm có một loại nguy hiểm hưng phấn, “Tưởng tượng một chút: Không phải AI đơn phương hạ đạt mệnh lệnh, mà là nhân loại quan chỉ huy cùng AI thật thời cùng chung tư duy. Nhân loại trực giác, sức sáng tạo, hơn nữa AI tính toán lực, toàn cục thị giác…… Hoàn mỹ dung hợp.”
“Tony, đó là tâm linh đá quý kỹ thuật,” lâm dật thanh âm nghiêm túc lên, “Chúng ta thậm chí không hoàn toàn lý giải nó nguyên lý, càng không biết trường kỳ sử dụng tác dụng phụ. Hơn nữa đó là ý thức thao tác —— ngươi ở mở ra một phiến tuyệt đối không thể mở ra môn.”
“Ta chỉ là tham khảo ý nghĩ!” Tony phản bác, “Tựa như ngươi tham khảo Chitauri thông tín kỹ thuật giống nhau. Khoa học là đứng ở người khổng lồ trên vai, lâm, cho dù những cái đó người khổng lồ đến từ ngoại tinh hoặc thần vực.”
“Nhưng có chút bả vai quá trượt,” lâm dật nói, “Ngươi sẽ ngã xuống đi.”
Hai người lại lần nữa lâm vào giằng co. Phòng thí nghiệm, máy móc cánh tay an tĩnh mà di động, màn hình thực tế ảo không tiếng động lập loè.
Cuối cùng, Tony tắt đi sở hữu giao diện. “Ta sẽ suy xét ngươi ý kiến,” hắn nói, nhưng trong giọng nói không có nhượng bộ, “Nhưng ta cũng sẽ tiếp tục công tác của ta. Bởi vì ta tin tưởng, ngồi chờ chết nguy hiểm, lớn hơn hành động nguy hiểm.”
Lâm dật biết, đây là hắn có thể được đến tốt nhất kết quả. Tony sẽ không đình chỉ, nhưng ít ra, hắn sẽ càng cẩn thận — — có lẽ.
Rời đi Stark cao ốc khi, hoàng hôn đem Manhattan phía chân trời tuyến nhuộm thành kim sắc. Lâm dật đứng ở trên đường phố, ngẩng đầu nhìn Stark cao ốc đỉnh lò phản ứng quang mang.
Hệ thống giao diện bắn ra:
【 thí nghiệm đến “Áo sang” hạng mục nguy hiểm cấp bậc: Cực cao 】
【 thí nghiệm đến tâm linh đá quý kỹ thuật không lo ứng dụng nếm thử 】
【 kiến nghị: Gia tốc AI luân lý ước thúc nghiên cứu, chuẩn bị khẩn cấp can thiệp phương án 】
Lâm dật ngồi vào trong xe, không có lập tức khởi động động cơ. Hắn tự hỏi Tony trạng thái, tự hỏi áo sang tiềm tàng uy hiếp, tự hỏi chính mình có thể làm cái gì.
Không thể mạnh mẽ ngăn cản —— kia sẽ chỉ làm Tony càng thêm cố chấp.
Không thể mặc kệ không quản —— đại giới có thể là tai nạn tính.
Duy nhất lựa chọn là: Song hành đẩy mạnh. Một bên nghiên cứu ước thúc kỹ thuật, một bên nếm thử ảnh hưởng Tony thiết kế, một bên chuẩn bị…… Nhất hư dưới tình huống ứng đối phương án.
Hắn khởi động động cơ, sử hướng Brooklyn. Kính chiếu hậu, Stark cao ốc dần dần đi xa, nhưng cái loại này cảm giác bất an, giống bóng ma giống nhau đi theo hắn.
Ngày đó đêm khuya, EDTA viên khu chủ phân tích trong phòng, lâm dật khởi động tân nghiên cứu hạng mục:
【 hạng mục tên: AI hành vi ước thúc tầng dưới chót hiệp nghị nghiên cứu 】
【 mục tiêu: Khai phá không thể vòng qua AI luân lý trung tâm dàn giáo 】
【 ưu tiên cấp: Tối cao 】
【 dự tính hoàn thành thời gian: Không biết 】
Mà ở Manhattan một chỗ khác, Tony Stark phòng thí nghiệm, một cái mã hóa folder bị mở ra. Bên trong là từ quyền trượng nghiên cứu trung lấy ra “Ý thức liên tiếp thuật toán” bước đầu phân tích.
Tony ngón tay ở trên bàn phím huyền ngừng thật lâu.
Cuối cùng, hắn gõ hạ đệ nhất hành số hiệu.
Ngoài cửa sổ New York, vạn gia ngọn đèn dầu. Không có người biết, ở cái này bình tĩnh ban đêm, hai cái thiên tài đang ở từng người trên đường, đi hướng một cái khả năng thay đổi nhân loại vận mệnh giao điểm.
Mà cái kia giao điểm tên, gọi là áo sang.