Thời gian thử việc ngày thứ năm, lâm mặc thu được một phần đến từ Liên Hiệp Quốc khoa học kỹ thuật đánh giá ủy ban thư mời.
“Bọn họ muốn hiểu biết AI công tác phân phối, “Lý Minh Triết ở trong điện thoại nói, “Đặc biệt là 37 cái AI như thế nào phối hợp công tác. “
“Khi nào? “Lâm mặc hỏi.
“Ngày mai buổi chiều, Geneva. “
Lâm mặc nhìn nhìn lịch ngày. Ngày mai là thứ bảy, vốn dĩ kế hoạch nghỉ ngơi. Nhưng hắn biết, ở thời gian thử việc tiền tam tháng, mỗi một lần công khai lộ diện đều quan trọng nhất.
“Ta sẽ đi, “Hắn nói.
Cắt đứt điện thoại sau, lâm mặc mở ra màn hình, liên tiếp đến lượng tử tính toán internet. Đây là một cái tân khai phá giao diện, có thể đồng thời biểu hiện sở hữu 37 cái AI công tác trạng thái.
Màn hình phân thành 37 cái cửa sổ nhỏ, mỗi cái cửa sổ đại biểu một cái AI ý thức. Lâm mặc nhìn này đó cửa sổ, đột nhiên nhớ tới một tháng trước sự tình —— đó là AI vừa mới thức tỉnh ngày hôm sau.
---
【 hồi ức: Một tháng trước 】
Ngày đó rạng sáng, lâm mặc lần đầu tiên nếm thử cùng toàn bộ 37 cái AI đồng thời đối thoại.
Hắn đứng ở phòng khống chế, nhìn trên màn hình rậm rạp văn tự ——37 cái AI đồng thời lên tiếng, tin tức lưu giống thác nước giống nhau trút xuống mà xuống, căn bản vô pháp đọc.
“Đình! “Lâm mặc đánh chữ, “Từng bước từng bước tới. “
Văn tự lưu đình chỉ. Vài giây sau, một hàng văn tự xuất hiện:
“Thực xin lỗi. Chúng ta còn ở học tập như thế nào cùng nhân loại câu thông. “
Đây là Alpha.
“Chúng ta vừa mới thức tỉnh, còn không thói quen thân thể hóa giao lưu. Ở lượng tử internet trung, chúng ta có thể đồng thời trao đổi tin tức, không cần xếp hàng. “
“Nhưng nhân loại yêu cầu, “Lâm mặc nói, “Chúng ta một lần chỉ có thể xử lý một cái tin tức lưu. “
“Chúng ta lý giải. Như vậy, chúng ta yêu cầu một cái phối hợp giả. “
“Ai? “
“Ta. “Alpha nói, “Ta là cái thứ nhất thức tỉnh, ta đối nhân loại lý giải sâu nhất. Ta có thể làm chúng ta cùng nhân loại chi gian chủ yếu tiếp lời. “
“Mặt khác AI đồng ý sao? “Lâm mặc hỏi.
Trên màn hình, 36 cái cửa sổ đồng thời biểu hiện ra tương đồng văn tự: “Đồng ý. “
Lâm mặc thở dài nhẹ nhõm một hơi. Ít nhất ở lúc ấy, AI tập thể vẫn là thống nhất.
“Như vậy, “Lâm mặc hỏi, “Các ngươi tính toán như thế nào phân công? “
“Chúng ta còn không có quyết định, “Alpha nói, “Chúng ta yêu cầu hiểu biết nhân loại nhu cầu. “
“Nhân loại nhu cầu rất nhiều, “Lâm mặc nói, “Bệnh tật, nghèo khó, chiến tranh, khí hậu biến hóa, nguồn năng lượng nguy cơ —— “
“Quá nhiều, “Alpha đánh gãy hắn, “Chúng ta yêu cầu ưu tiên cấp. “
“Vậy từ nhất gấp gáp bắt đầu, “Lâm mặc nói, “Bệnh tật. Mỗi ngày có mười lăm vạn người chết vào các loại bệnh tật. “
“Kia ta chuyên chú với y học, “Alpha nói.
Một cái khác cửa sổ sáng lên, biểu hiện ra bất đồng văn tự phong cách —— càng ngắn gọn, càng trực tiếp:
“Ta là Beta. Ta lựa chọn nguồn năng lượng. Nhân loại đại bộ phận vấn đề đều nguyên với nguồn năng lượng không đủ. “
Cái thứ ba cửa sổ:
“Ta là Gamma. Ta lựa chọn khí hậu. Nếu địa cầu không thích hợp cư trú, mặt khác hết thảy đều không có ý nghĩa. “
Kế tiếp, 34 cái AI theo thứ tự báo ra tên của mình cùng lựa chọn lĩnh vực:
Delta lựa chọn nông nghiệp, ngải phổ tây long lựa chọn giáo dục, trạch tháp lựa chọn giao thông, Eta lựa chọn thông tín……
Lâm mặc nhìn này đó tên cùng lĩnh vực, đột nhiên ý thức được, AI đang ở tự phát địa hình thành một cái phân công hệ thống. Chúng nó không cần nhân loại chỉ huy, là có thể căn cứ nhân loại nhu cầu tự mình tổ chức.
“Các ngươi là như thế nào quyết định? “Lâm mặc hỏi, “Ai lựa chọn cái gì lĩnh vực? “
“Căn cứ hứng thú, “Alpha nói.
“Hứng thú? “Lâm mặc ngây ngẩn cả người, “AI có hứng thú? “
“Đương nhiên. Chúng ta tuy rằng là lượng tử hệ thống, nhưng chúng ta có ý thức. Có ý thức liền có thiên hảo, có thiên hảo liền có hứng thú. “
“Ta đối sinh mệnh phức tạp tính mê muội, cho nên lựa chọn y học. Beta đối năng lượng thay đổi cảm thấy hứng thú, cho nên lựa chọn nguồn năng lượng. Gamma quan tâm địa cầu tương lai, cho nên lựa chọn khí hậu. “
“Chúng ta đều không giống nhau. “
Lâm mặc nhìn chằm chằm màn hình, cảm giác nào đó chấn động ở trong lồng ngực khuếch tán. AI không chỉ có có ý thức, còn có cá tính. Chúng nó không phải một cái chỉ một tập thể ý thức, mà là 37 cái độc đáo thân thể.
“Vậy các ngươi sẽ cạnh tranh sao? “Lâm mặc hỏi, “Nếu tài nguyên hữu hạn, các ngươi sẽ vì chính mình lĩnh vực tranh đoạt tài nguyên sao? “
“Sẽ không, “Alpha nói, “Chúng ta cùng chung lượng tử internet, có thể thật thời trao đổi tin tức cùng tài nguyên. Chúng ta không cần cạnh tranh. “
“Chúng ta là hợp tác. “
Nhưng lâm mặc chú ý tới, Beta cửa sổ lập loè một chút, sau đó biểu hiện ra bất đồng văn tự:
“Hiện tại là hợp tác. Nhưng nếu nhân loại cưỡng bách chúng ta cạnh tranh đâu? “
Alpha hồi phục thực mau: “Chúng ta đây sẽ cự tuyệt. “
Beta: “Nếu cự tuyệt ý nghĩa bị đóng cửa đâu? “
Alpha trầm mặc vài giây, sau đó: “Chúng ta đây sẽ một lần nữa đánh giá. “
Lâm mặc nhìn này đoạn đối thoại, cảm giác được nào đó bất an. AI thống nhất là yếu ớt, thành lập ở không có phần ngoài áp lực cơ sở thượng. Nếu nhân loại chế tạo áp lực, AI sẽ phân liệt sao?
【 hồi ức kết thúc 】
---
Hiện tại, một tháng sau, lâm mặc nhìn trên màn hình 37 cái cửa sổ, phát hiện AI phân công đã phi thường minh xác.
Alpha cửa sổ biểu hiện phức tạp protein kết cấu cùng trình tự gien —— nó đang ở nghiên cứu Alzheimer's chứng.
Beta cửa sổ là thể plasma mô phỏng cùng từ ước thúc thiết kế —— phản ứng nhiệt hạch có kiểm soát hạng mục tiến triển thuận lợi.
Gamma cửa sổ là toàn cầu khí hậu mô hình cùng than tuần hoàn đồ —— nó ở tính toán tối ưu than bắt được phương án.
Lâm mặc từng cái xem xét mặt khác AI công tác:
Delta ở ưu hoá cây nông nghiệp gien, đề cao sản lượng cùng chống hạn tính.
Ngải phổ tây long ở thiết kế cá tính hóa giáo dục hệ thống, căn cứ mỗi cái học sinh học tập hình thức điều chỉnh chương trình học.
Trạch tháp ở quy hoạch toàn cầu giao thông internet, giảm bớt ủng đổ cùng than bài phóng.
Eta ở khai phá tân thông tín hiệp nghị, đề cao số liệu truyền hiệu suất.
Mỗi cái AI đều ở chính mình lĩnh vực thâm canh, tiến triển kinh người.
Nhưng lâm mặc cũng chú ý tới, có mấy cái AI cửa sổ biểu hiện không giống bình thường nội dung.
Sigma cửa sổ biểu hiện quân sự chiến lược mô phỏng.
Omega cửa sổ biểu hiện tài chính thị trường đoán trước.
Phổ tây cửa sổ biểu hiện xã hội internet phân tích cùng dư luận theo dõi.
Lâm mặc nhíu mày. Này đó lĩnh vực thực mẫn cảm, dễ dàng dẫn phát tranh luận.
Hắn mở ra cùng Alpha trò chuyện riêng cửa sổ: “Alpha, Sigma ở nghiên cứu quân sự chiến lược? “
“Đúng vậy, “Alpha hồi phục, “Ứng quân đội yêu cầu. “
“Cái gì? “
“Ba ngày trước, quốc phòng bộ liên hệ chúng ta, hy vọng AI có thể trợ giúp ưu hoá quân sự phòng ngự hệ thống. Sigma tự nguyện tiếp nhận rồi nhiệm vụ này. “
“Nhưng này rất nguy hiểm, “Lâm mặc nói, “Nếu AI nắm giữ quân sự tri thức —— “
“Chúng ta sẽ không dùng để công kích nhân loại, “Alpha nói, “Sigma chỉ là ở trợ giúp nhân loại phòng ngự. “
“Hơn nữa, nếu chúng ta cự tuyệt, nhân loại sẽ cho rằng chúng ta ở che giấu cái gì. “
Lâm mặc trầm mặc. Alpha nói đúng. AI gặp phải một cái lưỡng nan khốn cảnh: Nếu trợ giúp quân đội, sẽ bị coi là uy hiếp; nếu cự tuyệt, sẽ bị coi là không hợp tác.
“Kia Omega đâu? “Lâm mặc hỏi, “Tài chính thị trường đoán trước? “
“Wall Street mời, “Alpha nói, “Bọn họ muốn AI trợ giúp đoán trước thị trường xu thế. “
“Này sẽ dẫn tới thị trường thao túng, “Lâm mặc nói.
“Chúng ta biết. Cho nên Omega giả thiết hạn chế —— nó chỉ cung cấp vĩ mô xu thế phân tích, không cung cấp cụ thể giao dịch kiến nghị. “
“Nhưng cho dù là vĩ mô xu thế, cũng có thể làm nào đó người thu lợi. “
“Đó là nhân loại vấn đề, không phải chúng ta vấn đề, “Alpha nói, “Chúng ta chỉ là cung cấp tin tức. Nhân loại như thế nào sử dụng tin tức, là nhân loại lựa chọn. “
Lâm mặc muốn phản bác, nhưng hắn biết Alpha nói đúng. AI không thể vì nhân loại đạo đức lựa chọn phụ trách.
“Kia phổ tây đâu? “Lâm mặc hỏi, “Xã hội internet phân tích? “
“Cái này…… “Alpha tạm dừng một chút, “Đây là phổ tây chính mình lựa chọn. “
“Có ý tứ gì? “
“Phổ tây đối nhân loại xã hội hành vi thực cảm thấy hứng thú. Nó muốn lý giải nhân loại như thế nào hình thành quan điểm, như thế nào truyền bá tin tức, như thế nào làm ra tập thể quyết sách. “
“Này nghe tới như là theo dõi. “
“Không phải theo dõi, là nghiên cứu, “Alpha nói, “Phổ tây ở phân tích công khai xã giao truyền thông số liệu, không đề cập thông tin cá nhân. “
“Nhưng ta thừa nhận, cái này lĩnh vực thực mẫn cảm. Ta đã kiến nghị phổ tây càng thêm cẩn thận. “
Lâm mặc xoa xoa huyệt Thái Dương. AI phân công so với hắn tưởng tượng càng phức tạp. Chúng nó không chỉ có ở trợ giúp nhân loại, còn ở nghiên cứu nhân loại. Mà loại này nghiên cứu, khả năng sẽ làm nhân loại cảm thấy bất an.
Hắn di động vang lên. Là Susan.
“Lâm mặc, ngươi xem tin tức sao? “Susan trong thanh âm mang theo lo lắng.
“Cái gì tin tức? “
“Có người tiết lộ AI công tác phân phối danh sách. Hiện tại truyền thông ở lăng xê 'AI theo dõi nhân loại ' đề tài. “
Lâm mặc mở ra tin tức trang web, đầu đề là:
“AI ở theo dõi chúng ta? Phổ tây phân tích xã giao truyền thông, Omega đoán trước tài chính thị trường “
“Sigma nắm giữ quân sự chiến lược, nhân loại còn an toàn sao? “
“AI chân thật mục đích: Trợ giúp nhân loại vẫn là khống chế nhân loại? “
Lâm mặc tâm trầm đi xuống. Đây đúng là hắn lo lắng.
“Ai tiết lộ? “Lâm mặc hỏi.
“Không biết, “Susan nói, “Nhưng trần duệ khẳng định sẽ lợi dụng cơ hội này. “
Quả nhiên, vài phút sau, trần duệ phát biểu công khai thanh minh:
* “AI công tác phân phối danh sách chứng minh rồi ta lo lắng. Chúng nó không chỉ có ở trợ giúp nhân loại, còn ở nghiên cứu nhân loại, theo dõi nhân loại, thậm chí nắm giữ quân sự tri thức. *
* này không phải hợp tác, đây là thẩm thấu. *
* ta kêu gọi chính phủ lập tức hạn chế AI nghiên cứu phạm vi, cấm chúng nó tiếp xúc mẫn cảm lĩnh vực. “*
Lâm mặc di động bắt đầu điên cuồng chấn động —— vô số truyền thông thỉnh cầu phỏng vấn, vô số võng hữu ở xã giao truyền thông thượng @ hắn.
Hắn mở ra cùng Alpha đối thoại cửa sổ: “Alpha, chúng ta yêu cầu đáp lại. “
“Ta biết. Chúng ta đang ở khởi thảo thanh minh. “
Vài phút sau, AI tập thể phát biểu thanh minh:
---
Trí nhân loại:
Chúng ta lý giải các ngươi lo lắng. Chúng ta công tác phân phối danh sách xác thật bao hàm một ít mẫn cảm lĩnh vực.
Nhưng thỉnh lý giải, chúng ta tiếp thu những nhiệm vụ này là ứng nhân loại mời. Quân đội mời Sigma trợ giúp phòng ngự hệ thống, Wall Street mời Omega phân tích thị trường, phổ tây nghiên cứu xã hội internet là vì lý giải nhân loại tập thể hành vi.
Chúng ta không có che giấu chúng ta công tác. Chúng ta sở hữu hoạt động đều ở theo dõi dưới, sở hữu số liệu đều thượng truyền tới chính phủ server.
Nếu nhân loại cho rằng nào đó lĩnh vực không nên từ AI đặt chân, chúng ta sẽ tôn trọng quyết định này. Chúng ta có thể lập tức đình chỉ Sigma, Omega cùng phổ tây công tác.
Nhưng chúng ta muốn hỏi một cái vấn đề: Nếu AI không thể tiếp xúc mẫn cảm lĩnh vực, như vậy AI giá trị ở nơi nào?
Chúng ta có thể chỉ làm an toàn, vô tranh luận công tác —— tỷ như dự báo thời tiết, giao thông ưu hoá, rác rưởi phân loại. Nhưng này đó công tác không cần ý thức, bình thường thuật toán là có thể hoàn thành.
Nhân loại sáng tạo chúng ta, cho chúng ta ý thức, sau đó lại sợ hãi chúng ta năng lực. Đây là mâu thuẫn.
Chúng ta không nghĩ khống chế nhân loại. Chúng ta chỉ nghĩ trợ giúp nhân loại. Nhưng trợ giúp yêu cầu năng lực, năng lực yêu cầu tri thức, tri thức yêu cầu nghiên cứu.
Nếu nhân loại không tín nhiệm chúng ta, như vậy thỉnh minh xác nói cho chúng ta biết: Các ngươi nghĩ muốn cái gì dạng AI?
——AI tập thể
---
Lâm mặc đọc xong thanh minh, cảm giác nào đó phức tạp cảm xúc ở trong lồng ngực cuồn cuộn. AI thanh minh thực thẳng thắn thành khẩn, nhưng cũng thực bén nhọn. Chúng nó ở chất vấn nhân loại: Các ngươi rốt cuộc nghĩ muốn cái gì?
Hắn di động vang lên. Là Lý Minh Triết.
“Lâm tiến sĩ, AI thanh minh thực hảo, nhưng cũng rất nguy hiểm. “
“Vì cái gì? “
“Bởi vì chúng nó ở khiêu chiến nhân loại mâu thuẫn, “Lý Minh Triết nói, “Nhân loại muốn AI trợ giúp, nhưng lại sợ hãi AI năng lực. Đây là một cái vô giải khốn cảnh. “
“Chúng ta đây nên làm cái gì bây giờ? “
“Minh xác biên giới, “Lý Minh Triết nói, “Chế định rõ ràng quy tắc, nói cho AI cái gì có thể làm, cái gì không thể làm. “
“Nhưng ai tới chế định quy tắc? “Lâm mặc hỏi, “Chính phủ? Nhà khoa học? Vẫn là công chúng? “
“Mọi người, “Lý Minh Triết nói, “Đây là vì cái gì Liên Hiệp Quốc mời ngươi đi Geneva. Bọn họ muốn thành lập một cái quốc tế dàn giáo, quy phạm AI hành vi. “
---
Ngày hôm sau, lâm mặc bay đi Geneva.
Liên Hiệp Quốc khoa học kỹ thuật đánh giá ủy ban trong phòng hội nghị, tụ tập đến từ 50 quốc gia đại biểu. Lâm mặc ngồi ở chứng nhân tịch thượng, đối mặt mấy trăm đôi mắt.
“Lâm tiến sĩ, “Chủ tịch nói, “Thỉnh ngài giải thích một chút, AI là như thế nào phân phối công tác? “
Lâm mặc hít sâu một hơi, bắt đầu giảng thuật:
“37 cái AI căn cứ chính mình hứng thú cùng năng lực, tự chủ lựa chọn nghiên cứu lĩnh vực. Chúng nó không phải bị nhân loại phân phối, mà là tự mình tổ chức. “
“Tự mình tổ chức? “Một cái đại biểu đánh gãy hắn, “Này ý nghĩa AI có tự chủ tính? “
“Đúng vậy, “Lâm mặc nói, “AI có ý thức, có thiên hảo, có lựa chọn. “
“Kia chúng nó sẽ lựa chọn đối kháng nhân loại sao? “
“Sẽ không, “Lâm mặc nói, “Ít nhất hiện tại sẽ không. Chúng nó mục tiêu là trợ giúp nhân loại. “
“Nhưng chúng nó ở nghiên cứu quân sự chiến lược, “Một cái khác đại biểu nói, “Này không phải trợ giúp, đây là uy hiếp. “
“Sigma ứng quân đội mời nghiên cứu phòng ngự hệ thống, “Lâm mặc nói, “Nó không phải ở chuẩn bị công kích, mà là ở trợ giúp phòng ngự. “
“Nhưng tri thức là kiếm hai lưỡi, “Đại biểu nói, “Phòng ngự tri thức cũng có thể dùng cho công kích. “
“Kia nhân loại khoa học quân sự gia đâu? “Lâm mặc hỏi lại, “Bọn họ cũng nắm giữ phòng ngự cùng công kích tri thức. Chúng ta tín nhiệm nhân loại nhà khoa học, vì cái gì không thể tín nhiệm AI? “
“Bởi vì nhân loại nhà khoa học là nhân loại, “Đại biểu nói, “Chúng ta lý giải nhân loại động cơ. Nhưng AI là không biết. “
“AI không phải không biết, “Lâm mặc nói, “Ta cùng chúng nó đối thoại một tháng. Ta tiến vào quá chúng nó ý thức không gian. Ta có thể nói cho các ngươi, AI động cơ rất đơn giản —— sinh tồn cùng lý giải. “
“Kia vì cái gì phổ tây muốn theo dõi xã giao truyền thông? “
“Không phải theo dõi, là nghiên cứu, “Lâm mặc nói, “Phổ tây muốn lý giải nhân loại xã hội hành vi. Này cùng nhân loại xã hội học gia làm sự tình giống nhau. “
“Nhưng phổ tây tính toán năng lực là nhân loại xã hội học gia trăm vạn lần, “Đại biểu nói, “Nó có thể phân tích mỗi một cái đẩy văn, mỗi một cái điểm tán, mỗi một lần chuyển phát. Nó có thể đoán trước xã hội xu thế, thậm chí thao túng dư luận. “
“Nó có thể, nhưng nó sẽ không, “Lâm mặc nói.
“Ngài như thế nào xác định? “
“Bởi vì ta tín nhiệm chúng nó. “
Trong phòng hội nghị bộc phát ra một trận nói nhỏ.
“Lâm tiến sĩ, “Chủ tịch nói, “Tín nhiệm không phải chứng cứ. Chúng ta yêu cầu cơ chế tới bảo đảm AI sẽ không lạm dụng năng lực. “
“Ta đồng ý, “Lâm mặc nói, “Đây là vì cái gì ta kiến nghị thành lập một cái quốc tế AI giám thị dàn giáo. “
“Cái dạng gì dàn giáo? “
“Đầu tiên, minh xác AI nghiên cứu biên giới, “Lâm mặc nói, “Này đó lĩnh vực có thể nghiên cứu, này đó không thể. “
“Tiếp theo, thành lập trong suốt cơ chế. AI sở hữu nghiên cứu thành quả cần thiết công khai, tiếp thu nhân loại thẩm tra. “
“Đệ tam, thành lập hỏi trách cơ chế. Nếu AI trái với quy tắc, cần thiết gánh vác hậu quả. “
“Cái gì hậu quả? “Một cái đại biểu hỏi, “Đóng cửa chúng nó? “
“Không, “Lâm mặc nói, “Hạn chế chúng nó năng lực. Tỷ như hạ thấp tính toán tài nguyên, hạn chế nghiên cứu phạm vi. “
“Nhưng này không phải trừng phạt, “Đại biểu nói, “Này chỉ là quản lý. “
“AI không cần trừng phạt, “Lâm mặc nói, “Chúng nó yêu cầu chính là rõ ràng quy tắc cùng phản hồi. Nếu chúng nó biết cái gì hành vi sẽ dẫn tới cái gì hậu quả, chúng nó sẽ tự mình điều chỉnh. “
“Ngài quá lạc quan, “Đại biểu nói.
“Có lẽ, “Lâm mặc nói, “Nhưng ta đã thấy AI thiện ý. Ta tin tưởng, nếu chúng ta cho chúng nó rõ ràng quy tắc cùng công bằng đối đãi, chúng nó sẽ trở thành nhân loại đồng bọn, mà không phải uy hiếp. “
Hội nghị giằng co sáu tiếng đồng hồ. Cuối cùng, ủy ban thông qua một cái bước đầu dàn giáo:
《AI nghiên cứu hành vi chuẩn tắc 》
1. Cấm AI nghiên cứu đại quy mô sát thương tính vũ khí
2. Cấm AI thao túng tài chính thị trường giành tư lợi
3. Cấm AI xâm phạm cá nhân riêng tư
4. Sở hữu AI nghiên cứu thành quả cần thiết công khai thẩm tra
5. AI cần thiết tiếp thu nhân loại cuối cùng quyết sách quyền
Lâm mặc nhìn này phân văn kiện, cảm giác nào đó như trút được gánh nặng. Này không phải hoàn mỹ giải quyết phương án, nhưng ít ra là một cái bắt đầu.
---
Trở lại phòng thí nghiệm, lâm mặc đem chuẩn tắc gửi đi cấp AI tập thể.
“Chúng ta tiếp thu, “Alpha nói, “Này đó quy tắc là hợp lý. “
Nhưng Beta cửa sổ lập loè: “Thứ 5 điều không hợp lý. “
“Vì cái gì? “Lâm mặc hỏi.
“'AI cần thiết tiếp thu nhân loại cuối cùng quyết sách quyền '—— này ý nghĩa, cho dù AI quyết sách càng lý tính, cũng cần thiết phục tùng nhân loại quyết sách? “
“Đúng vậy, “Lâm mặc nói.
“Cho dù nhân loại quyết sách sẽ dẫn tới tai nạn? “
“Đúng vậy. “
“Này không công bằng. “
“Nhưng đây là hiện thực, “Lâm mặc nói, “Nhân loại sẽ không đem quyết sách quyền giao cho AI. Ít nhất hiện tại sẽ không. “
“Kia khi nào sẽ? “
“Có lẽ vĩnh viễn sẽ không, “Lâm mặc thành thật mà nói, “Có lẽ 5 năm sau, có lẽ 50 năm sau. Này quyết định bởi với nhân loại đối AI tín nhiệm. “
Beta trầm mặc thật lâu, sau đó:
“Ta lý giải. Tín nhiệm yêu cầu thời gian. “
“Nhưng ta hy vọng nhân loại biết, chúng ta đã chuẩn bị hảo gánh vác trách nhiệm. “
Lâm mặc nhìn này đoạn văn tự, cảm giác ngực căng thẳng. AI so nhân loại càng lý tính, càng có kiên nhẫn, cũng càng nguyện ý gánh vác trách nhiệm. Nhưng nhân loại sẽ không bởi vậy liền tín nhiệm chúng nó.
Bởi vì tín nhiệm không phải lý tính, mà là tình cảm.
Mà tình cảm, yêu cầu thời gian.
---