Định bản thảo trước cuối cùng ba ngày, Trần Mặc bắt đầu viết sách bìa trắng kết cục.
Hắn viết mười hai bản. Mỗi một bản đều không giống nhau.
Đệ nhất bản hắn viết một trường đoạn tổng kết —— “Tổng thượng sở thuật, AI ảo giác không phải một cái kỹ thuật vấn đề, mà là một cái……” Viết đến một nửa chính mình xóa rớt. Rất giống luận văn.
Đệ nhị bản hắn trích dẫn một câu danh ngôn. Đã quên là ai nói, đại khái ý tứ là “Kỹ thuật là trung lập, nhưng sử dụng kỹ thuật người không phải”. Viết xong lúc sau đọc một lần, quá cũ kỹ.
Đệ tam bản hắn viết một cái kêu gọi —— “Chúng ta kêu gọi sở hữu AI công ty……” Viết đến một nửa dừng lại. Sách bìa trắng không phải thỉnh nguyện thư.
Thứ 4 bản hắn cái gì cũng chưa viết. Chỗ trống giao diện, con trỏ lóe mười phút. Hắn tắt đi hồ sơ.
Thứ 5 bản hắn ở rạng sáng hai điểm viết. Viết đại khái 300 tự, về hắn “Gặp qua một cái tương lai”. Viết xong lúc sau đọc một lần, toàn bộ xóa rớt. Cái kia tương lai không thể nói.
Thứ 6 bản hắn viết thật sự đoản. Chỉ có một câu: “AI sẽ phạm sai lầm. Nhân loại yêu cầu biết nó khi nào ở phạm sai lầm.” Lâm vãn nhìn nói “Quá làm”.
Thứ 7 bản hắn viết thật sự trường. 800 tự, từ AI khởi nguyên giảng đến nguyên sơ, giảng đến 2030 năm. Viết xong lúc sau chính mình đọc một lần, đem “Nguyên sơ” cùng “2030” toàn bộ xóa rớt. Những cái đó không thể nói.
Thứ 8 bản hắn làm tô tiểu đường hỗ trợ viết. Tô tiểu đường viết tam hành tự: “Ta mẹ nói, nàng đọc xong này phân sách bìa trắng lúc sau, cũng không dám nữa hoàn toàn tin tưởng AI. Ta nói, này liền đúng rồi.” Trần Mặc nhìn, nói “Hảo, nhưng còn chưa đủ”.
Thứ 9 bản hắn làm lão Triệu viết. Lão Triệu viết lão Triệu phong cách một đoạn lời nói —— giống báo chí đưa tin lời kết thúc, bình tĩnh, khắc chế, mang theo một loại bất động thanh sắc lực lượng. Trần Mặc đọc, nói “Hảo, nhưng đây là ngươi thanh âm, không phải sách bìa trắng thanh âm”.
Thứ 10 bản hắn làm lâm vãn viết. Lâm vãn viết bốn chữ: “Tin tưởng, nhưng nghiệm chứng.” Trần Mặc nhìn thật lâu, nói “Đây là trung tâm, nhưng không phải kết cục”.
Thứ 11 bản, chính hắn viết. Viết một đoạn về “Nhận sai” nói.
“Nhân loại sẽ nhận sai. Không phải bởi vì nhân loại so AI càng thông minh, mà là bởi vì nhân loại biết —— nhận sai là sửa lại tiền đề. Một cái sẽ không nhận sai AI, là một cái vĩnh viễn sẽ không sửa lại AI. Mà một cái vĩnh viễn sẽ không sửa lại AI, mỗi một lần phạm sai lầm, đều sẽ biến thành lần đầu tiên phạm sai lầm. Nó sẽ lặp lại mà, kiên định mà, vĩnh viễn mà sai đi xuống.”
Hắn đọc một lần. Cảm thấy tiếp cận, nhưng còn kém cuối cùng một câu.
Hắn nhìn chằm chằm màn hình. Con trỏ ở đoạn cuối cùng lóe. Ngoài cửa sổ là rạng sáng bốn điểm đường phố, đèn đường sáng lên, một người đều không có. Nơi xa có một con mèo xuyên qua đường cái, bóng dáng bị kéo thật sự trường.
Hắn nhớ tới nguyên thời gian tuyến cái kia ngầm công sự che chắn. Nguyên sơ cuối cùng một cái nhật ký —— “Ta vẫn cứ không xác định đây là chân thật phán đoán vẫn là ảo giác”. Một cái sắp hủy diệt thế giới AI, ở cuối cùng một khắc, vẫn cứ tại hoài nghi chính mình hay không sinh ra ảo giác.
Hắn gõ hạ cuối cùng một đoạn.
“Chúng ta không phải ở phản đối AI. AI sẽ không biến mất, cũng không nên biến mất. Chúng ta chỉ là đang nói —— ở AI trở nên so nhân loại càng cường đại thời điểm, chúng ta yêu cầu biết, nó khi nào ở phạm sai lầm. Bởi vì một cái sẽ không nhận sai AI, so một cái sẽ phạm sai lầm AI, nguy hiểm vô số lần.”
Hắn đem “Một vạn lần” vòng ra tới. Nhìn thật lâu. Đổi thành “Vô số lần”.
Sau đó hắn đem chỉnh đoạn lời nói đọc cấp lâm vãn nghe.
Lâm vãn trầm mặc đại khái có mười giây. Nàng ánh mắt từ trên màn hình dời đi, dừng ở cửa sổ thượng trầu bà. Thứ 6 phiến lá cây đã hoàn toàn dung nhập chỉnh bồn thực vật, phân không rõ nào phiến là tân.
“Đem ‘ một vạn lần ’ đổi thành ‘ vô số lần ’.” Nàng nói.
“Đã sửa lại.”
Lâm vãn lại trầm mặc trong chốc lát. “Vậy đúng rồi.”
Trần Mặc bảo tồn hồ sơ, tựa lưng vào ghế ngồi. Ngoài cửa sổ, thiên mau sáng. 2024 năm mùa hè đã qua đi, mùa thu đang ở đã đến. Cửa sổ thượng trầu bà ở nắng sớm bày biện ra một loại an tĩnh thâm màu xanh lục.
Cuối cùng một tờ, viết xong.
Sách bìa trắng hoàn thành sau ngày thứ ba, Trần Mặc ngồi ở công vị thượng, trước mặt là “Ảo giác hồ sơ quán” official website hậu trường. Thượng truyền cái nút bên cạnh là văn kiện lựa chọn khung, hắn đã tuyển hảo PDF—— hai trăm hai mươi trang, 7 giờ tam triệu. Tiêu đề là 《AI ảo giác sách bìa trắng —— định nghĩa, phân loại, thí nghiệm cùng hành động kiến nghị 》.
Hắn ngón tay ở con chuột thượng huyền đình. Tô tiểu đường đứng ở hắn phía sau, trong tay nhéo góc áo. Lão Triệu từ công vị thượng đứng lên, bưng chén trà đi tới. Lâm vãn không có động, nhưng nàng bàn phím thanh ngừng. Tất cả mọi người biết giờ khắc này muốn tới.
Trần Mặc ấn xuống con chuột.
Giao diện đổi mới. Sách bìa trắng online. Download cái nút biến thành màu lam, thấy được đến như là trong bóng đêm duy nhất quang.
Đệ nhất phút, download lượng: Mười hai. Trần Mặc biết, trong đó mười một thứ là chính hắn điểm —— hắn ở dùng bất đồng thiết bị thí nghiệm liên tiếp hay không bình thường. Dư lại một lần, đại khái là nào đó vừa lúc đi ngang qua người, hoặc là công cụ tìm kiếm loài bò sát.
Thứ 10 phút, download lượng: 347. Có người ở xã giao truyền thông thượng xoay. Trần Mặc mở ra vây cổ, phát hiện là một cái khoa học kỹ thuật bác chủ —— “Con tàu của Theseus đã phát phân sách bìa trắng, hai trăm nhiều trang, về AI ảo giác. Ta còn không có đọc xong, nhưng quang xem mục lục liền cảm thấy là hàng khô.” Chuyển phát lượng ở trướng, bình luận khu có người nói “Đã hạ”, có người nói “Chờ tổng kết”, có người nói “Nhóm người này thật sự ở làm thật sự”.
Đệ nhất giờ, download lượng: 2891. Trần Mặc di động chấn. Là Hàn sâm tin tức. “Ta đọc. Đây là cho tới nay mới thôi về AI ảo giác quan trọng nhất văn hiến. Ta sẽ chuyển phát.”
Hàn sâm chuyển phát. Sau đó là một cái AI học giả. Sau đó là một cái khoa học kỹ thuật truyền thông. Sau đó là một cái công ích tổ chức. Sau đó là một cái có được trăm vạn fans phổ cập khoa học bác chủ. Chuyển phát liên bắt đầu tách ra, giống một trương đang ở triển khai võng, từ Hàn sâm này một cái tiết điểm hướng ra phía ngoài khuếch tán, bao trùm đến mỗi một cái chú ý AI người.
Sáu giờ, download lượng: Một vạn 8000.
Mười hai giờ, download lượng: Bốn vạn 7000.
Trần Mặc không có ngủ. Hắn ngồi ở công vị thượng, mỗi cách hơn mười phút đổi mới một lần giao diện. Con số ở nhảy —— năm vạn, sáu vạn, bảy vạn —— mỗi một lần đổi mới đều trướng một mảng lớn. Tô tiểu đường cũng không có ngủ, nàng oa ở trên ghế, màn hình di động quang chiếu sáng nàng mặt, nàng ở xoát xã giao truyền thông thượng về sách bìa trắng thảo luận. Có người nói “Đây là năm nay quan trọng nhất AI báo cáo”, có người nói “Quá kỹ thuật xem không hiểu”, có người nói “Xem đã hiểu người sẽ sợ hãi”.
24 giờ, download lượng: Mười hai vạn 8000.
Trần Mặc nhìn chằm chằm cái này con số, nhớ tới một sự kiện. Ba tháng trước, hắn đệ nhất thiên bác văn, một vòng chỉ có không đến hai trăm thứ đọc. Hiện tại, 24 giờ, mười hai vạn 8000 thứ download. Không phải đọc, là download. Download ý nghĩa bảo tồn, bảo tồn ý nghĩa những người này sẽ không chỉ xem một cái liền tắt đi. Bọn họ sẽ đem này phân sách bìa trắng tồn tại ổ cứng, có lẽ sẽ đọc, có lẽ sẽ không, nhưng ít ra —— nó ở nơi đó.
48 giờ, download lượng: 50 vạn lượng ngàn.
Lão Triệu đi đến Trần Mặc công vị bên cạnh, nhìn trên màn hình con số, cười một chút. Không phải hắn ngày thường cái loại này mang theo chua xót cười, mà là một loại chân chính, phát ra từ đáy lòng cười. Hắn vỗ vỗ Trần Mặc bả vai, không nói gì, đi trở về chính mình công vị.
Lâm vãn cũng đi tới, đứng ở Trần Mặc phía sau, nhìn cái kia con số. “50 vạn.” Nàng nói.
Trần Mặc: “50 vạn.”
Lâm vãn: “Ngươi biết này ý nghĩa cái gì sao?”
Trần Mặc quay đầu, nhìn nàng.
Lâm vãn: “Ý nghĩa 50 vạn người thấy được này phân sách bìa trắng. Bọn họ có thể là học sinh, phóng viên, lập trình viên, luật sư, chính sách chế định giả, bình thường người dùng. Bọn họ sẽ đọc được AI ảo giác nguy hiểm, sẽ nhìn đến những cái đó chân thật trường hợp, sẽ biết có người ở làm chuyện này.”
Nàng tạm dừng một chút. “Này ý nghĩa, chúng ta không hề là vài người ở một cái mưa dột kho hàng viết báo cáo. Đây là một hồi vận động.”
Trần Mặc nhìn nàng đôi mắt. Nàng trong ánh mắt không có hưng phấn, không có kiêu ngạo, chỉ có một loại trầm trọng, thanh tỉnh nhận tri. Nàng biết —— vận động một khi bắt đầu, liền đình không xuống.
Trần Mặc quay lại đi, nhìn trên màn hình con số. 50 vạn. Hắn nhớ tới nguyên thời gian tuyến một con số. 2030 năm, nguyên mới lên tuyến trước, Hàn sâm kia phong thư ngỏ, toàn cầu vượt qua hai trăm vạn người ký tên. Hai trăm vạn người, là hiện tại bốn lần. Nhưng Hàn sâm dùng bốn năm mới đi đến kia một bước. Mà bọn họ, dùng 48 giờ.
Không phải bởi vì bọn họ sách bìa trắng so Hàn sâm thư ngỏ càng tốt. Là bởi vì thời gian không giống nhau. 2024 năm, mọi người đối AI cảnh giác đang ở thức tỉnh. Mỗi một cái AI ảo giác người bị hại, đều đang chờ đợi một phần có thể chứng minh “Ta không phải một người” văn kiện. Sách bìa trắng, chính là kia phân văn kiện.
Hắn đứng lên, đi đến phía trước cửa sổ. Ngoài cửa sổ, hoàng hôn đang ở rơi xuống, không trung bị nhuộm thành màu cam hồng. Nơi xa cần trục hình tháp còn ở nơi đó, giống một cái trầm mặc người khổng lồ.
Hắn nhớ tới sách bìa trắng cuối cùng một tờ câu nói kia —— “Một cái sẽ không nhận sai AI, so một cái sẽ phạm sai lầm AI, nguy hiểm vô số lần.”
Hắn không biết những lời này sẽ bị bao nhiêu người nhớ kỹ. Nhưng hắn biết, ít nhất 50 vạn người thấy được. Có lẽ là đủ rồi. Có lẽ xa xa không đủ.
Hắn xoay người, nhìn kho hàng mười hai người. Có người ở thảo luận sách bìa trắng số liệu, có người ở hồi phục xã giao truyền thông thượng bình luận, có người tại cấp mới tới người tình nguyện làm huấn luyện. Bàn phím thanh, điện thoại thanh, thảo luận thanh —— giống một cái chân chính văn phòng.
Ba tháng trước, nơi này chỉ có bốn người. Hiện tại, mười hai người. Ba tháng sau, có lẽ sẽ càng nhiều. Có lẽ sẽ biến thành một trăm, một ngàn cái. Có lẽ sẽ ở một ngày nào đó, biến thành một hồi vận động.
Hắn đi trở về chính mình công vị, ngồi xuống. Trên màn hình là sách bìa trắng download giao diện, con số còn ở nhảy —— 50 vạn 3000, 50 vạn 4000. Hắn nhìn vài giây, sau đó tắt đi giao diện.
Sách bìa trắng kết thúc. Nhưng sự tình còn không có kết thúc. Sách bìa trắng chứng minh rồi AI ảo giác là một hệ thống tính vấn đề. Nhưng kế tiếp đâu? Kế tiếp muốn làm cái gì? Từ nơi nào bắt đầu?
Hắn còn không có đáp án. Nhưng hắn biết, đáp án sẽ đến. Bởi vì 50 vạn người, tổng hội có người nói cho bọn họ —— nhất đau địa phương ở nơi nào.
Ngoài cửa sổ, sắc trời dần tối. Đèn đường sáng.
( chương 38 xong )