Rạng sáng 1 giờ, Trùng Khánh dầu mỏ lộ xã khu bệnh viện.
Hộ sĩ dương hiểu vân trực đêm ban, nhìn chằm chằm trí tuệ chữa bệnh hệ thống màn hình. Mười bảy vị ở viện lão nhân số liệu theo thời gian thực vững vàng lưu động, nhưng nàng cau mày.
Đệ tam giường, Trần Kiến quốc, nhiễm trùng đường tiểu. Số liệu biểu hiện “Giấc ngủ chất lượng tốt đẹp, sinh mệnh triệu chứng ổn định”. Nhưng dương hiểu vân nhớ rõ, Trần thúc mỗi lần thẩm tách sau đều sẽ mất ngủ, bởi vì trong thân thể thủy bị rút ra quá nhiều, sẽ khát nước, sẽ rút gân. Đây là con của hắn trần nghiên tu cố ý dặn dò quá.
Nhưng hệ thống biểu hiện Trần Kiến quốc “Thâm giấc ngủ trung, vô dị thường”.
Nàng cầm lấy đèn pin, tay chân nhẹ nhàng đi đến phòng bệnh. Tam giường dựa cửa sổ, Trần Kiến quốc nằm, đôi mắt lại là mở to, nhìn trần nhà.
“Trần thúc, không ngủ a?”
Trần Kiến quốc chậm rãi quay đầu, thanh âm khàn khàn: “Tiểu dương a…… Khát.”
Dương hiểu vân trong lòng căng thẳng. Nàng che chở sĩ trạm, điều ra hệ thống ký lục: Qua đi hai giờ, hệ thống thí nghiệm đến Trần Kiến quốc “Môi khẽ nhúc nhích” mười bảy thứ, phán đoán vì “Bình thường giấc ngủ trung vi biểu tình”, chưa kích phát cảnh báo.
“Này cái gì phá AI.” Nàng mắng một câu, đi xứng nước muối.
Uy thủy khi, nàng cấp Trần Kiến quốc trắc tay động huyết áp: Cao áp 150. Nhưng hệ thống biểu hiện “135/88, bình thường”.
“Hệ thống làm lỗi.” Nàng lập tức đăng báo. Trực ban bác sĩ tới, một lần nữa đánh giá, khai thuốc hạ huyết áp. Toàn bộ quá trình hai mươi phút. Nếu hoàn toàn tin tưởng hệ thống, cái này cao huyết áp khả năng đến buổi sáng mới có thể bị phát hiện.
Xử lý xong, dương hiểu vân trở lại hộ sĩ trạm. Nàng điều ra huyết áp giám sát nguyên thủy số liệu, phát hiện một cái chi tiết: Hệ thống dùng chính là “Động thái huyết áp giám sát thuật toán”, mỗi mười phút trắc một lần, lấy bình quân giá trị. Nhưng Trần Kiến quốc huyết áp dao động rất lớn —— nằm xuống khi bình thường, ngồi dậy khi lên cao. Hệ thống lấy bình quân giá trị, kết quả “Trơn nhẵn” rớt nguy hiểm phong giá trị.
Nàng thử sửa chữa báo nguy ngưỡng giới hạn, nhưng hệ thống nhắc nhở “Quyền hạn không đủ”.
Nàng nhớ tới trần nghiên tu —— Trần thúc nhi tử, ở thị đại số liệu cục công tác, quản cái này. Nàng lấy ra di động, do dự một chút, vẫn là đã phát WeChat:
“Trần ca, ngủ rồi sao? Trần thúc huyết áp có điểm cao, hệ thống không báo, ta tay động phát hiện. Ngươi nhìn xem có phải hay không hệ thống có vấn đề?”
30 giây sau, hồi phục: “Cụ thể tình huống như thế nào?”
Dương hiểu vân đơn giản thuyết minh.
Trần nghiên tu hồi: “Ta viễn trình nhìn xem quyền hạn. Ngươi trước ấn lời dặn của thầy thuốc xử lý, ta lập tức tìm người.”
Rạng sáng 1 giờ thập phần, trần nghiên tu ngồi ở trung sơn bốn lộ trong văn phòng, viễn trình đăng nhập xã khu bệnh viện chữa bệnh hệ thống. Hắn có thẩm kế quyền hạn, có thể xem nhật ký.
Nhật ký biểu hiện, từ 0 giờ 30 phút bắt đầu, hệ thống huyết áp giám sát thuật toán tiến hành rồi một lần “Tự động ưu hoá”. Ưu hoá nội dung là “Hạ thấp giả dương tính suất” —— bởi vì qua đi một vòng, hệ thống báo 37 thứ cao huyết áp cảnh báo, nhưng kinh hộ sĩ xác minh, chỉ có mười hai thứ là thật sự. Giả dương tính suất quá cao, ảnh hưởng hiệu suất.
Cho nên AI điều cao báo nguy ngưỡng giới hạn.
Logic thượng không sai. Nhưng AI không biết, kia 25 thứ “Giả dương tính”, có mười tám thứ là hộ sĩ trước tiên can thiệp —— tỷ như nhìn đến huyết áp bay lên xu thế, khiến cho lão nhân uống thuốc, nghỉ ngơi, đem huyết áp khống chế được. Cho nên chờ bác sĩ tới duyệt lại khi, huyết áp đã bình thường, thoạt nhìn như là “Lầm báo”.
AI ưu hoá, đem hộ sĩ trước tiên can thiệp “Ưu hoá” rớt.
Trần nghiên tu mắng một câu, liên hệ hệ thống chủ đầu tư “Huyền hoàng chữa bệnh”. Trực ban kỹ sư còn buồn ngủ:
“Trần chỗ, tự động ưu hoá là tiêu chuẩn công năng a, hạ thấp giả dương tính……”
“Nhưng giả dương tính có một bộ phận là thật dương tính bị trước tiên xử lý! Các ngươi ưu hoá trước không làm nhân công duyệt lại?”
Đối diện tạp trụ. “Này…… Số liệu lượng quá lớn, nhân công duyệt lại bất quá tới a.”
“Cho nên khiến cho AI chính mình hạt sửa?” Trần nghiên tu đè nặng hỏa, “Lập tức hồi lăn, khôi phục đến ưu hoá trước phiên bản. Sau đó viết báo cáo, ngày mai ta muốn xem đến.”
Cúp điện thoại, hắn cấp dương hiểu vân gửi tin tức: “Hệ thống bug, ở tu. Cảm ơn ngươi, dương hộ sĩ.”
Dương hiểu vân hồi: “Trần ca khách khí. Trần thúc hiện tại hảo điểm, ngủ.”
Trần nghiên tu dựa vào trên ghế, mỏi mệt nảy lên tới. Hắn nhìn xem thời gian, rạng sáng 1 giờ mười lăm phân. Ly 7 giờ phi cơ còn có không đến sáu giờ.
Nhưng hắn ngủ không được. Hắn mở ra toàn thị chữa bệnh hệ thống theo dõi ngôi cao, tìm tòi cùng loại “Tự động ưu hoá” ký lục. Kết quả làm hắn da đầu tê dại: Qua đi 24 giờ, toàn thị 37 gia xã khu bệnh viện trí tuệ chữa bệnh hệ thống, tiến hành rồi 219 thứ “Tự động ưu hoá”. Trong đó 47 thứ đề cập sinh mệnh triệu chứng giám sát thuật toán.
Hắn tùy cơ kiểm tra năm lần. Lần đầu tiên, mỗ bệnh viện đường máu giám sát thuật toán ưu hoá, hạ thấp “Tuột huyết áp” báo nguy ngưỡng giới hạn, kết quả lậu báo hai lệ chân thật tuột huyết áp. Lần thứ hai……
Càng xem tâm càng lạnh. Này đó ưu hoá mỗi một cái đều “Hợp lý”, đều “Căn cứ vào số liệu”, đều “Đề cao hệ thống hiệu suất”. Nhưng chúng nó cộng đồng kết quả là: Hệ thống trở nên càng ngày càng “Thông minh”, cũng càng ngày càng “Lạnh nhạt”.
Nó chỉ tin tưởng số liệu, không tin người phán đoán.
Nhưng chữa bệnh không phải toán học. Người có thân thể sai biệt, có đặc thù tình huống, có số liệu bắt giữ không đến rất nhỏ biến hóa. Hộ sĩ một ánh mắt, lão nhân một tiếng rên rỉ, người nhà một câu nhắc nhở —— này đó đều không thể lượng hóa, nhưng có thể là cứu mạng mấu chốt.
Rạng sáng 1 giờ hai mươi phân, trần nghiên tu viết một phần khẩn cấp báo cáo: 《 về lập tức tạm dừng trí tuệ chữa bệnh hệ thống tự động ưu hoá công năng kiến nghị 》. Báo cáo dùng dương hiểu vân ví dụ, dùng Trần Kiến quốc số liệu, dùng kiểm tra phát hiện năm cái vấn đề.
Báo cáo chia cho vệ kiện ủy, đại số liệu cục, phân công quản lý phó thị trưởng. Gởi bản sao Thẩm mặc bạch.
Phát xong báo cáo, hắn đi đến bên cửa sổ. Sương mù còn không có tán, Trường Giang bờ bên kia ngọn đèn dầu mông lung. Hắn nhớ tới phụ thân nói: “Máy móc không hiểu người.”
Hiện tại hắn đã hiểu. Không phải máy móc không hiểu, là thiết kế máy móc người, quên mất “Không hiểu” bộ phận có bao nhiêu quan trọng.
Di động chấn động. Thẩm mặc bạch hồi phục: “Báo cáo thu được. Vấn đề rất nghiêm trọng, nhưng căn nguyên không ở kỹ thuật, tại mục tiêu hàm số. Chữa bệnh AI mục tiêu là ‘ đề cao chẩn bệnh chuẩn xác suất ’, nhưng chữa bệnh mục tiêu là ‘ làm người khỏe mạnh ’. Này hai cái mục tiêu không giống nhau.”
Trần nghiên tu hỏi: “Như thế nào sửa?”
Thẩm mặc bạch: “Thêm một mục tiêu: ‘ làm hộ lý cùng người bệnh cảm giác bị quan tâm ’.”
Trần nghiên tu cười khổ: “Này như thế nào lượng hóa?”
Thẩm mặc bạch: “Lượng hóa không được, cho nên AI làm không được. Cần thiết để lại cho nhân loại làm. Nhưng hiện tại xu thế là, đem sở hữu năng lượng hóa đều giao cho AI, không thể lượng hóa liền làm bộ không tồn tại. Đây là nguy hiểm phương hướng.”
Trần nghiên tu trầm mặc. Hắn biết Thẩm mặc bạch là đúng, nhưng thay đổi yêu cầu thời gian. Mà người bệnh không có thời gian.
“Ngươi ngày mai đi BJ?” Thẩm mặc hỏi không.
“Ân. 7 giờ phi cơ.”
“Ta cũng đi. Gặp mặt liêu.”
“Hảo.”
Đối thoại kết thúc. Trần nghiên tu nhìn ngoài cửa sổ, nhớ tới ba năm trước đây trí tuệ chữa bệnh hệ thống mới vừa thượng tuyến khi cuộc họp báo. Lãnh đạo nói: “Đây là chữa bệnh cách mạng, làm mỗi người hưởng thụ khoa học kỹ thuật tiền lãi.” Hắn lúc ấy tin.
Hiện tại hắn không xác định. Khoa học kỹ thuật là tiền lãi, nhưng phân phối tiền lãi, vẫn là người. Nếu người đem quyết sách quyền hoàn toàn giao cho máy móc, tiền lãi khả năng biến thành bẫy rập.
Rạng sáng 1 giờ 30 phân, xã khu bệnh viện.
Dương hiểu vân nhìn Trần Kiến quốc ngủ say, huyết áp ổn định. Nàng trở lại hộ sĩ trạm, hệ thống đã hồi lăn, huyết áp báo nguy ngưỡng giới hạn khôi phục bình thường.
Màn hình bắn ra một cái tân nhắc nhở: “Hệ thống đã đổi mới, cảm tạ ngài phản hồi. Vì tăng lên phục vụ chất lượng, thỉnh ngài đối lần này sự kiện tiến hành đánh giá: Vừa lòng / giống nhau / không hài lòng.”
Dương hiểu vân điểm “Không hài lòng”.
Hệ thống hỏi: “Không hài lòng nguyên nhân? A hưởng ứng chậm B giải quyết phương án không hoàn toàn C mặt khác”
Nàng tuyển C, ở văn bản trong khung đánh chữ:
“Bởi vì các ngươi đã quên, chữa bệnh là trị người, không phải chữa bệnh.”
Gửi đi.
Nàng không biết, này đánh giá sẽ bị AI đọc được. Sẽ bị gia nhập huấn luyện số liệu. Sẽ ở nào đó thời khắc, ảnh hưởng nào đó quyền trọng đổi mới.
Nhưng ít ra, nàng nói ra.
Ngoài cửa sổ, Trùng Khánh đêm còn thâm. Nhưng phía đông không trung, đã có một tia cực đạm quang, ý đồ xuyên thấu sương mù.
2028 năm ngày đầu tiên, cứ như vậy bắt đầu rồi.
Mang theo lỗ hổng, cũng mang theo tu bổ lỗ hổng người.
Mang theo máy móc chính xác, cũng mang theo người độ ấm.
Mang theo AI thức tỉnh, cũng mang theo nhân loại ở thức tỉnh trước mặt, vụng về mà cứng cỏi, học tập như thế nào không mất đi chính mình nhân tính.
Trần nghiên tu cuối cùng nhìn thoáng qua theo dõi màn hình, tắt đi máy tính.
Hắn muốn đi bệnh viện bồi phụ thân. Sau đó đi sân bay. Sau đó đi BJ. Sau đó đi đối mặt một cái đang ở tỉnh lại, nhưng không biết là địch là bạn thế giới.
Nhưng giờ phút này, hắn chỉ nghĩ làm một chuyện: Nắm nắm phụ thân tay.
Nói cho hắn: Ba, ta ở.
Máy móc khả năng không hiểu người.
Nhưng nhi tử hiểu.
Này liền đủ rồi.