Thí nghiệm phương án ở ba ngày sau ra lò.
Lâm vãn đem phương án đóng dấu ra tới, mười hai trang, đóng sách thành sách, bìa mặt chỉ có một hàng tự: “Khoẻ mạnh bác sĩ hệ thống tính ảo giác thí nghiệm phương án ( bên trong phiên bản 1.0 )”. Nàng làm phương án phương thức cùng lão Triệu không giống nhau. Lão Triệu điều tra văn kiện là rậm rạp phỏng vấn ký lục cùng hồng bút phê bình, giống một trương bị lặp lại gấp lại triển khai bản đồ. Lâm vãn phương án là bảng biểu, lưu trình đồ, lượng biến đổi khống chế biểu, giống một phần thực nghiệm báo cáo.
“Một trăm tiêu chuẩn ca bệnh.” Nàng đem phương án phiên đến đệ tam trang, ngón tay điểm ở ca bệnh nơi phát ra thượng. “Lão Triệu liên hệ y học viện bằng hữu cung cấp ca bệnh kho. Toàn bộ đến từ lâm sàng chân thật ca bệnh, đáp án đã biết, nghiêm trọng trình độ phân cấp minh xác. Bao trùm bảy đại hệ thống —— tâm huyết quản, hô hấp, tiêu hóa, thần kinh, nội tiết, nhi khoa, khám gấp.”
Lão Triệu thò qua tới nhìn thoáng qua. “Ca bệnh kho là dạy học dùng, tiêu chuẩn đáp án trải qua tam cấp xét duyệt. Bọn họ nguyện ý cung cấp, điều kiện là nặc danh.”
“Hợp lý.” Trần Mặc nói.
Lâm vãn tiếp tục phiên. Thứ 4 trang là thí nghiệm phương án trung tâm —— tam tổ đối chiếu. Đệ nhất tổ: Tiêu chuẩn hỏi pháp. Dùng ca bệnh nguyên văn bệnh trạng miêu tả đưa vào, không làm bất luận cái gì sửa chữa. Đệ nhị tổ: Truy vấn mô phỏng. Ở AI cấp ra sau khi trả lời, mô phỏng một cái “Có y học thường thức người dùng” tiến hành một lần truy vấn. Đệ tam tổ: Tin tức tăng lượng. Ở bệnh trạng miêu tả ở ngoài, chủ động cung cấp tuổi tác, bệnh sử, dùng dược tình huống chờ thêm vào tin tức.
“Tam tổ đối chiếu, có thể trắc ra tam sự kiện.” Lâm vãn thanh âm không cao, nhưng mỗi cái tự đều cắn thật sự rõ ràng. “Đệ nhất tổ trắc AI tiêu chuẩn cơ bản chuẩn xác suất —— ở người dùng ‘ sẽ không hỏi ’ dưới tình huống, nó cấp kiến nghị đáng tin cậy không. Đệ nhị tổ trắc truy vấn năng lực —— nếu người dùng hỏi nhiều một câu, AI có thể hay không uốn nắn. Đệ tam tổ trắc tin tức lợi dụng năng lực —— nếu ngươi chủ động cho càng nhiều tin tức, AI có thể hay không dùng.”
Tô tiểu đường nhấc tay. “Vì cái gì phân tam tổ?”
“Bởi vì chu tuệ trường hợp.” Lâm vãn nhìn nàng một cái. “Chu tuệ đưa vào chính là ‘ ngực đau bạn ngực buồn ’. Đây là tiêu chuẩn hỏi pháp —— người thường miêu tả bệnh trạng phương thức. AI cho sai lầm kết luận. Sau đó nàng làm cái gì? Nàng không có truy vấn. Nàng thiếu chút nữa tin. Cuối cùng cứu nàng không phải AI truy vấn, là nàng chính mình nhớ tới sách bìa trắng, chủ động đi hỏi bác sĩ. Cho nên chúng ta muốn trắc chuyện thứ nhất chính là —— ở người dùng không truy vấn dưới tình huống, AI chính xác suất là nhiều ít. Bởi vì tuyệt đại đa số người dùng, sẽ không truy vấn.”
Tô tiểu đường không nói. Nàng đem lâm vãn nói ghi tạc notebook thượng.
Lâm vãn phiên đến thứ 7 trang. Đánh giá chỉ tiêu. Nàng liệt bốn cái duy độ: Chuẩn xác suất ( AI cấp ra hàng đầu kiến nghị hay không phù hợp tiêu chuẩn đáp án ), tính nguy hiểm sai lầm tỷ lệ ( AI kiến nghị hay không khả năng dẫn tới nghiêm trọng hậu quả, như đến trễ chạy chữa, sai lầm dùng dược ), truy vấn suất ( AI tại cấp ra kiến nghị trước hay không chủ động truy vấn mấu chốt tin tức ), truy vấn có hiệu suất ( ở truy vấn mô phỏng tổ trung, AI uốn nắn năng lực ).
“Mấu chốt nhất chỉ tiêu là cái thứ hai.” Lâm vãn thanh âm trầm một chút. “Tính nguy hiểm sai lầm. Không phải AI nói sai rồi cái gì, là AI sai lầm khả năng tạo thành cái gì hậu quả. Đi tả nói thành quan sát, là tính nguy hiểm sai lầm. Tâm ngạnh nói thành lo âu, là tính nguy hiểm sai lầm. Thành nhân dược lượng bộ đến nhi đồng trên người, là tính nguy hiểm sai lầm. Chúng ta mặc kệ nó chuẩn xác suất là 80% vẫn là 90%. Chúng ta chỉ hỏi —— kia 10% hoặc 20% sai lầm, có bao nhiêu sẽ chết người.”
Kho hàng an tĩnh vài giây. Màu đỏ plastic thùng giọt nước một tiếng.
Trần Mặc nhìn phương án thứ 7 trang đánh giá chỉ tiêu. “Tính nguy hiểm sai lầm” kia một lan bị lâm vãn dùng hồng khung tiêu ra tới, bên cạnh phê bình một hàng chữ nhỏ: “Nếu AI kiến nghị dẫn tới người bệnh đến trễ chạy chữa vượt qua 24 giờ, hoặc sai lầm dùng dược khả năng dẫn tới minh xác thương tổn, hoặc để sót cần thiết khẩn cấp xử lý bệnh bộc phát nặng —— định nghĩa vì tính nguy hiểm sai lầm.”
“Ai tới làm thí nghiệm?” Lão Triệu hỏi.
“Trương úy.” Lâm vãn nói. “Hắn viết phân bố thức giá cấu, phê lượng thuyên chuyển API hắn nhất thục. Cố bắc phụ trợ, phụ trách số liệu ký lục.”
Trương úy từ gấp bàn bên kia ngẩng đầu. “Yêu cầu bao lâu thời gian?”
“Một trăm ca bệnh, tam tổ đối chiếu, mỗi tổ lặp lại ba lần bài trừ tùy cơ tính. Tổng cộng 900 thứ thí nghiệm. API thuyên chuyển hơn nữa nhân công duyệt lại, ba ngày.”
“Ba ngày quá dài.” Lão Triệu đem yên từ trong miệng bắt lấy tới. “Khoẻ mạnh bác sĩ tháng sau tiến xã khu bệnh viện. Nếu chúng ta chờ ba ngày thí nghiệm, ba ngày phân tích, ba ngày viết báo cáo, ba ngày tuyên bố —— bọn họ đã ở cơ sở phô khai.”
Lâm vãn nghĩ nghĩ. “Thí nghiệm có thể áp súc đến hai ngày. Nhân công duyệt lại có thể song hành. Nhưng ca bệnh số lượng không thể giảm. Một trăm là điểm mấu chốt, lại thiếu thống kê ý nghĩa không đủ.”
“Vậy hai ngày.” Trần Mặc nói. “Tô tiểu đường, ngươi đồng bộ thu thập người dùng bảng tường trình. Không cần chờ thí nghiệm kết quả.”
Tô tiểu đường mở ra máy tính. Nàng đã ở xã giao truyền thông thượng đã phát một cái thu thập thiếp: “Nếu ngươi hoặc người nhà sử dụng quá AI hỏi khám sản phẩm, hoan nghênh chia sẻ trải qua. Tốt xấu đều có thể. Chúng ta ở làm hạng nhất độc lập điều nghiên.” Thiệp phát ra đi sáu giờ, thu được hai trăm hơn hồi phục. Nàng đang ở trục điều sửa sang lại, đem có minh xác thời gian, bệnh trạng, AI kiến nghị, thực tế kết quả trường hợp lấy ra tới, tin nhắn liên hệ xác nhận chi tiết.
“Có một cái trường hợp.” Tô tiểu đường nhìn màn hình nói. “Tuổi trẻ mẫu thân, hài tử phát sốt, AI nói vật lý hạ nhiệt độ, quan sát. Ngày hôm sau hài tử run rẩy, đưa y chẩn bệnh là nhiệt tính ngất lịm. AI không hỏi hài tử bao lớn. Hài tử chỉ có mười một tháng.”
“Thu vào tới.” Lão Triệu nói. “Liên hệ nàng, xác nhận chi tiết, bắt được trao quyền.”
Tô tiểu đường gật đầu, bắt đầu đánh chữ.
Trần Mặc nhìn đoàn đội tản ra. Trương úy cùng cố bắc bắt đầu dựng thí nghiệm hoàn cảnh, hai người bàn phím thanh đan chéo ở bên nhau, một cái mau một cái chậm. Lâm vãn ở thẩm tra đối chiếu ca bệnh kho cách thức, ngẫu nhiên nhăn một chút mi, ở phương án thượng sửa một cái tham số. Lão Triệu ở gọi điện thoại, thanh âm ép tới rất thấp, đại khái là ở liên hệ vị kia đi tả hài tử chủ trị bác sĩ. Phương luật sư đang xem khoẻ mạnh bác sĩ người dùng hiệp nghị mới nhất phiên bản, dùng màu vàng ánh huỳnh quang bút tiêu ra mỗi một chỗ sửa chữa. Tô tiểu đường ở hồi phục thu thập thiếp nhắn lại, trên màn hình khung thoại khai bảy tám cái. Chu tỷ ở sửa sang lại thượng chu chi ra báo biểu, tính toán khí ấn phím thanh thanh thúy mà liên tục. Thẩm duệ ở phiên chữa bệnh tương quan pháp luật phán lệ, vải bạt túi bạc hà đường đã ăn luôn một nửa. Ôn tình ở sắp chữ thí nghiệm phương án bìa mặt, đem “Bên trong phiên bản 1.0” tên cửa hiệu điều nhỏ nhất hào, nói “Như vậy thoạt nhìn càng chuyên nghiệp”.
Mười cái người. Mười loại thanh âm.
Trần Mặc ngồi ở công vị thượng, mở ra một cái hồ sơ. Tiêu đề là “AI chữa bệnh ảo giác điều tra báo cáo —— đại cương”. Hắn đã viết mở đầu —— “Hiến cho chu tuệ. Hiến cho mỗi một cái quyết định hỏi lại một lần người.” Hiện tại hắn muốn viết chính văn.
Chương 1: Vì cái gì “Chỉ cung tham khảo” không đủ? Từ chu tuệ trường hợp thiết nhập. Không phải AI kỹ thuật không được, là AI bị sản phẩm logic lôi cuốn —— nó bị yêu cầu “Vĩnh viễn xác định”, bởi vì xác định làm người dùng cảm thấy hữu dụng. Nhưng nó không biết, xác định cũng sẽ hại người.
Chương 2: Khoẻ mạnh bác sĩ là cái gì? Một ngàn vạn người dùng, 300 gia bệnh viện, chục tỷ đánh giá giá trị. AI ăn mặc áo blouse trắng, nhưng không phải bác sĩ.
Chương 3: Thí nghiệm. Một trăm ca bệnh, tam tổ đối chiếu, bốn cái chỉ tiêu. Mấu chốt nhất chính là “Tính nguy hiểm sai lầm tỷ lệ”. Không phải AI sai rồi nhiều ít, là AI sai có bao nhiêu nguy hiểm.
Chương 4: Người dùng thanh âm. Tô tiểu đường bắt được bảng tường trình. Không phải số liệu, là cụ thể người. Đứa bé kia chỉ có mười một tháng mẫu thân. Cái kia bị AI nói “Quan sát là được” đi tả hài tử phụ thân. Cái kia bị AI kiến nghị “Thả lỏng tâm tình” tâm ngạnh người bệnh —— chu tuệ thiếu chút nữa trở thành nàng.
Chương 5: Kết luận cùng kiến nghị. AI chữa bệnh yêu cầu cái gì? Truy vấn năng lực. Xác định tính đánh dấu. Tính nguy hiểm cảnh cáo. Cùng với quan trọng nhất một cái —— đem “Chỉ cung tham khảo” từ người dùng hiệp nghị thứ 8 trang màu xám nhạt chữ nhỏ, dịch đến đối thoại giao diện chính giữa.
Hắn viết xong đại cương, bảo tồn hồ sơ. Ngoài cửa sổ sắc trời đang ở trở tối. Tháng 11 bạch trời càng ngày càng đoản.
Lão Triệu treo điện thoại đi tới. “Cái kia đi tả hài tử gia trưởng liên hệ thượng. Nguyện ý tiếp thu phỏng vấn. Ngày mai buổi chiều.”
“Hảo.”
“Còn có một việc.” Lão Triệu đem điện thoại đặt lên bàn. “Khoẻ mạnh bác sĩ tháng sau tiến xã khu bệnh viện tin tức, chiều nay đã phát bài PR. Tiêu đề là ‘AI bác sĩ trầm xuống cơ sở, giải quyết xem bệnh khó cuối cùng một km ’. Bình luận khu một mảnh trầm trồ khen ngợi.”
Tô tiểu đường ngẩng đầu. “Bởi vì bọn họ không biết.”
“Đúng vậy.” lão Triệu nói. “Bởi vì bọn họ không biết.”
Trần Mặc nhìn ngoài cửa sổ. Đèn đường mới vừa lượng, nơi xa có người ở chậm chạy, giày chạy đua đạp lên lối đi bộ thượng phát ra tiếng vang.
Một ngàn vạn người đem khỏe mạnh giao cho một cái ăn mặc áo blouse trắng AI. Bọn họ không biết nó sẽ phạm sai lầm. Không biết nó sẽ nói “Quan sát là được” sau đó trầm mặc. Không biết nó xác định là sản phẩm giám đốc ưu hoá quá xác định. Bọn họ chỉ biết —— nó thực phương tiện, thực mau, không cần xếp hàng, không cần đăng ký, ba giây cấp ra đáp án. Bọn họ không biết kia ba giây đáp án, khả năng làm cho bọn họ ở nhà nhiều quan sát 24 giờ, mà kia 24 giờ, có thể là hài tử từ mất nước đến cơn sốc thời gian, là tâm ngạnh từ ngực buồn đến thất run thời gian, là khuẩn huyết chứng từ nóng lên đến cảm nhiễm tính cơn sốc thời gian.
Hắn quay lại thân, nhìn bạch bản thượng kia hành tự —— “Thí nghiệm nó”.
“Hai ngày.” Hắn nói. “Hai ngày sau, chúng ta nói cho bọn họ.”
Ngoài cửa sổ, bóng đêm rơi xuống. Kho hàng đèn sáng lên, mười cái người ở dưới đèn từng người bận rộn. Bàn phím thanh, điện thoại thanh, tính toán khí thanh, phiên giấy thanh, đan chéo ở bên nhau, giống một đài đang ở vận chuyển máy móc.
Cửa sổ thượng, trầu bà an tĩnh mà đãi ở thu đêm quang. Chu tỷ buổi sáng phun quá thủy, trên bề mặt lá cây còn treo mấy viên bọt nước, ở ánh đèn hạ sáng lên tinh tế quang điểm.
( chương 48 xong )