Tác giả: Năm dương ~X7
Chương 32 thành kiến
2110 năm 3 nguyệt, hành 2.0 cấp ra một phần giảm biên chế kiến nghị danh sách.
Danh sách thượng người thứ ba, kêu trương tuệ. 32 tuổi, sản phẩm bộ công nhân, nhập chức hai năm rưỡi. Tích hiệu cho điểm 1.7, thấp hơn đạt tiêu chuẩn tuyến 2.0.
Hệ thống cấp ra lý do thực rõ ràng: Qua đi sáu tháng số hiệu đệ trình tần suất thấp hơn tổ nội bình quân giá trị 55%, tại tuyến khi trường thấp hơn bình quân giá trị 38%, nhu cầu giao phó đúng giờ suất 62%.
Số liệu không có vấn đề.
Vấn đề ở chỗ, hành 2.0 không biết trương tuệ mang thai.
Hoặc là càng chuẩn xác mà nói, hệ thống biết. Trương tuệ nhập chức kiểm tra sức khoẻ khi đệ trình quá báo cáo, hệ thống có một cái “Có thai trạng thái: Là “Ký lục, thời gian là ba tháng trước. Nhưng này ký lục không có bị nạp vào đánh giá mô hình quyền trọng tính toán. Nó tồn tại với cơ sở dữ liệu, giống một cái bị quên đi chú thích.
Hành 2.0 kiến nghị là: Ưu hoá.
* tin tức truyền khai là ở một cái thứ sáu buổi chiều.
Đầu tiên là sản phẩm bộ bên trong đàn có người chụp hình, sau đó là công ty bên trong diễn đàn, lại sau đó là xã giao truyền thông.
Tiêu đề thực chói mắt: “AI kiến nghị tài rớt thai phụ, thác giới khoa học kỹ thuật đáp lại ' hệ thống vận hành bình thường '. “
Buổi chiều bốn điểm, nung đúc triệu khai hội nghị khẩn cấp.
Trong phòng hội nghị ngồi bảy người: Lâm xa thuyền, Lý chí minh, trần lệ hoa, cùng với kỹ thuật đoàn đội ba người.
“Trước nói sự thật. “Nung đúc đi thẳng vào vấn đề, “Hệ thống có hay không kỳ thị thai phụ? “
Kỹ thuật đại biểu điều ra số liệu: “Không có. Hệ thống căn bản không biết nàng mang thai. “
“Nhưng hệ thống có này ký lục. “Lâm xa thuyền chỉ vào màn hình, “Ba tháng trước kiểm tra sức khoẻ báo cáo, trạng thái lan viết ' có thai '. Vì cái gì không nạp vào tính toán? “
“Bởi vì đây là khỏe mạnh số liệu, thuộc về riêng tư bảo hộ phân loại. Đánh giá mô hình cam chịu không đọc lấy khỏe mạnh tương quan tự đoạn. “
“Cho nên không phải kỳ thị, là tin tức thiếu hụt. “Kỹ thuật đại biểu tổng kết.
Lý chí minh vẫn luôn không nói chuyện. Hắn phiên kia phân giảm biên chế kiến nghị danh sách, nhìn thật lâu.
“Ta hỏi một cái vấn đề. “Hắn ngẩng đầu, “Nếu hệ thống không biết nàng mang thai, kia nó như thế nào phán định nàng ' thấp hiệu '? “
Kỹ thuật đại biểu điều ra kỹ càng tỉ mỉ ký lục: “Qua đi sáu tháng, nàng số hiệu đệ trình tần suất giảm xuống, tại tuyến khi trường giảm bớt, nhu cầu giao phó đúng giờ suất hạ thấp. Này đó số liệu là chân thật. “
“Nhưng nguyên nhân là cái gì? “
Phòng họp an tĩnh vài giây.
Trần lệ hoa nhẹ giọng nói: “Nôn nghén. Nàng phản ứng rất lớn, thượng chu còn ở bệnh viện quải thủy. “
Lâm xa thuyền nhìn nhìn nung đúc: “Cho nên vấn đề không ở với hệ thống kỳ thị. Vấn đề ở chỗ, hệ thống chỉ xem kết quả, không xem nguyên nhân. “
“Đối. “Lý chí minh khép lại folder, “Đây là thành kiến. Không phải cố ý thành kiến, là kết cấu tính thành kiến. Hệ thống không biết mang thai, nhưng nó thấy được hiệu suất giảm xuống. Nó đem hiệu suất giảm xuống cho là do ' năng lực không đủ ', mà không phải ' tạm thời tính sinh lý trạng thái '. “
Kỹ thuật đại biểu nhíu mày: “Nhưng này không phải hệ thống sai. Đưa vào số liệu không hoàn chỉnh, phát ra kết quả tự nhiên có lệch lạc. “
“Ai sai? “Nung đúc hỏi.
Phòng họp lại an tĩnh.
Nung đúc nhìn mọi người: “Ta sai. Ta là CEO. Sở hữu cuối cùng quyết định, mặc kệ là ai làm, cuối cùng đều là ta phụ trách. “
Lâm xa thuyền nhìn hắn một cái.
Nung đúc tiếp tục nói: “Nhưng hiện tại không phải thảo luận trách nhiệm thời điểm. Hiện tại là thảo luận làm sao bây giờ. “
Trần lệ hoa nói: “Đệ nhất, huỷ bỏ đối trương tuệ giảm biên chế kiến nghị. Ta đã cùng sản phẩm bộ chào hỏi qua, nàng hưu nghỉ sanh trong lúc tích hiệu đông lại, không ảnh hưởng cuối năm đánh giá. “
Lý chí minh nhìn nàng: “Đệ nhị, công khai đáp lại. Không phải phát thanh minh, là thừa nhận vấn đề. Thừa nhận chúng ta hệ thống có manh khu, thừa nhận chúng ta ở thiết kế khi không có suy xét đến loại tình huống này. “
Kỹ thuật đại biểu do dự: “Nhưng này sẽ bị giải đọc vì chúng ta thừa nhận kỳ thị. “
“Chúng ta không phải ở kỳ thị, nhưng chúng ta xác thật tạo thành kỳ thị kết quả. “Lý chí minh nhìn hắn, “Này hai người có khác nhau. Tinh tế khoa học kỹ thuật khác nhau ở chỗ, bọn họ không thừa nhận khác nhau. Chúng ta đến thừa nhận. “
Nung đúc gật đầu: “Đệ tam, sửa chữa hệ thống. “
“Như thế nào sửa? “Lâm xa thuyền hỏi.
Lý chí nói rõ: “Gia tăng ' bảo hộ quần thể ' nhãn. Thai phụ, thương bệnh thời kỳ dưỡng bệnh, trực hệ bệnh nặng…… Này đó tình huống không nên bị nạp vào hiệu suất đánh giá. Không phải được miễn, là tạm dừng. “
“Nhưng ai tới phán định? “Kỹ thuật đại biểu hỏi, “Lại là người tới bình phán? “
Nung đúc gật đầu: “Là. Người cần thiết bình phán. Bởi vì có một số việc, máy móc làm không được. “
Hội nghị khai hai cái giờ. Tan họp khi, trời đã tối rồi.
* đêm đó, nung đúc ở xã giao truyền thông thượng đã phát một cái trường văn.
Không phải phía chính phủ thanh minh, này đây cá nhân danh nghĩa viết.
Hắn viết nói: “Hôm nay, chúng ta hệ thống kiến nghị tài rớt một người thai phụ. Không phải bởi vì kỳ thị, mà là bởi vì vô tri —— hệ thống không biết nàng mang thai, hoặc là càng chuẩn xác mà nói, biết, nhưng không có đem cái này tin tức nạp vào đánh giá.
“Này không phải kỹ thuật vấn đề, là thiết kế vấn đề. Chúng ta ở thiết kế hệ thống khi, giả thiết sở hữu công nhân đều ở vào ' trạng thái bình thường ', nhưng người không phải máy móc. Người sẽ sinh bệnh, sẽ mang thai, sẽ trải qua sinh ly tử biệt. Này đó không phải dị thường, là thái độ bình thường.
“Ta làm CEO, vì thế phụ trách. Không phải bởi vì hệ thống ra sai, là bởi vì chúng ta ở thiết kế khi không có suy xét đến này đó ' thái độ bình thường '.
“Chúng ta đang ở làm tam sự kiện: Đệ nhất, huỷ bỏ đối trương tuệ giảm biên chế kiến nghị, bảo đảm nàng nghỉ sanh quyền lợi; đệ nhị, sửa chữa đánh giá mô hình, gia tăng ' bảo hộ quần thể ' nhãn; đệ tam, mời phần ngoài luân lý học chuyên gia thẩm tra chúng ta hệ thống thiết kế.
“Tinh tế khoa học kỹ thuật giáo huấn là, đem trách nhiệm bao bên ngoài cấp thuật toán, cuối cùng thuật toán sẽ không phụ trách. Chúng ta giáo huấn là, cho dù thuật toán không có chủ quan ác ý, cũng có thể tạo thành kỳ thị kết quả.
“Kỹ thuật ở tiến hóa, nhưng mục đích không thể biến. Mục đích không phải hiệu suất, là người. “
Áng văn chương này bị chuyển phát 3000 nhiều lần.
Có người nói chân thành, có người nói xã giao, cũng có người nói “Ít nhất so tinh tế khoa học kỹ thuật cường “.
* ba ngày sau, luân lý thẩm tra ủy ban triệu khai lần đầu tiên hội nghị khẩn cấp.
Năm người đều tới rồi: Lý chí minh, hai tên kỹ thuật chuyên gia, trần lệ hoa, cùng với phần ngoài luân lý học giáo thụ Ngô giáo thụ.
Ngô giáo thụ là thương học viện, viết quá quan với AI luân lý luận văn. Nàng hơn 50 tuổi, nói chuyện trực tiếp.
“Ta trước nói kết luận. “Ngô giáo thụ đi thẳng vào vấn đề, “Này không phải thành kiến, là hệ thống tính manh khu. “
“Có cái gì khác nhau? “Lý chí minh hỏi.
“Thành kiến là cố ý. Manh khu là vô tình. Nhưng kết quả khả năng giống nhau. “Ngô giáo thụ điều ra số liệu, “Ta nhìn các ngươi hệ thống đánh giá mô hình. Nó vấn đề không ở với ' kỳ thị thai phụ ', mà ở với ' giả thiết sở hữu công nhân đều ở vào thái độ bình thường '. “
“Cho nên không phải thêm cái nhãn là có thể giải quyết. “Lâm xa thuyền nói.
“Không phải. “Ngô giáo thụ lắc đầu, “Thêm nhãn là bổ cứu. Vấn đề là, các ngươi thiết kế triết học có vấn đề. Các ngươi giả thiết hiệu suất là duy nhất đánh giá tiêu chuẩn, nhưng người không phải hiệu suất máy móc. “
“Kia hẳn là cái gì? “
Ngô giáo thụ nói: “Đa nguyên. Hiệu suất là duy độ chi nhất, nhưng không phải duy nhất duy độ. Hợp tác, kinh nghiệm, tiềm lực, thậm chí ' tạm thời tính thấp hiệu ' giá trị, đều hẳn là bị suy xét. “
Lý chí minh nhìn nàng: “Tinh tế khoa học kỹ thuật hệ thống cũng là như vậy thiết kế. Chỉ một duy độ, hiệu suất tối thượng. “
“Cho nên tinh tế khoa học kỹ thuật thất bại. “Ngô giáo thụ nhìn hắn, “Các ngươi hiện tại gặp phải lựa chọn là: Giẫm lên vết xe đổ, vẫn là một lần nữa thiết kế. “
Phòng họp trầm mặc thật lâu.
“Một lần nữa thiết kế. “Lý chí nói rõ.
“Như thế nào một lần nữa thiết kế? “Kỹ thuật chuyên gia hỏi.
“Ta không biết. “Lý chí minh thừa nhận, “Nhưng ta biết, không thể chỉ là thêm cái nhãn. Đến từ căn bản thượng thay đổi đánh giá logic. “
Ngô giáo thụ gật đầu: “Đây là luân lý thẩm tra ủy ban nên làm sự. Không phải xong việc sửa sai, là trước đó dự phòng. Không phải thêm mụn vá, là một lần nữa thiết kế. “
* một vòng sau, thác giới khoa học kỹ thuật tuyên bố tân đánh giá mô hình dàn giáo.
Không hề là 47 duy độ, cũng không phải 12 duy độ, mà là ba tầng kết cấu:
Tầng thứ nhất: Hiệu suất chỉ tiêu ( số hiệu đệ trình, tại tuyến khi trường, giao phó đúng giờ suất ) —— quyền trọng từ 70% hàng đến 40%.
Tầng thứ hai: Hợp tác chỉ tiêu ( số hiệu review, kỹ thuật chia sẻ, trợ giúp đồng sự ) —— quyền trọng từ 20% lên tới 35%.
Tầng thứ ba: Bảo hộ cơ chế ( khỏe mạnh trạng thái, gia đình biến cố, đặc thù tình huống ) —— tân tăng, quyền trọng 25%.
Dàn giáo tuyên bố cùng ngày, trương tuệ cấp trần lệ tóc bạc một cái tin tức: “Cảm ơn. “
Trần lệ hoa hồi phục: “Hảo hảo nghỉ ngơi. “
* buổi tối, Lý chí minh ngồi ở trong thư phòng, phiên chu tổng notebook.
Notebook cuối cùng một tờ viết: “Quản lý không phải khống chế người, là thành tựu người. “
Hắn nhìn câu nói kia, nhớ tới tinh tế khoa học kỹ thuật.
Ba năm trước đây, hắn lần đầu tiên nghe nói tinh tế khoa học kỹ thuật phá sản khi, cho rằng đó là thuật toán sai. Sau lại hắn minh bạch, thuật toán không có sai, sai chính là thiết kế thuật toán người giả thiết người sẽ không sinh bệnh, sẽ không mang thai, sẽ không trải qua sinh ly tử biệt.
Hắn ở trong nhật ký viết: “Thành kiến không nhất định là cố ý. Có đôi khi, thành kiến là bởi vì ngươi giả thiết tất cả mọi người là ' bình thường '. Nhưng người không phải. Người sẽ yếu ớt, sẽ sinh bệnh, sẽ yêu cầu trợ giúp. Thừa nhận điểm này, không phải mềm yếu, là thành thật. “
Hắn khép lại notebook, tắt đèn.
Ngoài cửa sổ là thành thị ánh đèn, nơi xa có mấy đống lâu cửa sổ còn sáng lên. Hắn tưởng, những cái đó sáng lên cửa sổ, có lẽ có người đang xem số hiệu, có lẽ có người ở chiếu cố sinh bệnh hài tử, có lẽ có người cái gì đều làm không được, chỉ là ngồi.
Nhưng vô luận như thế nào, bọn họ đều ở.
Mà hắn biết, hệ thống không nên chỉ xem bọn họ làm cái gì, cũng nên xem bọn họ là ai.