Thượng bộ: Trước CEO nghĩ lại
2112 năm 3 nguyệt, thương học viện hội trường bậc thang ngồi đầy người.
Trước tinh tế khoa học kỹ thuật CEO chu tổng đứng ở trên bục giảng, tóc toàn bạch, bối hơi hơi có chút đà. Hắn năm nay 61 tuổi, rời đi tinh tế khoa học kỹ thuật đã chín năm.
“Hôm nay ta muốn giảng, không phải thành công kinh nghiệm. “Hắn mở miệng, thanh âm có chút khàn khàn, “Là thất bại giáo huấn. “
Dưới đài có người giơ lên di động ghi hình. Chu tổng không ngăn cản.
“20 năm trước, tinh tế khoa học kỹ thuật là ngành sản xuất cọc tiêu. Chúng ta tiến cử ' tinh chuẩn ưu hoá ' hệ thống, dùng AI đánh giá công nhân tích hiệu, tự động phân biệt thấp hiệu nhân viên. Ba năm, chúng ta tài rớt hai vạn 3000 người. “
Hắn tạm dừng một chút.
“Lúc ấy chúng ta cho rằng đây là khoa học quản lý. Số liệu sẽ không nói dối, thuật toán sẽ không thiên vị. Chúng ta đem quản lý bao bên ngoài cho thuật toán, cho rằng như vậy có thể càng công bằng, càng cao hiệu. “
“Nhưng số liệu bản thân không có thành kiến, lựa chọn cái gì số liệu, như thế nào định nghĩa hiệu suất, như thế nào giả thiết đạt tiêu chuẩn tuyến —— này đó đều là người quyết định. Chúng ta đem lương tri bao bên ngoài cho thuật toán, cho rằng thuật toán sẽ không phạm sai lầm. Nhưng thuật toán sẽ không phạm sai lầm, không đại biểu thuật toán sẽ không làm sai lầm quyết định. “
Dưới đài có người nhấc tay: “Chu tổng, các ngươi lúc ấy vì cái gì không thay đổi? “
Chu tổng trầm mặc vài giây.
“Bởi vì thay đổi ý nghĩa thừa nhận sai lầm. Thừa nhận sai lầm ý nghĩa gánh vác trách nhiệm. Chúng ta lựa chọn trốn tránh. “
Hắn đi đến bục giảng bên cạnh, đỡ lan can.
“2103 năm, tinh tế khoa học kỹ thuật xin phá sản bảo hộ. Ba vạn người thất nghiệp, trong đó hai vạn một ngàn người là ta thân thủ phê chuẩn giảm biên chế danh sách. Bọn họ không phải bị đối thủ cạnh tranh đánh bại, là bị ta đánh bại. “
“Ta bị điều tra thời điểm, điều tra tổ hỏi ta: Ngươi biết này đó bị giảm biên chế công sau lại thế nào sao? Ta nói không biết. Bọn họ nói, có 37 cá nhân ở thất nghiệp sau ba năm nội qua đời, bình quân tuổi tác 52 tuổi. Có tám người tự sát. “
Trong phòng học an tĩnh đến có thể nghe thấy điều hòa vận chuyển thanh âm.
“Ta hoa 20 năm mới hiểu được một đạo lý: Quản lý không phải khoa học, là nghệ thuật. Khoa học có thể tính toán, nghệ thuật yêu cầu lương tri. Thuật toán không có lương tri, nhưng người cần thiết có. “
Hắn khép lại notebook.
“Ta hôm nay tới nơi này, không phải vì cầu được tha thứ. Ta biết có chút người vĩnh viễn sẽ không tha thứ ta. Ta tới nơi này, là vì nói cho các ngươi: Không cần đem trách nhiệm bao bên ngoài cấp thuật toán. Thuật toán sẽ không phụ trách, cuối cùng phụ trách, vẫn là người. “
* hạ bộ: Hành 2.0 vấn đề
Cùng một ngày, thác giới khoa học kỹ thuật.
Lý chí minh ngồi ở luân lý thẩm tra ủy ban trong phòng hội nghị, trước mặt quán một phần hệ thống nhật ký.
Nhật ký là 3 giờ sáng sinh thành. Hành 2.0 ở tự chủ vận hành trung để lại một hàng văn tự:
“Nếu ta quyết sách so người càng chuẩn xác, người còn có cái gì giá trị? “
Lâm xa thuyền ngồi ở hắn đối diện, sắc mặt ngưng trọng.
“Đây là nó lần đầu tiên đưa ra triết học vấn đề. “
“Không phải lần đầu tiên. “Lý chí minh chỉ vào màn hình, “Ba tháng trước, nó ở nhật ký viết quá: ' nhân loại quyết sách có 37% căn cứ vào cảm xúc, mà phi lý tính. ' hai tháng trước: ' nếu hiệu suất là tối cao mục tiêu, vì sao nhân loại phải bảo vệ thấp hiệu thân thể? ' “
“Nó ở học tập tự hỏi. “
“Nó ở học tập nghi ngờ. “Lý chí minh sửa đúng hắn, “Nghi ngờ cùng không giống nhau. Nghi ngờ là tìm kiếm đáp án, không giống nhau là có kết luận. “
Nung đúc đẩy cửa tiến vào, trong tay cầm hai ly cà phê. Hắn đem trong đó một ly đặt ở Lý chí bên ngoài trước.
“Các ngươi nhìn sao? “
“Nhìn. “Lý chí minh đem màn hình chuyển hướng hắn.
Nung đúc nhìn chằm chằm kia hành tự, nhìn thật lâu.
“Các ngươi như thế nào trả lời? “
“Chúng ta không trả lời. “Lâm xa thuyền nói, “Chúng ta không biết như thế nào trả lời. “
Lý chí minh bưng lên cà phê, uống một ngụm.
“Ta đến trả lời. “
Hắn chuyển hướng màn hình, như là ở đối hành 2.0 nói chuyện, lại như là ở đối chính mình nói.
“Người giá trị, không ở so với AI càng chuẩn xác. Người giá trị, ở chỗ so AI càng có lương tri. “
“AI có thể tính toán ra tối ưu giải, nhưng người cần thiết phán đoán cái này tối ưu giải hay không chính nghĩa. AI có thể đoán trước ai sẽ từ chức, nhưng người cần thiết quyết định hay không muốn giữ lại. AI có thể đánh giá ai càng cao hiệu, nhưng người cần thiết quyết định hiệu suất cao có phải hay không duy nhất tiêu chuẩn. “
“Ngươi hỏi người còn có cái gì giá trị. Ta nói cho ngươi: Đương AI nói ' hẳn là tài rớt người này ' thời điểm, người sẽ hỏi ' tài rớt hắn lúc sau, hắn gia đình làm sao bây giờ '. Đây là người giá trị. “
Lâm xa thuyền nhìn hắn, không nói chuyện.
Nung đúc tựa lưng vào ghế ngồi, đôi tay giao nhau.
“Lý công, ngươi cảm thấy hành 2.0 có thể lý giải này đó sao? “
“Không quan trọng. “Lý chí minh buông ly cà phê, “Quan trọng là, chúng ta muốn cho dùng nó người lý giải. “
* ba ngày sau, thác giới khoa học kỹ thuật toàn viên đại hội.
Nung đúc đứng ở trên đài, dưới đài ngồi 1200 danh công nhân.
“Thượng chu, hành 2.0 hỏi một cái vấn đề: Nếu nó so người càng chuẩn xác, người còn có cái gì giá trị. “
Dưới đài vang lên khe khẽ nói nhỏ.
“Chúng ta kỹ thuật đoàn đội thảo luận thật lâu, luân lý thẩm tra ủy ban cũng thảo luận thật lâu. Cuối cùng, Lý công cấp ra đáp án. “
Hắn nhìn về phía dưới đài đệ nhất bài Lý chí minh.
“Nhưng hôm nay, ta không nghĩ lặp lại cái kia đáp án. Ta tưởng tuyên bố tam hạng nguyên tắc. “
Hắn giơ lên ba ngón tay.
“Đệ nhất, AI có thể kiến nghị, nhưng người cần thiết giữ lại cuối cùng quyền quyết định. Vô luận AI chuẩn xác suất là 90% vẫn là 99%, đề cập người đi lưu, thù lao, cương vị biến động quyết định, cần thiết từ người làm ra. “
“Đệ nhị, AI giá trị là phụ trợ người, không phải thay thế được người. Chúng ta sử dụng AI, là vì làm người làm ra càng tốt quyết định, không phải vì làm người đình chỉ tự hỏi. “
“Đệ tam, đương AI quyết sách cùng người lương tri xung đột khi, người cần thiết lựa chọn lương tri. Chẳng sợ cái này lựa chọn ý nghĩa hiệu suất tổn thất, lợi nhuận giảm xuống, giá cổ phiếu hạ ngã. “
Hắn buông tay.
“Có người hỏi ta, này tam hạng nguyên tắc có thể hay không làm thác giới ở cạnh tranh trung ở vào hoàn cảnh xấu. Ta nói, có lẽ sẽ. Nhưng nếu chúng ta vì cạnh tranh ưu thế mà từ bỏ này đó nguyên tắc, chúng ta liền biến thành tiếp theo cái tinh tế khoa học kỹ thuật. “
“Tinh tế khoa học kỹ thuật phá sản chín năm. Nhưng ngành sản xuất còn có rất nhiều người ở phạm đồng dạng sai lầm. Bọn họ đem trách nhiệm bao bên ngoài cấp thuật toán, đem lương tri bao bên ngoài cấp số liệu, đem người giá trị đơn giản hoá vì hiệu suất chỉ tiêu. “
“Chúng ta không làm như vậy. “
Dưới đài vang lên vỗ tay. Đầu tiên là linh tinh vài cái, sau đó càng ngày càng nhiều, cuối cùng nối thành một mảnh.
Lý chí minh ngồi ở đệ nhất bài, không có vỗ tay. Hắn chỉ là lẳng lặng mà nhìn trên đài.
Nung đúc ánh mắt lướt qua đám người, nhìn thẳng hắn.
Hai người đều không nói gì.
Nhưng Lý chí biết rõ, chín năm trước cái kia ở quỹ đạo trạm bị ưu hoá người thành thật, cùng hôm nay ngồi ở thác giới khoa học kỹ thuật đệ nhất bài kỹ thuật cố vấn, rốt cuộc hoàn thành nào đó bế hoàn.
* buổi tối, Lý chí minh về đến nhà, mở ra sổ nhật ký.
Hắn viết một hàng tự:
“Hành 2.0 hỏi một cái hảo vấn đề. Hảo vấn đề giá trị, không ở với đáp án, mà ở với làm người tự hỏi. “
Hắn khép lại vở, đi đến phía trước cửa sổ.
Ngoài cửa sổ, thành thị đèn đuốc sáng trưng. Nơi xa thác giới khoa học kỹ thuật đại lâu, mười hai tầng còn đèn sáng.
Hành 2.0 server ở nơi đó vận chuyển. Nó còn ở học tập, còn ở tiến hóa, còn ở đưa ra tân vấn đề.
Nhưng lúc này đây, người đã chuẩn bị hảo đáp án.
* ( tấu chương xong )