算法和(hé)工作的(de)未來

算法是機器用于執行數學(xué)運算的(de)一(yī)系列精确的(de)分步指令。使用支持算法的(de)系統和(hé)設備将為(wèi)職業安全和(hé)健康帶來許多好處，但與許多新技術一(yī)樣，工人也存在風險。《美國(guó)工業醫學(xué)雜志》的(de)一(yī)篇新評論重點關注工人管理(lǐ)系統、先進傳感器技術和(hé)機器人設備使用中存在的(de)工人風險的(de)新來源。确定算法是否适合工作場所使用，對制造商、程序員、雇主、工人以及職業安全和(hé)健康從業者來說正迅速成為(wèi)一(yī)項挑戰。為(wèi)了實現支持算法的(de)系統和(hé)設備在未來工作中承諾的(de)好處，我們必須研究如(rú)何有效地(dì)管理(lǐ)它們的(de)風險。評論中的(de)要點在下面突出顯示。文章(zhāng)中提供了深入的(de)讨論。

作者：John Howard，醫學(xué)博士

工作場所的(de)算法

機器學(xué)習算法正在為(wèi)多個行業部門的(de)各種職業安全和(hé)健康應用提供動力。算法應用存在于制造業、建築、農業、采掘采礦、零售業、和(hé)公共治理(lǐ)中。由支持算法的(de)系統和(hé)設備驅動的(de)數據驅動的(de)洞察力可(kě)以概念化為(wèi)職業安全和(hé)健康的(de)未來工作工具，有朝一(yī)日可(kě)能會告訴你發生了什麽（描述性系統）和(hé)為(wèi)什麽會發生（診斷系統）；預測會發生什麽（預測系統）；支持基于當前和(hé)未來條件的(de)決策（規範性系統）；并采取物理(lǐ)行動（半自(zì)主和(hé)自(zì)主系統）。

應該通過充分意識到和(hé)理(lǐ)解算法的(de)風險狀況來緩和(hé)将算法集成到工作場所設備、流程、條件和(hé)人力管理(lǐ)系統中的(de)預期好處。了解支持算法的(de)工作場所系統的(de)風險和(hé)益處應該基于全面的(de)風險評估。支持算法的(de)系統構成的(de)風險通常來自(zì)三個領域：

1. 輸入或培訓數據中的(de)錯誤和(hé)偏見；
2. 算法設計中的(de)缺陷或将算法編碼為(wèi)編程語言的(de)錯誤；以及
3. 用戶無視(shì)算法的(de)局限性或基本假設，導緻對系統輸出或決策的(de)不當應用或錯誤解釋。

專有算法的(de)日益複雜，特别是可(kě)以在運行過程中改變其決策邏輯的(de)自(zì)學(xué)算法，這使得設計師、制造商和(hé)用戶難以在操作上了解算法的(de)工作原理(lǐ)。缺乏算法透明度可(kě)能是評估和(hé)控制新的(de)職業安全和(hé)健康風險的(de)主要障礙。14随着各種社會系統、和(hé)工人管理(lǐ)系統、先進傳感器技術和(hé)機器人設備中的(de)算法決策正在增加，注意力集中在如(rú)何實現更大的(de)算法透明度上。

算法管理(lǐ)

密切的(de)身體監督一(yī)直是雇主監控工人的(de)傳統方式。雇主現在可(kě)以通過視(shì)頻監控來監控工人；通過地(dì)理(lǐ)位置算法跟蹤工人的(de)身體運動；監控員工使用電子(zǐ)郵件、社交媒體和(hé)網頁浏覽的(de)情況；評估工人的(de)生産力、參與程度、離(lí)開組織的(de)傾向以及對工作場所安全行為(wèi)的(de)遵守情況。這些新的(de)數據驅動的(de)人力資源管理(lǐ)方法被稱為(wèi)“人員分析”，并被吹捧為(wèi)幫助雇主做(zuò)出更好的(de)決策。

算法管理(lǐ)技術可(kě)以持續收集和(hé)存儲工人數據，可(kě)能沒有明确的(de)目的(de)或工人披露。在一(yī)些算法管理(lǐ)技術中，工人和(hé)決策者的(de)觀察者都可(kě)以是非人類代理(lǐ)人。當監控沒有前瞻性地(dì)向工人披露時，支持算法的(de)生産力和(hé)績效系統通常代表一(yī)種未經工人同意的(de)管理(lǐ)控制。當算法被賦予工人工作的(de)權力時，當工人對算法收集哪些數據、如(rú)何使用數據以及出于什麽目的(de)沒有信息或了解時，工人會報告無能為(wèi)力的(de)感覺。這并不奇怪，因為(wèi)在算法管理(lǐ)下，工人通常與他們的(de)“數字主管”沒有有意義的(de)互動。這種算法管理(lǐ)可(kě)能與工人自(zì)主權的(de)侵蝕、工作強化、心理(lǐ)社會壓力和(hé)工人福祉的(de)下降有關。

算法管理(lǐ)在零工經濟中尤為(wèi)普遍，但數字監控和(hé)管理(lǐ)技術在其他行業部門也可(kě)見。輪班分配算法、交付路線算法、倉庫工人移動算法、連續性能算法和(hé)其他工作生産力算法不僅應用于制造工人，也适用于服務工人、知識工作者、倉庫工人，甚至一(yī)線主管。

新的(de)算法技術有可(kě)能通過影響雇主-員工的(de)關系來顯著改變組織控制。算法管理(lǐ)系統的(de)傳播将影響工作的(de)未來，但可(kě)能會以意想不到的(de)和(hé)不良方式這樣做(zuò)。雖然在算法管理(lǐ)下，工人的(de)私密性限制目前不确定，但在支持算法的(de)系統中存在大量關于工人的(de)信息會帶來潛在的(de)安全風險。此外，用于自(zì)動化組織管理(lǐ)系統的(de)算法可(kě)能會産生歧視(shì)性結果，從而重現和(hé)加強社會的(de)曆史年(nián)齡、種族和(hé)民族以及性别偏見等。

先進的(de)傳感器技術

傳感器是技術管理(lǐ)工作的(de)核心，因為(wèi)它們為(wèi)算法控制提供數據輸入。先進的(de)傳感器技術正在商業化，并作為(wèi)新的(de)暴露科學(xué)工具進入工作場所。使用小型化算法嵌入式微處理(lǐ)器的(de)先進傳感器技術，通過不斷感知危險物質的(de)環境工作環境或工人接近已知危害，有可(kě)能大大加快職業暴露科學(xué)的(de)進步。然而，它們也可(kě)能引起工人對侵入性工人監控、算法偏見和(hé)侵犯個人隐私的(de)擔憂。

管理(lǐ)

引入支持算法的(de)工作場所使用人工智能系統和(hé)設備的(de)速度比開發特定于算法的(de)風險評估和(hé)風險管理(lǐ)策略的(de)速度更快。當集成到工作場所系統時，算法可(kě)以呈現出獨特的(de)風險分類，這些風險在組織的(de)傳統職業安全和(hé)健康風險管理(lǐ)方法中可(kě)能無法解決。需要新的(de)方法來檢測輸入數據中的(de)偏差，在專有算法中找到設計錯誤，并确保輸出決策在邏輯上是輸入數據的(de)衍生物。侵入性監控、算法偏見、自(zì)主權和(hé)隐私喪失、決策産出不準确以及工作強化所産生的(de)風險應添加到現有風險評估和(hé)管理(lǐ)方法中。工人還應該有自(zì)由度和(hé)方法來挑戰算法生成的(de)決策。

結論

在未來的(de)工作中，算法将在職業安全和(hé)健康方面提供許多有益的(de)應用。雖然支持算法的(de)系統和(hé)設備可(kě)能會減少人為(wèi)錯誤的(de)來源，并增強工人的(de)安全和(hé)健康，但算法也可(kě)能為(wèi)工人福祉帶來新的(de)風險來源。确定算法在工人管理(lǐ)系統、先進傳感器技術、機器人設備和(hé)其他工作場所系統、工具和(hé)機械中是安全的(de)，将挑戰算法設計師和(hé)軟件程序員、支持算法的(de)設備制造商、雇主、工人以及職業安全和(hé)健康從業者的(de)風險評估和(hé)管理(lǐ)能力。為(wèi)了确保支持算法的(de)系統和(hé)設備的(de)好處在未來的(de)工作中占據突出地(dì)位，現在是時候研究如(rú)何有效地(dì)管理(lǐ)其風險了。