1GB/Z18978.801—202X/ISO/TR9241-801:2020人-系統交互工效學第810部分：機器人、智能和自主系統本文件涉及以下內容：——具備物理實體的RIA系統，例如用戶將與之進行物理交互的機器人和自動駕駛車輛；——嵌入物理環境的系統，用戶無需有意識地與其交互，但這些系統會收集數據和/或改變人們生活或工作的環境，例如智能建筑和情緒檢測系統；——智能軟件工具和智能體，用戶通過某種形式的用戶界面與其進行主動交互；——智能軟件代理，無需用戶主動輸入即可根據用戶的行為、任務或其他目的修改或調整系統，包括提供特定情境的內容/信息、基于用戶信息定制廣告、根據用戶認知或生理狀態自適應的用戶界面以及“環境智能”；——多個RIA系統聯合交互對用戶的影響，例如在相同情況下多個RIA系統之間發生沖突行為；——RIA系統的復雜系統-系統及社會技術影響，特別是對社會和政府的影響。本文件并未探討圍繞機器人、人工智能、機器學習以及智能機器或環境的哲學、倫理或政治問題。有關倫理和政治問題，請參考如BS8611和IECP7000等標準。然而，本文件確實指出了在廣泛的系統和情境中需要考慮倫理問題的地方及原因，因此提供了與RIA系統更廣泛討論相關的信息。與早期關于自主性的許多工作相比，本文件的關注點更為廣泛，超越了對控制任務自動化和重復性物理或認知任務機械化的研究，而著眼于自動化水平。盡管本文件涉及了RIA系統的廣泛技術應用，以及各行業和利益相關者對相關問題的看法，但由于RIA系統的應用日益多樣化，對每個問題的討論可能并不完整。2規范性引用文件本文件沒有規范性引用文件。3術語和定義本文件沒有需要界定的術語和定義。4符號和縮略語AI人工智能CRM團隊資源管理DM決策GPS全球定位系統HCD以人為中心設計HCI人機交互HCQ以人為中心質量（見ISO9241-220）HF人的因素IA智能體ICT信息通訊技術IVR交互語音應答ML機器學習RIA機器人、智能、自主RPA機器人過程自動化2GB/Z18978.801—202X/ISO/TR9241-801:2020UxV無人駕駛（其中x=太空、大氣層、地面、水面、地下或水下）交通工具UI用戶界面UX用戶體驗5報告內容和結構本文件的目標讀者包括決策者、設計師和工程師，他們可以通過考慮RIA系統的人-系統問題從中受益。未來學家、研究人員、技術開發者、監管者和立法者也可以發現本文件的價值。本文件的目標讀者還包括從事RIA系統開發、采購和/或調試的標準開發社區和工效學專家。本文件基于一項分析，該分析從當前技術應用出發，預測技術將向更加互聯、復雜、概率性和非確定性、社會化的系統/實體/智能體以及人類增強方向發展。在這里，"社會化"還包括物理交互。分析中涉及的應用包括機器人、智能系統和環境（如控制或以其他方式影響環境的智能建筑）以及自主代理/系統。該分析還考慮了以下方面的觀點和擔憂：各行業RIA系統用戶和利益相關者對未來工作角色、人類任務和組織結構的影響；安全性、系統信任、權利和文化的影響。分析同時考慮了工效學的限制，并初步識別了可能的變化領域。在本文件編制過程中，我們參考了廣泛的已發布文獻和專業知識，包括未來學文獻、監管工作、敏銳觀察者的意見，以及當前和計劃中的產品報告。此外，還納入了項目團隊的深入討論和分析。——第6章討論了人工智能和工效學中的相關概念。——第7章描述了已識別問題的分類。——第8章描述了如果不應用工效學可能導致的危害和潛在的傷害。——第9章說明現有工效學標準如何解決這些問題。——第10章描述了為更好地解決RIA系統技術問題而需要對工效學標準進行的修改。附錄A至E主要針對以下群體編寫：——工效學界：為RIA系統項目/討論提供專業輸入，以確保其具有可行性；提供關于工效學如何應用/應如何發展/需要得到支持的建議；為涉及此類項目時需要提出的問題提供框架。——RIA系統開發、采購、調試或批準人員：為參與執行、項目、設計或法律和監管角色的人士提供需要考慮的事項和潛在問題清單。——標準開發者和用戶：幫助理解RIA系統的工效學方面如何影響其活動；提醒那些尚未將人類或工效學需求納入其領域的從業者關注與RIA系統相關的新興或緊急的人-系統問題或需求。附錄A詳細闡述了每個類別中的人-系統問題。附錄B列舉了RIA系統的示例，說明了問題、危害和工效學考慮。附錄C對工效學需要發展的領域進行了兩階段審查，以解決這些問題。附錄D包含更詳細的分析描述，并說明了對工效學和標準的必要擴展。附錄E描述了本文件所基于的分析過程。6概念6.1概述實施RIA系統需要使用多種技術，這些技術以各種組合形式應用于人類可能交互的廣泛場景中。這導致了定義和術語普遍缺乏一致性和精確性，包括在標準中，RIA系統技術和應用根據特定環境的要求以不同方式進行定義。由于無法完全預測未來這些技術將以何種不同方式開發和應用，本文件未引用其他標準中的現有定義。相反，本文件采用通用且常用的術語，盡管這些術語仍可能引發不同個人的解釋和意見，但它們在更廣泛的范圍內被理解和接受。本文件在標題中使用了最常見的通用術語（機器人、智能、自主并理解這些術語可能引發一系列關聯和不同意見。這些概念并非彼此獨立。此外，本文件重點關注這些術語作為人類對某類智能體特征的集體描述的用途。這些智能體通常根據使用類型或使用情境進行限定（例如，自動駕駛汽車、智能建筑、護理機器人）。6.2.1智能體3GB/Z18978.801—202X/ISO/TR9241-801:2020智能體是通過傳感器進行觀察，并通過執行器對環境進行作用的實體。它以實現目標為導向開展活動。智能體可以通過學習或使用知識來實現這些目標，其復雜程度可能從非常簡單到極為復雜不等。智能體通常是軟件實體，它們以某種程度的獨立性或自主性代表用戶或其他程序執行一系列操作，并在此過程中利用對用戶目標或需求的某種知識或表示。例如，用于操作員輔助或數據挖掘的自主程序（有時稱為“機器人”）也被稱為“智能體”。6.2.2自主智能體自主智能體是以高獨立性代表所有者運行的智能體。這種智能體是一個位于技術或自然環境中的系統，并作為該環境的一部分，能夠感知該環境的全部或部分狀態，并根據自身的驅動因素（或預設目標）采取行動以實現其目標。這些目標由驅動因素（或編程目標）演變而來。自主智能體通過改變環境的部分狀態或環境本身來發揮作用，并對其感知的內容產生影響。非生物的示例包括智能體、自主機器人以及各種軟件代理（例如人工生命體和許多計算機病毒）。生物學領域的自主智能體尚未定義（除活生物體外）。術語“機器學習”通常與智能體一起使用，而一些自主系統的定義還將學習能力視為此類系統的特征之一。6.2.3機器學習機器學習（ML）是人工智能的一個領域，它利用統計技術使計算機系統能夠從數據中“學習”（例如逐步提高在特定任務上的性能），而無需通過明確的編程進行指定。6.2.4自主機器人自主機器人是一種能夠以高度獨立性執行行為或任務的機器人。這一特性在諸如太空飛行、家庭維護（如清潔）、廢水處理以及商品和服務的遞送等領域尤為理想。一些現代工廠機器人在其直接環境的嚴格限制內具備自主性。這并不意味著它們的周圍環境中存在所有可能的自由度，但工廠機器人的工作場所通常充滿挑戰，并且可能包含混亂且不可預測的變量。下一步工作的具體方向和位置（在更先進的工廠中甚至包括物體的類型和所需任務）通常是確定的，但從機器人的角度來看，這些可能會不可預測地變化。機器人研究的一個重要領域是使機器人能夠適應其環境，無論是在陸地、水下、空中、地下還是太空中。完全自主的機器人可以：——獲取環境信息；——在沒有人工干預的情況下長時間工作；——在其操作環境中自主移動全部或部分身體，無需人類協助；——避免對人類、財產或自身有害的情況（除非這些情況是其設計規范的一部分）；——學習或獲取新知識，例如調整完成任務的新方法或適應變化的環境；——與其他機器一樣，自主機器人也需要定期維護。6.2.5ISO機器人本文件中使用術語“機器人”，旨在涵蓋ISO8373:2012，2.6中所定義的設備。在本文件中更廣泛地使用該術語，是為了適應機器人/機器人技術在概念化、設計和應用中的各種變化和重疊，并避免使用更具體的定義（如ISO8373中的定義），因為隨著機器人能力的不斷發展，這些定義可能僅適用于某些特定的模型和應用。6.3工效學概念6.3.1RIA系統的工效學問題在涉及RIA系統的工作設計中，需要考慮多種交互性影響。為了更好地解決RIA系統的問題/挑戰，人類工效學及其標準需要適應和演進。目前，有些主題仍超出了人類工效學的范疇。傳統上，人類工效4GB/Z18978.801—202X/ISO/TR9241-801:2020學關注的是物理世界中的身體和認知活動，而現在，它開始涉及交互式系統和數字世界，涵蓋與物理世界相關的信息以及自身的信息，包括科學、商業信息系統、娛樂和知識。隨著RIA技術的發展，人類工效學可能還需要考慮社會工效學，以評估和改善用戶體驗、可訪問性、可用性并避免傷害。人類工效學需要擴展其范圍，以考慮通過RIA系統進行的社會交互的影響，包括社交媒體、人機協作以及自適應界面和環境。同樣，人類工效學需要研究RIA系統對非用戶的影響，即那些身處RIA系統運行環境中但未直接使用該系統的人群。此外，人類工效學還需要考慮由其他相關方（大部分或甚至完全沒有人類工效學投入）制定的法律、監管和治理要求。6.3.2RIA系統的設計方法在設計RIA系統與其用戶（包括人和其他RIA系統）之間的關系時，可以采用一系列設計方法。這些在表1中描述。它們具有工效學、社會技術、倫理和可能的政治含義。應用于RIA系統的工效學應考慮最適合應用的范例以及對個人和社會的影響。在設計RIA系統與其用戶（包括人類用戶和其他RIA系統）之間的關系時，可以采用多種設計方法。這些方法在表1中進行了描述，涉及人類工效學、社會技術、倫理以及可能的政治影響。在人類工效學應用于RIA系統時，應考慮最適合具體應用的設計范式，以及其對個體和社會的影響。表1RIA系統的設計方法不一定有害，但人類不一定意識到RIA系統的作用。6.3.3感知自主性從以人為中心的角度來看，表面上的自主行為是一個人類-系統交互問題，應在設計中予以解決。事實上，從人類-系統交互的角度來看，系統行為被感知為自主的程度可能比系統的技術自主程度更重要。5GB/Z18978.801—202X/ISO/TR9241-801:2020自2015年以來，“自主”和“自主系統”這些術語在市場營銷和新聞報道中被廣泛用作“自動”、“自動化”的同義詞，以及用于描述具有感知自主行為的系統。這種用法非常普遍，以至于即使在技術文獻或法規中，也無法假定其具有更精確的含義。因此，相較于真正的自主智能體，用戶感知為“自主”的行為反而是一種更常見的現象。6.3.4控制環路控制環路由基本控制功能、支持信息、執行器和感受器組成，這些是在過程中進行調整所必需的。如果用戶、自主智能體或系統的其他組件處于用于對過程進行調整的過程流中，則該用戶、自主智能體或系統的其它組件被稱為處于環路中。隨著RIA系統智能體的出現，對用戶在環路中的位置的更精細描述正在出現。例如，在自動或自主流程執行過程中處于環路中的用戶具有主要監督性質的交互。環路中使用的一個不太常見的變化的例子是環路之前的用戶。這些用戶在執行自動或自主過程之前進行交互，但在過程執行期間不負責監控或進行調整。有關決策/行動循環（OODA環路）的討論，見10.3。7人-RIA系統問題的類別7.1概述已識別的人-RIA系統問題（即問題）分為六類。這些類別的概述見圖1，詳細描述請參見7.2至7.7。與這些類別相關的ISO標準示例可參見第9章。本章提供用于分析的數據，而非結論。它描述了與RIA系統特定或特別相關的人-系統問題，而非那些常見于非RIA系統的問題。圖1確定的人-RIA系統的6類問題7.2RIA系統—對人的影響這一類別主要代表RIA系統的特性對其運行環境中的個體產生的影響。這些影響包括身體、認知、情感、行為和動機方面的反應。需要強調的是，這一類別中的問題并不僅限于用戶（即與RIA系統交互或因其作用而受影響的人）所經歷的問題。除非一個RIA系統完全不引人注目，否則它也會對非用戶產生影響，而這些非用戶對其行為并無任何既得利益。對于非用戶而言，一個引人注目的RIA系統在其環境中可能會改變他們對環境的感知，激發情感反應并改變其行為。例如，僅僅是RIA系統的存在就可能被視為一種干擾，或被認為侵犯了隱私或個人空間。因此，用戶和非用戶的反應可能并不相同。6GB/Z18978.801—202X/ISO/TR9241-801:2020有關RIA系統設計特性如何影響人的更多問題示例見A.2。7.3人-RIA系統交互除非RIA系統是完全自主的，否則人會在某種程度上直接與其交互。這類人構成RIA系統的用戶。這一類別是當今大多數工效學的所在。它解決了任務的性質和工作設計，以確保用戶能夠完成其預期任務。該類別中的問題特別涉及用戶界面設計對用戶（即個人或團隊）與RIA系統交互的后果和影響。有關與人-RIA系統交互相關的問題的更多示例見A.3。7.4多個RIA系統相互作用-對人的影響可以預見，未來會出現多個RIA系統在同一環境中運行的情況，這些系統無需人為干預即可協調活動并進行交互。在具有物理實體的RIA系統的情況下，這種交互對用戶可能是顯而易見的；而在軟件智能體的情況下，用戶可能只感知到單一系統的存在，而非其組成要素。當來自不同供應商或組織的RIA系統相互交互時，RIA系統之間的兼容性和通信問題是可以預見的，尤其是在多個RIA系統共同運行的環境中，與環境中人的兼容性問題也同樣值得關注。很難預測這些交互會產生何種新興行為及其對用戶的影響。有關多個RIA系統交互對人類影響的更多問題示例，請參見A.4。7.5RIA系統—組織的RIA系統可能會影響組織中發生的工作、組織流程以及組織中人員所扮演的角色等活動。這些問題提出了一個問題，即我們如何優化現有組織結構/工作實踐等，以在現有組織中充分利用新的RIA系統。盡管這類問題可能不會出現在每一個RIA系統中，但它們可能會出現在組織級別實施的任何RIA系統上。與組織級別的RIA系統相關的問題的更多示例見A.5。7.6社會/文化/倫理的RIA系統不會孤立運行，而是在社會和文化背景下運行。一個有效的RIA系統將作為團隊中熟悉的成員或合作實體無縫地集成到這個環境中。RIA系統的行為應符合社會和文化規范。這一類別中的問題描述了RIA系統的設計如何積極或消極地影響社會互動、群體態度和動機以及集體群體行為，這取決于系統在社會和文化背景中的無縫匹配程度。社會、文化和倫理問題的更多示例見A.6。7.7新出現的社會問題RIA系統的廣泛或戰略性使用將重新定義人類與技術的關系。從長遠來看，可以使用智能體來做出關于治理的重要決策。關于所使用的數據和算法以及如何管理它們的保證可能是一個問題。當引入大規模智能體時，將存在與如何分配責任相關的社會技術問題。人類可能只會被分配工作，以補償不完全的自主性，可能會導致角色不豐富、不參與等，并且人在循環中得不到充分維護，無法在需要時有效介入。用自動化系統取代以知識為基礎的工作可能會帶來就業方面的變化，其方式類似于19世紀和20世紀工業化取代熟練的體力勞動者，但另一個后果是，如果需要，失去的高級認知技能可能需要幾代人才能復制。更多新出現的社會問題見A.7。8工效學和RIA系統8.1概述本章介紹了工效學作為解決人-RIA系統的問題的一種方法。RIA系統將更具關聯性、復雜性、概率性和非確定性、社會性，并大大增強人類的能力，而不僅僅是取代體力勞動。與這些智能體的互動可以成為一種關系，他們的界面可以個性化，用戶和智能體可以組成復雜的人機團隊，共同努力實現共同的目標。8.2和8.3中被識別的益處和問題將存在于人與非人-系統交互的環境中。人類工效學仍然是相關的，但適用于這些新RIA系統的方法和技術的比例不斷變化（見第7章）。7GB/Z18978.801—202X/ISO/TR9241-801:2020RIA系統需要考慮整個系統設計。任務性質和工作設計的變化，以適應RIA系統復雜的社會人機交互，是工效學的基礎。這些變化將要求工效學解決系統方法，調整其最佳實踐，并擴展到目前工效學家不經常處理的心理學和其他社會科學領域。8.2RIA系統應用工效學的好處工效學提高了機械和計算機控制自動系統的可用性。如果采用符合工效學的方法來支持RIA系統的設計和使用，將會有好處。具有高水平的以人為中心的質量的系統和產品往往在技術和商業上更成功。按照以人為中心的原則開發和使用的RIA系統將帶來更多好處。其中包括：——提高用戶/人員在需要時進行控制的能力；——提高具有各種能力的人的無障礙；——改善用戶體驗；——改進RIA系統在人類團隊中的接受和集成；——改進人力任務和活動的整合和支持；和——在所有RIA系統狀態[主要/正常、降級、緊急和恢復（當系統不可用時）]以及在這些狀態之間可能出現特定問題的過渡期間，提高了系統性能。這可能導致：——提高產品/系統/服務的接受度；——增加對產品/系統/服務的信心和信任；——降低支持成本；——競爭優勢；和——降低了人的錯誤和人機組隊錯誤、用戶意外使用系統以及系統運行不理想或進入不安全或不期望的操作模式的風險。8.3RIA系統不應用工效學的危害RIA系統對個人和社會造成危害。對使用該系統的個人的績效以及其他受該系統影響的人的行為產生負面影響的可能性很高。這些負面影響包括：——系統中不適當的信任/信心水平（對RIA系統具有正確的信任或信心水平很重要。這取決于任務、情境和情況，即RIA系統在某些情況下比在其他情況下更可靠，用戶理解這一點的能力至關重要，通過系統行為的透明度/可預測性等）：——信任不足可能導致：由于額外的檢查和監督活動，用戶不采用該系統（如果他們有選擇的話）或不愿意操作該系統，以及RIA系統的預期效益沒有得到充分實現，導致工作量增加；——過度信任可能導致錯誤的發生或遺漏、任務的脫離以及當系統沒有按預期運行時對系統的不滿；——情境警覺喪失；——脫離任務；——過度依賴RIA系統完成任務；——精神負荷增加；——由于RIA系統的存在而產生的不確定性導致的普遍壓力；——在恢復、緊急和降級的系統狀態下或在沒有系統的情況下可能需要的知識、技能和能力的退化；——培訓需求增加；——對工作或環境失去控制，這可能會影響工作滿意度和員工留任；——責任和義務的模糊或喪失；——可用性差；——反過來，這些對個人績效的負面影響會危及安全；——增加使用錯誤，導致事故和傷害；——當用戶需要重新參與任務（重新進入環路）時，增加用戶重新參與任務所需的時間，可能會延遲糾正措施，以防止出現不安全狀態或操作；——導致用戶有意（或無意）開發RIA系統的工作方式，并違反流程，以圓滿完成任務。8GB/Z18978.801—202X/ISO/TR9241-801:2020類似地，當沒有充分考慮人的因素時，對使用RIA系統或在RIA系統環境中工作的人群會產生負面的社會影響。其中包括：——對環境的社會方面普遍不滿；——由于RIA系統的存在或運行，使用該系統的團隊的運作受到干擾，或社會互動出現偏差；——與系統相關的負面事件的一般責任擴散；——社交團體和/或用戶團隊對隱私的侵犯；——社會團體和/或用戶團隊認為安全性降低；——由于RIA系統的存在而產生的不確定性導致的普遍壓力；——知識、技能和能力的退化，如果出現電磁或地磁脈沖等需要，社會需要相當長的時間才能恢這些負面的社會影響反過來會導致RIA系統被拒絕，從而對系統制造商和用戶組織的聲譽、產品銷售或服務績效以及最終的盈虧底線或效率產生負面影響。它們還可以創造一個功能失調的工作場所，帶來所有困難和成本。因此，在所有級別（系統、組織和系統規模）都必須考慮以人為中心的方法（人的增強其中RIA系統和總體系統設計的重點是人類用戶保留的決策和任務（在所有潛在用例中：最佳、降級、逆轉和緊急），RIA系統支持這些決策和任務。人員應保持在環路中，以達到所有系統狀態所需的性能和安全水平。當系統在諸如從正常操作到緊急狀態的狀態之間轉換時，這尤其重要。確定所需的范圍是系統風險評估的一部分。同樣，至關重要的是將RIA系統與其運行的社會環境無縫集成，以確保其運行不會破壞環境的社會和文化結構。因此，無論何時將RIA系統引入到包括團隊或其他社會互動可能受到影響的群體的環境中，都必須實施有效的變更管理程序。盡管在引入任何新的或修改的系統時，變更管理很重要，但這些系統幫助確保其被接受并最大限度地減少對環境中團隊活動的干擾尤為重要。9RIA系統中工效學標準涉及的領域9.1概述工效學標準提供了有助于解決第7章所述的許多問題和第8章所述危害的信息，特別是與用戶界面、組織問題和生命周期過程相關的信息。盡管這些標準可能不能充分涵蓋RIA系統特性的新需求，但本章總結了如何使用這些標準來解決RIA系統。9.2工效學原理ISO26800描述了一般工效學方法，并規定了適用于任務、工作、產品、工具、設備、系統、組織、服務、設施和環境的設計和評價的基本工效學原理和概念。工效學的基本原理保持不變，盡管對它們的相對重視程度會有所不同。ISO26800中所述的原則和概念對設計過程至關重要，無論在何處都需要人的參與，以確保將人的需求和特性最佳地整合到設計中。基于這些原則和概念的工效學和人因標準可供高管、經理、工程師和設計師在選擇、設計和管理系統和設備時使用，以確保其有效、高效和令人滿意。這些概述如下。ISO27500借鑒了廣泛的工效學和人因知識，以簡潔的形式向執行委員會成員和決策者介紹了以人為中心的基本原理和一般原則。它解釋了以人為中心的組織的特點。這些原則如下：——利用個人差異作為組織力量；——制定可用性和無障礙戰略業務目標；——采用全系統方法；——確保健康、安全和福祉是業務重點；——重視員工，創造有意義的工作環境；——公開和可信；和——以對社會負責的方式行事。當考慮或實施RIA系統時，它們為組織行為提供了框架。ISO27501概述了管理者在支持以人為中心的組織方面的責任，以及在內部、外部和社會利益相關者方面實現七項原則中的每一項。9GB/Z18978.801—202X/ISO/TR9241-801:20209.3以人為中心的設計過程以人為中心的設計是交互系統開發的一種方法。通過應用人因/工效學以及可用性知識和技術，以人為中心的設計旨在通過關注用戶需求，使系統可用和有用。這一方法提高了有效性和效率，改善了人類福祉、用戶滿意度、可及性和可持續性；并抵消使用對人體健康、安全和績效可能產生的不利影響。ISO9241-210為基于計算機的交互系統的整個生命周期中以人為中心的設計原則和活動提供了要求和建議。它旨在供管理設計過程的人員使用。它關注交互系統的硬件和軟件組件如何增強人-系統的交互。所述方法補充了現有的系統設計方法。它可以被納入各種方法，如面向對象設計、瀑布式、敏捷和其他快速應用程序開發過程。兩個以人為中心的設計過程模型闡述了以人為中心設計方法的原則和活動。ISO9241-220描述了確保交互系統以人為中心質量的過程。ISO/TS18152描述了解決系統工程中人-系統問題的過程。這些標準中的流程遠遠超出了HCD實踐中的現行規范（即，規定了在治理和項目管理中支持HCD的流程，表示HCD人員盡早參與，定義用戶需求，然后驅動系統/技術/平臺級需求），并將適用于RIA系統，也適用于其他類型的系統和任何一組人-系統問題。ISO9241-220:2019，附件F，提供了風險管理和以人為中心的設計指南。9.4交互和界面ISO9241-110、ISO9241-112、ISO9241-13、ISO9241-129和ISO9241-154為交互系統的工效學設計制定了一般設計原則，和不考慮使用、應用、環境或技術情況下的信息呈現。它們為將這些原則應用于交互系統的分析、設計和評價提供了一個框架。雖然它們適用于所有類型的交互系統，但它們沒有涵蓋每種使用情境的細節，例如安全關鍵系統和協作工作。這些原則通常獨立于任何特定的設計風格或應用。ISO9241-129專門針對自適應對話。其他部分涉及新穎和多種模式。對話是“用戶和交互系統之間的交互，作為一系列用戶動作（輸入）和系統響應（輸出），以實現目標”，其中用戶動作不僅包括數據輸入，還包括用戶的導航和其他（控制）動作。與對話和個性化相關的原則有助于防止可用性問題，包括：——任務中不需要的額外、不必要的步驟；——誤導信息；——關于用戶界面的信息不足且較差；——交互系統的意外響應；——使用期間的導航限制；和——錯誤恢復效率低下。與信息和指導相關的原則為用戶提供了各種好處，包括速度、準確性、腦力勞動和用戶體驗的提高。它們也有助于防止用戶在呈現信息時遇到可用性問題。此類問題的示例包括：——盡管存在信息，但不檢測信息；——其他分散用戶注意力的信息；——不區分信息，因為它們看起來是相同的；——誤解信息，因為信息的含義不明確；——花費不必要的時間來理解信息，因為信息呈現不必要地冗長；——不熟悉的內容和格式導致對信息缺乏理解。ISO9241-154給出了交互式語音應答（IVR）應用程序用戶界面設計的指導和要求。它涵蓋了使用按鍵輸入的IVR系統和使用自動語音識別（ASR）作為輸入機制的IVR。它同樣適用于呼叫者或IVR系統本身（例如在一些電話營銷應用中）發起呼叫的情況。它打算與ISO/IEC13714一起使用，ISO/IEC13714專門涵蓋語音信息。盡管ISO9241-154涵蓋了許多與本章中引用的其他標準相同的主題，但ISO9241-15是特定于應用的，并提供了超出一般原則的指導。9.5無障礙ISO采用的無障礙工效學定義側重于通過考慮最廣泛的用戶需求、特征和能力，擴大產品、系統、服務、環境和設施的用戶范圍，以使盡可能多的用戶能夠在特定的使用環境中實現其目標。ISO9241-171、ISO/IEC29136、ISO9241-129、ISO9241-971和ISO/TR22411提供了關于交互系統設計的具體方面的指導，這些方面考慮了盡可能廣泛的用戶范圍。具體指南的應用是在9.3所述的以GB/Z18978.801—202X/ISO/TR9241-801:2020人為中心的設計方法的應用范圍內進行的。EN17161描述了一種考慮到無障礙的設計方法，該方法側重于盡可能廣泛的用戶。ISO9241-171為工作、家庭、教育和公共場所使用的無障礙軟件設計提供了工效學指南和規范。它涵蓋了為身體、感官和認知能力最廣泛的人（包括暫時殘疾的人和老年人）設計無障礙軟件的相關問題。ISO9241-171中的大多數規定適用于實現或有助于軟件用戶界面的軟件的任何部分。ISO9241-171指出，除了采用以人為中心的設計方法外，提供個性化的能力也是增加人系統界面無障礙的重要工具。這使不同的用戶需求、特性和能力能夠通過適應和定制特定需求來滿足。這可以包括響應于特定用戶行為的界面和交互特性的自動識別和調整。因此，ISO9241-129在這里以及9.4中討論了個性化。除了描述具體的實施特征外，ISO9241-129還提供了關于何時以及如何適合采用個性化的一般建議。ISO/IEC29136為個人計算機硬件的無障礙提供了要求和建議，用于規劃、開發、設計和分發這些計算機。ISO9241-971提供了工效學指導，重點是確保與ICT系統的觸覺交互的無障礙。這包括無障礙觸覺交互設計的一般和具體指南。本文件涉及觸覺模態（如手勢、振動和力反饋）的模態轉換和無障礙指導。ISO/TR22411沒有提供設計指南，但提供了描述不同用戶功能特性、能力和響應的數據集。特別是，它有大量與老年用戶相關的數據。該數據可用于確定適用的值和尺寸，這些值和尺寸在考慮到特定使用環境的變化的情況下為盡可能廣泛的用戶進行設計時是合適的。9.6工作空間和工作負荷ISO6385、ISO9241-2和ISO10075系列為任務、工作和工作系統的設計提供了工效學原理。它們鼓勵在設計過程中以平衡的方式關注人、社會和技術要求。這些標準中的系統方法有助于現有和新的情況，如RIA系統的引入。對現有或新工作系統的工效學評估將表明需要并鼓勵關注這些系統中的工作負荷和工人的角色。工作系統涵蓋了各種各樣的工作和休閑情況，包括永久和靈活的工作場所。工作系統包括給定空間和環境中的人員和設備的組合，以及組織內這些組件之間的交互。工作系統的復雜性和特點各不相同。這些標準中規定的原則支持在任務績效、工作負荷、人類福祉、安全和健康方面設計最佳工作條件。這包括發展現有技能和獲取新技能，同時考慮到作為工作系統一部分的技術和經濟效益以及人們的效率福祉。根據工作系統設計中的實際經驗，應用工效學知識旨在考慮工作負荷及其測量中滿足人類需求。9.7情境和環境ISO9241-11提供了一個框架，用于理解可用性的概念，并將其應用于人們體驗或使用交互系統（包括RIA系統）、其他類型的系統（包括構建環境）、產品（包括工業和消費產品）和服務（包括技術和個人服務）的情況。可用性是一種可擴展的、基于任務的度量，衡量用戶能夠有效、高效和滿意地實現目標的程度，同時考慮到使用情境。ISO9241-11解釋了可用性如何根據人的績效和滿意度來解釋。它強調可用性取決于使用情境（體驗或使用系統、產品或服務的特定環境）。控制和控制中心展示了RIA系統的早期和廣泛應用。ISO11064-1中介紹了控制中心處理用戶需求的總體策略。ISO11064-2提供了控制室與其支持區域相關的設計和規劃指南。ISO11064-3涵蓋了控制室布局要求。ISO11064-4中規定了控制中心工作場所設計的工效學要求、建議和指南。ISO11064-5和ISO11064-6中介紹了顯示和控制、人機交互和物理工作環境。ISO11064-7中闡述了評估原則。ISO為物理和熱環境特性的建模、測量和評估制定了標準。隨著RIA系統增加其在環境中的存在，特別是在控制動態集成環境時，個人能力、舒適性和安全性將越來越依賴于這些標準的機器應用以及對環境因素綜合影響的正確解釋。10為更好地應對RIA系統技術對工效學標準所帶來的變化10.1概述人機交互（HCI）范式（繼承自工效學）主要是基于任務的。任務由行動步驟或目標實現來定義。到目前為止，HCI專注于任務支持，例如人造產品功能的可用性。這是因為專注于行動導致專注于用工具支持行動。考慮到RIA系統，我們需要將重點從支持工具用戶轉移到幫助團隊實現目標（團隊包括單GB/Z18978.801—202X/ISO/TR9241-801:2020個或多個用戶和單個或多智能體）。此外，重點不是強調完成任務，而是轉移到吸引用戶和塑造行為，以及塑造工作性質。以人為中心的質量（HCQ）仍然適用于作為一種測量手段。基于風險和目標的標準化方法可能比規定更有效。這符合ISO9241系列規范的方法。但經驗告訴我們，它們更難解釋和實施，而且它們的使用帶有一定程度的不確定性，許多利益相關者對此感到不安。10.2需要的指南類型和讀者群人類工效學傳統上涉及用戶界面及其上下文的設計和評估。工效學家開發和研究系統的操作概念，定義要執行的任務，并將這些任務分配給用戶、機器或用戶與機器的某種組合。控件的物理表示和布局、顯示給用戶的信息的內容和格式以及物理工作空間是工效學家感興趣的，以確保用戶界面的無障礙和可用性。感覺和感知、認知、學習和記憶、社會和組織互動和團隊合作、人類績效評估、工效學和生物力學是工效學家常見的知識、技能和能力的一般示例。工效學家為開發系統中的用戶界面而應用的原理和技術工具箱已經演變為支持根據用戶在系統將要運行的環境的工程模型的情境中提供的輸入來運行的系統。自動化在這樣的模型上運行，通常遵循腳本邏輯來執行用戶原本必須執行的任務。工效學家需要通過應用更廣泛的工具/方法，繼續促進用戶友好，例如社會學、人類學、社會和組織心理學、情感設計和用戶體驗（UX）。需要修改工效學家應用的原理和技術工具箱，以解決自主性帶來的獨特交互挑戰。隨著自動化擴展到更復雜的自主、動態、概率和非確定性行為，這些行為將更適應系統的操作需求。僅僅關注控制面板的設計和布局將不足以規定用戶與系統的交互。需要以人為本的設計方法：——與RIA系統的更廣泛的系統工程和設計過程相一致，并與之相聯系；——能夠應對系統中系統的復雜性增加，以及它們對用戶的影響；——考慮對RIA系統的信任度進行適當校準，并協助用戶決定何時以及在何種程度上需要越過RIA系統，并隨之承擔此類任務；——促進RIA系統的HF需求識別、架構、建模、設計、人在環路測試、驗收過程等。ISO/TS18152和ISO9241-220中已經討論了與工程、管理和設計以及用戶需求管理的集成。憑借與其他人或團隊類似的高級自主性，協作意識和團隊資源管理是可應用的團隊和監督指揮與控制的結構和技術的示例。同樣，異常情況的管理也可以提供相關指導。與當前使用的固定模式和功能展示一樣，理解特定用戶群體的社會期望和社會契約中的偏見對于自主系統的開發人員在設計中考慮和控制至關重要。這可以像確保自動駕駛汽車正確使用轉向燈一樣簡單，也可以像決定老年人的醫療水平一樣復雜。人類工效學標準化——考慮與人類工效學家處理自主發展相關的問題、原則和技術，需要解決我們所知道的如何設計人與自動系統之間的有效接口，以及系統實施、團隊合作和監督指揮與控制的工業和社會心理之間的中間地帶。其他領域，如社會學和人類學，可以有一些原則和技術，這些原則和技術可以證明對處理自治問題的工效學家有用；計算機科學也是如此。10.3透明的交互和透明的用戶為了讓人和RIA系統在未來通過透明的交互協同工作，用戶不僅需要了解系統的當前狀態，還需要了解系統在正在進行的活動中執行的功能，還需要預測系統在給定環境/條件下的行為。同樣，系統需要“了解”用戶的當前狀態、其在正在進行的活動中執行的功能，并預測用戶在給定環境/條件下的行為。這意味著用戶狀態監測傳感器和任務、用戶目標和人類行為的模型都已內置到系統中。由于人類特征、行為、文化、經驗、生理和認知狀態、性格等的廣泛差異，這可能是復雜的，適應并補償機器模型中的不足導致的次優系統行為/決策。如果RIA系統設計用于學習（即修改其人類和系統模型則應注意所學內容如何（或是否）納入系統并應用。當人發現執行任務的更高效或更高級的過程時，尤其是在團隊中運作或與其他人進行互操作時，他們并不總是能夠自由地改變自己執行任務的方式，例如圖2。GB/Z18978.801—202X/ISO/TR9241-801:2020人圖2人-智能體組隊的雙觀察–定向–決定–行動（OOOA）環路為了優化人-機團隊，重要的是，人和機器元素都朝著一個共同的目標努力，共同了解當前情況和期望的最終狀態。如果沒有對目標和當前情況的共同理解，人-機團隊可能會變得效率低下，甚至使人與機器相互沖突。有必要開發補充的任務模型，以幫助在RIA系統中開發這些透明的人機交互。10.4RIA系統的安全問題RIA系統可能會引入新的安全問題。例如，一些在時間上對人來說太快而無法實時處理的事情，或者其他無法直接觀察到的事情，例如在線活動。延遲是另一個因素，即人必須從檢測到失去控制的RIA系統中接管的時間。或者，在社會層面，存在“弗蘭肯斯坦問題”：當發明者（人或整個人類）沒有及時對所創造的智能體承擔責任時的系統性后果。防護措施是必要的，但它們應該采取什么形式，工效學起什么作用？安全集是一組基本的正常/預期人類行為，例如處于與人體物理接觸邊緣狀態的機器人。這些可能被表述為一組安全要求（“系統應在這些情況下……這樣做”）或案例。例如，自動駕駛汽車在失去控制的情況下要達到的安全條件是：停在路邊，危險燈亮著。為了在線人-系統安全，例如：“做用戶最常做的事”；但是，諸如機器學習無法訪問的離線行為等問題可能會導致智能體（如穿戴個人防護設備）做出不同的、危險的解釋。在其他情況下，被認為是合乎倫理的可能是最合適的。表2根據人-系統問題類別對安全問題進行了以人為中心的分析。表2按人-系統問題分類的安全方面私驗題GB/Z18978.801—202X/ISO/TR9241-801:2020安全集與倫理/法律/法規有關。要決定一個通用集合中的內容并不容易。用戶/RIA系統關系方法（如表1所示）可能會對安全行動和安全/危害結構產生影響。不同的文化可能需要不同的安全集。應在使用環境中添加安全/安全的文化結構。每個類別可能有不同的安全集，盡管類別之間會有相互關聯的因果關系（例如，對機器人的態度延伸到社交）。為便于安全考慮，RIA系統的工效學標準應包括評估方法。應考慮最廣泛地應用以人為中心的質量測量作為評估的基礎。這包括避免傷害，這是一種以人為中心的安全和其他類型傷害（對人和來源于人）的處理方法。ISO9241-220、ISO25063和ISO25065分別包含關于HCQ、情境和用戶要求的支持材料。ISO9241-220:2019，E.5，包含使用危害的示例。GB/Z18978.801—202X/ISO/TR9241-801:2020人-RIA系統的問題A.1概述被識別的人-RIA系統的問題分為6類。這些總結見第7章。本附錄對其進行了更詳細的描述。它提供數據用于分析，而不是結論。它描述了RIA系統的人-系統問題的不同之處，而不是相同之處。它提供了我們目前能提出的最簡單的解釋，指出了該類別下的新的、具體的問題。A.2RIA系統—對人的影響見7.2。社會、文化、倫理和社會問題在A.6和A.7中所述的類別中涉及。RIA系統的引入通常旨在幫助人類活動并提高任務績效，從而提高受影響流程的可靠性、效率和生產量。它可以很容易地支持個性化，并在任務執行過程中解釋和利用這種互動的情感影響。它可以幫助人完成需要高體力和腦力任務負荷、記憶力和注意力的任務。它可以改善對困難的現有人工任務需求的服務獲得性。RIA系統可以讓人力資源從體力上執行枯燥、骯臟或危險的任務中解放出來，這樣的任務對疲勞和傷害的敏感性就會大大降低。同樣，需要長時間執行的任務以及在這段時間內的一致精度也可以得益于RIA系統的熟練應用，使其對還保留的操作員的疲勞和輪班變化不太敏感。將任務轉移到自主性以及增加人工操作員的監控和管理任務并不一定會減少這些操作員的任務負荷和工作量。同樣，對a）系統對用戶的期望（從系統到用戶的反饋）和b）系統正在做什么以及為什么（狀態信息）的認識可能會受到不利影響。機器目前被認為是工具。它們的設計特點可供操作員使用，以促進或實現特定的、通常受限的任務或任務集的精確、可重復性能。盡管機器可以包括根據機械設計或軟件腳本精確且重復地執行同一組任務的自動系統，但通常不認為它們在執行任務期間具有高度適應性伙伴的特征。RIA系統設計了只有其他操作員或團隊成員才能擁有的特性。這些特征包括機器的行動自由度大大提高，以及適應和學習如何更好地執行分配給機器的任務的強大潛力，放松了對包括智能體的機器需要如何行動來完成這些任務的限制。RIA系統可以在沒有關于系統如何運行的主動用戶輸入的情況下進行操作，而是關注操作員表示需要完成的任務。RIA系統可以使用個性化作為界面的屬性，利用社交互動來獲得期望的輸入和效果，以完成系統的任務。已知這些特征會影響操作員或團隊成員有效執行團隊所需任務的能力。向RIA系統的人工操作員分配任務的更遠端、協作或監督性質可能導致系統執行任務的知識、技能和能力下降。對任務執行細節的情境意識和/或認知工作量的增加可能會減少，轉而轉向協作意識。由于RIA系統承擔更復雜的任務，否則將需要多個人工參與者，從而推進了任何單個人工參與者所能做的事情，因此RIA系統名義上在更少人工操作員的情況下運行的能力可能會導致在系統故障的情況下，人工操作員無法恢復此類任務。如果個性化不是RIA系統設計的一個嵌入特征，擬人化可能會導致人類用戶將個性化錯誤地歸因于系統，從而導致對系統如何對交互嘗試做出反應的不恰當或誤導性假設。A.3人-RIA系統交互見7.3。這組問題解決了RIA特性如何改變操作員和RIA系統之間的交互形式。賦予機器智能和行動獨立性的后果是人類操作員如何與機器交互以完成任務的重大轉變。正如在機器引入自動控制時所了解到的那樣，這種任務從人到機器的重新分配不僅導致了系統中需要如何支持人工操作員的重大變化，還導致了許多以前不存在的新出現的人工任務。RIA系統可以允許與非人類自主智能體進行新的交互模式，例如自適應對話、高級組合模式。人類行為本身可以構成與RIA系統交互的一部分，因此需要考慮使用該系統的人群的行為規范。隱式和顯式的交流形式以及交互空間的功能展示是RIA系統將啟用并需要考慮的交互模式的額外示例。在執行任務期間的社交接觸和其他形式的物理接近可以是與RIA系統交互的特征，從而打開用戶交互空間以包括個人、社會、政治和存在層面。GB/Z18978.801—202X/ISO/TR9241-801:2020RIA系統需要考慮社會規范和倫理方面的文化和社會差異，否則違反這些規范可能會導致系統對人類用戶的期望混淆，用戶對使用RIA系統感到不適，對系統不信任，最終拒絕該技術。在與用戶的交互中不考慮社會規范的RIA系統也可能導致涉及與系統直接或間接交互的事件或事故。RIA系統對用戶的社會規范的適應將要求RIA系統能夠解碼社會線索或個人特征并根據這種規范做出響應。如果RIA系統的行為沒有以人為中心的方式設計，可能會產生刺激感、監視感、系統缺乏可控性和透明度等。對該系統的信任會降低，恢復起來會變得更加困難。考慮到自適應行為的潛力，界定RIA系統行為并揭示這些界限將變得重要。相反，使用RIA系統強制執行安全行為，即刪除人類用戶的選擇和行為元素，可以有助于加強安全、健康和安全。RIA系統對抗人類用戶的控制輸入的這種能力最多可能導致用戶的模糊命令權限。我們如何向用戶傳達他們控制的內容和系統控制的內容，特別是當這可能會動態變化或呈現獨特的無障礙需求時？用戶應該采用什么方法來更改和跟蹤人力/RIA系統控制級別？解釋RIA系統的意圖可能具有挑戰性。如果RIA系統沒有強有力的、及時的、隱含的/明確的溝通、展示和適當的/預期的行為，用戶可能無法準確地解釋系統的意圖和期望。解釋意圖的能力與信任相結合，因為解釋意圖的困難或無能會降低對系統的信任。同樣，RIA系統可能需要能夠感知和理解用戶的行為如何影響任務的執行以及用戶正在努力實現的目標。如果RIA系統不能正確地解釋用戶的意圖，那么RIA系統和用戶可能會有不同的目的。隨著互聯性的提高，這種對用戶試圖實現的目標的誤解可能會在整個系統中傳播，從而導致效率低下、性能不佳、沮喪、工作量增加等。人機團隊的這些方面提出了以下潛在需求：——人對當前和未來可能的RIA系統狀態和行為有適當的心理模型；——RIA系統應足夠透明，以允許用戶了解當前系統狀態和行為；——RIA系統具有適當的人類行為和能力模型；——RIA系統具有監測人類狀態和行為的手段；——人和系統同步或調整其情境意識、理解和任務目標的一種方法。A.4多個RIA系統交互-對人的影響見7.4。這涉及系統之間的協同問題，但也可以從工程角度識別出額外的用戶需求。此外，用戶可能會將不同RIA系統的響應視為相互關聯。這種感知的互聯性可能帶來負面影響。例如，如果系統的某一部分功能不可靠，那么對該部分的信任喪失可能會蔓延至其他可靠的系統部分，從而影響用戶對整個系統的接受或采用。典型的系統之間交互案例包括：——重癥監護病房(ICU)中多個設備的報警：護士和醫生需要從一個系統獲取所有測量數據以解決——船舶駕駛橋的警報管理系統：包括對RIA系統之間交互的人類監控/意識；——飛機飛行管理系統與自動飛行系統之間的模式交互與轉換；——相同情況下不同RIA系統的沖突行為：例如麻醉師使用的血氧計與劑量計之間的交互。RIA系統的交互可能發生在由制造商定義的協議上下文中，而這些協議不與人類用戶交換信息。當允許RIA系統之間進行交互并發展其通信時，人類用戶可能無法理解其交互過程，并可能產生未預料到的突發行為。同樣，當RIA系統的交互發生在為兩種非常不同文化設計的系統之間時，使用人類交互協議進行通信可能會導致誤解或其他混亂。RIA系統到RIA系統的交互也可能要求人類用戶協調交互或充當不兼容系統之間的橋梁。當多個交互RIA系統在支持或協助用戶完成任務時，用戶仍需對系統整體的性能負責。協作意識包括以下內容：——對綜合系統的存在及其特性/能力的理解：包括能夠傳遞系統成員活動和與任務相關狀態的信——對各代理及其共享資源和產品的活動和位置的理解：即了解系統中各種操作和資源的動態；——對目標實現進度的理解：即了解RIA系統的使用在實現目標方面的進展情況。A.5RIA系統—組織的見7.5。組織可分為幾種類型：GB/Z18978.801—202X/ISO/TR9241-801:2020——設計、開發和支持RIA系統生命周期的供應商組織；——獲取和利用RIA系統能力以實現商業、社會或其他目標的組織；——受RIA系統部署影響的組織或人群，如員工、客戶、公眾、患者等。同樣，與實現組織、設計方組織和用戶組織相關的問題也有區別。實施組織擁有用戶組織確定的特定需求的要求。設計組織負責RIA系統的表征，并支持價值鏈。設計組織可以根據組件的開發人員（例如，機器人、ML包）和將組件連接在一起以創建系統的集成人員來定義。用戶組織為RIA系統提供支持和維護，并為用戶提供培訓。用戶對需求的表達主要通過用戶行為、購買決策、明確表達等，這些都與RIA系統相關。現有的基礎設施（如監管機構）明確了社會中可以存在和不可以存在的內容，RIA系統的許可或認證，以及用戶需求的監管和法律問題。這包括更高社會和基礎設施級別的組織，在這些組織中，企業結合許多組織需要以某種方式進行連接，以實現和維持新的生活方式。此類問題主要涉及加強安全、風險補償、領域/運營知識和責任/責任。將RIA系統插入工作場所與自動化面臨著類似的挑戰，需要進行調整，以使人類工人面臨次優工作場所的風險。在系統設計的早期，需要了解責任和業務問題。例如，它們通常通過創建用于監控和故障排除的新組織功能（“機器人后清理”）來影響組織。組織結構、業務/生產/工作流程和實踐將不斷發展，以便在現有組織中充分利用新的RIA系統，同時確定持續改進的機會和使用組織內RIA系統生成的數據。關于生命周期HCD過程，請參見9.3。A.6社會/文化/倫理的見7.6。RIA系統將考慮其在其運營的社會中的行為的社會和倫理規范（例如行為期望、容忍、公平、同情以及違反這些規范會如何導致系統對人類用戶的期望的混淆、對自主權使用的不適感，以及最終拒絕自主權。不考慮社會規范的自主會導致涉及人類與系統直接或間接互動的事件或事故。RIA系統技術正在應用于軍事、工業和民用應用。技術的交叉可能是有益的（例如輔助醫療和醫療系統、安全系統），但也可能是有害的（例如在犯罪或恐怖應用中出于惡意使用民用RIA系統技術）。當自主和/或機器人系統技術應用于另一個領域時，用戶所需的培訓水平和行為規范可能會發生顯著變化。引入非人類自主系統將：——改變現有的任務分配，產生新的和緊急的人工任務；——要求重新考慮所采取行動的權力、責任和責任；——改變人類及其相關團隊和組織結構在工作場所的角色，產生更廣泛的社會影響。在戰爭中，遠程駕駛系統允許人們在舒適的家庭和家庭生活中開始和結束與戰斗暴力無關的戰斗。在民間社會，除非在引入RIA系統時考慮更廣泛的人的問題，否則提供工作滿意度的任務的自動化或重新分配可能會導致工作場所的不滿、動蕩以及招聘和挽留問題。工作所需技術能力的降低也會導致組織或流程對RIA系統故障或意外外部事件的恢復能力降低。RIA系統將人與任務的執行分開，增加了與行動后果的倫理距離，使得隨著引入更強大的自主性，可能導致負面后果的任務更有可能被執行，例如某人拒絕向客戶貸款，或因RIA系統的建議而拒絕健康保險，消除人類的自由裁量權和倫理自由。一個人對具有倫理后果的行為承擔風險的意愿隨著以下因素而增加：——更大的距離感知；——導致行動的任務具有更間接的性質；——更大的匿名性。對于培訓RIA系統的人來說，這種現象也會存在，這就提出了一個問題，即誰的角色將反映在RIA系統未來的行為中。如果RIA系統能夠在與用戶交互的過程中自主學習和成長，那么這些體驗也將影響系統的未來行為。用戶的仁慈不能被假設。如果RIA系統沒有建立和實施對基本行為的不可改變的檢查，則可能導致RIA系統所處社會的同理心降低和反社會行為增加。A.7新出現的社會問題見7.7。GB/Z18978.801—202X/ISO/TR9241-801:2020在應用新的科學或技術發展期間或之后不久，問題往往會出現。這些問題通常涉及整個社會，并通過社會變革、政策、標準、法規和程序來處理。因此，盡管人因/工效學專家可以在解決RIA系統的某些問題方面發揮作用，但許多其他類型的專業人員以及普通公眾將共同解決這些問題。人類工效學、HCD過程和方法、適用理論、影響范圍、設計原則、測量方法和度量的界限可能需要改變，因為人類工效學的當前界限被擴展以適應RIA系統的社會方面。同樣，計算機系統其他方面的現有標準可能開始與人類工效學標準重疊，特別是在分類、測試、保證、規范和系統集成方面。考慮到RIA系統的社會方面，使用環境對RIA系統尤其重要。考慮到RIA系統的非確定性/概率性，測試、保證和規范尤其會給RIA系統帶來挑戰。隨著時間的推移改變行為的系統（例如機器學習）可能會對RIA系統的人機界面設計提出特殊挑戰。如果RIA系統沒有強大的隱式/顯式溝通、啟示和適當/預期行為，用戶可能無法準確解釋系統的意圖。解釋意圖的能力與信任相結合，因為解釋意圖的困難或無能會降低對系統的信任。同樣，如果沒有來自傳感器的適當反饋以及對用戶正在努力實現的任務和目標的理解，RIA系統可能無法正確解釋用戶的意圖，從而導致他們的工作目的交叉。由于具有更大的互連性，這種對用戶試圖實現的目標的誤解可能會在整個系統中傳播，從而導致效率低下/性能不佳/受挫/工作量增加等。GB/Z18978.801—202X/ISO/TR9241-801:2020RIA系統工效學問題示例/案例研究B.1概述這里提供了RIA系統工效學問題的各種示例和案例研究。其中包括一般的自動駕駛系統，以及航空和其他汽車運輸系統的簡要示例；工業機器人；medivac；在線支持（特別是使用IVR）和活動管理以及人員和RIA工作環境之間的沖突。此處未詳細討論但已確定的其他示例包括：信息搜索/圖書館、遠距離通信、維護某物、旅行、手術、分享新聞、娛樂、護理、輔助技術（例如人工耳蝸、假肢、外骨骼、拼寫/語法檢查、電子地圖）以及通過臨時啟用/脫離自動化來平衡工作量。B.2自主系統用戶理解他們當前的工作空間，因為這樣的空間被設計為具有用戶體驗所共有的展示和界面所呈現的其他隱式和顯式通信，并且與任務和執行任務的環境自然地流動。工效學家設計這樣的工作空間的目的是使空間對于目標用戶群體來說是一致的、直觀的和可預測的。人類工效學原理和技術的發展考慮到了這一點。當用戶接近這樣的工作空間時，用戶知道他/她期望完成工作空間支持的任務。當工作空間能夠自主適應時，當工作空間可以改變其狀態以更有效地滿足用戶完成支持任務的需求時，會發生什么？當以前的自主工作區降級，為用戶提供的幫助減少，支持減少時會發生什么？問題從開發和加強用戶對一致工作空間的意識（即用戶確切知道在任何給定時刻所期望的工作空間）轉變為開發和保持用戶對動態環境中當前對他們的期望的意識。模式混淆是當系統自動改變其狀態和改變這些狀態的邏輯時可能發生的不利影響的一個例子。在設計過程和隨后的用戶培訓中，支持構建和維護用戶對自動化正在做什么的意識需要花費大量時間。即使有了好的設計，用戶有時也必須花費相當大的精力來構建和保持對自主性將做什么以及用戶需要做什么的意識。當系統響應刺激而改變其行為時，用戶對系統改變的情境感知以及對用戶對未來行為的預測的影響可能會帶來額外的挑戰。現有的自動系統在其后端具有基于規則的算法，該算法可以導致系統變化，但用戶仍然可以理解。而體現了強大AI（一種學習自己規則的算法）等功能的系統可能會導致根本無法理解的系統變化（例如，GoPlay，系統提出了最佳解決方案，但沒有人知道原因）。自主系統中的第二種控制可能導致模式混淆和不透明的更強烈的影響。監控自主系統的重大感知和認知負擔，以及當用戶依賴自主而沒有實踐自主所執行的任務所需的知識、技能和能力時，用戶的技能退化，都是涉及將自主引入工作空間的不利影響的額外示例。在這些例子中，壓力和疲勞加重了用戶的負擔，因為自主系統的操作可能需要更多的注意力、決策和記憶。同樣，依靠用戶作為故障保護器，當自主性失效時，將全部操作責任推卸給用戶，這將對涉及復雜、安全關鍵、可能高速操作的任務的控制和信息顯示帶來相當大的挑戰。例如，在航空領域有很多例子，自動飛行系統中的故障模式涉及飛機的部分或全部手動控制，從而導致事故和事故。在航空中，自動駕駛系統中的自動模式轉換不那么極端，當然也更常見，因為自動駕駛系統需要飛行員不同的手動控制責任，這也導致了事故和事故統計。考慮到飛行員的高度訓練和反復訓練，模式混亂的發生率以及每個飛行員無法及時完全控制飛機的行為令人擔憂。在不需要如此嚴格培訓要求的領域，逆轉和模式轉換意識對事件和事故的發生率和嚴重程度有何影響？在設計動態系統時，時間維度至關重要，其中不可預測或過度的時間壓力是主要因素。目前存在的例子是操作員啟用和解除自動化以臨時平衡工作量。更普遍的情況是適應自動化的使用。新興的自動駕駛汽車技術已經提供了自動駕駛失敗的例子，將手動操作恢復到駕駛員手中，而駕駛員尚未準備好完全控制汽車。隨著自主性所代表的更高級功能，恢復可能需要對基本信息的處理水平進行補償，并對單個獨立用戶無法在可用時間內執行的選項進行評估。對于自主系統的設計者來說，這些和許多其他挑戰的指導原則和解決方案可能會擴展工效學家通常用來開發系統中用戶界面的工具箱。社會心理學、組織和工業心理學以及人類學是研究領域的例子，這些領域可能提供工具和技術，工效學家將發現這些工具和技術在研究和設計跨文化不同人群使用的RIA系統時非常有用。GB/Z18978.801—202X/ISO/TR9241-801:2020B.3汽車應用如A.2所示，系統應清楚地顯示其處于何種模式，以及系統是否處于“活動”狀態。當自動化系統啟動時，海上鉆井中發生了許多嚴重的傷害，因為它們可以在沒有明顯標志的情況下供電，然后突然移動。電源指示在控制室，但不在設備上。考慮到自動駕駛汽車，其他道路使用者是否應該知道汽車是處于自動駕駛模式還是處于駕駛員控制之下？關于溝通意圖，人們善于解釋他人正在做的事情，特別是來自他們自己的文化，但對于來自不同文化的人或承擔人們通常執行的任務的非人類智能體來說，這一點并不好。任何有風險的人都應能夠停止RIA系統。或者，如果這不可行或不合適，則應明確地向控制器發出指示。例如，如果飛行員遇到一架無人機，他們應該能夠像預測另一架有人駕駛飛機一樣預測其行為。如果無人機存在風險，可以實時呼叫無人機駕駛員，這是一個適當的考慮因素。航空業的另一個例子是，飛行員如何使用鐵路線飛行，并按照某些國家的標準做法，將鐵路線保持在左側，這樣就不會與從另一個方向過來的人發生正面碰撞。無人機通常被編程為直接飛越生產線，這可能會降低安全邊際。關于控制和監測問題，我們如何決定哪些系統需要監測，哪些系統不需要監測，而哪些系統需要快速的人為干預？如果是駕駛自動駕駛汽車的人，他們是否有能力駕駛或處于健康狀態，以便在緊急情況下駕駛車輛避開危險，還是因為他們在系統或法律職責中沒有角色而不需要這樣做？如果需要監控，例如，一個中央監管機構監管多個單位，那么對于駕駛和監控系統的人員，在情境意識和干預時間方面的要求是什么？這是一項合理的任務嗎，還是由于高度集中和長時間無所事事而過于困難？在2018年發生的一起致命的自動駕駛撞車事故（Uber）中，監控司機不是一名年輕的警覺的技術人員，而是一名康復的前罪犯，有已知的藥物濫用問題。駕駛員完全控制車輛所需的控制裝置被禁用，從而否定了監控駕駛員必須對車輛進行積極控制以避免致命碰撞的能力。這意味著，如果某些用戶能夠執行監控作業，那么他們可能很難執行這些作業，而且干預時間很短。在撰寫本文時，Uber的這起致命撞車事件尚未得到全面調查，但它引發了另一個問題。傳感器制造商已經宣布，他們的傳感器會檢測到被殺害的人，因此他們指責那些定義危險參數的程序員識別了汽車前面的人。但被撞者的行為出人意料，在路上推著一輛裝滿塑料袋的自行車，從系統程序員的角度來看，造成了一個“意外”的形象。很有意思的是，程序員們對無家可歸的人幾乎沒有經驗，他們總是騎著自行車到處亂扔自己的物品，因此沒有在“可忽略的安全”規則集中添加適當的規則。這里提出的問題是，決策規劃中需要什么樣的生活經驗或多樣性，以確保涵蓋所有現實世界的危險？是否有一種通用的控制模式可以應用于自動或自主系統，以安全地繞過未識別或其他不尋常的威脅（例如，來自航空的“飛行、導航、通信”一個系統在某種程度上繼續依賴人工操作員，特別是當系統遇到不知道如何處理的情況時，這就引出了一個問題，即人工主管或監控人員如何知道什么時候發生了故障或即將發生故障？RIA系統將在人們附近運行，它應該對環境有更深入的了解，尤其是產品周圍和產品周圍的人類行為。如何定義安全操作和不安全操作之間的界限？識別和應對行為的時間范圍是什么？自動駕駛汽車目前有大量的書面排除清單，由于情境的原因，有很多“陷阱”。航空是當今可以輕易實現的，但具有高度自動飛行能力的飛機的操作需要高水平的投資和培訓，以安全地適應這種能力。也許需要更清楚地解釋設備的功能。什么是“當其他一切都失敗時”的基本任務？設計師知道基本任務是什么嗎？這是否擴展到編程/參數化？這可以是一個基本的設置嗎？蜥蜴的大腦功能是什么？這里的一個例子是割草機：“不要碾過草地上的東西”如果一個系統學習并發展了專業知識，如何知道它達到了什么水平？關于梅賽德斯駕駛員輔助系統，變速器學習駕駛員風格。如果更換了變速器，則新系統是幼稚的，駕駛員會被指示讓系統重新學習。這將如何適用于更復雜的系統，以便我們知道該系統現在是專家，并理解這意味著什么，例如，它可以在過去需要控制輸入的情況下自主行動？RIA系統所擁有的最高級別的權力應向各方明確。自動駕駛汽車的決策算法設計中出現了一些新問題。目前正在進行有關如何在崩潰中確定優先級的研究。例如，車輛是否應始終保護駕駛員，因為他們是客戶，即使這意味著要撞上一群行人或騎自行車的人？如果共識是否定的，那么正在銷售的產品可以決定采取可能殺死其所有者的行動。顯然，今天所有車輛都是如此，但致命的決定是由駕駛員而不是產品做出的。人們擔心會出現一個黑市，富人會非法重新繪制碰撞算法或其他保護措施，從而不惜一切代GB/Z18978.801—202X/ISO/TR9241-801:2020價為自己謀取利益。鑒于已經有一個非法的重新測繪行業來規避排放控制，這可以被視為一個真正的風B.4工業機器人在制造環境中，工作空間設計以前沒有太多考慮用戶和機器人/自主系統之間的直接交互。安全法律和法規要求通過物理屏障和圍欄將傳統高速、高負載工業機器人完全隔離。這種嚴格的執行是必要的，因為僅僅依靠人類的監測和意識來減輕風險是不夠的。各種防護措施（基于傳感器的速度和分離、手引導模式、功率和力限制）現在提供了安全的工業人機協作/共存（如ISO10218-1和ISO/TS15066所示）。由于集成和機器人過程自動化（RPA）可以極大地提高業務績效，這使得小型和大型車間機器人和自主系統的水平顯著提高。然而，無論采取何種保護措施，這種更緊密的界面都會影響工作任務本身的設計。隨著用戶與機器人/自主系統之間的直接交互變得越來越普遍，這將不可避免地帶來更大的人類認知需求和對自主模式的認知需求。工作任務的屬性，如決策自由度、技能自由度、時間和用戶在任務中的方法控制，可以直接受到更密切的人機交互的影響。盡管以前的工作人員與執行基本任務的隔離系統沒有緊密的聯系和直接的互動，但車間的操作員現在正在與執行更復雜任務的系統協作。他們必須準確地解釋系統正在做什么，預測下一步要做什么，并決定他或她可能需要采取什么行動。此外，當環境包括多個系統和運營商，具有不同程度的自主性和移動性，需要協作意識狀態變化時，這些需求將顯著加劇。培訓和經驗將有助于操作員開發新技能，以執行其工作任務，但這些系統的設計和集成應考慮認知工效學、心理健康和安全，而不僅僅是當前的技術/功能安全和業務績效。B.5急救人員處理傷員并將其送往醫院這個理論示例考慮了受傷公眾的第一響應者治療以及他們隨后的醫院交通。在本例中，所考慮的RIA系統的用戶是提供服務的組織。然而，還有其他潛在用戶，如患者、管理護理或將患者運送至醫院的人員以及相關系統的維護人員。考慮到這些不同的用戶，可以給出系統及其影響、風險和機會的不同觀點。在本例中，有幾個階段涉及到對受傷公眾的響應，每個階段都有不同類型的RIA系統支持。該理論示例中的這些階段是：——將第一響應者分配給受傷人員；——初步診斷；——傷員的初步穩定和治療；——將患者送往醫院；——將傷員移交給醫院人員并繼續治療。在本例中，并非所有這些階段都得到了詳細考慮，但它旨在強調可以考慮的潛在人因的范圍。過去——在街上發現傷員時，公眾會找到最近的公共電話，并致電當地緊急控制中心，口頭提供傷員位置信息，然后再返回傷員。控制中心呼叫離傷員最近的救護站，并將信息傳遞給救護站控制器，后者將信息傳遞到救護站的救護人員。救護車由一輛裝有擔架的貨車組成，車上有一名司機和一名急救技術人員。如果需要，救護人員使用當地知識和紙質地圖導航到患者。到達現場后，進行基本急救，將傷員送往醫院，并將所提供的治療記錄和獲得的有關傷員的任何其他信息記錄在紙質記錄表上。到達醫院后，一名搬運工將傷員從救護車上卸下，并將其與紙質患者記錄一起帶到急診室，將其傳遞給醫院醫療團隊。從最近的過去到現在——在街上發現傷者時，一名公眾使用手機撥打緊急電話。呼叫會根據呼叫者的位置自動路由到區域控制中心。呼叫者的位置被提供給緊急呼叫處理者，該處理者從呼叫者收集信息，以用關于患者及其狀況的信息填充預先準備的基于計算機的對話。呼叫處理程序識別離傷員最近的可用救護車，這些救護車分布在整個區域的預定位置，并口頭傳遞有關傷員位置和狀況的信息。救護車由一輛專業車輛組成，其中包含一系列用于診斷和治療的獨立設備，由訓練有素的急救技術人員和訓練有素的護理人員組成。救護人員將傷員位置輸入衛星導航系統，該系統為傷員提供建議路線。當救護車在途中時，呼叫者可以與呼叫處理人員保持聯系，呼叫處理人員根據急救培訓課程為傷員提供基本治療建議。到達現場后，護理人員使用診斷設備決定提供何種治療。護理人員決定傷員在哪一點處于足夠穩定的狀態，以便將其轉移并運送至醫院，在這一點上，他們被裝載到救護車