進入2024，人工智能（AI）的熱潮持續升溫，面對日新月異的人工智能技術，我們不禁要問：這些聰明的算法，會給安全自動化領域帶來變革嗎？

答案毋庸置疑，人工智能正在改變世界……但是，AI的安全性該如何保證呢？

AI與機械安全的結合

AI是基于數學的編程代碼，旨在模仿人類的行為以及自動化決策的過程。20世紀60年代奠定了AI技術的基礎，但直到今天，隨著硬件的進步、新的概念的涌現以及新算法的開發，AI才真正迎來了發展的春天。

對于那些傳統算法和技術無法解決的問題，AI技術的發展為我們提供了克服這些問題的可能性，為新的商業領域、商業模式、產品和服務開辟了空間。但想要將人工智能技術與機械安全技術相結合，必須要面對的一個挑戰便是AI的“black box”的特性，我們無法預測或理解復雜的AI系統是如何做出決策的，而這一點恰恰是功能安全的關鍵。

AI在機械安全中的應用要求

人工智能技術在機械安全中的應用要求主要涉及三個關鍵方面，即安全性、透明度和可靠性，在實施AI機械安全時，必須充分考慮和實現。

• 安全性（Safety & Security）

安全性是指AI系統在執行其功能時，不會對人員、財產或環境造成損害的能力。在機械安全領域，意味著AI系統必須能夠在預期的操作條件下正常工作，同時在出現異常或故障時采取適當的安全措施，因此AI系統的設計和實施必須遵循嚴格的安全標準，如ISO 26262（道路車輛功能安全）或IEC 61508（電氣/電子/可編程電子系統的功能安全）等。

• 透明度（Transparency）

透明度是指AI系統的決策過程能夠被理解和解釋，這有助于建立用戶對AI系統的信任，并在出現問題時快速定位和解決問題。在機械安全領域，這意味著操作人員和安全工程師需要能夠理解AI系統是如何做出特定決策的，以便在必要時進行干預或改進。

• 可靠性（Reliability）

可靠性是指AI系統能夠在長時間內持續穩定地執行其預定任務的能力。在機械安全領域，AI系統的可靠性至關重要，因為它直接關系到系統的安全性能。為了提高AI系統的可靠性，技術人員會使用各種算法和方法來量化系統的不確定性，確保AI系統能夠在其決策中識別出無效輸入，并作出適當的響應。此外，可以通過采用適當的系統架構和設計概念，提高AI系統的可靠性。

立法與標準的跟進

歐盟AI法案（EU AI Act）為AI系統的發展、部署和使用提供了統一規則，同時也關注個人安全和基本權利，目前普遍應用的算法都屬于該法案的范疇，只是目前該法案尚處于起草階段。

歐盟機械指令（EU Machinery Regulation）已經要求在功能安全中使用AI系統時必須進行符合性合規評估，所以安全相關的AI系統均被列為“高風險機械”。這對于像皮爾磁PILZ這樣的制造商而言，哪怕是已經符合相關的協調標準，也必須由公告機構參與符合性合規評估。

ISO/IEC CD TR 5469“人工智能 — 功能安全和AI系統”，是一個正在制定中的國際標準，它專門針對AI系統在功能安全領域的應用，旨在為AI系統的設計、開發、集成和驗證提供指導，確保這些系統在安全相關的應用中能夠可靠地執行其功能。

作為安全自動化領域的佼佼者，皮爾磁PILZ正密切關注AI技術的發展，并在機械安全領域進行深入的研究。我們的使命是確保AI技術在保護人類和機械方面的應用是安全和可靠的。在這個AI的新時代，皮爾磁將和您一起，共同探索和實現更安全、更可靠和更高效的自動化未來。