스마트 안전기술 확대에 숨은 AI 리스크, 국제표준으로 관리한다

[세이프티퍼스트닷뉴스] 스마트 안전기술이 현장에 빠르게 자리 잡고 있다. 위험 구역을 자동으로 감지하는 CCTV, 공정별 안전 상태를 실시간으로 파악하는 인공지능 분석, 근로자의 건강 데이터를 모니터링하는 웨어러블 기기까지, AI는 이제 안전보건의 일상적인 파트너로 쓰이고 있다. 그러나 기술이 편리함만큼 새로운 사고 요인이 될 수 있다는 경고도 늘고 있다.

이러한 상황에서 국제표준화기구(ISO)와 국제전기기술위원회(IEC)는 올해 초 AI 시스템의 위험관리를 지원하는 첫 국제표준인 ISO/IEC 23894:2023을 발간했다. AI가 스스로 판단하고 실행하는 만큼, 기존의 안전관리로는 통제가 어려운 새로운 리스크를 조직이 직접 관리할 수 있도록 한 것이 핵심이다.

AI는 데이터를 학습해 스스로 결정을 내린다. 하지만 데이터 편향이나 알고리즘 오류가 발생하면, 위험을 줄이기 위해 도입한 기술이 오히려 사고를 부를 수 있다. 얼굴 인식이 잘못되거나 스마트 CCTV가 위험 상황을 놓치고, 민감한 개인정보가 유출될 가능성도 무시할 수 없다.

ISO는 이러한 상황을 단순한 기술 문제가 아니라, 기업과 기관이 체계적으로 관리해야 할 새로운 리스크로 규정한다. AI가 안전보건 현장의 또 다른 사각지대가 되지 않도록 사전 통제체계를 마련해야 한다는 것이다.

ISO/IEC 23894는 ISO의 대표 위험관리 표준인 ISO 31000을 바탕으로, AI 특성을 반영해 원칙과 절차를 추가로 담았다. 핵심 내용은 세 가지다. 첫째, AI가 어디서 어떤 판단을 하고 있는지 조직이 명확히 파악해야 한다. 둘째, 데이터 편향과 오류를 방지하기 위한 점검 체계를 운영하고, 개인정보는 안전하게 보관·관리해야 한다. 셋째, AI가 오작동하거나 예기치 못한 문제가 발생할 경우 신속히 대응할 수 있도록 대응 계획을 세우고, 모든 관리 과정을 문서로 기록해 신뢰성을 확보해야 한다.

ISO/IEC 23894는 AI 리스크 관리를 단일 부서의 책임으로 두지 않는다. IT 부서, 안전보건 부서, 개인정보 보호 부서, 경영진이 역할을 나누고 협력해 관리 체계를 운영해야 한다고 권고한다.

현장 안전관리자는 AI가 어떤 경보를 울리고 어떤 데이터를 다루는지 기본적으로 이해하고, 이상이 감지되면 기술팀과 즉시 공유할 수 있어야 한다. 기술팀은 알고리즘 검증과 보안 관리, 긴급 대응 체계를 총괄하며, 경영진은 전체 거버넌스를 책임진다. 스마트 안전보건 기술이 늘어날수록 부서 간 협업과 주기적인 점검은 필수다.

이번 표준은 EU AI법 등 해외 규제 흐름과도 연결된다. AI 기술을 수출하거나 해외 인증을 받아야 하는 기업이라면, ISO/IEC 23894에 맞춘 내부 관리체계를 미리 마련해두면 규제 대응이 한층 수월하다.

국내에서도 과학기술정보통신부가 ‘신뢰할 수 있는 AI 10대 원칙’을 발표하고 AI 신뢰성 평가·인증체계를 논의 중이다. 전문가들은 중소기업이라면 표준의 핵심 절차부터 단계적으로 적용하면서 법제도 변화에 맞춰 관리 역량을 키워야 한다고 조언한다.

반복적이고 위험한 작업을 AI가 대신하면서 현장의 휴먼에러가 줄고, 위험 모니터링은 더 촘촘해졌다. 이런 기술 덕분에 많은 현장에서 사고가 줄어들고 안전보건 관리의 사각지대가 조금씩 좁혀지고 있다. 정부와 기업이 스마트 안전보건 기술 도입을 정책적으로 지원하며 활용 범위를 확대하는 이유다.

하지만 안전보건은 다른 산업과 달리 사람의 생명과 직결되기 때문에 기술 하나만으로는 안심할 수 없다. AI는 현장 안전을 높여주는 강력한 도구지만, 동시에 오류나 데이터 결함으로 예상치 못한 사각지대를 만들 수 있는 양면성을 가진다.

ISO/IEC 23894는 이런 새로운 리스크를 사전에 식별하고 통제할 수 있도록 돕는 국제 기준이다. 전문가들은 스마트 안전기술이 정교해질수록 이를 안전하게 운영할 수 있는 관리 체계가 더욱 중요해질 것이라고 강조한다.

스마트 기술의 확산 속도는 빨라지고 있다. 안전보건 현장에서 이를 어떻게 활용하고, 어떻게 관리할지를 체계적으로 준비하는 것은 이제 선택이 아니라 필수 과제가 되고 있다.